การนำเสนอ: ข้ามต้นแบบ: ขยายโครงสร้างพื้นฐานเอไอเอเจนต์ที่ไม่ขึ้นกับเฟรมเวิร์กด้วย Ray
23 ตุลาคม 2026 · อ่าน 1 นาที
เผยแพร่แล้วในภาษาอื่นด้วย Svenska
การนำเสนอในงาน QCon AI มีการอภิปรายเกี่ยวกับการเปลี่ยนเอไอเอเจนต์จากต้นแบบ FastAPI ในท้องถิ่นไปสู่ระบบการผลิตที่ทนทานบน Kubernetes โดยใช้ Ray ผู้พูดได้แบ่งปันข้อมูลเชิงลึกในการดำเนินงานเกี่ยวกับโทโพโลยี RayCluster การจัดการหน่วยความจำที่มีสถานะ การปรับขนาดอัตโนมัติบนการจราจรที่เปลี่ยนแปลงได้ และการออกแบบควบคุมที่เข้มงวด ขณะเดียวกันยังเน้นการตั้งค่าหลายภูมิภาคและท่อประเมิน LLM-as-a-judge
Deepak Mohanakumar Chandramouli และ Bhumik Vinodkumar Thakkar เป็นวิศวกรที่มีความเชี่ยวชาญด้านระบบกระจายและเอไอที่ Apple โดยมีประสบการณ์มากกว่า 20 ปีในด้านโครงสร้างพื้นฐานที่สามารถปรับขนาดได้
การนำเสนอมีการนำเสนอโดย Martin Reynolds และ Barani Mohandoss และยังมีผู้พูดจาก Datadog รวมถึง David Iparraguirre และ Jessica Yang
Deepak กล่าวว่าการมุ่งเน้นในวันนี้คือการสร้างเอเจนต์และรันมันที่ขนาดใหญ่ด้วย Ray โดยมีการพูดคุยถึงการทำงานของเอเจนต์และการรันในสภาพแวดล้อมทั้งในท้องถิ่นและระยะไกล โดยระบุถึงองค์ประกอบสำคัญของการทำงานของเอเจนต์ เช่น LLM เครื่องมือ และหน่วยความจำ
ในส่วนที่เหลือของการนำเสนอ ผู้พูดจะยกตัวอย่างการสร้างเอเจนต์ที่เป็นผู้วางแผนการเดินทาง ซึ่งจะเชื่อมต่อกับเครื่องมือสำหรับค้นหาสภาพอากาศและสร้างแผนการเดินทางที่เหมาะสม