การตั้งค่าและตัวอย่างการทำงานของ LLM บน NPU ในคอมพิวเตอร์ขนาดเล็กที่ใช้ Intel Core Ultra 5 226V
31 ตุลาคม 2026 · อ่าน 1 นาที
Ninkear L20 ซึ่งใช้ Intel Core Ultra 5 226V และมีหน่วยความจำ 16 กิกะไบต์ เป็นเครื่องทดลองในการติดตั้งและตั้งค่า OpenVINO การใช้งาน Qwen3-8B บน NPU และการวัดความเร็วและพลังงานจากตัวประมวลผล รวมถึงการเปรียบเทียบกับการ์ดจอ RTX 5070 Ti
Intel Core Ultra มีหน่วยประมวลผลใหม่คือ NPU ซึ่งสามารถทำการคำนวณได้สูงสุดถึง 40 TOPS โดยมีข้อดีในการจัดการกับการคูณเมทริกซ์ในรูปแบบ INT8 และ FP16 แต่ไม่รองรับรูปแบบข้อมูลที่เปลี่ยนแปลงได้และต้องใช้เวลานานในการคอมไพล์ครั้งแรก
ในการทดสอบ Qwen3-8B พบว่า NPU มีความเร็วในการสร้างคำตอบเทียบเท่ากับ CPU แต่มีการใช้พลังงานมากกว่าเมื่อเปรียบเทียบกับกราฟิก Intel Arc 130V ที่เร็วกว่าถึงสองเท่า
การทำงานพร้อมกันของ NPU กับกราฟิกและ CPU แสดงให้เห็นว่า NPU มีความประหยัดพลังงาน โดยเฉพาะในกรณีที่งานไม่จำเป็นต้องเร่งด่วน