---
title: การตั้งค่าและตัวอย่างการทำงานของ LLM บน NPU ในคอมพิวเตอร์ขนาดเล็กที่ใช้ Intel Core Ultra 5 226V
url: https://www.elseif.net/th/llm-npu-intel-core-ultra-5-226v
published: 2026-10-31T10:13:15+00:00
language: th
section: โมเดล
source: https://habr.com/ru/articles/1100230/?utm_campaign=1100230&utm_source=habrahabr&utm_medium=rss
organizations: Ninkear, Intel, OpenVINO, Qwen3-8B, RTX, Arc
publisher: elseif
---

# การตั้งค่าและตัวอย่างการทำงานของ LLM บน NPU ในคอมพิวเตอร์ขนาดเล็กที่ใช้ Intel Core Ultra 5 226V

Ninkear L20 ซึ่งใช้ Intel Core Ultra 5 226V และมีหน่วยความจำ 16 กิกะไบต์ เป็นเครื่องทดลองในการติดตั้งและตั้งค่า OpenVINO การใช้งาน Qwen3-8B บน NPU และการวัดความเร็วและพลังงานจากตัวประมวลผล รวมถึงการเปรียบเทียบกับการ์ดจอ RTX 5070 Ti

Intel Core Ultra มีหน่วยประมวลผลใหม่คือ NPU ซึ่งสามารถทำการคำนวณได้สูงสุดถึง 40 TOPS โดยมีข้อดีในการจัดการกับการคูณเมทริกซ์ในรูปแบบ INT8 และ FP16 แต่ไม่รองรับรูปแบบข้อมูลที่เปลี่ยนแปลงได้และต้องใช้เวลานานในการคอมไพล์ครั้งแรก

ในการทดสอบ Qwen3-8B พบว่า NPU มีความเร็วในการสร้างคำตอบเทียบเท่ากับ CPU แต่มีการใช้พลังงานมากกว่าเมื่อเปรียบเทียบกับกราฟิก Intel Arc 130V ที่เร็วกว่าถึงสองเท่า

การทำงานพร้อมกันของ NPU กับกราฟิกและ CPU แสดงให้เห็นว่า NPU มีความประหยัดพลังงาน โดยเฉพาะในกรณีที่งานไม่จำเป็นต้องเร่งด่วน
