---
title: Benchmarking von Qwen3-8B auf Intel NPU im Mini-PC Ninkear L20
url: https://www.elseif.net/de/benchmarking-von-qwen3-8b-auf-intel-npu-im-mini-pc-ninkear-l20
published: 2026-10-31T09:05:49+00:00
language: de
section: Modelle
source: https://habr.com/ru/articles/1100230/?utm_campaign=1100230&utm_source=habrahabr&utm_medium=rss
organizations: Intel, Ninkear, OpenVINO, Qwen3-8B, Blender, RTX
publisher: elseif
---

# Benchmarking von Qwen3-8B auf Intel NPU im Mini-PC Ninkear L20

Ein Mini-Computer der Marke Ninkear L20 mit einem Intel Core Ultra 5 226V-Prozessor und 16 Gigabyte Arbeitsspeicher wurde für die lokale Ausführung der Sprachmodellvariante Qwen3-8B auf der integrierten neuronalen Verarbeitungseinheit getestet. Die Messungen erfolgten unter Verwendung der OpenVINO-Software von Intel.

Der Prozessor Intel Core Ultra 5 226V aus der Lunar-Lake-Serie enthält drei verschiedene Rechenkerne. Dazu gehören acht Zentraleinheiten, eine integrierte Grafik namens Intel Arc 130V und eine neuronale Verarbeitungseinheit der vierten Generation. Die neuronale Verarbeitungseinheit unterstützt Matrixmultiplikationen in den Formaten INT8 und FP16 bei niedriger Spannung. Sie erreicht laut Herstellerangaben bis zu 40 TOPS. Alle drei Einheiten teilen sich denselben Arbeitsspeicher. Es gibt keinen separaten Grafikspeicher oder eigenen Speicher für die neuronale Verarbeitungseinheit. Der Stromverbrauch des Systems liegt im Bereich von 17 bis 37 Watt.

Die Tests verwendeten die Modellvariante Qwen3-8B mit vierbitiger Kompression. Die Softwareumgebung bestand aus OpenVINO GenAI in der Version 2026.4. Der Eingabetext umfasste 77 Token. Die Antwortlänge betrug 256 Token. Die Messungen berücksichtigten den zweiten Durchlauf. Die Stromaufnahme wurde über den RAPL-Zähler des gesamten Chips gemessen. Dieser Wert umfasst Zentraleinheit, Grafik, neuronale Verarbeitungseinheit und Speichercontroller. Die integrierte Grafik war doppelt so schnell wie die neuronale Verarbeitungseinheit beim Lesen des Eingabetextes. Die Grafik verbrauchte 1,01 Joule pro Token. Die neuronale Verarbeitungseinheit verbrauchte 1,52 Joule pro Token. Die Zentraleinheit war bei der Generierungsgeschwindigkeit der neuronalen Verarbeitungseinheit gleich. Sie war jedoch zwölfmal langsamer beim Lesen langer Eingabetexte.

Bei einer Aufgabe zur Generierung von 10.000 Token dauerte die Ausführung auf der neuronalen Verarbeitungseinheit 15,6 Minuten. Der Energieverbrauch betrug 4,2 Wattstunden. Die integrierte Grafik benötigte 7,9 Minuten und verbrauchte 2,8 Wattstunden. Der Unterschied im Energieverbrauch betrug 1,4 Wattstunden. Bei unvollständiger Auslastung war die neuronale Verarbeitungseinheit um ein Drittel energieeffizienter als die Grafik. Sie war vier- bis zehnmalfach effizienter als die Zentraleinheit. Der Geräuschpegel lag bei 22 bis 24 Dezibel. Bei Nutzung der Grafik und der Zentraleinheit stieg der Pegel auf 33 bis 34 Dezibel.

Die parallele Ausführung von zwei neuronalen Netzen auf der Grafik führte zu einer Halbierung der Geschwindigkeit. Bei der Verschiebung des Sprachmodells auf die neuronale Verarbeitungseinheit behielt das Netzwerk auf der Grafik 92 Prozent seiner Geschwindigkeit. Die gleichzeitige Nutzung aller drei Blöcke führte zu einem Stromverbrauch von 27,5 Watt. Die neuronale Verarbeitungseinheit ist im Geräte-Manager als Intel AI Boost aufgeführt. Die Treiber stammen von der Intel Driver and Support Assistant Software. Die Versionen waren 32.0.100.5540 für die neuronale Verarbeitungseinheit und 32.0.101.8331 für die Grafik. Python 3.12 wurde für die Umgebung verwendet. Die Strategie THROUGHPUT wurde für die Messung der neuronalen Verarbeitungseinheit mit einer Warteschlange von acht Anfragen eingesetzt.