Utilizzo di modelli di intelligenza artificiale tramite NPU AMD con Lemonade e FastFlowLM

È possibile utilizzare l'unità di elaborazione neurale, nota come NPU, di AMD su Ubuntu per l'esecuzione di modelli di intelligenza artificiale. Questo processo richiede l'integrazione di diversi componenti software, tra cui il runtime FastFlowLM e l'interfaccia Lemonade.

Il supporto per le NPU AMD è integrato nel kernel 7.0 o superiore, che è il kernel predefinito di Ubuntu 26.04 LTS. Per l'effettiva operatività, viene utilizzato FastFlowLM come runtime. Sebbene inizialmente il kernel per NPU fosse proprietario e soggetto a restrizioni per l'uso commerciale, il team di sviluppo di FastFlowLM è confluito in AMD e l'intero progetto è ora rilasciato sotto licenza MIT.

Lemonade funge da interfaccia utente che permette di accedere ai modelli di intelligenza artificiale, supportando sia le NPU che le GPU. Il software è disponibile nei repository di Ubuntu 26.04 LTS, sebbene l'installazione tramite PPA sia consigliata per ottenere versioni più recenti. Esiste inoltre un pacchetto snap per Lemonade.

Per l'installazione di FastFlowLM, è necessario scaricare i pacchetti dalla pagina di rilascio, poiché non sono attualmente distribuiti tramite PPA. Una volta installato il pacchetto lemonade-desktop, l'utente può accedere al server Lemonade tramite un browser web. All'interno dell'applicazione, è possibile aggiornare il backend FastFlowLM NPU e scaricare modelli specifici, come il modello qwen3.6-moe-35b-a3b-FLM, che include capacità di visione per l'elaborazione di immagini.

Parallelamente, il pacchetto snap OpenClaw offre comandi per utilizzare Lemonade come backend. Attraverso il comando openclaw.lemonade, è possibile selezionare e scaricare modelli, come ad esempio Qwen3.6-35B-A3B-MTP-GGUF per l'uso con Llama.cpp GPU. OpenClaw permette inoltre l'interazione tramite un'interfaccia testuale utilizzando il comando tui per effettuare richieste e ricevere assistenza sull'utilizzo di Ubuntu.