Microsoft lancia l’anteprima del supporto Intel Neural Processor Unit (NPU) per la sua API DirectML

Intel ha lanciato per la prima volta i suoi chip Core Ultra basati su “Meteor Lake” nel dicembre 2023 . Includevano chip NPU (Neural Processor Unit) integrati per aiutare ad accelerare l’hardware delle prestazioni delle applicazioni AI. Oggi, Microsoft ha annunciato di aver rilasciato una versione di anteprima per sviluppatori della sua API DirectML che aggiunge il supporto per le NPU, e in particolare quelle delle CPU Intel Core Ultra.

In un post sul blog , Microsoft ha affermato che la versione di anteprima di DirectML 1.13.1 e ONNX Runtime 1.17 supporterà l’accelerazione NPU nei PC con CPU Intel Core Ultra. L’azienda ha collaborato non solo con Intel ma anche con Samsung per contribuire a migliorare le prestazioni delle app AI che utilizzano DirectML.

In un post sul blog separato su questo sviluppo, Intel afferma che Samsung ha utilizzato DirectML di Microsoft e la sua tecnologia Intel AI Boost nel suo notebook Samsung Galaxy Book 4 recentemente rilasciato con chip Intel Core Ultra. Intel ha affermato che Samsung ha scaricato le funzionalità di classificazione di volti e oggetti della sua app Gallery Windows sulla CPU Intel Core Ultra con la sua NPU, utilizzando l’API DirectML di Microsoft. Intel afferma che ciò ha comportato tempi di sviluppo più rapidi per il progetto.

Poiché si tratta di una versione di anteprima. Microsoft rileva alcune limitazioni di questa versione di DirectML sui PC basati su Intel Core Ultra:

• Il supporto NPU in DirectML è attualmente compatibile solo con un sottoinsieme di modelli di machine learning destinati al supporto. Alcuni modelli potrebbero non funzionare affatto o potrebbero avere un’elevata latenza o una bassa precisione. Stiamo lavorando per migliorare la compatibilità e le prestazioni di più modelli in futuro.
• I modelli funzionanti e non selezionati per questa anteprima per sviluppatori potrebbero presentare alcuni problemi di stabilità e affidabilità. Stiamo continuando ad espandere la copertura per ulteriori modelli adatti per NPU.