Η αξιολόγηση της Μονάδας Νευρωνικής Επεξεργασίας (NPU) της Qualcomm σε ένα Microsoft Surface Tablet αποκάλυψε απόδοση μόλις 1,3% των διαφημιζόμενων 45 Teraops/s, επιτυγχάνοντας μόνο 573 δισεκατομμύρια λειτουργίες ανά δευτερόλεπτο.
Οι δοκιμές, οι οποίες περιλάμβαναν πολλαπλασιασμούς μητρών παρόμοιους με αυτούς στα μοντέλα μετασχηματιστών, έδειξαν ότι η NPU αποδίδει πιο αργά από την CPU, παρά τη χρήση εργαλείων όπως το Python, το Cmake και το Visual Studio.
Διάφοροι παράγοντες όπως οι ρυθμίσεις ισχύος, η τοπολογία του μοντέλου και τα σφάλματα διαμόρφωσης ελήφθησαν υπόψη, υποδεικνύοντας ότι η απόδοση του NPU είναι σημαντικά χαμηλότερη από το διαφημιζόμενο δυναμικό του.
Οι υπολογιστές AI που χρησιμοποιούν τη Μονάδα Νευρωνικής Επεξεργασίας (NPU) της Qualcomm δεν ανταποκρίνονται στις προσδοκίες απόδοσης, με τους επεξεργαστές (CPUs) συχνά να υπερέχουν των NPU.
Η NPU είναι σχεδιασμένη για ενεργειακή απόδοση παρά για ταχύτητα, οδηγώντας σε ένα ελάχιστο κενό απόδοσης μεταξύ CPU και GPU, υποδεικνύοντας πιθανές αναποτελεσματικότητες.
Η τρέχουσα υλοποίηση των NPUs μπορεί να μην είναι πλήρως βελτιστοποιημένη, υπογραμμίζοντας την ανάγκη για βελτιωμένη υποστήριξη και βελτιστοποίηση για να αξιοποιηθούν τα αναμενόμενα οφέλη εξοικονόμησης ενέργειας.