raspberry pi ai κιτ

Πώς λειτουργεί το raspberry pi ai kit

Το Raspberry Pi AI Kit μετατρέπει το Pi 5 σας σε μια ικανή πλατφόρμα τεχνητής νοημοσύνης, συνδυάζοντας ένα M.2 HAT με το τσιπ επιτάχυνσης Hailo{11}}8L. Με απλά λόγια, λειτουργεί μεταφορτώνοντας υπολογισμούς τεχνητής νοημοσύνης από την CPU σε μια αποκλειστική μονάδα νευρωνικής επεξεργασίας που παρέχει 13 τρισεκατομμύρια λειτουργίες ανά δευτερόλεπτο (13 TOPS) ενώ καταναλώνει μόλις 1-2 watt κατά τη διάρκεια τυπικών φόρτων εργασίας (Πηγή: theregister.com, 2024). Για 70 $, λαμβάνετε επιτάχυνση υλικού που κάνει την ανίχνευση αντικειμένων σε πραγματικό χρόνο, την εκτίμηση πόζας και την ταξινόμηση εικόνων πραγματικά βιώσιμες σε έναν υπολογιστή μονής πλακέτας $60.

Βρήκα αυτή την αρχιτεκτονική ιδιαίτερα έξυπνη. Αντί να περιμένουν χρόνια το Raspberry Pi να δημιουργήσει μια ενσωματωμένη NPU, συνεργάστηκαν με τη Hailo για να δημιουργήσουν μια αρθρωτή λύση που λειτουργεί σήμερα και αναβαθμίζεται εύκολα αύριο-το AI HAT+ με 26 TOPS είναι ήδη διαθέσιμο για όσους χρειάζονται περισσότερη ισχύ (Πηγή: techcrunch.com, 2024).

The Hardware Architecture: How Components Connect

Το κιτ AI αποτελείται από δύο φυσικά κομμάτια που λειτουργούν ως ένα σύστημα. Πρώτον, έχετε το επίσημο Raspberry Pi M.2 HAT+, το οποίο είναι μια πλακέτα κυκλώματος που συνδέεται στην κεφαλίδα GPIO 40-ακίδων του Pi 5 και παρέχει μια υποδοχή M.2 2242 ή 2280. Δεύτερον, υπάρχει η μονάδα επιτάχυνσης AI Hailo-8L - μια μικρή κάρτα M.2 περίπου στο μέγεθος μιας τσίχλας που συνδέεται σε αυτήν την υποδοχή.

Δείτε τι συμβαίνει όταν συνδέετε τα πάντα:

Το M.2 HAT αντλεί ισχύ από τις ακίδες GPIO του Pi 5 και δημιουργεί μια σύνδεση PCIe Gen 2 ή Gen 3 μέσω της διεπαφής PCIe της πλακέτας. Η μονάδα Hailo-8L λαμβάνει τόσο ρεύμα όσο και δεδομένα μέσω αυτής της μοναδικής σύνδεσης M.2. Η CPU του Pi 5 σας χειρίζεται το λειτουργικό σύστημα, τη λογική της εφαρμογής και την προεπεξεργασία, ενώ το τσιπ Hailo αναλαμβάνει όταν χρειάζεται να συμβεί συμπέρασμα νευρωνικού δικτύου.

Επίδραση της σύνδεσης PCIe στην απόδοση

Η ταχύτητα σύνδεσης έχει μεγάλη σημασία εδώ. Η δοκιμή δείχνει ότι οι ρυθμοί καρέ διπλασιάζονται κατά την εκτέλεση του PCIe Gen 3 σε σύγκριση με το Gen 2 στο ίδιο μοντέλο YOLOv8s (Πηγή: forums.raspberrypi.com, 2024). Το Pi 5 υποστηρίζει PCIe Gen 3 x1, παρέχοντάς σας περίπου 1 GB/s εύρους ζώνης μεταξύ της CPU και του επιταχυντή τεχνητής νοημοσύνης{12}}αρκετό για τις περισσότερες εργασίες όρασης υπολογιστή χωρίς συμφόρηση.

Το Hailo-8L επιτυγχάνει απόδοση 3-4 TOPS ανά watt, τοποθετώντας το παράλληλα με τις συσκευές Jetson Orin της Nvidia όσον αφορά την απόδοση ανά δολάριο και την απόδοση ανά βατ (Πηγή: jeffgeerling.com, 2024). Όταν λαμβάνετε υπόψη την κατανάλωση αδράνειας 3-4 W του Pi 5, ολόκληρο το σύστημα καταναλώνει λιγότερη ενέργεια από έναν φορτιστή τηλεφώνου κατά την επεξεργασία φόρτου εργασίας AI.

Μέσα στο Hailo-8L: Επεξήγηση της επιτάχυνσης νευρωνικού δικτύου

Το Hailo-8L δεν είναι-επεξεργαστής γενικής χρήσης-είναι ένα ASIC (Ολοκληρωμένο κύκλωμα ειδικών εφαρμογών) που έχει σχεδιαστεί αποκλειστικά για την αποτελεσματική λειτουργία νευρωνικών δικτύων. Σκεφτείτε το σαν μια κάρτα γραφικών, αλλά αντί να αποδίδει τρίγωνα, είναι βελτιστοποιημένη για πολλαπλασιασμούς μήτρας και συνελίξεις που τροφοδοτούν μοντέλα τεχνητής νοημοσύνης.

Το τσιπ χρησιμοποιεί μια ιδιόκτητη αρχιτεκτονική που το Hailo ονομάζει "Structured ASIC". Χωρίς να εμβαθύνουμε στη σχεδίαση πυριτίου, αυτό σημαίνει ότι το τσιπ έχει αφιερωμένες μονάδες υλικού για διαφορετικές λειτουργίες νευρωνικών δικτύων: συνελικτικά επίπεδα, λειτουργίες ενεργοποίησης, λειτουργίες ομαδοποίησης και πλήρως συνδεδεμένα επίπεδα έχουν όλα τις δικές τους βελτιστοποιημένες διαδρομές εκτέλεσης.

Πώς συμβαίνει στην πραγματικότητα το συμπέρασμα

Όταν εκτελείτε ένα μοντέλο όπως το YOLOv8 για ανίχνευση αντικειμένων, ακολουθεί η απλοποιημένη ροή εργασίας:

Η κάμερά σας καταγράφει καρέ και τα στέλνει στην CPU του Pi. Η CPU χειρίζεται την προεπεξεργασία της εικόνας-την αλλαγή μεγέθους στις διαστάσεις εισόδου του μοντέλου, τη μετατροπή χρωματικών χώρων, την κανονικοποίηση των τιμών των pixel. Αυτά τα προεπεξεργασμένα δεδομένα αποστέλλονται μέσω του διαύλου PCIe στο Hailo-8L. Ο επιταχυντής τρέχει το νευρωνικό δίκτυο, εξάγοντας ακατέργαστα αποτελέσματα ανίχνευσης (οριοθετημένα πλαίσια, βαθμολογίες εμπιστοσύνης, προβλέψεις κλάσεων). Η CPU λαμβάνει αυτά τα αποτελέσματα και χειρίζεται την ανάρτηση-επεξεργασίας-μη μέγιστης κατάργησης για την κατάργηση των διπλότυπων ανιχνεύσεων, τη σχεδίαση πλαισίων στην εικόνα, την ενημέρωση της διεπαφής χρήστη της εφαρμογής σας.

Η ομορφιά αυτού του καταμερισμού εργασίας φαίνεται στα σημεία αναφοράς. Οι δοκιμές επιδεικνύουν την ανίχνευση χεριού και ορόσημου του κιτ AI σε 26-28 καρέ ανά δευτερόλεπτο έως και 5,8 φορές ταχύτερα από τα μοντέλα TensorFlow Lite που εκτελούνται μόνο στην CPU του Pi 5 (Πηγή: raspberrypi.com, 2024).

Υποστηριζόμενες μορφές μοντέλων

Το Hailo-8L δεν εκτελεί απευθείας τυπικά μοντέλα TensorFlow ή PyTorch. Πρέπει να μετατρέψετε τα μοντέλα σας χρησιμοποιώντας τον μεταγλωττιστή Dataflow της Hailo, ο οποίος τα βελτιστοποιεί για την αρχιτεκτονική του τσιπ. Η διαδικασία μεταγλώττισης παίρνει το εκπαιδευμένο μοντέλο σας (συνήθως μορφή ONNX) και το αντιστοιχίζει στο υλικό Hailo, εφαρμόζοντας κβαντοποίηση και άλλες βελτιστοποιήσεις.

Προ{0}}μεταγλωττισμένα μοντέλα για κοινές αρχιτεκτονικές είναι διαθέσιμα μέσω του Hailo Model Zoo: Το ResNet-50 εκτελείται στα 500 FPS, YOLOv5, YOLOv8 παραλλαγές σε πολλά μεγέθη, MobileNet για ελαφριά ταξινόμηση και μοντέλα εκτίμησης Pose. Εάν εργάζεστε με προσαρμοσμένα μοντέλα, η ροή εργασιών μεταγλώττισης απαιτεί κάποια εκμάθηση, αλλά ακολουθεί τυπικές πρακτικές ανάπτυξης τεχνητής νοημοσύνης.

Κατανάλωση Ενέργειας και Θερμική Διαχείριση

Ένα από τα πιο εντυπωσιακά χαρακτηριστικά του κιτ AI είναι η απόδοση ισχύος. Το Hailo-8L συνήθως τραβάει 1-2 Watt κατά τη διάρκεια της ενεργού συμπερασμού, με κορυφές περίπου 5 Watt ανάλογα με την πολυπλοκότητα του μοντέλου και τον ρυθμό καρέ (Πηγή: theregister.com, 2024). Σε συνδυασμό με τη βασική κατανάλωση του Pi 5, βλέπετε περίπου 5-9 watts συνολική ισχύ συστήματος υπό φόρτους εργασίας AI.

Η μονάδα M.2 περιλαμβάνει μια μικρή ψύκτρα και σε κανονική λειτουργία, η παθητική ψύξη αποδεικνύεται επαρκής. Παρατήρησα ότι το τσιπ παραμένει αρκετά δροσερό που ο θερμικός στραγγαλισμός δεν προκαλεί ανησυχία για τυπικές εφαρμογές όρασης υπολογιστή. Για κλειστά έργα ή συνεχή σενάρια υψηλού{3}}φόρτου, η προσθήκη ανεμιστήρα στη θήκη Pi 5 βοηθά τόσο την CPU όσο και τον επιταχυντή AI να διατηρήσουν κορυφαία απόδοση.

Η σύγκριση αυτού με εναλλακτικές αποκαλύπτει την πρόταση αξίας: Ένα Nvidia Jetson Orin Nano ξεκινά από περίπου 249 $ και αντλεί 7-15 W υπό φορτίο. Ο επιταχυντής Coral USB της Google κοστίζει 60 $, αλλά παρέχει μόνο 4 TOPS και απαιτεί εύρος ζώνης USB 3.0. Το Intel Neural Compute Stick 2 διακόπτεται. Το AI Kit φτάνει σε ένα γλυκό σημείο τιμής, απόδοσης και απόδοσης ισχύος που δεν υπήρχε πριν από το 2024.

Στοίβα λογισμικού: Από το λειτουργικό σύστημα στην εφαρμογή

Το κιτ AI απαιτεί το Raspberry Pi OS (64-bit) Bookworm ή μεταγενέστερο. Το Hailo παρέχει μια σουίτα λογισμικού που περιλαμβάνει προγράμματα οδήγησης πυρήνα για επικοινωνία PCIe, βιβλιοθήκες χρόνου εκτέλεσης που διαχειρίζονται τη φόρτωση μοντέλων και την εξαγωγή συμπερασμάτων, δεσμεύσεις Python για εύκολη ενσωμάτωση και την ενσωμάτωση εφαρμογών rpicam-για έργα που βασίζονται σε κάμερα.

Ρύθμιση του πρώτου σας μοντέλου

Η εγκατάσταση διαρκεί περίπου 15 λεπτά εάν ακολουθήσετε τον επίσημο οδηγό. Αφού αναβοσβήσετε το λειτουργικό σύστημα και συνδέσετε το υλικό, εκτελείτε το σενάριο εγκατάστασης του Hailo, το οποίο προσθέτει τις απαραίτητες μονάδες πυρήνα και βιβλιοθήκες. Το πακέτο εφαρμογών rpicam{3}}ενημερώνεται για να περιλαμβάνει υποστήριξη Hailo, επιτρέποντάς σας να εκτελείτε μοντέλα AI απευθείας από τη γραμμή της κάμερας.

Η δοκιμή με τις παρεχόμενες επιδείξεις δείχνει το σύστημα σε δράση:

rpicam-γεια σας --post-process-file /usr/share/rpicam-assets/hailo_yolov8_pose.json

Αυτή η εντολή καταγράφει καρέ κάμερας, τα εκτελεί μέσω ενός μοντέλου εκτίμησης πόζας στο τσιπ Hailo και εμφανίζει τα αποτελέσματα σε πραγματικό-χρόνο. Ο ρυθμός καρέ εξαρτάται από την πολυπλοκότητα του μοντέλου-ελαφρύτερα μοντέλα όπως το YOLOv8n με επιτυχία 60+ FPS, ενώ οι βαρύτερες εκδόσεις όπως το YOLOv8m ενδέχεται να τρέχουν στα 20-30 FPS.

Για την ανάπτυξη Python, η ροή εργασίας μοιάζει με τυπικές κλήσεις OpenCV συν Hailo-:

Εισάγετε τη βιβλιοθήκη HailoRT, φορτώνετε το μεταγλωττισμένο αρχείο μοντέλου, τροφοδοτείτε προεπεξεργασμένα πλαίσια στο μοντέλο, ανακτάτε αποτελέσματα συμπερασμάτων και επεξεργάζεστε τις εξόδους στη λογική της εφαρμογής σας. Το API αφαιρεί τη μεγαλύτερη πολυπλοκότητα, αν και η κατανόηση των μορφών τανυστή εισόδου/εξόδου απαιτεί ανάγνωση της τεκμηρίωσης του μοντέλου.

Πραγματικά-Παραδείγματα παγκόσμιων εφαρμογών

Αρκετά έργα επιδεικνύουν πρακτικές υλοποιήσεις κιτ AI. Ένα σύστημα διαχείρισης αποθεμάτων λιανικής χρησιμοποιεί το κιτ AI που τρέχει το YOLOv8n για να ανιχνεύει προϊόντα στα ράφια, ενώ το EfficientNet στην CPU παρακολουθεί για εισβολές στην αποθήκη (Πηγή: forums.raspberrypi.com, 2024). Η προσέγγιση διπλού-μοντέλου δείχνει πώς μπορείτε να συνδυάσετε την επιταχυνόμενη εξαγωγή συμπερασμάτων με μοντέλα που βασίζονται σε CPU- όταν χρειάζεται.

Οι εφαρμογές ασφαλείας επωφελούνται από τις δυνατότητες πραγματικού-του κιτ. Τα συστήματα αναγνώρισης προσώπου επεξεργάζονται ροές βίντεο στα 25-30 FPS, επιτρέποντας τον έλεγχο εισόδου ή την καταγραφή επισκεπτών χωρίς εξαρτήσεις στο cloud. Η εκτίμηση πόζας εκτελείται αρκετά γρήγορα για εφαρμογές φυσικής κατάστασης που παρακολουθούν τη φόρμα άσκησης ή μετράνε τις επαναλήψεις.

Τα έργα παρακολούθησης άγριας ζωής αξιοποιούν τη χαμηλή κατανάλωση ενέργειας-ηλιακή-παγίδες κάμερας που λειτουργούν με πόζα και ανίχνευση αντικειμένων για τον εντοπισμό των ζώων και της συμπεριφοράς τους χωρίς συχνές αλλαγές μπαταρίας. Ο συνδυασμός της ευελιξίας του Pi και της επιταχυνόμενης τεχνητής νοημοσύνης-του υλικού καθιστά βιώσιμες προηγουμένως μη πρακτικές αναπτύξεις αιχμής.

[Πρόταση οπτικού στοιχείου: Εισαγάγετε διάγραμμα που δείχνει τη ροή δεδομένων από την κάμερα → Pi CPU (προεπεξεργασία) → PCIe → Hailo-8L (συμπεράσματα) → Pi CPU (αποτελέσματα) → Οθόνη/Αποθήκευση]

Περιορισμοί και πότε δεν πρέπει να χρησιμοποιείτε το κιτ AI

Το κιτ λειτουργεί άψογα για συμπεράσματα, αλλά δεν θα βοηθήσει στην εκπαίδευση μοντέλων-που εξακολουθεί να απαιτεί GPU ή σταθμούς εργασίας cloud. Τα 13 TOPS μπορεί να ακούγονται εντυπωσιακά, αλλά δεν είναι πουθενά κοντά στο υλικό του κέντρου δεδομένων. Πολύπλοκα μοντέλα ή πολλαπλές ταυτόχρονες ροές συμπερασμάτων μπορεί να κατακλύσουν τον επιταχυντή.

Η συμβατότητα του μοντέλου απαιτεί προσοχή. Είστε κλειδωμένοι σε αρχιτεκτονικές που υποστηρίζει ο μεταγλωττιστής του Hailo. Μοντέλα αιχμής-από ερευνητικές εργασίες ενδέχεται να μην λειτουργήσουν μέχρι το Hailo να προσθέσει υποστήριξη ή να επενδύσετε χρόνο σε προσαρμοσμένη συλλογή. Το Model Zoo καλύπτει τις πιο συνηθισμένες περιπτώσεις χρήσης, αλλά οι εξειδικευμένες εφαρμογές ενδέχεται να απαιτούν λύσεις.

Η καθυστέρηση έχει σημασία για ορισμένες εφαρμογές. Ενώ το Hailo-8L είναι γρήγορο, ο χρόνος επιστροφής-της αποστολής δεδομένων μέσω PCIe, της εκτέλεσης συμπερασμάτων και της επιστροφής αποτελεσμάτων προσθέτει μερικά χιλιοστά του δευτερολέπτου σε σύγκριση με τις ενσωματωμένες NPU. Για τη ρομποτική ή τα συστήματα ελέγχου σε πραγματικό χρόνο όπου κάθε χιλιοστό του δευτερολέπτου μετράει, αυτή η καθυστέρηση του αγωγού μπορεί να είναι σημαντική.

Οι περιορισμοί του προϋπολογισμού επηρεάζουν την πρόταση αξίας. Εάν διαθέτετε ήδη ένα Pi 5, το κιτ AI 70 $ δεν-είναι άστοχο. Εάν ξεκινάτε από το μηδέν, ξοδεύετε $130+ για το πλήρες σύστημα (Pi 5 + AI Kit + τροφοδοτικό + αποθήκευση), οπότε οι ανταγωνιστές Jetson Nano αρχίζουν να φαίνονται ανταγωνιστικοί ανάλογα με τις ανάγκες απόδοσης.

Σύγκριση προδιαγραφών υλικού

Οι παραλλαγές AI HAT+ προσφέρουν καλύτερη συμβατότητα με τη θήκη του Pi 5 και βελτιωμένο μηχανικό σχεδιασμό, αλλά προσφέρουν ίδια απόδοση με το αρχικό Kit στη βαθμίδα 13 TOPS (Πηγή: electronicsweekly.com, 2025). Η έκδοση 26 TOPS διπλασιάζει την απόδοση για εφαρμογές που πρέπει να επεξεργαστούν εισόδους υψηλότερης ανάλυσης ή να εκτελέσουν πιο σύνθετα μοντέλα.

Συνήθη ζητήματα εγκατάστασης και λύσεις

Το κιτ AI δεν ανιχνεύεται μετά την εγκατάσταση

Αυτό συνήθως υποδηλώνει πρόβλημα απαρίθμησης PCIe. Ελέγξτε ότι έχετε ενεργοποιήσει το PCIe στο αρχείο config.txt του Pi και ότι το M.2 HAT είναι σταθερά τοποθετημένο σε όλες τις ακίδες GPIO. Η εκτέλεση του lspci θα πρέπει να δείχνει τη συσκευή Hailo εάν η σύνδεση λειτουργεί.

Τα μοντέλα λειτουργούν πιο αργά από το αναμενόμενο

Βεβαιωθείτε ότι χρησιμοποιείτε πραγματικά τον επιταχυντή Hailo και δεν επιστρέφετε στο συμπέρασμα της CPU. Ελέγξτε τα αρχεία καταγραφής για σφάλματα κατά τη φόρτωση του μοντέλου. Βεβαιωθείτε ότι το μοντέλο σας έχει μεταγλωττιστεί σωστά για την αρχιτεκτονική Hailo-η προσπάθεια εκτέλεσης μοντέλων που δεν έχουν μετατραπεί θα αποτύχει ή θα είναι προεπιλεγμένη η εκτέλεση της CPU.

Το σύστημα κολλάει υπό φορτίο

Τα προβλήματα τροφοδοσίας προκαλούν τα περισσότερα προβλήματα σταθερότητας. Το Pi 5 χρειάζεται τουλάχιστον 5V/5A (27W) και το κιτ AI προσθέτει σε αυτήν την απαίτηση. Χρησιμοποιήστε το επίσημο τροφοδοτικό Raspberry Pi 27W ή αντίστοιχο. Η ανεπαρκής ισχύς προκαλεί πτώσεις τάσης που συντρίβουν το σύστημα κατά την εξαγωγή συμπερασμάτων αιχμής.

Η ενσωμάτωση της κάμερας δεν λειτουργεί

Η ενσωμάτωση των εφαρμογών rpicam-Hailo απαιτεί συγκεκριμένες εκδόσεις rpicam. Ενημερώστε τα πάντα με την ενημέρωση sudo apt και την αναβάθμιση sudo apt πριν από την περαιτέρω αντιμετώπιση προβλημάτων. Ορισμένες μονάδες κάμερας χρειάζονται αλλαγές διαμόρφωσης στο /boot/config.txt για να λειτουργούν βέλτιστα με τη γραμμή τεχνητής νοημοσύνης.

Μελλοντική-Απόδειξη της επένδυσής σας

Ο αρθρωτός σχεδιασμός σημαίνει ότι μπορείτε να αναβαθμίσετε ανεξάρτητα. Αυτήν τη στιγμή, μπορείτε να χρησιμοποιήσετε το κιτ AI $70 με 13 TOPS. Το επόμενο έτος, εάν η εφαρμογή σας χρειάζεται περισσότερη απόδοση, ανταλλάξτε τα 26 TOPS AI HAT+ για 110 $ χωρίς να αντικαταστήσετε το Pi 5 σας. Η στοίβα λογισμικού παραμένει συμβατή με τα τσιπ Hailo-8L και Hailo-8.

Το Hailo συνεχίζει να επεκτείνει το μοντέλο του ζωολογικού κήπου και να βελτιώνει την υποστήριξη μεταγλωττιστών. Τα μοντέλα που απαιτούσαν μη αυτόματη βελτιστοποίηση τον Ιούνιο του 2024 έχουν πλέον-μεταγλωττισμένες εκδόσεις. Αυτή η τάση επιταχύνεται καθώς η πλατφόρμα ωριμάζει. Το οικοσύστημα γύρω από τα έργα τεχνητής νοημοσύνης που βασίζονται στο Pi{5}}αναπτύσσεται γρήγορα-φόρουμ, σεμινάρια και εργαλεία τρίτων-καθιστούν την εφαρμογή πιο εύκολη κάθε μήνα.

Οι ενημερώσεις λογισμικού φέρνουν επίσης βελτιώσεις στην απόδοση. Τα πρώτα σημεία αναφοράς έδειξαν ορισμένα μοντέλα που λειτουργούσαν με X FPS. Τα βελτιστοποιημένα προγράμματα οδήγησης και οι ενημερώσεις υλικολογισμικού έχουν αυξήσει αυτούς τους αριθμούς κατά 10-20% χωρίς αλλαγές υλικού. Η ενημέρωση με τις ενημερώσεις πακέτων OS και Hailo μεγιστοποιεί τις δυνατότητες του κιτ σας.

Συχνές Ερωτήσεις

Λειτουργεί το Raspberry Pi AI Kit με παλαιότερα μοντέλα Pi;

Όχι, το κιτ AI απαιτεί Raspberry Pi 5. Η σύνδεση PCIe είναι απαραίτητη για την επικοινωνία υψηλού εύρους ζώνης που απαιτείται μεταξύ της CPU και του επιταχυντή. Τα προηγούμενα μοντέλα Pi δεν διαθέτουν υποστήριξη PCIe, καθιστώντας τα ασύμβατα με αυτήν την αρχιτεκτονική.

Μπορώ να εκτελέσω πολλά μοντέλα AI ταυτόχρονα;

Ναι, αλλά η απόδοση εξαρτάται από την πολυπλοκότητα του μοντέλου και τους ρυθμούς καρέ. Το Hailo-8L μπορεί να κάνει χρονικά-διακοπή μεταξύ μοντέλων, αν και η ταυτόχρονη εκτέλεση βαρέων μοντέλων θα μειώσει τους μεμονωμένους ρυθμούς καρέ. Τα πρακτικά έργα εκτελούν συχνά ένα επιταχυνόμενο μοντέλο και ένα ή περισσότερα μοντέλα που βασίζονται σε CPU παράλληλα.

Πόσος χρόνος διαρκεί η σύνθεση του μοντέλου;

Τα απλά μοντέλα μεταγλωττίζονται σε 5-15 λεπτά σε έναν αξιοπρεπή φορητό υπολογιστή. Τα σύνθετα μοντέλα με πολλά στρώματα μπορεί να διαρκέσουν 30-60 λεπτά. Μεταγλωττίζετε μόνο μία φορά ανά μοντέλο και, στη συνέχεια, αναπτύσσετε το μεταγλωττισμένο αρχείο .hef στο Pi σας. Τα προ-μεταγλωττισμένα μοντέλα από το Model Zoo δεν απαιτούν καθόλου μεταγλώττιση.

Λειτουργεί το AI Kit χωρίς σύνδεση στο διαδίκτυο;

Απολύτως. Αφού εγκαταστήσετε το λογισμικό και μεταγλωττίσετε τα μοντέλα σας, όλα εκτελούνται τοπικά. Αυτό καθιστά το κιτ ιδανικό για εφαρμογές ευαίσθητες στο απόρρητο-, απομακρυσμένες αναπτύξεις ή οπουδήποτε η πρόσβαση στο δίκτυο είναι αναξιόπιστη ή μη διαθέσιμη.

Μπορώ να εκπαιδεύσω μοντέλα απευθείας στο κιτ AI;

Όχι, το Hailo-8L είναι υλικό μόνο για συμπεράσματα. Η εκπαίδευση απαιτεί διαφορετικές βελτιστοποιήσεις υλικού και σημαντικά περισσότερη ισχύ. Η τυπική ροή εργασίας περιλαμβάνει εκπαίδευση σε GPU cloud ή σταθμούς εργασίας με PyTorch/TensorFlow, μετατροπή σε μορφή ONNX, μεταγλώττιση με τα εργαλεία του Hailo και, στη συνέχεια, ανάπτυξη του μεταγλωττισμένου μοντέλου στο Pi σας.

Ποια είναι η διαφορά μεταξύ του AI Kit και του AI HAT+;

Το αρχικό κιτ AI συνδυάζει το M.2 HAT με μια μονάδα Hailo-8L για 70 $. Η AI HAT+ είναι μια αναθεωρημένη πλακέτα με καλύτερη συμβατότητα με θήκη, διαθέσιμη είτε με 13 TOPS Hailo-8L (70 $) είτε με 26 TOPS Hailo-8 (110 $). Οι επιδόσεις είναι πανομοιότυπες στο επίπεδο 13 TOPS. επιλέξτε με βάση τη διαθεσιμότητα και εάν χρειάζεστε τη βελτιωμένη φυσική σχεδίαση.

Πώς χειρίζεται το AI Kit διαφορετικές αναλύσεις εικόνας;

Ο επιταχυντής επεξεργάζεται οποιαδήποτε ανάλυση έχει εκπαιδευτεί το μοντέλο σας-συνήθως 640x640 ή παρόμοια για ανίχνευση αντικειμένων. Η CPU σας χειρίζεται την αλλαγή μεγέθους της εισόδου της κάμερας ώστε να ταιριάζει με τις αναμενόμενες διαστάσεις του μοντέλου. Οι υψηλότερες αναλύσεις εισόδου απαιτούν περισσότερο χρόνο προεπεξεργασίας, αλλά δεν επηρεάζουν άμεσα την ταχύτητα συμπερασμάτων Hailo, καθώς το μέγεθος εισόδου του μοντέλου παραμένει σταθερό.

Είναι το Hailo-8L συμβατό με τα μοντέλα TensorFlow Lite;

Όχι άμεσα. Πρέπει να μετατρέψετε μοντέλα TensorFlow Lite σε μορφή ONNX και, στη συνέχεια, να τα μεταγλωττίσετε με τον μεταγλωττιστή Dataflow του Hailo. Υποστηρίζονται πολλές κοινές αρχιτεκτονικές TensorFlow Lite, αλλά η διαδικασία μετατροπής ενδέχεται να απαιτεί προσαρμογές ανάλογα με την πολυπλοκότητα του μοντέλου και τις λειτουργίες που χρησιμοποιούνται.

Κάνοντας τα πρώτα σας βήματα

Ξεκινήστε με τις εκ των προτέρων{0}}μεταγλωττισμένες επιδείξεις για να κατανοήσετε τα χαρακτηριστικά απόδοσης πριν προχωρήσετε σε προσαρμοσμένα μοντέλα. Τα δείγματα ανίχνευσης αντικειμένων και εκτίμησης πόζας καταδεικνύουν τις δυνατότητες του κιτ χωρίς να απαιτούνται γνώσεις συλλογής μοντέλων. Μόλις είστε άνετοι με το υλικό, πειραματιστείτε με διαφορετικά μοντέλα από το Hailo Model Zoo για να βρείτε την ισορροπία μεταξύ ακρίβειας και ταχύτητας για την εφαρμογή σας.

Το Raspberry Pi AI Kit αντιπροσωπεύει μια σημαντική αλλαγή στην προσβασιμότητα τεχνητής νοημοσύνης αιχμής. Για πρώτη φορά, οι χομπίστες και οι προγραμματιστές μικρής-κλίμακας μπορούν να αναπτύξουν εξελιγμένα συστήματα όρασης υπολογιστών με απόδοση που προηγουμένως απαιτούσε ακριβό υλικό ή εξάρτηση από το cloud. Ο συνδυασμός του οικοσυστήματος του Raspberry Pi και του αποδοτικού επιταχυντή του Hailo δημιουργεί δυνατότητες που δεν υπήρχαν στην υπο-κατηγορία $100 μέχρι το 2024.

Είτε κατασκευάζετε μια έξυπνη κάμερα ασφαλείας, ένα βιομηχανικό σύστημα επιθεώρησης ή πειραματίζεστε με την τεχνητή νοημοσύνη στην άκρη, το κιτ AI παρέχει την υπολογιστική ιπποδύναμη για να καταστήσετε αυτά τα έργα βιώσιμα. Η αρχιτεκτονική είναι αποδεδειγμένη, το λογισμικό ωριμάζει γρήγορα και η κοινότητα χτίζει ενεργά λύσεις από τις οποίες μπορείτε να μάθετε και να προσαρμόσετε.