Lè yo sèvi ak Raspberry Pi 5 AI Kit
Raspberry Pi 5 AI Twous la bay 82.4 FPS sou deteksyon objè YOLOv8 pandan y ap konsome jis 9.7W-men sèlman si w ap kouri modèl vizyon atravè yon tiyo kamera. Espesifik sa a enpòtan plis pase nimewo enpresyonan 13 TOPS sou bwat la.
Mwen te gade plizyè douzèn devlopè achte twous sa a $ 70 espere ChatGPT akselerasyon, sèlman yo dekouvri li pa ka manyen modèl lang. Konfizyon an konprann: "AI Kit" son inivèsèl. Reyalite a se Hailo-prosesè 8L la sèlman konpatib ak machin-tach aprantisaj ki enplike manje a kaptire pa modil kamera-pa webcams, pa kamera IP, espesyalman modil kamera Raspberry Pi.
Sa a se pa yon limit; se spesyalizasyon. Enferans vizyon òdinatè nan kwen an mande pou yon achitekti fondamantalman diferan pase enferans LLM. Achitekti dataflow Hailo-8L a briye nan ansyen an pandan y ap totalman mal pou dènye a.
Diferans nan pèfòmans reyèl: nimewo ki aktyèlman enpòtan
Sote maketing TOPS la. CPU Raspberry Pi 5 a kouri deteksyon objè YOLOv8 nan 0.45 FPS ak itilizasyon CPU 100%. Ajoute AI Kit la epi ou frape 82.4 FPS nan 15-30% CPU. Sa se pa yon amelyorasyon 2x-se yon miltiplikatè 183x.
Men, kontèks fòme nimewo sa yo dramatikman. Nan vitès PCIe Gen 3 ak gwosè pakèt 8, menm modèl YOLOv8s la rive nan 120 FPS. Lage nan Gen 2 epi w ap nan 40 FPS. Ogmante gwosè pakèt a 32 ak pèfòmans tonbe a 54 FPS.
Anbouteyaj PCIe a reyèl. Yon sèl liy Gen 3 bay 8 Gbit/s-adekwat pou pifò travay vizyon, men yon plafon difisil. Modil-konfigirasyon ki baze sou mande pou tout aksè memwa pase nan koòdone PCIe a, kontrèman ak NPU entegre nan SoCs ki pataje gwo-chanèl memwa vitès ak CPU a.
Pou pèspektiv: Poze estimasyon kouri nan 66.1 FPS ak konsomasyon pouvwa a nan 9.7W total konsomasyon sistèm. Sa se 200 fwa pi vit pase CPU-sèlman enferans pandan w ap itilize mwens pouvwa. Matematik yo tcheke pou deplwaman ki mache ak pil-.
Materyèl konpetisyon: Tree Desizyon $70 la
Coral TPU Google la ofri 4 TOPS ak 2 TOPS/W efikasite nan yon konsepsyon chip ki gen 6-zan. Hailo-8L la delivre 13 TOPS nan 3-4 TOPS/W. Sou papye, Hailo genyen.
Men, Coral gen entegrasyon TensorFlow Lite ki "jis travay." USB Accelerator Coral la konekte atravè USB estanda, li entegre fasilman ak sistèm ki egziste deja, epi li sipòte modèl modere tankou MobileNet v2 nan apeprè 2 Watt konsomasyon pouvwa. Pa gen okenn konfigirasyon PCIe obligatwa.
Hailo-8 (26 TOPS) egziste men koute $150-200. Nan pwen pri sa a, w ap konpare ak solisyon ki ofri plis fleksibilite. Tach dous la se 8L a $ 70-si ka itilize ou a aliman.
Pineboards ofri altènativ: Doub M.2 HAT ki konbine Hailo-8L ak depo NVMe, oswa konfigirasyon Coral Edge pou devlopman kontinye sou pwojè Coral ki deja egziste. Sa yo rezoud "swa akseleratè oswa depo" limit nan twous ofisyèl la.
Sèvi ak ka # 1: Sekirite ak Siveyans nan tan reyèl-
Kamera sekirite yo jenere kouran done inplakabl. Twous AI a okipe pye sekirite 1080p pou detekte moun, machin ak pakè san yo pa jete ankadreman. Sa a ranfòsman pèfòmans 13x fè kamera sekirite yo aktyèlman solid.
Pwojè Jeff Geerling a konbine plizyè Hailo NPU-ki rive nan 51 TOPS total lè li konekte Hailo-8L, Hailo-8, ak TPU Coral atravè switch PCIe. Twòp? Wi. Men, li demontre senaryo milti-kamera nan echèl.
Deplwaman reyèl sanble diferan. Yon sistèm siveyans plas peyaj te itilize Edge Impulse vizyon òdinatè ak yon Modil Kamera Wide pou detekte ak konte machin nan plizyè liy ansanm. Lantiy lajè te kaptire zòn ki pi laj; Twous AI a te bay espas pou tretman an.
Entegrasyon Frigate NVR enpòtan isit la. Hailo te entegre ofisyèlman nan kad Frigate apati vèsyon 0.16.0, sa ki fè li yon gout-nan ranplasman konfigirasyon Coral ki aje nan enstalasyon siveyans ki deja egziste.
Limit kritik: AI Kit ak AI HAT+ pa fonksyone si gen yon dezakò nan vèsyon ant pakè lojisyèl Hailo ak chofè aparèy yo. Deplwaman pwodiksyon bezwen vèsyon-bloke estrateji.
Sèvi ak ka #2: Kontwòl Pwosesis Endistriyèl
Sistèm sekirite konstriksyon yo ka detekte moun ki pozisyone yo devan, bò kote, ak dèyè machin konstriksyon yo. Kamera AI-kondwi ranplase plizyè obsèvatè imen epi swiv kote travayè yo an tan reyèl.
Avantaj la se paralelis: AI trete plizyè zòn danje ansanm pandan ke moun natirèlman konsantre sekans. Tan repons pou jenerasyon alèt enpòtan plis pase presizyon pafè.
Kontwòl kalite fabrikasyon swiv lojik menm jan an. Yon kamera liy pwodiksyon tcheke kòrèkteman asanble bezwen pousantaj ankadreman konsistan, pa pèfòmans pik. Twous AI a kenbe 82.4 FPS sou deteksyon objè -sifizan pou pifò vitès liy fabrikasyon yo pandan y ap kite kapasite CPU pou sistèm kontwòl yo.
Gwosè kontra enfòmèl ant pèmèt entegrasyon nan pwen liy pwodiksyon ki egziste deja. Sistèm nan balanse lè li ajoute kamera olye ke redesign enfrastrikti.
Men, deplwaman endistriyèl mande plis. Kat SD yo ta dwe evite pou aparèy pwodiksyon akòz andirans ekri limite ak fyab pòv anba pouvwa enfidèl. Endistriyèl eMMC oswa kondui di yo obligatwa.
Sèvi ak ka #3: Robotics ak sistèm otonòm
Yon pwototip robo otonòm anba dlo te itilize AI Twous pou deteksyon objè ak yon modèl YOLOv8 ki resevwa fòmasyon sou seri done koutim, kowòdone ak motè BLDC kontwole atravè chofè PCA9685 PWM sou koòdone I2C la.
Defi a: entegre Hailo SDK ak tiyo OpenCV ki egziste deja. Devlopè ki abitye ak aplikasyon 8-liy PyTorch + Ultralytics sou PC GPU fè fas a yon koub aprantisaj pi apik ak chèn zouti Hailo a. Konvèsyon modèl pa otomatik.
Algoritm navigasyon konsome sik CPU. Sistèm deteksyon men Mario la te fè twa modèl ansanm-deteksyon men ak repwezante-kenbe 26-28 FPS ak yon sèl men detekte, 22-25 FPS ak de men. Bidjè pwosesis sa a kite plas pou planifikasyon chemen ak kontwòl motè.
Robo livrezon entelijan montre anfòm la: pwosesis vizyon kontinyèl pandan CPU a okipe lojik navigasyon, kominikasyon, ak pye bwa desizyon. Efikasite 3-4 TOPS/W pwolonje lavi batri mezirab nan deplwaman mobil.
Sèvi ak ka #4: Yo Vann an Detay ak Kliyan Analytics
Yon demonstrasyon jesyon makèt Yo Vann an Detay te kouri YOLOv8n sou AI Kit la pou detekte pwodwi sou etajè pandan EfficientNet te kouri sou CPU a pou klasifikasyon. Divizyon travay: NPU a okipe deteksyon (kote pwodwi a?), CPU okipe klasifikasyon (ki pwodwi?).
Estimasyon poze ajoute analiz konpòtman kliyan. 66.1 FPS pèfòmans estimasyon poze pèmèt swiv mouvman kliyan nan zòn magazen, analiz tan rezidans, ak deteksyon keu san idantifikasyon endividyèl.
Konfidansyalite enpòtan isit la. Pwosesis -sou aparèy la vle di videyo pa janm kite kote a. Modèl ki resevwa fòmasyon sou deteksyon "moun" jenerik pa estoke done byometrik-sèlman metadata espasyal yo.
Pwojè "Peeper Pam" la te detekte moun dèyè w nan yon biwo, inyore chèz, tab, ak plant nan ankadreman. Konfidans deteksyon parèt sou yon mèt analòg: 0 pou "pa gen moun," 1 pou "sèten moun ki prezan," ak ensètitid nan mitan.
Menm lojik sa a aplike nan siveyans lokatè, jesyon keu, ak itilizasyon espas -nenpòt kote ou bezwen "èske moun ki prezan?" san pran swen "ki moun?"
Sèvi ak ka # 5: Deplwaman modèl Custom (Avèk opozisyon)
Hailo Dataflow Compiler tradui modèl ki soti nan kad ML estanda nan fòma ègzekutabl Hailo, lè l sèvi avèk fòmasyon ki konsyan de quantization-pou diminye modèl yo pandan w ap kenbe presizyon.
Flux travay la: antrene nan PyTorch oswa TensorFlow, ekspòte nan ONNX, konvèti nan HEF (Hailo Executable Format) lè l sèvi avèk DFC a, deplwaye nan Pi a. Leson patikilye egziste pou fòmasyon konplè-pou-deplwaman ak modèl YOLOv8n.
Men, konpatibilite modèl se pa inivèsèl. Modèl konpile pou Hailo yo optimize espesyalman pou achitekti chip-sa vle di kèk operasyon tou senpleman pa pral kat. Modèl zou a bay egzanp pre-konpile; achitekti koutim mande pou tès.
API Hailo Python kounye a pèmèt kouri enferans sou Hailo-8L lè l sèvi avèk Python, ak egzanp ki disponib pou tou de script otonòm ak entegrasyon ak picamera2. Sa a diminye baryè a konpare ak pi bonè workflows GStreamer sèlman.
Edge Impulse bay yon lòt chemen. Platfòm yo a jere fòmasyon modèl la ak tiyo konvèsyon Hailo, bay modèl ki pare-pou-deplwaye. Pou ekip ki pa gen ekspètiz ML, apwòch jere sa a diminye esè-ak-erè.
Lè PA itilize Twous AI a
Gwo modèl lang:Pwosesè Hailo-8L pa ka kouri LLM yo. Li se sèlman konpatib ak travay aprantisaj machin ki enplike manje modil kamera. Okenn kantite optimize pa chanje limit achitekti sa a.
Kouri LLM sou Pi 5 mande pou CPU enferans ak modèl ki anba paramèt 7B. Gemma2-2B reyalize pèfòmans desan lè l sèvi avèk 3GB RAM; DeepSeek-r1:8b kouri dousman. Twous AI a pa akselere anyen nan sa.
Jenerativ AI:Jenerasyon tèks, sentèz imaj, jenerasyon odyo-workflows sa yo pa gen rapò ak achitekti dataflow Hailo-8L la. Hailo 10H nan lavni ak 40 TOPS ak 8GB DDR4 RAM vize chaj travay jeneratif AI, men li poko disponib pou Pi 5.
Travay ki pa -Vizyon Kamera:Pwosesis imaj ki soti nan dosye yo ap travay, men Twous AI a travay espesyalman ak modil kamera Raspberry Pi -pa webcam oswa kamera IP. Twazyèm -pati kamera konpatibilite mande sipò libcamera.
Bezwen pou Depo:Modil Hailo a okipe plas M.2 twous ofisyèl la, sa ki anpeche atachman NVMe SSD. Si ou bezwen tou de akselerasyon AI ak depo vit, twazyèm pati M.2 HAT yo obligatwa.
Kondisyon pou entegrasyon sere:Apati mwa mas 2025, rpicam-apps se sèl pati nan pil lojisyèl Raspberry Pi a ki byen entegre ak akseleratè Hailo a. Aksè pwogramasyon soti nan scripts Python atravè picamera2 te vin disponib pita. Adopsyon bonè te vle di fleksibilite API limite.
Kad Desizyon an
Poze senk kesyon sa yo:
1. Èske vizyon travay AI ou a-baze?
Wi, ak modil kamera → AI Twous se solid
Non, oswa ranpli-pwosesis ki baze sou → rekonsidere
Tèks/pwosesis odyo → move zouti
2. Ki sa ki sib pèfòmans ou a?
30+ FPS reyèl-tan reyèl → AI Kit nesesè
5-10 FPS akseptab → CPU ta ka sifi
<1 FPS tolerable → don't spend $70
3. Èske ou bezwen modèl koutim?
Wi, ak vle aprann DFC → jere
Wi, men pa gen okenn ekspètiz ML → wout Edge Impulse
Non, lè l sèvi avèk pre-fòmasyon sèlman → senaryo ideyal
4. Ki echèl deplwaman ou a?
1-10 inite pou pwototip → anfòm pafè
100+ inite pou pwodiksyon → faktè nan rezèv, tèmik, fyab
Endistriyèl/komèsyal → bezwen endistriyèl Pi varyant, pa tablo Yo Vann an Detay
5. Èske ou ka aksepte kontrent yo?
Kondisyon modil kamera
Jesyon depandans vèsyon
Pa gen bòt NVMe san doub M.2 HAT
0-50 degre opere tanperati
Plafon Pleasant PCIe
Si w reponn kesyon 1, 2, ak 5 yon fason favorab - epi w gen yon estrateji pou 3 ak 4 - Kit AI a bay yon valè eksepsyonèl nan $70.
Enstalasyon Tcheke Reyalite
Enstalasyon pyès ki nan konpitè pran kèk minit: enstale sistèm refwadisman, tache etaj, peze header GPIO, konekte kab riban nan pò PCIe, an sekirite AI Twous ak vis.
Konfigirasyon lojisyèl mande pou plis swen:
sudo apt update ak sudo apt full-upgrade sudo rpi-eeprom-actualisation sudo raspi-config # Pèmèt PCIe Gen 3 nan Opsyon avanse sudo apt enstale hailo-tout sudo reboot hailortcli fw-kontwòl idantifye # Verifye enstalasyon
Diferans vèsyon ant pakè lojisyèl Hailo ak chofè aparèy lakòz echèk sistèm konplè. Teste byen anvan deplwaye.
Pou pi bon pèfòmans, yo rekòmande pou w sèvi ak AI Twous ak Raspberry Pi Active Cooler. San refwadisman, tablo baz RPi5 la ap chofe lè w ap itilize AI Twous la.
Jesyon tèmik se pa opsyonèl -li obligatwa pou pèfòmans dirab.
Kalkil Valè $70
Sa ou jwenn:
13 TOPS enferans neral
180x + pèfòmans vs CPU-sèlman
3-4 TOPS/W efikasite
Sipò entegre rpicam-aplikasyon yo
Pre-tansin tèmik
Tout pyès ki nan konpitè aliye
Sa ou pa jwenn:
LLM akselerasyon
Kalkile AI jeneral-
Ploge-e-jwe senplisite
Depo ekspansyon
Inivèsèl kamera konpatibilite
Pou $ 70, li difisil pou jwenn yon fason ki pi abòdab pou tranpe zòtèy ou nan kwen AI. Pri a diminye pakèt Coral TPU pandan y ap bay plis pase 3 fwa TOPS yo.
Men valè depann antyèman sou aliyman ka itilize. Pou enferans vizyon nan kwen an, li eksepsyonèl. Pou tout lòt bagay, li pa enpòtan.
Kesyon yo poze souvan
Èske mwen ka itilize Twous AI a ak Raspberry Pi 4 oswa modèl pi bonè?
Non. Twous AI a mande pou Raspberry Pi 5 la paske li bezwen sipò natif natal PCIe. Modèl anvan yo manke koòdone PCIe a nèt. Pa gen okenn solisyon oswa adaptè ki chanje sa a.
Èske Twous AI a akselere kòd deteksyon objè mwen an ki ekri nan Python ak OpenCV?
Pasyèlman. Hailo Python API a pèmèt fè enferans sou Hailo-8L lè l sèvi avèk Python, men w ap bezwen konvèti modèl ou a nan fòma HEF epi modifye kòd ou a pou itilize Hailo API a olye pou yo apèl estanda OpenCV enferans. Li pa yon ranplasman transparan drop-in.
Ki jan gwosè pakèt afekte pèfòmans?
Avèk YOLOv8s nan rezolisyon 640x640: gwosè pakèt 2 reyalize 80 FPS, gwosè pakèt 4 rive nan 100 FPS, gwosè pakèt 8 pik nan 120 FPS. Anplis de sa, pèfòmans degrade: pakèt 16 tonbe a 100 FPS ak pakèt 32 tonbe nan 54 FPS akòz saturation Pleasant PCIe.
Èske mwen ka demare soti nan NVMe epi sèvi ak AI Kit la ansanm?
Pa ak twous ofisyèl la pou kont li. Fant M.2 la okipe pa modil Hailo a. Pineboards ak machann menm jan an ofri doub M.2 HATs ki bay tou de NVMe ak AI akseleratè fant, rezoud limit sa a nan pri adisyonèl.
Èske sipò Google Coral demode?
Pa ofisyèlman depreche, men pil lojisyèl Coral la pa te aktivman konsève, ak PyCoral ki mande Python 3.9. Google sanble te kite pwojè Coral la sou sipò lavi apre pwoblèm rezèv pandan pandemi an. Materyèl Coral ki deja egziste toujou ap travay, men sipò nan lavni pa sèten.
Ki refwadisman mwen aktyèlman bezwen?
Raspberry Pi rekòmande pou itilize Twous AI ak Cooler aktif la pou pi bon pèfòmans. Dissipateur chalè pasif yo ka sifi pou itilize tanzantan, men chaj travay enferans soutni yo pral gaz san refwadisman aktif. Bidjè pou $5 Active Cooler la ansanm ak Twous AI a.
Èske mwen ka kouri plizyè kamera an menm tan?
Wi. Li posib pou kouri plizyè rezo neral sou yon sèl kamera, oswa yon sèl oswa plizyè rezo neral ak de kamera ansanm. Echèl pèfòmans ki baze sou konpleksite modèl ak disponiblite bandwidth PCIe.
Konklizyon ki onèt la
Raspberry Pi 5 AI Twous la se yon zouti espesyalis ki ekselan nan domèn li yo. Pou enferans vizyon ak modil kamera, li transfòme Pi 5 a soti nan "teknikman kapab" nan "aktyèlman pratik" pou aplikasyon pou pwodiksyon an.
Se pa yon akseleratè AI jeneral-. Li p ap kouri ChatGPT. Li pa pral jenere imaj. Li pa pral ede ak sentèz odyo. Aksepte kontrent sa yo epi li bay yon valè eksepsyonèl. Goumen kont yo epi ou pral gaspiye $ 70.
Desizyon an se pa "Èske AI Twous la bon?"-se "Èske AI Twous la bon pou aplikasyon espesifik sa a?" Reponn sa onètman epi w ap konnen si pou w achte.
Kle Takeaways
AI Kit bay 82.4 FPS sou YOLOv8 vs 0.45 FPS CPU-sèlman-men sèlman pou travay vizyon ki baze sou kamera-
Pa konpatib ak LLM, AI jeneratif, oswa workflows vizyon ki pa-kamera
Mande pou Franbwaz Pi 5 ak modil kamera; pa pral travay ak Pi 4 oswa webcams
Konfigirasyon PCIe Gen 3 ak refwadisman aktif nesesè pou pèfòmans optimal
Jesyon depandans vèsyon kritik; dezakò lakòz echèk sistèm konplè
Pi bon pou: kamera sekirite, siveyans endistriyèl, robotik, analiz detay
Evite pou: modèl langaj, jenerasyon imaj, pwosesis odyo, eksperimantasyon AI jeneral
Sous Done yo
Dokimantasyon Raspberry Pi - Lojisyèl Kit AI: https://www.raspberrypi.com/documentation/computers/ai.html
magazin Mehatronika - Raspberry Pi AI Kit Revizyon: https://magazinmehatronika.com/en/raspberry-pi-ai-kit-review/
Seeed Studio - Benchmark sou RPi5 ak CM4: https://forums.raspberrypi.com/viewtopic.php?t=373867
Jeff Geerling - Testing Raspberry Pi's AI Kit: https://www.jeffgeerling.com/blog/2024/testing-raspberry-pis-ai-kit-13-tops-70
XDA Developers - Raspberry Pi AI Kit men-sou: https://www.xda-developers.com/raspberry-pi-ai-kit-men-sou/
Fowòm Raspberry Pi - AI Kit diskisyon: https://forums.raspberrypi.com/
Fowòm Kominote Hailo: https://community.hailo.ai/
GitHub - hailo-ai/hailo-rpi5-egzanp: https://github.com/hailo-ai/hailo-rpi5-examples