Raspberry Pi AI Kit

Wat kun je met de Raspberry Pi AI Kit?

Met de Raspberry Pi AI Kit kun je snel complexe AI-vision-toepassingen bouwen. Deze toepassingen kunnen in realtime worden uitgevoerd, met lage latentie en lage stroomvereisten.

Stel je maakt State-of-the-art neurale netwerken die gebruikt worden voor object herkenning, lichaamspositie-schatting en gezichtsherkenning. Dan draaien deze volledig op de Hailo-8L-coprocessor. Hierdoor kan de Raspberry pi 5 CPU vrij blijven om andere taken uit te voeren.

De belangrijkste kenmerken van de Raspberry Pi AI Kit zijn:

– Een heel laag verbruik van rond de 2 Watt

– 13 tera-bewerkingen per seconde (TOPS) van deductieprestaties

– Single-lane PCIe 3.0-verbinding met 8 Gbps

– Volledige integratie met het subsysteem van de Raspberry Pi-software

– Compatibiliteit met camera’s van Raspberry Pi of derden

– Efficiënte planning van de versnellerhardware: voer meerdere neurale netwerken uit op één camera, of enkele/meerdere neurale netwerken met twee camera’s tegelijk

– De mogelijkheid om te combineren met een Raspberry pi active cooler

Het AI-framework is volledig open source. Het staat online op github met documentatie. Ook heeft het framework een python pipeline waardoor je zelf post processing in python kunt coderen. Ook is er een API die geïntegreerd is met het GStreamer-framework en native Python- of C/C++-applicaties. Dit omvat ook gebruiksscenario’s die niets met een camera te maken hebben. Zoals het uitvoeren van inferentie op vooraf opgenomen videobestanden. Ook is het mogelijk om je eigen neurale netwerk te gebruiken met de Hailo-8L AI Accelerator.

De Hailo-8L ondersteunt een scala aan deep learning modellen en applicaties uit de box door middel van zijn robuuste softwarepakket. Dit pakket omvat onder meer de Hailo Dataflow Compiler. Hiermee kunnen gebruikers hun eigen neurale netwerken converteren naar een formaat dat compatibel is met de Hailo-8L hardware.

Het is niet erg als het maken van een eigen neurale netwerk maken niet jouw ding is of wanneer dit voor jouw doeleindes niet nodig is. Je kunt namelijk altijd nog een van de vele pre-trained modellen gebruiken. Deze vind je terug op de github pagina. Je vindt daar een gevarieerd aantal pre-trained neural networks. Deze zijn erg makeklijk te implementeren en te gebruiken.

In veel van de gevallen zul je een Pi camera gebruiken. Echter is het hier zeker niet tot gelimiteerd. Je kunt ook o.a video’s gebruiken en die laten analyseren door een face tracking neural network.

Zelf hebben wij de chip samen met een Pi camera module 3 uitgeprobeerd. Hierbij onze eerste ervaring:

De installatie.

Notitie: Deze test is uitgevoerd op een Raspberry Pi 5 met Raspberry Pi OS.

Het installeren van de software voor de Chip zelf en het programma (TAPPAS) wat de chip bestuurt verliep vrij soepel. Er was niet bepaald veel om te installeren. Er hoefde slechts 1 package te worden geïnstalleerd.

Wel liepen we snel tegen een error aan maar na een snelle vraag op het forum van Hailo was dat ook snel verholpen.

Testen.

Het ging vrij makkelijk in gebruik dankzij de documentatie op github. Hierin wordt stap voor stap uitgelegt wat je moet doen om het werkend te krijgen. Hierdoor was het ook vrij makkelijk om opgestart te krijgen.

De AI kit werkt goed samen in combinatie met de pi camera. Al gauw hadden we alles aan staan met de picamera en een van de voorbeeld neural networks. Ook deze zijn op de github pagina van rpicam-apps te verkrijgen.

De test ging ook goed, het lukte om dingen snel en goed te identificeren en ook zeer accuraat. Wanneer er bijvoorbeeld een neural network runt die objecten en mensen kan identifceren merk je dat de cpu en gpu op de Pi slechts rond de 16% zitten. Dit komt omdat de workload grotendeels wordt overgenomen door de AI chip. Alle berekeningen in het neural network / de ai worden in die chip uitgevoerd. Alleen het omzetten van video naar bruikbare data voor het neural network gaat niet via de chip. Vandaar de lage verhoging in het percentage.

Wij draaiden zelf een neural network van rond de 30 fps, die werkte feilloos.

Conclusie Raspberry Pi AI Kit

De Raspberry Pi AI Kit, ontwikkeld met Hailo, is een krachtige oplossing voor AI-projecten. Het apparaat is geschikt voor zowel beginners als gevorderden. Met de Hailo-8L-coprocessor kun je geavanceerde AI-toepassingen zoals object- en gezichtsherkenning realiseren. Dit laat de Raspberry Pi CPU vrij voor andere taken. De kit is energiezuinig, verbruikt slechts 2 watt en biedt 13 tera-operations per seconde voor €79,95. Dit maakt het een uitstekende prijs/prestatieverhouding.

De open-source AI-software en de uitgebreide documentatie op GitHub maken de kit gebruiksvriendelijk. Zelfs zonder veel AI-ervaring kun je eenvoudig beginnen. Met de optie om pre-trained modellen te gebruiken, is de kit flexibel en toegankelijk.

Onze tests toonden aan dat de installatie soepel verloopt en de prestaties indrukwekkend zijn. De AI-chip neemt de meeste verwerkingsbelasting over, wat zorgt voor een lage CPU- en GPU-belasting. Dit resulteert in nauwkeurige en efficiënte object- en gezichtsherkenning, zelfs bij 30 fps.

De Raspberry Pi AI Kit is een uitstekende investering voor iedereen die AI wil verkennen. Het biedt krachtige prestaties, gebruiksvriendelijke software en uitgebreide mogelijkheden.