Inhoudsopgave:
Kunstmatige intelligentie en machines die kunnen leren, zijn hoe de dingen die we dagelijks gebruiken zullen worden verbeterd. Google en Android zijn all-in met AI via Google Assistant en machine learning, dus het is belangrijk om te weten hoe de back-end werkt, hoe ze daar zijn gekomen en welke soorten apparatuur dit allemaal mogelijk maken. En het is ook echt cool!
De mensen die deze technologie van de toekomst zullen bouwen, hebben daarvoor de tools nodig. In 2017 doet NVIDIA zijn steentje bij en de Jetson TX2 is de belichaming van dit idee. Ontwikkelaars hebben hardware nodig die niet alleen in staat is om te rekenen en te denken (ja, ik zal het zeggen) die onze slimmere toekomst nodig zal hebben, maar die ook gemakkelijk te gebruiken en te implementeren is.
AI at the Edge.
NVIDIA noemt dit "het leveren van AI at the Edge" en het is een toepasselijke beschrijving. De TX2 is een complete supercomputer. Het kan gegevens zelfstandig verwerken op de plaats en het tijdstip waarop het daadwerkelijk gebeurt in plaats van duizenden kilometers afstand via internet. We beschouwen connectiviteit als vanzelfsprekend vanwege de manier waarop we het nu gebruiken, maar er zijn genoeg gevallen waarin wachten op een gegevensretour van een slim stuk machine gewoon te lang is om te wachten. En een groot deel van dit blauwe marmer waarop we leven, heeft geen verbinding met internet en zal dat ook niet heel lang doen.
Een kleine computer die vrijwel alles kan en alle gegevens die het zelf verzamelt, verwerkt, is hoe u deze problemen aanpakt. NVIDIA lijkt het hier te hebben genageld.
Wat is dit ding?
Dit is niet iets dat je bij Best Buy kunt vinden voor dingen die je met je telefoon doet. Het draait niet op Android (maar het zou zeker niet moeilijk zijn om dat op te lossen) en het is iets dat de meesten van ons niet zullen kopen. Maar het is nog steeds een heel belangrijk onderdeel van de dingen waar we van houden.
De Jetson TX2 is een ontwikkeltool. De Jetson TX2 is ook een veldklare module om alle op AI gebaseerde apparatuur van stroom te voorzien. Het is een computer ter grootte van een creditcard met alle ingangen en uitgangen die een "gewone" computer heeft. Wanneer u de TX2-module aansluit op het speciaal ontworpen achterbord (dat deel uitmaakt van de ontwikkelkit), verandert deze meestal in een typische small form factor-pc, compleet met alle poorten en pluggen die uw desktop heeft.
Ontwikkelaars kunnen dit gebruiken om apparatuur rond te bouwen en de Jetson zelf gebruiken om demo's en simulaties uit te voeren. Het is een capabele kleine machine die alle berekeningen kan doen die iets veel groters kan doen, terwijl hij daarbij een minimale hoeveelheid kracht gebruikt. De technische specificaties zijn indrukwekkend.
- NVIDIA Parker-serie Tegra X2: 256-core Pascal GPU en twee 64-bit Denver CPU-cores gekoppeld met vier Cortex-A57 CPU's in een HMP-configuratie
- 8 GB 128-bits LPDDR4 RAM
- 32 GB eMMC 5.1 onboard opslag
- 802.11b / g / n / ac 2x2 MIMO wifi
- Bluetooth 4.1
- USB 3.0 en USB 2.0
- Gigabit Ethernet
- SD-kaartsleuf voor externe opslag
- SATA 2.0
- Volledige meerkanaals PMIC
- 400 pins high-speed en low-speed industrie standaard I / O-connector
De beste technische specificatie is dat de Jetson TX2 een pin voor pin drop is ter vervanging van de Jetson TX1 van vorig jaar. Laat dat even doorwerken - ontwikkelaars die bestaande NVIDIA TX1-computers gebruiken om de hersenen achter hun apparatuur aan te drijven, kunnen dingen afsluiten, het oude bord trekken en het nieuwe plaatsen. De software voor de TX1 wordt geüpdatet naar dezelfde software die de TX2 gebruikt, dus het zal letterlijk een vervanging zijn. Als je ooit een soort veld- of fabriekswerk hebt gedaan aan apparatuur die veel geld kost als deze uitvaltijd heeft, begrijp je hoe belangrijk dit is. Terwijl de volgende generatie apparatuur wordt ontwikkeld, gebruikt deze hardware die 100% werkt met de bestaande generatie.
Het geheim hier is door NVIDIA's Pascal GPU-kernen. Dezelfde reden dat Pascal-kernen worden gebruikt in zeer hoogwaardige videokaarten die zijn ontworpen voor VR en 4K 3D-gaming, is waarom ze worden gebruikt voor de Jetson TX2. GPU-kernen zijn een efficiëntere manier om cijfers te kraken. Ze zijn sneller en verbruiken veel minder stroom.
De heilige graal van computing is kunstmatige intelligentie (AI): een machine bouwen die zo intelligent is dat hij zelfstandig kan leren zonder expliciete instructie. Diep leren is een cruciaal ingrediënt voor het bereiken van moderne AI. Diep leren laat het AI "brein" de wereld om zich heen waarnemen; de machine leert en neemt uiteindelijk zelf beslissingen. Het wordt nu algemeen erkend in de academische wereld en de industrie dat GPU's de allernieuwste zijn in het trainen van diepe neurale netwerken (DNN), vanwege de voordelen van zowel snelheid als energie-efficiëntie in vergelijking met meer traditionele CPU-gebaseerde platforms.
NVIDIA GPU-computers doen al een aantal verbazingwekkende dingen. Ze stimuleren het diepe leren dat wordt gebruikt voor zelfrijdende auto's, leren robots mensachtige motorische vaardigheden zoals wandelen en grijpen, analyseren van video met hoge snelheid om tekstbijschriften te geven en zelfs Go te spelen. En echt goede menselijke tegenstanders verslaan.
GPU-cores kunnen hetzelfde werk doen met minder vermogen dan traditionele CPU-computing.
De echte test van AI en de hersenen die ermee kunnen rijden, ligt aan de horizon. Autonome robots en drones worden ontwikkeld voor taken als industriële inspectie, draagbare medische apparaten die in het veld kunnen worden gebruikt om mensen in nood te helpen zijn hard nodig en zelfs slimme beveiligingscamera's die kunnen analyseren wat ze zien en passende maatregelen kunnen nemen realiteiten zijn. Deze ideeën hebben computing nodig die AI kan aansturen met diepgaande leeralgoritmen en de mogelijkheid om zelf verzamelde neurale netwerkgegevens te analyseren. Ze kunnen niet aan een kabel worden bevestigd en worden gebruikt op plaatsen waar zelfs Verizon geen dekking heeft.
Een computer die klein en draagbaar is, moet niet alleen krachtig zijn, maar ook energiezuinig. Uit tests blijkt (.pdf-bestand) dat op NVIDIA GPU gebaseerd computergebruik vergelijkbaar kan zijn met een Intel core i7 6700K CPU en 6 watt vermogen gebruikt in vergelijking met 60. Voor apparatuur die niet op het stroomnet is aangesloten, is dat belangrijk.
We hebben enkele benchmarks uitgevoerd met behulp van AlexNet en GoogLeNet - CV-gebaseerde objectcategorie-classificatie en detectietestsoftware en de resultaten waren fantastisch. In de Max-P-modus (high-power) kon de Jetson TX2 gemiddeld 641 beelden per seconde analyseren met behulp van het AlexNet-netwerk, terwijl hij slechts 13 watt vermogen gebruikte. De GoogLeNet-test had een gemiddelde van 278 afbeeldingen per seconde terwijl 14 watt vermogen werd gebruikt. Max-Q (low power) -tests scoorden gemiddeld 481 afbeeldingen per seconde op AlexNet en 191 afbeeldingen per seconde op GoogLeNet terwijl slechts 7 watt vermogen werd gebruikt. Dit is ongeveer het dubbele van wat de Jetson TX1 van vorig jaar kon leveren, en hij was er ook behoorlijk goed in.
Wanneer u informatie zo snel en zo nauwkeurig ter plaatse kunt verwerken, is een verbinding met de cloud niet meer de beperkende factor.
In het labortorium
De Jetson TX2 moet zeer capabel zijn in het veld. Het is de eerste van de volgende generatie machines die leren door te doen zonder een verbinding met de cloud en een substantiële upgrade van bestaande apparatuur. Maar het heeft ook functies die ontwikkelaars geweldig zullen vinden.
De rekenmodule ter grootte van een creditcard kan worden aangesloten op een compleet draagbord dat beschikbaar is als onderdeel van de Jetson TX2-ontwikkelingskit. Het draagbord gebruikt de 400 I / O-pinnen op de Jetson-module om standaard desktopverbindingen te bieden. Een softwareontwikkelaar kan een standaard USB-toetsenbord en -muis, een standaardmonitor en de Jetson TX2 gebruiken om een complete ontwikkelomgeving te creëren.
Als onderdeel van NVIDIA's JetPack-software worden alle hulpprogramma's die u mogelijk nodig hebt om diepgaande AI-toepassingen te ontwikkelen en te debuggen uitgevoerd op een Ubuntu 16.04 gebaseerd Linux4Tegra-besturingssysteem. Ontwikkelaars kunnen het pakket downloaden vanuit NVIDIA's ontwikkelaarszone en zelfstudies en communitykennis volgen om te zien wat de Jetson kan doen en vervolgens aan hun eigen ideeën beginnen te werken. Meegeleverde software in het JetPack is vooraf geconfigureerd om geoptimaliseerd te worden uitgevoerd op het TX2-verwerkingssysteem:
- cuDNN - een GPU-versnelde bibliotheek van primitieven voor diepe neurale netwerken.
- NVIDIA VisionWorks is een softwareontwikkelingspakket voor Computer Vision (CV) en beeldverwerking.
- CUDA Toolkit - een uitgebreide ontwikkelomgeving voor C- en C ++ -ontwikkelaars die door GPU versnelde applicaties bouwen.
- TensorRT - een hoogwaardige, diepgaande leerinterferentieruntime voor beeldclassificatie, segmentatie en objectdetectie neurale netwerken.
- NVIDIA Nsight Eclipse - Een complete en aangepaste Eclipse IDE voor het ontwikkelen, debuggen en profileren van CUDA-C-toepassingen.
- Tegra System Profiler en Tegra Graphics Debugger - tools voor het profileren en voorbeeldtoepassingen met OpenGL.
- Het benodigde onderpand en activa om hardware te ontwikkelen en te ontwerpen met behulp van de NVIDIA Jetson TX2.
Het gebruik van hetzelfde platform om elke applicatie te bouwen en te debuggen is een must voor alles wat ingewikkeld en ingewikkeld is. Het is een van de manieren waarop ontwikkelaars het proces kunnen vereenvoudigen en alles wat kan helpen dingen gemakkelijker te maken, maakt gelukkiger ontwikkelaars. Hoewel de Jetson TX2 misschien niet is ontworpen als de enige ontwikkel- en bouwcomputer die elke groep zou gebruiken, wetende dat het in staat is een zegen voor installatie en veldwerk. Kleine aanpassingen en wijzigingen kunnen op de Edge op dezelfde manier worden gedaan als bij de verwerking, zonder gegevens terug te sturen naar een andere computerbank voor verwerking en teruggave.
Apparatuur kan worden ontworpen met behulp van de beschikbare hardwareactiva en tekeningen om niet alleen de complexiteit te verminderen, maar ook om een eenvoudige interface met gemakkelijk beschikbare randapparatuur en software mogelijk te maken. Gewapend met een laptop en een USB-kabel heeft een technicus of fieldtech alles wat nodig is om opnieuw op te bouwen indien nodig.
Met de NVIDIA Jetpack-software kunnen ontwikkelaars zich op hun werk concentreren en geen buildomgeving opzetten.
Zelfs de installatie van NVIDIA's Jetpack is gestroomlijnd. Recensenten kregen een bijgewerkte versie om te installeren en na een paar eenvoudige instructies via een slimme GUI was alle software volledig opnieuw opgebouwd met slechts een paar stappen en een kopje koffie. Nogmaals, we zien dat NVIDIA dingen gemakkelijker maakt, zodat ontwikkelaars zich op hun werk kunnen concentreren in plaats van de bouwomgeving zelf te onderhouden.
Na een paar dagen dingen op te zetten en alles te testen, was ik erg onder de indruk van wat NVIDIA hier levert. De eerste Jetson TX1 was een geweldig product dat een behoefte aan snelle ontwikkeling vervulde met behulp van GPU-kernen om het zware werk voor diepgaande neurale netwerktoepassingen te doen. In zeer korte tijd heeft NVIDIA de lat hoger gelegd met een opvolger die de afhankelijkheid van de cloud kan verbreken met dezelfde vertrouwde ontwikkeltools en -technieken.
De technologie van de toekomst zal ons allemaal opwinden en inspireren. Producten zoals de Jetson TX2 zullen die toekomst mogelijk maken. De NVIDIA Jetson TX2 Developer Kit kost $ 599 voor bestellingen in de detailhandel en $ 299 voor studenten.
Zie op NVIDIA Embedded Developers portal
