Tesla zet in op ‘black box’-AI voor robotaxi’s: wat is het en waarom is het belangrijk voor zelfrijdende technologie?

Tesla staat op het punt het langverwachte prototype van zijn robotaxi, de “Cybercab”, te onthullen. Dit markeert een keerpunt voor de ambities van de elektrische autogigant op het gebied van autonoom rijden.

Terwijl Elon Musk Tesla verder drijft in zelfrijdende technologie, zet het bedrijf in op een riskante, AI-gestuurde aanpak die bekendstaat als “black box” AI.

Terwijl concurrenten als Waymo en Cruise voor hun veiligheid vertrouwen op een combinatie van sensoren en kaarten, vereenvoudigt Tesla’s aanpak het proces, maar brengt het ook aanzienlijke uitdagingen met zich mee, met name bij het navigeren door zeldzame rijsituaties die bekendstaan als ‘edge cases’.

In tegenstelling tot zijn concurrenten leunt Tesla’s zelfrijdende systeem zwaar op ‘computer vision’, een methode waarbij camera’s het menselijk zicht simuleren, gecombineerd met end-to-end machinaal leren, een vorm van kunstmatige intelligentie die ruwe data verwerkt om rijbeslissingen te nemen.

Deze aanpak maakt de bestaande ‘Full Self-Driving’ (FSD)-functie van Tesla mogelijk, die ondanks de naam nog steeds menselijk toezicht vereist.

Het bedrijf wil met behulp van dezelfde technologie volledig autonome robotaxi’s bouwen.

Wat is black box AI?

Met ‘black box’-AI wordt een vorm van kunstmatige intelligentie bedoeld waarbij het besluitvormingsproces niet eenvoudig te interpreteren of transparant is.

In feite werkt het als een ‘black box’. Er wordt input ingevoerd en er komen beslissingen uit, maar het is lastig om de logica of redenering achter die beslissingen te begrijpen.

De grootste uitdaging bij black box AI is dat als er iets misgaat, bijvoorbeeld bij een verkeerde inschatting of een ongeluk, het lastig is om te achterhalen waarom de fout is opgetreden. Daardoor is het lastig om soortgelijke problemen in de toekomst te voorkomen.

Dit gebrek aan transparantie leidt tot zorgen over de veiligheid, vooral in kritieke situaties die bekend staan als ‘edge cases’, waarbij onvoorspelbare rijomstandigheden of zeldzame scenario’s zich voordoen.

In tegenstelling tot transparantere AI-systemen kan black box-AI het lastig maken om problemen op te lossen en de betrouwbaarheid te verbeteren.

Wat experts denken over Tesla’s strategie

Toch hebben experts uit de industrie, waaronder voormalige Tesla-ingenieurs, gewezen op belangrijke tekortkomingen in Tesla’s strategie.

Een groot probleem is de onvoorspelbaarheid van ‘black box’-AI, waarbij de besluitvorming niet transparant is.

Als er iets misgaat, is het lastig om de oorzaak van de fout te achterhalen. Dat maakt het lastiger om veiligheidsrisico’s aan te pakken.

Bedrijven als Waymo gebruiken daarentegen extra sensoren, zoals radar en lidar, om een duidelijker beeld te krijgen van de omgeving van het voertuig en zo een veiligere werking te garanderen.

Concurrenten van Tesla, waaronder Waymo van Alphabet, Zoox van Amazon en Cruise van General Motors, hebben al robotaxi-vloten in een aantal steden gelanceerd, maar Tesla hoopt zich te onderscheiden door meer betaalbare zelfrijdende voertuigen aan te bieden die overal kunnen rijden.

Deze gedurfde stap komt op een kritiek moment voor Tesla, aangezien het bedrijf te maken heeft met een teruglopende verkoop van elektrische auto’s en toenemende concurrentie van Chinese autofabrikanten.

Musk heeft al lang de komst van volledig autonome voertuigen beloofd, maar hij heeft zijn visie nog niet waargemaakt.

In 2019 voorspelde hij dat Tesla in 2020 over operationele robotaxi’s zou beschikken, maar die mijlpaal is nog niet bereikt.

De aankondiging van de onthulling van de robotaxi deze week volgt op Tesla’s besluit om de plannen voor een elektrisch voertuig voor de massaproductie van $ 25.000 te schrappen. Dit roept vragen op over de toekomstige prioriteiten van het bedrijf.

Tesla’s afhankelijkheid van AI-gestuurde computer vision brengt unieke uitdagingen met zich mee bij het beheren van ‘edge cases’: zeldzame maar kritieke rijscenario’s die zelfs geavanceerde systemen moeilijk aankunnen.

Ondanks deze obstakels heeft Tesla’s strategie voor zelfrijdende auto’s ook aanhangers.

Ondertussen levert Tesla’s uitgebreide wagenpark met camera’s het bedrijf enorme hoeveelheden data op, waardoor het zijn zelfrijdende technologie sneller kan verfijnen dan concurrenten met kleinere wagenparken.

Critici beweren echter dat Tesla’s exclusieve focus op AI en computer vision het bedrijf kwetsbaar maakt voor onvoorspelbare fouten die gevaarlijke uitkomsten kunnen opleveren.

Terwijl de race om autonoom rijden voortduurt, staat Tesla onder toenemende druk om Musks beloften waar te maken en tegelijkertijd de veiligheid en betrouwbaarheid van zijn robotaxitechnologie te garanderen.

Hoewel de potentiële beloningen enorm zijn, zijn de risico’s van Tesla’s ‘black box’-AI-aanpak net zo groot.