Waarom we ons niet blind mogen staren op AI

AI is nog verre van foutloos

In het zevende dossier van Voordenken.be blikken we terug naar de Mathieu Gijbels Masterclass 2024 met als onderwerp ‘Hoe AI jouw business versterkt, vandaag én morgen’. Daarin deelden vier experts, Dado Van Peteghem, Steven Latré, Geoffrey Ceunen en Jesse Claes hun visie op de toekomst van ‘Artificial Intelligence’ (AI). Ze laten zien hoe AI onze wereld nu en in de toekomst verandert en welke kansen dat biedt voor jouw bedrijf.

In dit vierde deel van zijn keynote bespreekt Steven Latré, Vice President AI & Algorithms bij imec en professor aan de Universiteit Antwerpen, enkele kritische lessen voor bedrijven die AI willen implementeren. Aan de hand van verschillende voorbeelden laat hij zien hoe we kunnen leren van de uitdagingen en fouten die zich bij AI nog vaak voordoen. Benieuwd wat je kan opsteken uit deze voorbeelden en hoe je foutjes kan vermijden? Lees er meer over in deze blog.

De lessen uit het falen van AI

Steven vertelt over de ‘Darpa Challenge’ van twintig jaar geleden. Dit was een wedstrijd georganiseerd door het Amerikaanse ministerie van Defensie waarbij teams een zelfrijdende auto moesten ontwikkelen. Ondanks dat geen enkel team de eindstreep haalde, vormde deze uitdaging de basis voor latere doorbraken, waaronder de eerste zelfrijdende auto van Google. Hoewel de technologie sindsdien enorme vooruitgang heeft geboekt, blijft AI sterk afhankelijk van menselijke input en kunnen menselijke fouten dus altijd in AI-systemen terechtkomen, aldus Steven. Van zulke menselijke fouten zijn er tal van voorbeelden, één daarvan is de test met een zelfrijdende vrachtwagen, waarbij oude commando’s in de software voor een gevaarlijke situatie zorgde. Dit toont aan dat AI-systemen kwetsbaar blijven voor menselijke fouten, zeker bij complexe programmering en dat is een eerste les die hij ons wil leren. 

Een andere les is hoe AI soms onverwachte beslissingen neemt. Steven haalt het voorbeeld van Tesla aan, waarbij een zelfrijdende auto onverwacht een noodstop maakte in een tunnel en er een kettingbotsing ontstond. Hoewel AI in de meeste gevallen goed werkt, kunnen foutieve interpretaties van data soms leiden tot onverwachte en gevaarlijke situaties die ons als mens verrassen, omdat wij als persoon bepaalde zaken anders interpreteren.

TTPE-MathieuGijbels-Masterclass-20241015-WEB-103

AI is krachtig, maar de technologie blijft vatbaar voor menselijke fouten en vreemde interpretaties. AI vraagt om een kritische en zorgvuldige aanpak, maar het blijft iets dat we niet blindelings mogen vertrouwen.

Steven Latré
Vice President AI & Algorithms bij imec en professor aan de Universiteit Antwerpen

Wat kun je leren uit voorbeelden waarin AI-programmering fout liep? In het vierde deel van de keynote bespreekt Steven Latré de uitdagingen en aandachtspunten bij het implementeren van AI. Ontdek hoe jouw organisatie strategisch en veilig gebruik kan maken van AI door de video te bekijken.