Coded Bias bewijst AI niets zonder menselijk oordeel

🔊 Voorlezen? Klik hier

Geschatte leestijd - 3 minuten

Nieuw op Netflix: Coded Bias. In deze documentaire wordt aan het licht gebracht dat sommige algoritmen, zoals die voor gezichtsherkenning, racistisch zijn. Het wordt pijnlijk duidelijk: kunstmatige intelligentie (ook wel AI genoemd) is niets zonder menselijk oordeel.

Documentaire over AI

Codes Bias gaat over (onbedoeld) racistische en seksistische algoritmen, die een gigantische impact hebben op het leven van burgers. Documentairemaker Shalini Kantayya – maar ook computerwetenschapper en activist Joy Buolamwini (verbonden aan het prestigieuze MIT) – laten zien dat er vooroordelen sluipen in de slimme algoritmes.

Een aantal voorbeelden uit Coded Bias die laten zien hoe groot de impact van AI is op het dagelijks leven:

• Gezichtsherkenning-software die alleen witte gezichten herkent;
• Docenten die ontslagen worden, omdat ze niet zouden presteren – althans, volgens een geheim algoritme;
• Software die de flatdeur opendoet, maar bij de gezichtscontrole meteen ook even checkt of iemand wel zijn of haar huur heeft betaald.

AI is niet objectief

Het uitgangspunt bij deze toepassingen van AI is altijd het idee dat AI objectief is. Dat is een misverstand. Kunstmatige intelligentie zal nooit echt onafhankelijk en objectief worden. Daarvoor zien drie redenen:

• Trainingsdata is keuze van de mens. Kunstmatige intelligentie leert op basis van data. Op basis van welke data er geleerd wordt, is een keuze van de mens. Peter Werkhoven, wetenschappelijk directeur van TNO, zegt het volgende in de Volkskrant: ‘Het begint met heel goed nadenken over je trainingsdata: zijn die schoon, zijn ze compleet, zijn ze waardenvrij?’ Daar wringt de schoen vaak: het vergaren van schone, complete en waardenvrije data is nog echt een uitdaging. En ben je niet erg optimistisch als je denkt dat de menselijke geest iets waardenvrijs kan bedenken?
• Doelstelling is een menselijke keuze. Met data alleen heeft kunstmatige intelligentie nog niet voldoende brandstof om te leren. Het systeem moet een doel hebben. Het kiezen van zo’n doelstelling (misdaad voorkomen door patronen te herkennen) is een keuze die door mensen gemaakt moet worden.
• Er is geen universele ethiek. De TNO-directeur zegt het volgende over ethische afwegingen. ‘En we moeten onze ethische uitgangspunten expliciet en afweegbaar maken voor de systemen.’ Ik heb slecht nieuws voor Werkhoven: er zijn geen universele, ethische, kaders. Er komt nooit een zelflerend algoritme waarin iedereen zich kan vinden.

Conclusie

Kortom: ook kunstmatige intelligentie is nog steeds afhankelijk van het menselijk oordeel. Wil je meer weten over AI? In dit stuk vind je vier inspirerende voorbeelden van AI-toepassingen. En hier vind je alle stukken over AI die ik schreef.

Vind je het tof wat je gelezen hebt en zou je de redactie willen ondersteunen. Ja?

Voor 2,99 Euro in de maand help je ons al!

(Je kunt de maandelijkse betaling op elk gewenst moment stopzetten.)

You need to provide a cancel URL page in the settings

Jouw donatie wordt zeer gewaardeerd!

>> Meer over het optimaliseren van jouw Digitaal Vermogen lezen? Download de digitale bundel van drie boeken ter waarde van 75.- Euro. Tijdelijk helemaal voor niets! Download ze hier …

>> Masterclass of workshop digitale transformatie boeken? Kijk dan hier …

>> Kijk ook naar Trends In Business met de aflevering over digitale transformatie

Bekijk alle afleveringen van Live On Stage

Bekijk ook

Check ook