Achtergrond: Coded Bias bewijst AI niets zonder menselijk oordeel

Geschatte leestijd - 3 minuten

Nieuw op Netflix: Coded Bias. In deze documentaire wordt aan het licht gebracht dat sommige algoritmen, zoals die voor gezichtsherkenning, racistisch zijn. Het wordt pijnlijk duidelijk: kunstmatige intelligentie (ook wel AI genoemd) is niets zonder menselijk oordeel.

Documentaire over AI

Codes Bias gaat over (onbedoeld) racistische en seksistische algoritmen, die een gigantische impact hebben op het leven van burgers. Documentairemaker Shalini Kantayya – maar ook computerwetenschapper en activist Joy Buolamwini (verbonden aan het prestigieuze MIT) – laten zien dat er vooroordelen sluipen in de slimme algoritmes.

Een aantal voorbeelden uit Coded Bias die laten zien hoe groot de impact van AI is op het dagelijks leven:

  • Gezichtsherkenning-software die alleen witte gezichten herkent;
  • Docenten die ontslagen worden, omdat ze niet zouden presteren – althans, volgens een geheim algoritme;
  • Software die de flatdeur opendoet, maar bij de gezichtscontrole meteen ook even checkt of iemand wel zijn of haar huur heeft betaald.

AI is niet objectief

Het uitgangspunt bij deze toepassingen van AI is altijd het idee dat AI objectief is. Dat is een misverstand. Kunstmatige intelligentie zal nooit echt onafhankelijk en objectief worden. Daarvoor zien drie redenen:

  • Trainingsdata is keuze van de mens. Kunstmatige intelligentie leert op basis van data. Op basis van welke data er geleerd wordt, is een keuze van de mens. Peter Werkhoven, wetenschappelijk directeur van TNO, zegt het volgende in de Volkskrant: ‘Het begint met heel goed nadenken over je trainingsdata: zijn die schoon, zijn ze compleet, zijn ze waardenvrij?’ Daar wringt de schoen vaak: het vergaren van schone, complete en waardenvrije data is nog echt een uitdaging. En ben je niet erg optimistisch als je denkt dat de menselijke geest iets waardenvrijs kan bedenken?
  • Doelstelling is een menselijke keuze. Met data alleen heeft kunstmatige intelligentie nog niet voldoende brandstof om te leren. Het systeem moet een doel hebben. Het kiezen van zo’n doelstelling (misdaad voorkomen door patronen te herkennen) is een keuze die door mensen gemaakt moet worden.
  • Er is geen universele ethiek. De TNO-directeur zegt het volgende over ethische afwegingen. ‘En we moeten onze ethische uitgangspunten expliciet en afweegbaar maken voor de systemen.’ Ik heb slecht nieuws voor Werkhoven: er zijn geen universele, ethische, kaders. Er komt nooit een zelflerend algoritme waarin iedereen zich kan vinden.

Conclusie

Kortom: ook kunstmatige intelligentie is nog steeds afhankelijk van het menselijk oordeel. Wil je meer weten over AI? In dit stuk vind je vier inspirerende voorbeelden van AI-toepassingen. En hier vind je alle stukken over AI die ik schreef.


Vind je het tof wat je gelezen hebt en zou je de redactie willen ondersteunen. Ja?

Voor 2,99 Euro in de maand help je ons al!

(Je kunt de maandelijkse betaling op elk gewenst moment stopzetten.)

Jouw donatie wordt zeer gewaardeerd!


>> Meer over het optimaliseren van jouw Digitaal Vermogen lezen? Download de digitale bundel van drie boeken ter waarde van 75.- Euro. Tijdelijk helemaal voor niets! Download ze hier …

>> Masterclass of workshop digitale transformatie boeken? Kijk dan hier …

>> Kijk ook naar Trends In Business met de aflevering over digitale transformatie


Bekijk alle afleveringen van Live On Stage

Ben je ondernemer of werkzaam in sport, media en entertainment?
Geen KO oplopen tijdens de coronacrisis? Kijk naar Live On Stage!

Bekijk ook

Verbinding hebben met fans en bezoekers is essentieel voor het businessmodel van festivals en evenementen. Hoe je moet veranderen? Aan de hand van 5 doelen, 9 stappen en 12 analyses is het mogelijk duurzame relaties aan te leggen en het businessmodel veilig te stellen.
Op 16 april 2020 sprak ik tijdens Connecting The Dots. Het online event van Momice. Samen met Rutger Bremer en Robert Daverschot keek ik naar het Digitaal Vermogen en het groeien buiten je netwerk (Grow beyond your network) voor (B2B-)evenementen-organisatoren. In de keynote-sessie kwamen de volgende punten kwamen aan bod. Hier een samenvatting en transcript van de sessie in zes onderdelen.

Check ook

Boeken van Denis Doeland
De boeken van Denis Doeland zijn ook digitaal als bundel te downloaden
verkrijgbaar via scribd en issuu
De boeken van Denis Doeland zijn digitaal te lezen bij Scribd en Issuu
bestel de boeken van Denis Doeland bij Bol.com
Boeken van Denis Doeland zijn verkrijgbaar via bol.com
De boeken van Denis Doeland verkrijgbaar bij managementboek.nl
Boeken van Denis Doeland zijn verkrijgbaar via Managementboek

Plaats jouw reactie