menselijk oordeel Archieven - Digitaal Vermogen

Geschatte leestijd - 3 minuten

Belangrijke beslissingen worden steeds vaker overgelaten aan slimme computers. Dat is de kop van een recent artikel in de Volkskrant over kunstmatige intelligentie (KI) – of in goed Nederlands: Artificial Intelligence (AI). Het is niet het eerste krantenstuk dat geschreven is over de opkomst van algoritmen die zelfstandig een probleem kunnen oplossen en het zal zeker niet het laatste artikel zijn. Veel van dit soort publicaties hebben een ding gemeen: ze steken hun hooggespannen verwachtingen over AI niet onder stoelen of banken. Toch is die kunstmatige intelligentie voorlopig niets zonder ons menselijk oordeel.

Slim gebruik van kunstmatige intelligentie

AI wordt voor steeds meer verschillende doelen toegepast. Neem bijvoorbeeld het scannen van sollicitatiebrieven. Kunstmatige intelligentie ziet bijvoorbeeld bepaalde patronen op het gebied van woordgebruik en zinslengte. Aan de hand van die gegevens valt te voorspellen welke persoonlijkheid iemand heeft. Andere aansprekende voorbeelden zijn onder meer:

De politie wil kunstmatige intelligentie gebruiken om verdachten op te pakken vóórdat ze een misdaad plegen. Hiervoor zou bijvoorbeeld een combinatie nodig zijn van de volgende gegevens: beelden van camerasystemen, databases van gestolen auto’s, locaties waar vaak overvallen worden gepleegd of informatie over telefoons die criminelen vaak gebruiken. Zo valt crimineel gedrag mogelijk te voorspellen;
De Amerikaanse supermarktketen Target wist het koopgedrag van zwangere vrouwen te ontleden en ontdekte middels kunstmatige intelligentie al snel of iemand zwanger was. Saillant detail: de supermarkt stuurde kortingsbonnen voor babykleding naar een veertienjarig meisje, waardoor supermarkt Target eerder ontdekte dat ze zwanger was dan haar vader eerder;
Er is kunstmatige intelligentie specifiek ontwikkeld voor financiële markten. Deze AI leest het nieuws en zoekt daarin naar informatie die van belang is voor de beurs. Opvallend: deze software handelt vervolgens ook zelf;
Zelfrijdende auto’s leren steeds beter hoe ze veilig moeten rijden, door eerder rijgedrag te analyseren.

Menselijk oordeel

Al deze algoritmen en toepassingen hebben een ding gemeen: ze hebben de schijn van objectiviteit. We hebben geen bevooroordeelde agenten meer, want er is een computer die nu dit probleem oplost. Misschien krijgen straks nog meer sollicitanten een echte kans, want hun brief wordt niet op hun achternaam, maar op hun karakter geselecteerd. We krijgen alleen nog maar aanbiedingen die relevant voor ons zijn, want een algoritme heeft precies door waar onze behoeften liggen. Maar kunstmatige intelligentie zal nooit echt onafhankelijk en objectief worden. Daarvoor zien drie redenen:

Trainingsdata is keuze van de mens. Kunstmatige intelligentie leert op basis van data. Op basis van welke data er geleerd wordt, is een keuze van de mens. Peter Werkhoven, wetenschappelijk directeur van TNO, zegt het volgende in de Volkskrant: ‘Het begint met heel goed nadenken over je trainingsdata: zijn die schoon, zijn ze compleet, zijn ze waardenvrij?’ Daar wringt de schoen vaak: het vergaren van schone, complete en waardenvrije data is nog echt een uitdaging. En ben je niet erg optimistisch als je denkt dat de menselijke geest iets waardenvrijs kan bedenken?
Doelstelling is een menselijke keuze. Met data alleen heeft kunstmatige intelligentie nog niet voldoende brandstof om te leren. Het systeem moet een doel hebben. Het kiezen van zo’n doelstelling (misdaad voorkomen door patronen te herkennen) is een keuze die door mensen gemaakt moet worden.
Er is geen universele ethiek. De TNO-directeur zegt het volgende over ethische afwegingen. ‘En we moeten onze ethische uitgangspunten expliciet en afweegbaar maken voor de systemen.’ Ik heb slecht nieuws voor Werkhoven: er zijn geen universele, ethische, kaders. Er komt nooit een zelflerend algoritme waarin iedereen zich kan vinden.

Kortom: ook kunstmatige intelligentie is nog steeds afhankelijk van het menselijk oordeel. In dat opzicht doet de angst voor kunstmatige intelligentie denken aan die voor datagebruik of de digitale assistent. Misschien moeten we concluderen dat de angst voor kunstmatige intelligentie voorlopig overdreven is. En misschien moeten we daarom ook nu niet zo bang zijn voor AI.

→ Luister hier de Digitaal Vermogen podcast