Racistische bruggen, twijfelende computers en Ryan Gosling

In het Financieele Dagblad (FD) van 21 februari 2019 staan enkele voorbeelden genoemd van algoritmes in een artikel met de onheilspellende kop: Raad van Europa: algoritmes discrimineren 'nieuwe klassen van mensen'. Het voorbeeld van Amazon.com bijvoorbeeld,  dat “de dagelijkse lawine aan cv's” aanpakte, en stiekem een algoritme uitprobeerde om geschikte kandidaten te vinden. Na diverse pogingen is de ‘solicitatierobot’ in de kast gezet, omdat deze iedere keer  “een onuitroeibare voorkeur voor mannen” bleek te ontwikkelen. Maar dat is niet het einde van dit verhaal, want in de commentaarsectie verwijst iemand naar een ander artikel in het FD, een opiniestuk (van 11 november 2018), Algoritmes kunnen discriminatie juist beperken, maar alleen met goede data, waarin wordt uitgelegd waar de oplossing kan worden gevonden. Het is precies zoals Hannah Fry elk hoofdstuk van Algoritmes aan de macht aanpakt, een introductie met een of meer aansprekende voorbeelden, en net als je denkt “waarom doen we dat niet altijd en overal zo?” laat Fry zien waarom we dat niet altijd en overal zo moeten willen toepassen, om vervolgens met oplossingen of oplossingsrichtingen af te sluiten. Oplossingen die vaak bestaan uit mens én machine, want hoe slecht een algoritme vaak blijkt te werken, mensen doen het vrijwel nooit beter.  

Fry grijpt je in de Inleiding al bij de kladden door het bijvoeglijke naamwoord racistisch te gebruiken om bruggen mee te beschrijven. Want ja, die bestaan: racistische bruggen. Hoe dat zo komt? Omdat Robert Moses, de planoloog, er op die manier voor wilde zorgen dat het prachtige nationale park op Jones Beach, gelegen op Long Island, slechts door rijke, witte Noord-Amerikanen zou worden bezocht, Zij zouden namelijk, gezeten in hun eigen auto probleemloos onder de honderden, nauwelijks drie meter boven het wegdek hangende bruggen, doorzoemen in tegenstelling tot de autoloze mensen uit de zwarte buurten, die het park graag met de bus zouden willen bereiken. Bussen met een hoogte van drie meter en zestig centimeter. Bijna net zo verbijsterend is het verhaal van de wijze waarop Deep Blue (van IBM) - voor de vertaler om de een of andere reden een ‘hij’ - Gary Kasparov versloeg: (te) lang ‘nadenken’ door Deep Blue.   Fry belooft ons in Macht, het eerste hoofdstuk, dat zij zal laten zien  

‘[...] hoe algoritmes in bijna alle aspecten van het moderne leven zijn geslopen - van gezondheid en misdaad tot transport en politiek. Ondertussen hebben we het op de een of andere manier klaargespeeld  om er tegelijkertijd geringschattend over te doen, erdoor geïntimideerd te worden en ontzag te hebben voor hun capaciteiten. Het eindresultaat is dat we geen idee hebben hoeveel macht we afstaan, en of we de boel uit de hand hebben laten lopen.’  

Aan de hand van de onderwerpen macht, data, recht, geneeskunde, auto’s (vergeet voorlopig maar dat je in je zelfrijdende auto kunt stappen om al lezend werk, vrienden of vakantieplek te bereiken), misdaad en kunst komt Fry haar belofte na. Fry legt ons de huidige stand van zaken met behulp van talloze begrijpelijke, aansprekende, vaak wenkbrauwfronsende voorbeelden uit, en doet dat zo duidelijk dat iedereen vervolgens in staat is om mee te denken over de toekomst. Want dat is waarop ze hoopt:  

‘Een toekomst waarin we computers niet meer zien als objectieve meesters, maar ze gaan behandelen zoals we elke bron van macht zouden behandelen. Door hun beslissingen te betwijfelen, hun motieven nauwkeurig te bekijken, onze emoties te erkennen, te eisen dat ze bekendgemaakt wordt wie ervan zal profiteren, ze verantwoordelijk te houden voor hun fouten, en te weigeren achterover te leunen.’  

Want wie dacht dat we het binnenkort zonder menselijke denkkracht kunnen doen, die vergist zich deerlijk. De onontkoombare conclusie aan het eind van Algoritmes aan de macht is: ‘[...] in het tijdperk van het algoritme zijn mensen nog nooit zo belangrijk geweest.’  

Ook fijn: een boek over algoritmes waarin twee uur lang naar Ryan Gosling mag worden gestaard (kunst)!