Geloof niet wat je leest

Het is gerust verontrustend te noemen dat we, zonder het te beseffen, al leven in een tijd waarin de mens niet helemaal de controle meer heeft over de informatie die we verspreiden. Harari toont overtuigend aan dat algoritmen er, zelfstandig, voor hebben gezorgd dat er massale moordpartijen hebben plaatsgevonden. Algoritmen, getraind om te zorgen voor veel mogelijk kliks, stuwen (nep)berichten op die de meeste verontwaardiging oproepen. Of ze waar zijn of niet. De waarheid trouwens, is ook niet het eerste doel van informatie. Informatie is vooral bedoeld om te ordenen.Dat de verantwoordelijkheid desondanks nog steeds bij de mensen achter de socialemediaplatforms ligt is niet relevant voor het gegeven dat AI zonder tussenkomst van de mens al fatale beslissingen kan nemen.

Mensen zijn de machtigste wezens op aarde omdat ze in staat zijn verbonden te sluiten met elkaar door verhalen. Hierover schreef Harari al in Sapiens. Hoe meer mensen in een verhaal geloven hoe massaler het verbond. Religies zijn hiervan een mooi voorbeeld. Ze verbinden alle mensen die in dezelfde religie geloven.
Naarmate het makkelijker werd om informatie te verspreiden, bereikten deze verhalen steeds makkelijker meer mensen. Het boek werd het eerste massamedium dankzij de boekdrukkunst. Ineens was men in staat om een groter publiek te bereiken. Met direct al kwalijke gevolgen door verzonnen verhalen op te dissen en te verspreiden. De heksenverbrandingen konden plaatsvinden dankzij de snelle verspreiding van insinuaties en complottheorieën.
Via kranten (de eerste kranten schijnen ontstaan te zijn in de republiek der Verenigde Nederlanden), radio en televisie komt Harari bij internet en uiteindelijk AI.
Informatie vertelt niet per se de waarheid, maar is voornamelijk een manier om te ordenen. En dit is misschien wel cruciaal in dit boek. Degenen die controle hebben over de informatie hebben ook de controle over de macht. Dictaturen hielden en houden de controle door manipulatie van informatie. In het verleden moest deze informatie nog door mensen worden verwerkt, dus volledige controle was zelfs onder Stalin niet mogelijk. Zal AI daar verandering in kunnen brengen? AI kan veel sneller, en op het eerste gezicht, accurater controleren.
Gezichtsherkenning wordt al gebruikt in verschillende landen, waaronder China en Iran. Zonder tussenkomst van mensen - er hoeven geen mensen achter beeldschermen plaats te nemen om iets met die beelden te doen - krijgen vrouwen in Iran, die ongesluierd in de auto zitten een sms zodra is gesignaleerd dat ze zijn betrapt.
Zijn mensen in staat om AI te controleren? Kan (en zal) AI worden gebruikt door goed- of door kwaadwilligen? Wat zullen de consequenties zijn? Zullen democratieën of juist dictaturen wel varen bij de toenemende mogelijkheden van AI?
Harari weet moeilijke materie zeer inzichtelijk te maken, zodat ook Nexus, net als Sapiens, behoorlijk toegankelijk is.
Nexus is echter een stuk verontrustender dan Sapiens. Niettemin is dit boek een aanrader voor iedereen die meer inzicht en meer grip wil krijgen op wat mensen bewoog en beweegt en hoe informatie ons hierin stuurt of dwarsboomt.