top of page

De catastrofale valkuilen van AI

Okay, als je er na het lezen van deze titel nog steeds bent dan ben je écht geïnteresseerd in het onderwerp. Laten we dus maar gelijk met de deur in huis vallen dit stuk bevat geen enkele absolute waarheid. Het is een eerste poging om meer te begrijpen van de risico’s van AI in een wereld van aandeelhouderwaarde-gedreven-technologie-giganten (AGTG’s). Deze AGTG's hebben een bovengemiddelde invloed op onze maatschappij. En zij worden aangestuurd door een kleine groep bestuurders die door de aandeelhouders maar op één ding worden afgerekend. De Koers. De stelling die we willen verkennen is de volgende: met AI is niet de technologie, maar de belangen van de makers van deze technologie, het grootste gevaar.

‘’Met AI is niet de technologie, maar de belangen van de makers van deze technologie, het grootste gevaar.’’

Wanneer we het hebben over AGTG’s hebben we het voor het gemak even over de Westerse big 5 in technologie: Apple, Microsoft, Alphabet (Google), Amazon en Meta Platforms (Facebook, Instagram en WhatsApp). Deze bedrijven hebben gecombineerd een marktwaarde (op het moment van schrijven) van een slordige (tromgeroffel) 9 biljoen dollar.

‘’9.000.000.000.000 dollar…’’

Dat is meer dan het bruto binnenlands product (BBP) van alle landen behalve de Verenigde Staten en China. Even ter referentie Japan is de op twee na grootste economie met ongeveer een BBP van 5 biljoen dollar.


Dat deze AGTG’s veel invloed hebben blijkt niet alleen uit hun financiële positie maar ook hun langdurige en ingewikkelde dans met toezichthouders en overheden. Dit zijn eigenlijk de enige instanties die nog enigszins tegenwicht kunnen bieden aan deze mastodonten. Echter is het wel als de olifant en de bereider. De olifant (de AGTG) laat zich een beetje sturen door de bereider (toezichthouder of overheid) maar wanneer ze er geen zin meer in hebben stampen ze lekker zonder enige consequentie de andere kant op. En er is geen bereider die dat kan stoppen.


Hoe komen we tot deze cynische vaststelling? Simpel… De grootste boete die ooit aan een AGTG is uitgedeeld was in 2018 en betrof ongeveer een bedrag van 5 miljard dollar. Dan denk je… best aardig. Echter… Dat bedrag vertegenwoordigde ongeveer 11 weken cashflow van het bedrijf dat dit moest betalen. Het is voor aandeelhouders en in het verlengde daarvan de bestuurders dus simpelweg té lucratief om niet te kiezen voor het geld.

‘’Het is een beetje alsof parkeren in Amsterdam je voor de hele dag 100 euro kost maar je (gecorrigeerd voor de pakkans) bij het overtreden van de wet slechts een boete van 0,25 cent krijgt.’’

Het is een beetje alsof parkeren in Amsterdam je voor de hele dag 100 euro kost maar je (gecorrigeerd voor de pakkans) bij het overtreden van de wet (niet betalen) een boete van slechts 0,25 cent krijgt. Dan is de verleiding om de wet te breken wel héél groot. Vanuit het oogpunt van contextuele ethiek kun je het deze bestuurders dus ook bijna niet kwalijk nemen (we zeggen nadrukkelijk bijna) dat ze deze verleiding niet weerstaan.


Dat het de AGTG’s voornamelijk om de aandeelhouderswaarde gaat is de afgelopen jaren in verschillende hoorzittingen ook gebleken. Het meest schrijnende voorbeeld vonden we misschien wel het stelselmatig wegpoetsen van de effecten van Instagram op jonge meiden door Meta Platforms. Enerzijds de PR-machine op gang brengen om hun reputatie te beschermen. Anderzijds elke vorm van onderzoek naar de vermeende relatie tussen sociale media en suïcide bij jonge meisjes frustreren. Het was de angst voor een zakkende koers die de richting bepaalde.

‘’Dat ze elke vorm van onderzoek naar de vermeende relatie tussen sociale media en suïcide bij jonge meisjes frustreren.’’

En zo komen we weer uit op onze stelling. De financiële belangen van de AGTG’s zijn zo groot dat het reguleren van AI extreem zal worden gefrustreerd wanneer dit de aandeelhouderswaarde zelfs maar negatief zou kunnen beïnvloeden. Deze frustratie zal leiden tot vertraging, deze vertraging voor onnodige maatschappelijke schade.

‘’Deze frustratie zal leiden tot vertraging, deze vertraging voor onnodige maatschappelijke schade.’’

Zelf zien wij de grootste risico’s in het beïnvloeden van publieke informatievoorziening en het democratisch proces. Het ‘’Skynet (Terminator referentie) AI neemt de wereld over’’ scenario kunnen we misschien minder goed overzien maar lijkt niet het grootste korte termijn probleem. De economische ontwrichting op micro en macroniveau is ook aanwezig maar dit zie je vaker met de introductie van impactvolle technologie. Het komt wat ons betreft echt neer op de aantasting van de instituten die ook nog eens dé partij zijn dit moeten reguleren.

Is er dan geen enkele oplossing? Jawel. Er zijn meerdere oplossingen. Maar die zitten bijna allemaal op systeemniveau. De ontwikkeling van de technologie kunnen we hooguit remmen, niet stoppen. De geest is uit de fles. Wij zien daarom twee belangrijke oplossingsrichtingen.

''De geest is uit de fles.''

Enerzijds begint het bij het versterken van onze instituten. Overheden en toezichthouders hebben het op dit moment behoorlijk lastig maar we mogen ze niet (laten) opgeven. Een sterke overheid (niet per se een grote overheid) met een duidelijke taak rondom het reguleren van technologieën zoals AI vraagt om transformatie. Deze transformatie zal vooral gericht moeten zijn op het bijbenen van het tempo waarin de ontwikkelingen plaatsvinden. De snelheid van handelen die nodig is om te kunnen vertragen moet beter! Daarnaast is er expertise nodig. We weten niet of een ministerie de oplossing is maar een departement dat in samenwerking met de markt expertise kan opbouwen en voldoende autonomie krijgt om snel te handelen lijkt ons een eerste goede stap.


Anderzijds zullen we de beweging van enkel aandeelhouderswaarde naar waarde voor meerdere belanghebbenden verder moeten doorzetten (van shareholder naar stakeholder). Wij werken zelf met het idee van waardelenzen. Het gaat hierbij om het toevoegen van meerdere perspectieven in de besturing van een organisatie. Je hebt een intern en extern perspectief waarin je medewerkers, aandeelhouders, klanten en in het verlengde daarvan de maatschappij allemaal een stem geeft. Daarnaast neem je zowel het perspectief op de toekomst als het verleden nadrukkelijk mee in de besluitvorming.


In de AGTG’s moeten we vooral een stem geven aan de klanten en maatschappij van de toekomst. Wat vinden zij waardevol? Wat denken we dat zij over de besluitvorming van vandaag zouden zeggen in 2030, 2040 of 2050? Het is een gekke gedachte maar mijn dochter gaat het jaar 2100 naar alle waarschijnlijkheid halen. De bestuurlijke horizon van een AGTG rijkt doorgaans niet verder dan het komende kwartaal. De enige manier om de AGTG’s in deze trend mee te krijgen is om de nadrukkelijke voordelen die deze besturing heeft ‘’bottom-up’’ over de bühne te krijgen aangesterkt met regel en wetgeving. Beiden nemen tijd in beslag.


Wij zullen ons op zeer lokaal niveau blijven inzetten op het ondersteunen van beiden sporen. Dat begint bij dit soort beschouwingen die hopelijk leiden tot de juiste gedachten en gedragingen. Soms hebben kleine acties onevenredig grote effecten. Daar hebben we onze hoop op gevestigd.


(Dit stuk is 100% geschreven door een mens).

Comments


bottom of page