Verantwoordelijkheid by design

Ik las vandaag op NOS dat een meerderheid van de Tweede Kamer generatieve AI wil verbieden op basisscholen. Daar gingen mijn tentakels direct van jeuken. Natuurlijk zijn verboden soms nodig. Het smartphoneverbod op scholen heeft bijvoorbeeld positieve effecten op concentratie en sociale interactie. Tegelijkertijd laat onderzoek zien dat zo’n verbod niet automatisch zorgt voor een betere mentale gezondheid.

Wie kinderen heeft, weet hoe dat werkt. Bij ons thuis bespreken we schermtijd, maken we afspraken en stellen we grenzen. Dat werkt best goed. Een tijdje. Totdat ze weer een creatieve manier hebben gevonden om te doomscrollen. En laten we eerlijk zijn, volwassenen zijn nauwelijks beter.

Maar er knaagt iets.

We hebben een complete industrie gebouwd die miljarden verdient aan het vasthouden van onze aandacht. Teams van specialisten onderzoeken hoe ze ons zo lang mogelijk kunnen laten scrollen. Vervolgens verwachten we dat kinderen daar zelf verstandig mee omgaan.
En als dat niet lukt? Dan verbieden we de telefoon.

Waarom kijken we zo weinig naar de makers?

In China worden digitale platforms verplicht om beschermende functies voor minderjarigen in te bouwen. Denk aan tijdslimieten en aangepaste inhoud. Dat systeem heeft absoluut zijn schaduwkanten, maar het uitgangspunt vind ik interessant. De verantwoordelijkheid ligt óók bij de ontwerper. Bij auto’s vinden we dat heel normaal. We stellen veiligheidseisen aan fabrikanten. We verwachten dat ze rekening houden met de gevolgen van hun ontwerp. Waarom accepteren we bij digitale diensten dan dat aandacht zo lang mogelijk wordt vastgehouden, terwijl ouders en scholen de gevolgen mogen oplossen? Het is alsof we een snoepwinkel naast een school zetten, de winkelier belonen voor ieder verkocht snoepje en vervolgens de kinderen een cursus zelfbeheersing aanbieden.

De rommel ruimen we later wel op

Diezelfde gedachte kwam onlangs terug toen ik een bericht over zwerfafval las. Ik kan me mateloos ergeren aan mensen die een leeg blikje uit hun autoraam gooien. Hoe moeilijk is het om je eigen rommel op te ruimen? De verantwoordelijke voor de enorme hoeveelheid wegwerpverpakkingen laat die opdraaien voor de kosten van opruimen en verwerken. Maak eens een rekenmodel voor de schade aan onze omgeving, Met statiegeld en producentenverantwoordelijkheid erkennen we gelukkig dat de verantwoordelijkheid van een fabrikant verder gaat dan de verkoop.

Als we dat principe dan toch begrijpen, kunnen we misschien ook even naar de fossiele industrie kijken: tijdens de energiecrisis van 2022 maakten beursgenoteerde olie- en gasbedrijven wereldwijd naar schatting 916 miljard dollar nettowinst. Terwijl huishoudens hun energierekening nauwelijks konden betalen, beleefde de sector een uitzonderlijk winstgevend jaar. Dit jaar hangt de vlag weer uit bij de fossiele industrie.

In crisistijden leer je je echte vrienden kennen, zeggen ze. Sommige vrienden blijken vooral heel goed aan je te verdienen.

Ondertussen betalen we als samenleving voor een belangrijk deel de rekening van klimaatverandering. Onderzoekers hebben zelfs voorstellen uitgewerkt waarbij grote fossiele producenten jaarlijks honderden miljarden aan klimaatschade zouden compenseren.

En wat vragen we van burgers?
Korter douchen. Minder vliegen. De thermostaat omlaag.

Allemaal zinvol. Maar ergens blijft het absurd dat we zo veel nadruk leggen op individuele verantwoordelijkheid, terwijl degenen die verdienen aan de producten veel meer invloed hebben op hoe die producten worden gemaakt.

Verantwoordelijkheid by design

We zijn ongelooflijk goed geworden in het ontwikkelen van producten en technologieën die waarde creëren. Zodra de maatschappelijke gevolgen zichtbaar worden, blijkt de verantwoordelijkheid ineens een ingewikkeld vraagstuk.

De voordelen zijn vaak direct en de winsten goed meetbaar. De nadelen komen later en de rekening belandt regelmatig bij de burger.

Dan organiseren we campagnes, stellen we regels op en voeren we verboden in. We blijven dweilen terwijl we weten waar de kraan zit.

Wat zou er gebeuren als we verantwoordelijkheid vanaf het begin onderdeel maken van het ontwerp?

Als een digitaal platform niet alleen wordt afgerekend op hoeveel aandacht het vasthoudt, maar ook op wat het met mensen doet? Als een producent vanaf de eerste schets rekening moet houden met de volledige levensduur van zijn product? Als bedrijven de maatschappelijke schade van hun activiteiten daadwerkelijk in hun verdienmodel moeten meenemen?

Dat vraagt ook iets van ons als samenleving. Van de regels die we stellen, van wat we bereid zijn te betalen en van het gedrag dat we zelf accepteren. Het meeste van de bedrijven die de kennis, middelen en invloed hebben om het anders te doen.

Terug naar AI op de basisschool.

Ik begrijp heel goed dat we kinderen willen beschermen. Dat moeten we ook doen. Maar ze groeien op in een wereld waarin AI niet meer zal verdwijnen. We kunnen die technologie buiten het klaslokaal houden, terwijl ze daarbuiten gewoon verder ontwikkelt.

Laten we die bescherming daarom ook organiseren op de plek waar technologie ontstaat.

Verantwoordelijkheid hoort geen reparatie achteraf te zijn. Het hoort een ontwerpeis te zijn.

Doorbreek het patroon. Maak bedrijven verantwoordelijk voor de gevolgen van hun producten. Zolang anderen de schade moeten oplossen, verandert er niets.

En ergens zit alweer iemand aan een tekentafel. 
Het volgende verdienmodel is bijna klaar.
De rommel ruimen we later wel op.



Bronnen
Oliebedrijven verdienen grof geld aan de oorlog: 5,4 miljoen euro per dag in België

Recordwinsten voor oliebedrijven, betaald door burgers – terwijl Shell niets bijdraagt | Opinie | BD.nl

‘Spinazieversie’ van TikTok beschermt Chinese kinderen. Kunnen wij er iets van leren?

Linkedin bijdrage – Zwerfafval Novi8 Water rondom Stadions PSV, Ajax en AZ

Geen AI voor kinderen in het basisonderwijs, zegt Tweede Kamer

Gsm-verbod op school verbetert mentale gezondheid niet: “Jongeren halen schermtijd thuis in”

Factsheet telefoonverbod.pdf

Bij dit schrijven heb ik AI ingezet om de tekst te redirigeren en beter te structureren, 

Vind ik leuk