De bedrijven achter kunstmatige intelligentie zijn verwikkeld geraakt in een gevaarlijke race naar ’steeds krachtiger digitale breinen die niemand, zelfs hun makers niet, kunnen begrijpen, voorspellen of op een geloofwaardige manier onder controle houden’, waarschuwen bekende ondernemers en wetenschappers in een open brief aan big tech-bedrijven en de Amerikaanse overheid.
„We moeten onszelf afvragen of we het moeten toelaten dat machines onze informatiekanalen laten overstromen met propaganda en onwaarheden”, staat in de brief die behalve door Elon Musk en Steve Wozniak ook is ondertekend door historicus en schrijver Yuval Harari en tientallen deskundigen op het gebied van kunstmatige intelligentie. „Moeten we al het werk laten wegautomatiseren, inclusief de banen die voldoening bieden? Moeten we niet-menselijke breinen ontwikkelen die ons uiteindelijk in aantal zullen overtreffen, ons overbodig maken en ons vervangen? Moeten we het risico lopen dat we onze beschaving verliezen? Deze beslissingen moeten niet worden genomen door ongekozen leiders van technologiebedrijven.”
Lancering van nieuwe systemen pauzeren
In de brief wordt voorgesteld het voorbereiden van de lancering van nieuwe systemen met kunstmatige intelligentie, zoals GPT-4 dat door Microsoft wordt gebruikt of Google’s Bard, met zes maanden te pauzeren. Voordat systemen echt slimmer kunnen worden dan mensen moeten eerst toezicht, regels en veiligheidsprotocollen worden ontwikkeld, plus een systeem met ’watermerken’ bij informatie, zodat mensen het kunnen zien als die afkomstig is van kunstmatige intelligentie.
Ophef ontstond vorige week toen onderzoekers meldden dat ze bij het zelflerende taalmodel GPT-4 ’vonken’ van mensachtige intelligentie hadden gezien. Slimme systemen konden tot nu toe alleen maar slim zijn op een gebied waar ze door mensen voor waren ’getraind’, terwijl ze buiten die specialisatie volstrekt onbenullig bleven. Onderzoekers van OpenAI en de Universiteit van Pennsylvania concludeerden deze week ook dat bij 80 procent van alle banen minstens 10 procent van het werk zal worden beïnvloed door kunstmatige intelligentie. Van 19 procent van de banen verandert meer dan 50 procent van het werk.
Opmerkelijk veel vooraanstaande onderzoekers
Ondertussen wordt ook GPT-5 klaargestoomd om te worden gelanceerd. De vrees is dat de opvolger van GPT-4 de menselijke intelligentie zal benaderen of misschien wel overtreffen, zegt Otto Barten, directeur van het Existential Risk Observatory, een denktank over risico’s die de mensheid kunnen bedreigen en een van de ondertekenaars van de brief. Hij wijst erop dat de brief is ondertekend door opmerkelijk veel vooraanstaande onderzoekers die zelf kunstmatige intelligentie ontwikkelen, onder wie onderzoekers van DeepMind, het bedrijf dat er als eerste in slaagde een bot te ontwikkelen die de menselijke wereldkampioen in het bordspel Go versloeg. Elon Musk was zelfs een van de oprichters van OpenAI, waar hij nu voor waarschuwt. „Ook toen al had Musk zorgen over kunstmatige intelligentie, maar zijn idee was toen dat hij zo de vinger aan de pols kon houden. Daar is hij wel van afgestapt.”
Barten noemt het een ’goede brief’, maar veel vertrouwen dat het gevaar met een pauze van zes maanden is afgewend, als er al naar wordt geluisterd, heeft hij niet. „Ook de bedrijven zelf zijn het wel eens met de uitgangspunten, maar ze zijn stuk voor stuk bang dat iemand anders dan de voorsprong neemt. Schrikbeeld is dat kunstmatige intelligentie zo slim wordt, dat het zelf in staat zal zijn nóg slimmere algoritmes te bedenken, en geen mens ooit zal kunnen begrijpen hoe die werken en dus ook nooit meer kunnen ingrijpen als er gevaar dreigt.”
