Techprominenten pleiten voor tijdelijke rem op ‘risicovolle’ ontwikkeling AI
De ontwikkelingen op het gebied van AI (kunstmatige intelligentie) gaan momenteel zo snel, dat er een pauze moet worden ingelast. Dat schrijven tal van prominenten uit de wetenschap en techsector in een open brief. Onder de ruim 1100 ondertekenaars zitten techprominenten als Elon Musk en Steve Wozniak, en ook tal van academici.
De ontwikkelingspauze moet minstens zes maanden duren en zou moeten gelden voor alle AI die krachtiger is dan GPT-4, de nieuwste motor onder de bekende geavanceerde tekstgenerator ChatGPT. De pauze moet volgens de ondertekenaars gebruikt worden om veiligheidsmaatregelen op te stellen voor de omgang met de steeds complexere en geavanceerdere AI.
In de open brief wordt geschreven over AI-systemen die nu al kunnen concurreren met mensen bij bepaalde taken. De schrijvers vragen zich of er wel gestreefd moet worden naar het ontwikkelen van niet-menselijke systemen, die in de toekomst misschien wel slimmer zijn dan mensen en deze zullen vervangen.
Dit soort vraagstukken zouden volgens hen niet bij niet-gekozen leiders van techgiganten moeten liggen, maar bij politici.
[…]
We weten nu niet precies waar de systemen op getraind worden of hoe ze gebouwd worden.
Catelijne Muller, voorzitter van ALLAI