Rathenau: AI-bedrijven gebruiken burgers als proefkonijnen
We kunnen ons niet meer voorstellen dat burgers vroeger bij het ontwikkelen van medicijnen zomaar als proefkonijn werden gebruikt. Gek genoeg lijken we hier bij AI niet moeilijk over te doen. Dat moet anders, zeggen onderzoekers Wouter Nieuwenhuizen en Quirine van Eeden van het Rathenau Instituut.
De AI-chatbot in Snapchat moet verboden worden, daarvoor pleiten instanties en een aantal politieke partijen. Zoals Caroline Dettmeijer van Child Helpline International stelt, worden kinderen als proefkonijnen blootgesteld aan een ‘experimentele chatbot’. Niet alleen de veiligheid van kinderen, maar die van de gehele samenleving is in het geding. De komst van ChatGPT en andere AI-toepassingen die tekst en beeld kunnen genereren, maakt ons allemaal ongevraagd onderdeel van een grootschalig maatschappelijk experiment ten bate van een klein aantal bedrijven.
Een groot aantal ethici, ondernemers en medewerkers van techbedrijven heeft gewaarschuwd voor de komst van AI als ChatGPT, en de doorontwikkeling ervan. In een brief aan de Europese Commissie wijzen oud-Google-ethicus Timnit Gebru en ruim 50 andere wetenschappers op de risico’s van AI-modellen. Oudere AI-modellen kunnen vaak slechts één taak uitvoeren binnen een bepaald gebied, terwijl deze nieuwe modellen een bredere reikwijdte hebben en in staat zijn om een groot scala aan opdrachten uit te voeren.
Wanneer we denken dat AI menselijke interacties kan vervangen of zelfs beter werk oplevert, dreigen we ook de meerwaarde van ons menszijn te verwaarlozen.
Maar er staat nog meer op het spel. Hoogleraar computationele taalkunde Emily Bender waarschuwt voor dehumanisering doordat we AI te veel als mens en onszelf te veel als machine gaan zien. Wanneer we denken dat AI menselijke interacties kan vervangen of zelfs beter werk oplevert, schaadt dit niet alleen ons empathisch vermogen, maar dreigen we ook de meerwaarde van ons menszijn te verwaarlozen.