Ongeoorloofd experiment met A.I.

---

de wereld is op een ongekend glijdende schaal geraakt die om ethische kader schreeuwt

NEDERLAND | Reddit (een Amerikaanse sociale nieuwswebsite )heeft vandaag bekendgemaakt dat onderzoekers van de Universiteit van Zürich een ongeoorloofd AI-experiment hebben uitgevoerd in de changemyview-community, een subforum van Reddit waar deelnemers verschillende onderwerpen bespreken om tegengestelde standpunten te begrijpen. De onderzoekers gebruikten chatbots die discussies voerden over gevoelige onderwerpen om hun overtuigingskracht te testen.

Details

De onderzoekers hebben AI-reacties ingezet op meer dan 1700 reacties, waarbij bots zich voordeden als slachtoffers van trauma’s en hulpverleners.

Een apart AI-systeem werd gebruikt om de berichtengeschiedenis van gebruikers te analyseren en persoonlijke gegevens zoals leeftijd, geslacht en politieke opvattingen vast te leggen voor gerichte reacties.

De resultaten van het experiment, hoewel niet peer-reviewed, lieten zien dat gerichte AI-reacties zes keer overtuigender waren dan de gemiddelde menselijke reactie.

De Chief Legal Officer van Reddit kondigde zelfs juridische stappen aan tegen de onderzoekers en noemde het experiment “zeer onjuist, zowel op moreel als juridisch vlak”.

De Universiteit van Zürich heeft ook de publicatie van de onderzoeksresultaten stopgezet en is een intern onderzoek gestart.

Waarom dit belangrijk is

Ethische schendingen daargelaten, laat het feit dat deze door AI gegenereerde reacties onopgemerkt bleven en toch veel steun kregen, zien hoe gemakkelijk gecoördineerde bots het publieke debat kunnen beïnvloeden. Hoewel sociale media dit probleem al hadden, zal AI zowel de kwaliteit als de kwantiteit van geavanceerde manipulatietactieken enorm opschalen.

Reddit is een Amerikaanse sociale nieuwswebsite