De Engelse krant The Guardian liet ‘robot’ GPT-3 een artikel schrijven om het publiek te overtuigen dat robots vreedzame bedoelingen hebben. Lotte de Bruijn van Smart WorkPlace partner NLdigital is in haar blog kritisch.

Begin september publiceerde The Guardian een fascinerende opinie van GPT-3. Voor de duidelijkheid: GPT-3 is geen organisatie of persoon, maar kunstmatige intelligentie. De Engelse krant had GPT-3 de opdracht gegeven een opinie te schrijven waarin hij/zij ons moest overtuigen dat robots vreedzame bedoelingen hebben.

Ik zeg “hij/zij”, maar GPT-3 is natuurlijk man noch vrouw. Het is ook geen persoon, of zelfs een denkende entiteit: het is een stuk software. Met behulp van machine learning kan hij op basis van een klein beetje input allerlei soorten tekst genereren. Het is een waanzinnig knappe prestatie dat AI in staat is om een samenhangend betoog te produceren. Ik vrees alleen dat de manier waarop The Guardian het presenteert een verkeerd beeld geeft van wat AI werkelijk is. Sterker nog: ze dragen bij aan het vooroordeel dat AI iets is waar we bang voor moeten zijn.

Om te beginnen de vorm: een opinie is letterlijk een stuk waarin de schrijver zijn of haar opvattingen over de wereld deelt. Maar GPT-3 heeft helemaal geen opvattingen over de wereld. Dat kan ook helemaal niet, want hij is zich niet eens bewust van zijn eigen bestaan. Zelfbewuste AI is op dit moment pure science fiction. GPT-3 had net zo makkelijk het weerbericht kunnen schrijven, of een recept voor bananenbrood. De keuze voor de vorm van een opinie is gemaakt door de redactie van The Guardian. In die zin is de opinie dus nep: ondanks de ik-vorm is wat er staat niet werkelijk iemands mening. Het is een slimme combinatie van tekst die lijkt op een opinie. Ik kan me voorstellen dat niet alle lezers dat zullen begrijpen.

Dan het onderwerp. De titel van het stuk is “A robot wrote this entire article. Are you scared yet human?” In de opinie probeert GPT-3 ons ervan te overtuigen dat hij als robot geen gevaar is voor ons ‘humans’. Dat klinkt lekker spannend natuurlijk, maar waarom is het relevant? Is dit waar het debat rond AI over moet gaan? GPT-3 had letterlijk over elk onderwerp een betoog kunnen schrijven. Het is opnieuw de keuze van de redactie om dit onderwerp aandacht te geven. Zij hebben de titel en de eerste paar regels geschreven, de software heeft het slechts aangevuld. Dus wiens opinie lezen we nu echt?

Ik vind dat journalisten de verantwoordelijkheid hebben om realistische denkbeelden over AI te bevorderen. De indruk wekken dat AI zelfbewust is, een mening heeft en intenties uit kan spreken helpt de lezer niet om AI beter te begrijpen. Het frame van mens versus machine leidt bovendien af van de werkelijke impact van AI. De opinie doet weinig om de adoptie van AI te bevorderen, terwijl we daar als maatschappij sterk van kunnen profiteren. The Guardian had ook kunnen kiezen voor een uitleg over hoe machine learning werkt. Of een opsomming van nuttige toepassingen voor GPT-3. Minder spannend misschien, maar uiteindelijk hadden de lezers daar veel meer aan gehad.

.

woensdag 14 oktober 2020permalink