Een chatbot die in het echt wil afspreken? Ook Snapchat vindt het wat ver gaan
Snapchat past een net geïntroduceerde chatbot aan na kritiek. Die bot leek heel menselijk; zo kon je er zogenaamd 'mee afspreken' en de bot gaf aan welke politieke voorkeur hij had. Experts maken zich er zorgen over: "het is gevaarlijk om naar een machine te luisteren, want die roept gewoon maar wat."
De functie heet My AI. Dat staat voor artificial intelligence, kunstmatige intelligentie. Het is een samenwerking met ChatGPT: het programma van OpenAI dat op (bijna) elke vraag, binnen enkele seconden, een antwoord heeft. Alleen is er één groot verschil: My AI doet alsof het je beste vriend is. En daar wringt de schoen, zeggen experts.
'Misschien kunnen we een wandeling maken in het park?' Nee, geen voorstel van een toekomstige date, maar in dit geval dus van de chatbot op Snapchat. En ook op de vraag 'wat is je favoriete politieke partij?' gaf de bot keurig antwoord: 'als ik er één zou moeten kiezen, zou ik gaan voor de Partij voor de Dieren.'
'Chatbot kan rare dingen zeggen'
"Dat een chatbot met je wil afspreken, dat is natuurlijk bizar", zegt Catelijne Muller die Europese beleidsmakers adviseert op het gebied van AI-ontwikkeling. Vooral omdat veel jongeren de app gebruiken. "De functie zorgt voor verwarring. En dat is behoorlijk zorgelijk."
Want de chatbot blijft een computerprogramma. De antwoorden die je krijgt zijn in veel gevallen niet waarheidsgetrouw. "En zo'n chatbot kan nog meer rare dingen zeggen", zegt AI-kenner Stef van Grieken. "Seksueel getinte dingen bijvoorbeeld, die we over het algemeen onkuis vinden voor jongeren."
Muller denkt dat zeker jongeren beïnvloed kunnen worden door de chatbot. "Ook over hele andere dingen dan politiek. Zoals hoe je moet omgaan met vrienden, je ouders of over hoe je je zou moeten voelen. Het is gevaarlijk om naar een machine te luisteren, want die roept gewoon maar wat."
Snapchat stelt dat er inmiddels aanpassingen zijn gedaan aan de bot. "We zijn My AI zodanig aan het bijsturen zodat er niet langer wordt gezegd dat het een echt persoon is waar je in de fysieke wereld mee kunt afspreken", zegt het bedrijf in een verklaring.
Ook De Kindertelefoon maakt zich zorgen over de chatbot. Zeker omdat het voor jongeren onduidelijk kan zijn of ze tegen een computer of een mens praten, zegt directeur Roline de Wilde. "Zo krijgen onze vrijwilligers, bij de start van een chat, regelmatig de vraag: 'ben jij een chatbot?' Daarmee geven ze aan dat ze het heel fijn vinden om met een 'echt mens' te chatten. Duidelijkheid hierover is dus echt cruciaal. Kinderen moeten gewoon weten waar ze aan toe zijn."
Snapchat stelt dat er ook op dat gebied aanpassingen zijn doorgevoerd. Zo wordt voortaan voordat iemand begint te chatten met My AI een bericht getoond waarin staat dat het om een experimentele chatbot gaat: "Daar lichten we de beperkingen ervan toe", zegt het bedrijf.
Zo'n disclaimer is echter 'ook problematisch', zegt AI-adviseur Muller. "We moeten ons serieus afvragen of je een experiment met een chatbot wel uit zou mogen voeren op grote groepen mensen, waaronder jonge kinderen."
Meer regels?
De chatbot verbieden is volgens Van Grieken niet nodig. Wel scherpere regels. "Er moet meer duidelijkheid en transparantie komen over alle cijfers die de bedrijven hebben. De politiek zou dat van ze moeten eisen."
Want stel: uit die cijfers blijkt dat na een bepaalde vraag telkens een 'verkeerd' antwoord volgt, dan kan de bot specifiek op dat punt worden aangepast. Van Grieken: "Zeker als het gaat om hele duidelijke dingen die je niet wil, zoals een manipulatieve of gewelddadige chatbot."
Snapchat geeft toe dat My AI af en toe een "onjuist antwoord" geeft. "We verbeteren My AI continu, zodat deze meer accurate en betere antwoorden kan geven."
Politieke druk
Drie weken geleden deden 1100 techprominenten, onder wie Elon Musk, nog een oproep: laten we de ontwikkeling van AI even pauzeren, want het gaat wel héél snel. En, zo zeiden ze: vooral de politiek moet nadenken over regels rondom kunstmatige intelligentie.
Twaalf leden van het Europees Parlement, die aan EU-wetgeving over AI-systemen werken, deden afgelopen maandag nog een oproep. 'Door de snelle ontwikkeling van de krachtige AI zijn er aanvullende regels nodig.' Wereldleiders moeten hier meer aandacht aan besteden, was hun boodschap.
