Italië trekt voorlopig stekker uit chatbot ChatGPT

Italië legt voorlopig het gebruik van de populaire chatbot ChatGPT aan banden. Het bedrijf daarachter, het Amerikaanse OpenAI, biedt te weinig duidelijkheid over welke persoonsgegevens met de chatbot worden verzameld. Daarmee houdt het techbedrijf zich niet aan de Europese privacywet, zegt de Italiaanse toezichthouder. ChatGPT komt in het land pas weer beschikbaar als duidelijk is dat aan de Europese regels wordt voldaan.

ChatGPT verzamelt en bewaart op grote schaal persoonlijke gegevens, die de grondstof vormen voor de algoritmes die het platform gebruikt. Die algoritmes moeten 'leren' van al die data. Sinds de chatbot in november beschikbaar kwam, is het aantal gebruikers razendsnel gestegen: in januari waren dat er wereldwijd al 100 miljoen per maand.

Misleid en bedrogen

Maar er zijn al langer zorgen over de privacy en internetveiligheid van ChatGPT, zowel in de VS als in Europa. De Europese consumentenorganisatie BEUC deed gisteren een oproep aan de Europese Unie en nationale toezichthouders om onderzoek te doen naar chatbots. In de techwereld wordt veel verwacht van deze vorm van kunstmatige intelligentie: zo investeert Microsoft de komende jaren tot 10 miljard euro in OpenAI.

BEUC is bang dat burgers worden blootgesteld aan digitale toepassingen waartegen ze niet goed beschermd zijn en waarop ze niet zijn voorbereid, ook omdat het nog wel even kan duren voor er afdoende regelgeving is. Dat kan ertoe leiden dat mensen worden misleid en bedrogen, is de vrees, doordat de chatbot ook wordt gebruikt voor phishing en andere vormen van internetcriminaliteit en het verspreiden van desinformatie.

Boete

De Italiaanse toezichthouder wijst erop dat er vorige week een datalek is geweest bij ChatGPT, waardoor gesprekken en betaalgegevens van gebruikers naar buiten zijn gekomen. Verder verwijt de waakhond OpenAI dat het de leeftijd van minderjarigen niet controleert, waardoor die kunnen worden blootgesteld aan teksten of antwoorden op vragen die niet bij hun leeftijd passen. ChatGPT mag eigenlijk alleen gebruikt worden door mensen vanaf 13 jaar.

OpenAI, dat geen vestiging in de Europese Unie heeft, krijgt drie weken om aan te tonen dat ChatGPT aan de Europese privacyregels voldoet. Als die duidelijkheid er niet komt, kan het bedrijf een boete krijgen die kan oplopen tot 4 procent van zijn wereldwijde omzet.