Italia har akkurat forbudt ChatGPT. Kan USA bli neste?

Generative AI-modeller, som for eksempel OpenAIs ChatGPT, samler inn data for å videre finjustere og trene egne modeller. Italia ser denne datamassen som en potensiell krenkelse av brukerens personvern og har derfor forbudt ChatGPT i landet.

På fredag ​​utstedte det italienske personvernskontoret en uttalelse som påla en umiddelbar midlertidig begrensning i behandlingen av italienske brukeres data av OpenAI.

De to viktigste bekymringene som forbudet prøver å ta opp, er uautorisert datainnsamling fra brukere og mangelen på aldersbekreftelse, som utsetter barn for svar som er "helt upassende for deres alder og bevissthet," ifølge pressemeldingen.

I forhold til datainnsamling hevder myndighetene at OpenAI ikke har fått juridisk godkjenning til å samle inn brukerdata.

"Det ser ut til å mangle en juridisk basis som støtter den massive innsamlingen og behandlingen av personopplysninger for å 'trene' algoritmene som plattformen er avhengig av," sier den italienske datatilsynet i uttalelsen.

OpenAI sin utpekte representant i det europeiske økonomiske området har 20 dager på seg til å etterkomme ordren, ellers kan AI forskningsselskapet risikere en bot på opptil 20 millioner euro eller 4% av den totale årlige omsetningen på verdensbasis.

Beslutningen ble tatt etter et datainnbrudd 20. mars, som avslørte ChatGPT-brukernes samtaler og informasjon om betalinger fra abonnenter.

Denne overtredelsen brakte frem potensielle risikoer ved å bruke AI-verktøy som fortsatt er i forskningsfasen, men likevel er tilgjengelig for allmenn bruk.

Så kan et forbud skje snart i USA? Ledende teknologiledere i USA har allerede begynt å kreve et midlertidig forbud mot ytterligere utvikling av AI.

Tidligere denne uken signerte Tesla-sjef Elon Musk, medgrunnleggeren av Apple Steve Wozniak og Emad Mostaque, administrerende direktør for Stability AI, en underskriftskampanje der de oppfordret AI-laboratorier til å midlertidig stoppe treningen av AI-systemer som er kraftigere enn GPT-4, i minst seks måneder.

Som i Italias forbud, er pausen som oppfordres av oppropet ment å beskytte samfunnet mot de "dype risikoene for samfunnet og menneskeheten" som AI-systemer med menneskelik intelligens kan forårsake.

Oppropet oppfordrer til og med amerikanske lovgivere om å vurdere inngrep dersom pausen ikke blir innført av AI-laboratoriene selv.