OpenAI stenger kontoer knyttet til mistenkt kinesisk overvåkingsverktøy

OpenAI har utestengt flere kontoer som angivelig brukte ChatGPT til å bygge et overvåkingsverktøy for sosiale medier som var ment å rapportere om protester mot Kina i USA og andre vestlige land. Selskapet hevder at nettverket sannsynligvis var knyttet til Kina.

OpenAI strammer grepet om AI-misbruk og stenger ned flere kontoer som angivelig brukte ChatGPT til å drive et overvåkingsverktøy for sosiale medier. Kontoene var angivelig knyttet til en kinesisk-støttet operasjon som hadde som mål å samle inn sanntidsdata om protester mot Kina i USA, Storbritannia og andre vestlige land, ifølge en OpenAI-rapport.

Den såkalte "Qianyue Overseas Public Opinion AI Assistant" ble i markedsføringsmateriellet beskrevet som en programvare designet for å spore og rapportere nettdiskusjoner om menneskerettighetsprotester direkte til kinesiske myndigheter, etterretningsbyråer og ambassader. OpenAI kunne ikke uavhengig verifisere verktøyets eksistens, men hadde tilgang til markedsføringsmateriell som beskrev dets funksjoner - hovedsakelig skanning av plattformer som X, Facebook og Instagram etter relevante samtaler.

Ben Nimmo, en av etterforskningslederne ved OpenAI, kalte saken et urovekkende eksempel på et "autoritært regime som prøver å utnytte USA-basert AI til antidemokratiske formål". Funnene kommer samtidig som spenningen øker i forbindelse med Kinas bruk av vestlig teknologi, og OpenAI har aktivt advart amerikanske beslutningstakere om den nasjonale sikkerhetsrisikoen ved kinesisk AI.

De utestengte kontoene refererte også til bruk av andre AI-modeller, inkludert Metas åpen kildekode Llama. Meta anerkjente muligheten, men påpekte at dårlige aktører har tilgang til mange AI-verktøy, inkludert de som er utviklet i Kina.

Dette er ikke første gang OpenAI har iverksatt tiltak mot tvilsom aktivitet. Selskapet har også utestengt kontoer knyttet til iranske påvirkningsoperasjoner, nordkoreansk-relatert jobbsvindel og et annet Kina-tilknyttet nettverk som genererer spanskspråklig innhold som er kritisk til den amerikanske regjeringen.

Med fremveksten av kinesiske AI-startups som DeepSeek vurderer OpenAI å åpne opp noen av sine egne modeller for å konkurrere. Samtidig sliter amerikanske beslutningstakere med hvordan de skal balansere AI-innovasjon med hensynet til nasjonal sikkerhet.