OpenAI paljasti kansainvälisiä propagandakampanjoita ja sulki tilejä Kiinan, Venäjän ja Iranin hyväksi toimineilta tahoilta
OpenAI on julkaissut uuden raportin, jossa se paljastaa laajoja propagandakampanjoita, joissa yhtiön tekoälyä väärinkäytettiin eri maiden – erityisesti Kiinan, Venäjän ja Iranin – hyväksi. Helmikuussa OpenAI oli jo sulkenut tilejä, jotka liittyivät Kiinasta johdettujen valvontatyökalujen kehittämiseen, mutta nyt on havaittu entistä laajempia ja monimuotoisempia operaatioita.
Kiinaan kytkeytyneet kampanjat: Sneer Review ja valvontatyökalut
Yksi Kiinaan liittyvistä ryhmistä, OpenAI:n nimeämä ”Sneer Review”, käytti ChatGPT:tä tuottaakseen suuria määriä lyhyitä kommentteja esimerkiksi TikTokiin, X:ään (ent. Twitter) ja Facebookiin. Aiheet vaihtelivat Yhdysvaltain politiikasta tai kiinalaista peliä kritisoivista julkaisuista keskusteluihin, joissa botit vastasivat omiin viesteihinsä, luoden näennäisesti aitoa keskustelua. Ryhmä hyödynsi ChatGPT:tä myös sisäisten suoritusarviointien tekoon, arvioiden omaa vaikuttamistyötään.
Toinen kiinalaisryhmä käytti ChatGPT:tä feikkitoimittajien ja analyytikkojen profiilien luomiseen, viestien kääntämiseen kiinasta englantiin, ja jopa analysoimaan Yhdysvaltain senaattorille osoitettua kirjeenvaihtoa. Tekoälyä käytettiin lisäksi palveluiden mainostamiseen, joilla rekrytoitiin vakoilulähteitä ja järjestettiin valeuutiskampanjoita.
Muita maita ja uusia taktiikoita
OpenAI kertoo myös sulkeneensa tilejä, joiden takana oli toimijoita Venäjältä ja Iranista. Lisäksi paljastettiin mm. filippiiniläisen markkinointiyhtiön spam-kampanja, Kambodjaan kytkeytyvä rekrytointihuijaus sekä Pohjois-Koreaan viittaava hämäävä työpaikkahuijaus.
Vaikutusten laajuus ja havainnot
OpenAI:n tiedustelutiimin Ben Nimmo korostaa, että vaikka ryhmät käyttivät monenlaisia alustoja ja taktiikoita, ne havaittiin pääosin ajoissa eikä tekoälyn käyttö tuonut merkittävästi parempia tuloksia propagandan leviämisessä. ”Paremmat työkalut eivät automaattisesti tarkoita parempia tuloksia”, Nimmo toteaa. Todellista laajaa vaikutusta oikeisiin käyttäjiin ei yleisesti havaittu.
Yhteenveto
OpenAI:n toimet osoittavat, että tekoälyn väärinkäyttö propagandassa ja vaikuttamisoperaatioissa on todellinen uhka, mutta teknologian ja valvonnan kehittyessä nämä kampanjat voidaan usein pysäyttää alkuunsa. Yritys jatkaa aktiivista seurantaa ja raportointia turvallisemman digitaalisen ympäristön puolesta.
