OpenAI zablokowało rosyjskie konta ChatGPT wykorzystywane do kampanii dezinformacyjnej

OpenAI zablokowało grupę kont ChatGPT pochodzących z Rosji, które były wykorzystywane do prowadzenia ukrytej kampanii wpływu online. Firma odkryła tę operację podczas badania postów generowanych przez sztuczną inteligencję w mediach społecznościowych, co doprowadziło do ujawnienia znacznie szerszej akcji wpływu.

Operacja była zbudowana wokół strony internetowej fałszywego izraelskiego think tanku o nazwie International Burke Institute (IBI). Strona ta zawierała artykuły skopiowane z prawdziwych prac akademickich, często z błędnymi przypisaniami autorów. Wśród przypisanych autorów znaleźli się m.in. Francis Fukuyama i Noam Chomsky, a jeden z artykułów dotyczących polityki migracyjnej był przypisany profesorowi nauk o żywności z Australii.

Metody działania kampanii i wykorzystanie AI

Operatorzy kampanii korzystali z ChatGPT do generowania komentarzy i postów w mediach społecznościowych, które kierowały odbiorców na stronę IBI. Większość wygenerowanych treści była w języku angielskim, jednak polecenia dla ChatGPT były formułowane w języku rosyjskim z instrukcjami ukrywania wszelkich śladów wskazujących na rosyjskie pochodzenie autorów.

Mimo tych prób, w wygenerowanych tekstach pojawiały się charakterystyczne błędy językowe, takie jak użycie terminu „Svetofor coalition” zamiast powszechnie stosowanego „traffic-light coalition” lub niemieckiego „Ampelkoalition”. Ponadto, opis kanału Telegram, który miał udawać amerykańskie źródło informacji politycznych, zawierał niezrozumiałe sformułowania, np. „a totally unhackneyed perspective on hazzy”.

OpenAI podkreśliło, że artykuły i indeks suwerenności nie były tworzone przez modele AI, a jedynie posty i komentarze w mediach społecznościowych. Indeks suwerenności opracowany przez IBI oceniał Rosję wyżej niż kraje krytykujące jej działania, a język używany w indeksie był krytyczny wobec państw zachodnich.

Skala i znaczenie operacji

Kampanię prowadzono na platformach takich jak Substack, Telegram, X, Facebook i LinkedIn. Liczba odbiorców była ograniczona – kanały Telegram miały od 10 000 do 20 000 obserwujących, a posty w mediach społecznościowych osiągały niskie liczby wyświetleń. OpenAI oceniło tę operację na niższym poziomie trzeciej kategorii w Brookings Breakout Scale, modelu mierzącym zasięg i wpływ kampanii dezinformacyjnych.

Firma zaznaczyła, że choć bezpośredni wpływ kampanii był ograniczony, to istotne jest zbudowanie przez operatorów infrastruktury, która mogłaby zostać wykorzystana w przyszłości. OpenAI wskazało, że wykorzystanie AI w tej kampanii służyło jako narzędzie wspierające szersze działania mające na celu tworzenie pozorów autorytetu, ukrywanie źródeł narracji oraz budowanie zasobów możliwych do skalowania.

OpenAI nie udostępnia swoich modeli w Rosji, jednak operatorzy korzystali z VPN, aby obejść ten zakaz i uzyskać dostęp do ChatGPT. Firma podjęła podobne działania wobec innych kampanii, m.in. powiązanych z Chinami, które również wykorzystywały AI do wzmacniania przekazów dezinformacyjnych.

Wśród zablokowanych kont znalazły się także te powiązane z rosyjską firmą medialną Rybar, którą brytyjski rząd opisuje jako częściowo koordynowaną przez administrację prezydenta Rosji i współpracującą z rosyjskimi służbami wywiadowczymi.

OpenAI podkreśliło, że wykorzystanie AI do generowania dezinformacji może jednocześnie ułatwiać wykrywanie i ujawnianie takich operacji, dzięki analizie interakcji użytkowników z modelami AI.

Opisane działania stanowią kolejny przykład wykorzystywania sztucznej inteligencji w kampaniach wpływu, które łączą tradycyjne metody dezinformacji z nowoczesnymi technologiami.

W artykule przedstawiono szczegóły dotyczące metodyki działania kampanii, jej zasięgu oraz narzędzi wykorzystywanych przez operatorów, bez wskazywania przyczyn czy skutków tych działań.