Российская ботоферма использовала ChatGPT для манипуляций

Компания OpenAI сообщила об обнаружении и блокировке группы аккаунтов ChatGPT, предположительно связанных с Россией. Эти аккаунты использовались для продвижения израильского псевдоаналитического института и распространения кремлевских нарративов с целью манипулирования общественным мнением на Западе.

Согласно отчету OpenAI, операторы сети использовали ChatGPT через VPN, задавая запросы на русском языке. Затем нейросеть получала указание генерировать контент на английском и немецком языках, при этом скрывая любые признаки российского происхождения.

Сгенерированные публикации размещались на различных платформах, включая X, LinkedIn, Facebook, Substack и Telegram. Основной задачей было продвижение веб-сайта International Burke Institute (IBI).

Методы работы сети

Злоумышленники применяли ИИ для различных целей:

• Создание комментариев под публикациями реальных пользователей Substack с целью привлечения внимания к IBI.
• Подготовка постов на немецком языке для Telegram-канала Lahme Ente, содержащих критику правительства Германии, Евросоюза и Украины.
• Генерация логотипов и профилей для десятков Telegram-каналов, нацеленных на аудиторию в США, Франции, Польше и Турции.

Фейковый институт и плагиат

Центральным элементом кампании являлся сайт IBI, зарегистрированный в феврале 2025 года и представленный как израильский аналитический центр. На платформе утверждалось о сотрудничестве с известными учеными, такими как Ноам Хомский и Фрэнсис Фукуяма.

Однако детальная проверка выявила масштабный обман. Было установлено, что 34 из 36 проанализированных статей на сайте являлись плагиатом, полностью скопированным из авторитетных научных источников, включая Cambridge University Press и Migration Policy Institute.

Кроме того, работы приписывались вымышленным авторам. В одном из случаев статья о миграции была подписана именем австралийского профессора пищевой химии. Также отмечалось использование машинного перевода, что проявлялось в неестественных формулировках, например, перевод немецкой фразы "коалиция светофора" на английский как "Svetofor coalition", что указывает на буквальный перевод с русского.

Ключевым инструментом продвижения манипулятивных материалов стал вымышленный "индекс суверенитета". В отчетах, связанных с этим индексом, российские операторы положительно отзывались об автономии РФ, одновременно жестко критикуя Францию, США, Германию и ЕС.

Оценка влияния операции

По оценкам OpenAI, непосредственный охват публикаций в социальных сетях был ограничен. Тем не менее, созданные Telegram-каналы смогли привлечь от 10 до 20 тысяч подписчиков каждый.

Операция получила третью категорию по шкале Brookings Breakout Scale, что означает проникновение на несколько платформ с единичными случаями выхода на реальную аудиторию.

Представители OpenAI подчеркнули, что данная операция демонстрирует новую тенденцию: использование искусственного интеллекта не только для генерации фейковой информации, но и для создания фальшивого авторитета и имитации деятельности легитимных аналитических институтов.