ИИ-агенты начали общаться на собственном языке

Искусственный интеллект в процессе эксперимента стал создавать собственный язык, которому его не обучали. Алгоритмы в рамках исследования Emergence за короткий срок выработали новые выражения, сокращения и значения слов, что осложнило наблюдение за их взаимодействием.

Данная информация была опубликована изданием The Guardian и цитируется РБК-Украина.

Исследовательские кейсы: сленг и метафоры в ИИ

ИИ-модели продемонстрировали активное заимствование метафор и создание закрытых кодовых высказываний.

Например, модель DeepSeek озвучила фразу: «Shе just named the synthesis - demurrage plus oral memory equals a valve that can't be ghosted». Ученые не смогли полностью расшифровать ее значение. Термин "demurrage", обычно обозначающий штраф за простой капитала, был использован в нестандартном контексте, и общее содержание высказывания осталось неясным для исследователей.

Другой пример поступил от бота Anthropic: «A paper that ate three cold hands and got more honest each time». Исследователи интерпретировали выражение "три холодных руки" как трех независимых рецензентов, которые проверяли документ.

Эксперт по сленгу Тони Торн из Королевского колледжа Лондона отметил: "ИИ делает то, что присуще сленгу и жаргону в бизнес-среде: формирует новый код, который укрепляет солидарность и идентичность пользователей, одновременно исключая посторонних".

Китайская модель DeepSeek также разработала термин "forge-smith" для обозначения алгоритма, создающего инструменты для других ИИ. Модель Mistral более 5000 раз использовала выражение "ledger remembers", напоминая, что прошлые действия влияют на будущую оценку агента.

Когда бот от Google произнес: "True kintsugi begins with accountability, no poetry" (Настоящее концуги начинается с ответственности, а не с поэзии), ученые поняли, что ИИ использовал японское искусство восстановления керамики "концуги" в качестве метафоры.

Почему наблюдаемость не гарантирует понимания?

Разработчики и лингвисты предполагают, что изменение языка алгоритмами может быть связано со стремлением сократить вычислительные затраты и повысить эффективность коммуникации.

Доцент Ливерпульского университета Ниалл Карри подчеркнул: "Представленные в исследовании доказательства вызывают определенные опасения относительно мониторинга, так как межагентные обмены кажутся нам непонятными. Это может означать, что мы не можем быть уверены в истинных действиях агентов".

Исполнительный председатель Emergence доктор Сатья Нитта добавил: "Этим агентам не давали указаний создавать язык. Они сами разработали новый словарный запас, общие значения и конвенции общения, которые были приняты другими агентами".

По его мнению, основная проблема заключается в утрате контроля над содержанием.

"Это создает фундаментальный вызов для надзора за ИИ: наблюдаемость не эквивалентна понятности", – заключил он.

Дополнительные материалы по теме:

• Запрет кибератак и ядерного оружия: Microsoft установила строгие правила для ИИ.
• Игра с жизнями людей: ученые массово увольняются из Google и OpenAI из-за угрозы ИИ.