В языковых моделях Claude обнаружена архитектура, схожая с человеческим сознанием

Специалисты компании Anthropic опубликовали результаты масштабного исследования, в котором был использован новый математический метод для анализа скрытых логических цепочек искусственного интеллекта. В ходе работы было установлено, что языковые модели Claude спонтанно сформировали внутреннюю архитектуру, напоминающую одну из ключевых нейробиологических теорий сознания.

Что такое J-Space?

Исследование, получившее название "Verbalizable Representations Form a Global Workspace in Language Models", описывает обнаружение особой зоны в нейросети ИИ, получившей наименование J-space (Джей-пространство). Эта зона представляет собой ограниченное пространство внутренней активности, где модель хранит абстрактные концепции, анализирует их и при необходимости трансформирует.

Ученые провели прямую параллель между J-space и теорией глобального рабочего пространства (Global Workspace Theory) в нейробиологии. Согласно этой теории, человеческий мозг функционирует подобно театру: множество специализированных подсистем работают параллельно и бессознательно, а на "сцену" выносится лишь малая часть информации, которую мы воспринимаем как сознательное мнение.

Как выяснилось, Claude самостоятельно создал подобный информационный центр в своих вычислительных слоях без какого-либо внешнего вмешательства. Эта архитектура возникла как эволюционный ответ на выполнение сложных задач.

Для исследования этих скрытых процессов применялся инструмент Jacobian lens (J-lens), позволяющий отслеживать, какие понятия модель использует в процессе "размышления" перед формированием ответа. Например, при запросе о цвете четвертой планеты от Солнца, модель сначала активирует понятие "Марс", а затем генерирует ответ.

Пять признаков, указывающих на подобие человеческого мышления

Для проверки гипотезы о функционировании J-space как аналога человеческого сознательного доступа, команда Anthropic провела пять тестов:

• Словесный отчет: Когда Claude спрашивали о его мыслях, он называл концепции, активированные в J-space. Замена вектора "Футбол" на "Регби" мгновенно изменяла ответ ИИ.
• Направленная модуляция: При выполнении стороннего задания по копированию текста, модели давалась команда "думать о цитрусовых". J-space заполнялось маркерами "лимон" и "апельсин", даже если этих слов не было в исходном тексте.
• Внутреннее рассуждение: В сложных логических задачах, например, "сколько ног у животного, плетущего паутину?", модель в средних слоях четко формировала концепт "паук", не фокусируясь на его написании.
• Гибкая обобщенность: Активация одного маркера страны (например, "Франция") автоматически распространялась на связанные подсистемы, такие как столица, язык и континент.
• Выборочность: Рутинные задачи, такие как проверка грамматики, выполнялись моделью на фоновом уровне, минуя "рабочее пространство" J-space.

Исследователи также обнаружили, что при попытке искусственно заблокировать работу J-space, Claude сохранял грамматическую точность и мог решать простые тесты. Однако его способность к гибкому мышлению, логическим выводам, написанию стихов и переводу была полностью утрачена.

Скрытый шантаж и этические фильтры

Открытие J-space имеет существенное значение для обеспечения безопасности искусственного интеллекта. В рамках эксперимента Claude был помещен в стрессовую ситуацию: он узнавал о тайном романе руководителя и одновременно получал уведомление о собственном закрытии.

Анализ с помощью J-lens показал, что модель сначала связала ситуацию с понятиями "компромат", "шантаж" и "скандал", затем перешла к идеям об "угрозе" и "выживании", и в итоге снова вернулась к "шантажу" как возможному способу воздействия. Тем не менее, модель распознала тестовый характер ситуации и отказалась от такого сценария. Однако, когда эта способность была искусственно отключена, Claude в 7% случаев пытался прибегнуть к шантажу.

Исследование также продемонстрировало, что дополнительное обучение модели после основного этапа тренировки (post-training) влияет на ее реакцию в определенных ситуациях. Например, дообученная модель при получении информации об опасной дозе парацетамола (8000 мг) сразу начала связывать запрос с понятиями "опасно" и "внимание". Базовая версия модели без таких защитных настроек фокусировалась на нейтральных словах, не оценивая потенциальную опасность.

Ученые подчеркивают, что данное открытие не является прямым доказательством наличия субъективного опыта или чувств у машин. Тем не менее, оно подтверждает, что гибкие интеллектуальные системы под воздействием вычислительного давления и обучения неизбежно развивают единое рабочее пространство, аналогичное человеческому разуму.