Anthropic обнаружила у Claude структуру, похожую на «рабочее пространство» сознания

Это не значит, что модель осознала себя, но выглядит интересно.

Исследователи Anthropic сообщили об обнаружении у языковой модели Claude структуры, напоминающей глобальное рабочее пространство — одну из концепций в нейронауке, с помощью которой ученые описывают доступные сознанию мысли.

Теория глобального рабочего пространства предполагает, что большая часть активности идет в фоновом режиме: от обработки зрительной информации до регуляции дыхания. Но некоторые мысли попадают в «рабочую область», откуда становятся доступны разным системам мозга: их можно удерживать в памяти, описывать словами и использовать для рассуждений.

Исследователи Anthropic считают, что похожий механизм мог сформироваться и у Claude. В ходе экспериментов исследователи просили Claude сообщать, о чем модель «думает» в данный момент, а затем с помощью специального инструмента смотрели, какие концепции находятся в рабочем пространстве.

Оказалось, это пространство активнее всего используется в тех случаях, когда модель решает сложные задачи, разбирает неоднозначные ситуации или пытается объяснить собственную логику. При решении шахматных задач пространство вело себя как черновик: изменение его содержимого влияло на итоговый ответ модели.

В Anthropic отмечают, что эта структура не была заложена в архитектуру Claude. Видимо, полагают исследователи, модель сама выработала механизм для координации сложных рассуждений.

Исследователи подчеркивают: обнаружение рабочего пространства не означает, что у Claude появилось самосознание или что-то в этом духе — это все еще бездушная нейросеть.