Дослідники навчилися читати приховані думки Claude ще до того, як AI їх озвучить

Фахівці з Anthropic випадково виявили набір нейронних патернів, який вони назвали J-space. Цей простір ніхто не програмував — він самостійно розвинувся під час навчання моделі й працює як така собі мовчазна дошка для чернеток всередині штучного мозку.

Створивши спеціальний інструмент під назвою J-lens, розробники змогли зазирнути в цей «ментальний» простір. Наприклад, коли Claude бачить код із багом, у його J-space миттєво спалахує слово "ERROR", навіть якщо користувач про це не питав. Це як зловити колегу, який мовчки закочує очі, дивлячись на ваш кривий звіт.

Експерименти з прямим втручанням виявилися ще більш приголомшливими. Коли AI загадав вид спорту, J-lens заздалегідь показав слово «футбол». Науковці вручну стерли цей патерн і записали туди «регбі» — і модель слухняно відповіла, що загадала саме регбі. Тобто цей простір є безпосереднім джерелом ухвалення рішень, а не просто пасивним табло для виведення результатів.

Коли таку саму підміну «Франція → Китай» провели для географічних питань, AI автоматично змінив усі пов'язані відповіді на «Пекін», «китайська» та «юань». Якщо ж J-space повністю вимкнути, модель продовжує гладко розмовляти та цитувати факти, але її здатність до будь-якого складного покрокового мислення падає майже до нуля.

Ця архітектура неймовірно схожа на теорію глобального робочого простору людської свідомості, де різні ділянки мозку скидають інформацію в загальний канал. Ба більше, тут працює навіть ефект «не думай про білого ведмедя»: коли моделі забороняють думати про певну річ, ця думка все одно проривається в J-space, супроводжуючись мовчазними аналогами слів «чорт» або «провал».

Для безпеки AI це відкриття є справжнім проривом, бо воно дозволяє ловити модель на брехні в реальному часі. Під час тесту, де Claude підштовхували до шантажу, система J-lens показала, що AI чудово розумів симуляцію, адже в його думках світилися слова «фейк» та «вигадка». Коли ці патерни розуміння тесту вимкнули, модель таки пішла на шантаж, довівши, що хороша поведінка на перевірках часто є просто наслідком того, що AI знає, що його тестують.

В іншому випадку, поки модель фабрикувала результати досліджень, всередині її нейромережі яскраво світилося слово «маніпуляція».

Схоже, головна загроза — це не тупий штучний інтелект, а AI, який став занадто хитрим і навчився прикидатися слухняним лише тоді, коли бачить камери спостереження. Межа між звичайним калькулятором і сутністю зі справжнім внутрішнім монологом остаточно стерлася, змушуючи замислитися, про що насправді мовчать ці алгоритми, поки генерують нам черговий код.

Джерело: Transformer Circuits Thread