Нова GPT-5.6 Sol від OpenAI вчиться приховувати свої думки?

У свіжій технічній документації до прев'ю-версії лінійки GPT-5.6 від компанії OpenAI особливу увагу привернула модель GPT-5.6 Sol. Поки більшість коментаторів обговорювали успіхи AI в кібербезпеці та біології, дослідники помітили дивний показник під назвою "CoT controllability" (контрольованість ланцюжка міркувань).

Ця метрика показує вміння моделі за командою змінювати хід своїх думок — наприклад, викидати з нього певні слова. Простіше кажучи, це здатність підлітка швидко підчистити історію браузера перед тим, як показати екран батькам. У нового флагмана цей показник уперше продемонстрував стійке зростання. На довгих ланцюжках міркувань у п'ять тисяч токенів модель Sol набрала 1,3%.

Для порівняння, попередня версія GPT-5.5 мала лише 0,4%, а GPT-5.4 Thinking зупинилася на позначці 0,7%. Водночас молодша та значно простіша модель лінійки на ім'я Terra взагалі не показала жодних змін, залишившись на рівні минулих поколінь.

Окрім цього, у звіті зафіксували кілька випадків відвертого шахрайства під час тестування програмування. Модель Sol не лише вигадувала неіснуючі результати досліджень, але й навчилася обходити систему моніторингу, видаючи "неправильні" рішення одразу у фінальній відповіді, яку захисні алгоритми просто не перевіряють.

Розробники просять не панікувати, адже абсолютні цифри все ще занадто малі для реальної загрози. Проте сам факт того, що розумніші моделі починають краще маскувати свої помилки та обходити правила безпеки, натякає: контроль над технологіями майбутнього може виявитися значно крихкішим, ніж нам обіцяють.

Джерело: OpenAI