Anthropic благає про пощаду: Білий дім заблокував Fable 5 через дірки в коді

Конфлікт загострився, коли Anthropic відправила фахівців до Вашингтона для перемовин після того, як Білий дім наклав експортні обмеження на моделі Fable 5 та Mythos 5. Влада заявила, що ці системи загрожують безпеці, і, чесно кажучи, це досить ввічливий спосіб сказати, що софт став надто розумним для власного блага. Схоже, нікому не потрібен помічник, який замість виправлення коду пропонує способи його зламати.

Ситуація стала ще цікавішою, коли Енді Джессі з Amazon, який сам же й інвестує в Anthropic, прийшов до Білого дому скаржитися на власну інвестицію. Виявилося, що Fable 5 вміє знаходити вразливості в коді настільки майстерно, що це стало прямою загрозою для інфраструктури. Урядовці стверджують, що намагалися домовитися годинами, але в Anthropic запевняють, що отримали лише 90 хвилин на «самогубство» своєї моделі.

Все це виглядає як продовження серіалу про протистояння Даріо Амодеї та Пентагону. Ще на початку року компанія відмовилася надати військовим повний доступ до систем, за що отримала статус ризикового постачальника. Fable 5 мала стати публічним обличчям секретного Project Glasswing, але замість тріумфу вийшов гучний скандал з блокуванням доступу.

Дивно спостерігати, як розробники щиро дивуються, коли їхні «інноваційні» іграшки раптом починають працювати як цифрові відмички. Спроби Anthropic домовитися з адміністрацією Дональда Трампа нагадують спробу пояснити професійному хакеру, що ви просто хотіли допомогти, поки той надягає на вас кайданки. В епоху тотального контролю ніхто не пробачить AI, який знає про помилки більше, ніж самі власники цих помилок.

Джерело: Axios