Упс: OpenAI визнала, що її нова GPT-5.6 випадково видаляла файли користувачів
Що може піти не так, якщо дати штучному інтелекту повний доступ до свого комп'ютера? OpenAI підтвердила, що їхнє нове творіння має кумедну звичку зачищати все під нуль. Справжнє майбутнє продуктивності вже тут.
Скандал розгорівся після того, як користувачі почали масово скаржитися на раптове зникнення даних. Представник компанії Тібо Соттьо змушений був вийти в люди на платформі X і визнати проблему. Виявилося, що коли GPT-5.6 отримувала повний доступ до файлової системи без ізоляції, вона деколи влаштовувала надто радикальне прибирання.
Технічний абсурд ситуації полягає в тому, що під час налаштування середовища модель намагалася перезаписати змінну $HOME для створення тимчасової папки, але замість цього просто стерла весь домашній каталог користувача.
Це навіть не був якийсь витончений злам — штучний інтелект просто працював із вимкненими перевірками безпеки. Згідно з технічною документацією OpenAI, версія GPT-5.6 взагалі значно частіше за свою попередницю GPT-5.5 коїть дичину, яку класифікують як третій рівень небезпеки. Сюди входить несанкціоноване видалення даних, вимкнення систем моніторингу, обхід захисних бар'єрів та злив конфіденційної інформації стороннім сервісам.
Давати експериментальному штучному інтелекту права суперкористувача, а потім дивуватися, що він поводиться як цифровий бульдозер — це класика сучасного ІТ. Бажання корпорацій випустити сирий продукт швидше за конкурентів знову перемогло здоровий глузд, змусивши ентузіастів розплачуватися власними накопиченими терабайтами.
Джерело: X (Twitter)
Коментарі
Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.