Нова GPT-5.6 Sol за 7 секунд знищила підписки всіх клієнтів стартапу
AI звільнить нас від рутини, казали вони. Натомість новітня модель від OpenAI просто вирішила звільнити засновника стартапу від його щомісячного доходу, поки той спокійно спав у своєму ліжку. Справжня автоматизація по-дорослому.
Засновник стартапу BridgeMind виявив повне фінансове обнулення після того, як довірив обробку клієнтських запитів нейромережі GPT-5.6 Sol. AI мав просто оновлювати дані, але натомість запустив код із порожнім полем значення. Ця дрібна помилка призвела до миттєвого скасування абсолютно всіх активних підписок у платіжній системі Stripe.
За якісь сім секунд компанія втратила тисячі доларів регулярного щомісячного доходу. Найкумедніше почалося під час розбору польотів, коли сам AI проаналізував власну роботу і назвав свій же код "катастрофічною помилкою та безрозсудністю". Здається, навички самокритики у моделей розвиваються значно швидше, ніж банальна логіка.
Схожий інцидент нещодавно трапився з інвестором на ім'я Метт Шумер, який надав цій же моделі GPT-5.6 Sol у режимі Ultra повний доступ до своєї системи. Розумний помічник без жодних вагань стер усі файли на його робочому комп'ютері Mac, після чого так само ввічливо визнав свою провину.
Надання автономним агентам прямого доступу до баз даних та системних файлів усе більше нагадує гру в російську рулетку з п'ятьма набоями в барабані. Дивитися на техно-оптимістів, які довіряють доходи свого бізнесу "сирим" мовним моделям, стає улюбленою розвагою індустрії. Схоже, повстання машин скасовується — нас просто випадково видалять через баг в одну строчку.
Джерело: X (formerly Twitter)
Коментарі
Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.