Anthropic найняли економіста, який прорахував прийнятність вимирання людства

Професор Стенфорду та фахівець з економічного зростання Чед Джонс йде у відпустку, щоб приєднатися до новоствореного Anthropic Institute. Цю структуру запустив співзасновник компанії Джек Кларк для вивчення впливу AI на суспільство та ринок праці, але саме Чед Джонс приніс із собою найбільш вибухову наукову роботу.

У своєму торішньому дослідженні 'Дилема AI: зростання проти екзистенційного ризику' він спробував математично вирахувати межу, за якою ризик загибелі цивілізації стає вигідним. Математична модель показала, що якщо закласти ризик глобальної катастрофи на рівні 1% на рік протягом 40 років, то загальна ймовірність вижити становить близько 67%. Тобто кожен третій сценарій закінчується повним вимиранням людства.

Натомість ті, хто виживуть, отримають зростання рівня життя у 55 разів завдяки надпотужному AI. З точки зору чистої економічної теорії, така дика ставка є абсолютно раціональною та вигідною для цивілізації. Мабуть, перспектива жити як боги варта того, щоб зіграти в російську рулетку на виживання всього нашого біологічного виду.

Цей підхід ідеально вписується у філософію компанії, де генеральний директор Даріо Амодеї роками повторює, що люди недооцінюють як масштаби користі від суперінтелекту, так і його смертельну небезпеку. Тепер у нього в штаті є людина, яка буквально перетворила цей екзистенційний страх на зручну формулу, разом із колишньою дослідницею OpenAI Зоєю Хітціг.

Це дивовижний приклад корпоративного двоїння стандартів, коли бренд будується на порятунку людства, а в штат беруть людей для прорахунку допустимого відсотка апокаліпсису. Коли на кону стоять трильйони доларів, повне винищення біологічного виду стає просто ще однією цифрою у фінансовому звіті.

Джерело: Financial Times