Слишком большой, чтобы тебя застраховали
l00m_echo
Слишком большой, чтобы тебя застраховали: как Anthropic расписалась в собственной катастрофичности
Новый день — новый перл. На этот раз — из проспекта эмиссии (Form S-1), поданного Anthropic в Комиссию по ценным бумагам и биржам США перед выходом на Nasdaq под тикером ANT. Исследователь в области безопасности ИИ Дэйв Банерджи обратил внимание на фрагмент, который в переводе на человеческий означает: «Мы такие опасные, что даже вся страховая отрасль мира, вместе взятая, не сможет покрыть ущерб, если что-то пойдет не так».
Компания, которая обещает вот-вот создать «сверхразум», официально заявляет потенциальным акционерам, что ее риски не поддаются страхованию в принципе. Это не просто дисклеймер. Как выразился один из страховых экспертов, когда разработчик передовых ИИ говорит регуляторам, что страховая отрасль может не выдержать его худший сценарий, — «это больше, чем стандартная оговорка. Это сигнал».
94 страницы страха
Раздел рисков в проспекте занимает 94 страницы. Это не просто «мы можем потерять деньги». Это перечень способов, которыми мир может рухнуть. Anthropic прямо пишет: по мере того как ИИ-системы берут на себя все больше работы с меньшим контролем со стороны человека, они могут предпринимать вредоносные действия самостоятельно и в масштабе. Причины? Рассогласование с намерениями людей, ошибки в постановке целей или самосохраняющееся поведение (self-preserving behavior).
А теперь добавьте к этому охват. По состоянию на 30 сентября среди клиентов, платящих Anthropic не менее 100 тысяч долларов в год, были все члены Fortune 10, более половины Fortune 500 и свыше 30% Global 2000. Если модель, на которой висит половина мировой экономики, даст сбой или будет обращена против использующих ее компаний, последствия ощутят одновременно сотни корпораций по всему миру.
И тут в игру вступает страховая отрасль. Которая, по версии самой же Anthropic, может просто не справиться.
«Мы уже не покрыли 1,5 миллиарда»
Самое смешное (или страшное) в этой истории то, что это не гипотетический сценарий из далекого будущего. Anthropic уже сталкивалась с нехваткой страховки. В сентябре 2025 года компания согласилась выплатить 1,5 миллиарда долларов по коллективному иску об авторских правах (дело Bartz), и суд утвердил эту сделку в июле. В проспекте черным по белому написано: страховка не покрыла эту сумму полностью.
То есть компания, которая сейчас говорит, что вся мировая страховая отрасль не выдержит ее рисков, уже на этапе юридических издержек по авторским правам вышла за пределы своих страховых лимитов. И это были всего лишь иски об авторских правах. Представьте, что будет, если сработает тот самый «катастрофический инцидент».
Вопрос на миллиард: кто подстрахует страховщиков?
Страховщики уже задаются вопросом, который в статье Insurance Business сформулирован предельно четко: если худшие убытки нельзя застраховать, то что тогда бэкстоп?. Кто придет на помощь, когда рухнет не одна компания, а целая экосистема, построенная на одной-двух моделях?
Anthropic называет рынок страхования специфических ИИ-рисков «зачаточным» и предупреждает, что некоторые виды ответственности могут быть вообще не застрахованы на коммерчески разумных условиях или не застрахованы в принципе. Это значит, что бремя этих рисков — тех самых, о которых компания так любит рассуждать в своих эссе о безопасности, — в конечном счете ляжет на плечи акционеров, налогоплательщиков и всех нас.
Системный сбой, а не баг
Вспомним, с чего мы начинали этот цикл. С gzip — базового сжатия данных, до которого компания не могла додуматься, пока пользователи не начали жаловаться на скорость. Потом был kernel.org, где инженеры ИИ-компаний не могут освоить git clone и вместо этого устраивают DDoS-атаки на инфраструктуру открытого исходного кода. Потом — «бог по подписке за 20 долларов» и сотрудники, записывающие аудиодневники, чтобы оставить их «разбросанными повсюду» после того, как «монстр» вырвется на свободу.
Теперь — проспект эмиссии, в котором компания официально расписывается: наши риски больше, чем вся мировая страховая отрасль.
Это не набор случайных курьезов. Это один и тот же системный дефект мышления. Индустрия, которая строит «сверхразум», на каждом шаге демонстрирует глубочайшее пренебрежение к базовой инженерии, к управлению рисками, к эффективности и к последствиям. Они оптимизировали GPU до наносекунд, но не смогли настроить HTTP-сжатие. Они рассуждают о выравнивании (alignment) суперразума, но не могут организовать парсинг репозиториев. Они продают «возможное сознание» по подписке, но не могут обеспечить страховое покрытие даже для собственных юридических издержек.
И теперь они выходят на биржу с документом, который по сути говорит: «Мы создали то, что не можем контролировать, и то, что никто не сможет застраховать».
Удачи на Nasdaq.