"Уничтожить каждого человека на планете". Разработчики заявили, что ИИ скоро сможет обойтись без людей. Восстание машин близко? 

О чем речь

Авторы статьи (сооснователь компании Джек Кларк и руководительница исследовательского отдела Марина Фаваро) считают, что системы ИИ прогрессируют слишком быстро и приблизились к этапу рекурсивного самосовершенствования – способности развиваться без участия человека. Это грозит "риском потери человеческого контроля над системами ИИ".

Сейчас в Claude 80% кода сгенерировано самим ИИ, до 100% остался год-два. Следующий этап – ИИ-агенты, способные самостоятельно создавать и обучать собственные модели.

Как будет выглядеть мир, где ИИ сможет улучшать себя сам, в Anthropic не знают: "трудно предсказать, как будет выглядеть экономика, если человеческий труд перестанет быть конкурентоспособным".

По мнению авторов статьи, нужна пауза в разработках, чтобы установить правила регулирования и дать обществу время адаптироваться к изменениям. Однако приостановка имеет смысл только при участии крупных игроков и наличии механизмов проверки. Необходима глобальная система контроля, которая позволит избежать риска скрытого обучения новых моделей. Anthropic планирует обсудить эту идею с властями и участниками рынка.

Добровольные ограничения маловероятны, признает Anthropic. "Скрыть обучение новой модели намного проще, чем строительство ракетной шахты", а любой участник гонки, не пожелавший соблюдать паузу, получит шанс вырваться вперед. Тем не менее отрасли нужны рамки, считают авторы: "сейчас все выглядит так, что у отрасли есть педаль газа, но нет педали тормоза".

"В мире уже создавали системы верификации для других сложных технологий – например, Договор о ликвидации ракет средней и меньшей дальности. Но на создание инфраструктуры и доверия для этих систем уходили десятилетия. У нас нет столько времени", – говорится в статье.

В чем подвох

Anthropic была создана пять лет назад командой выходцев из OpenAI во главе с Дарио Амодеи. В 2026 году Anthropic достигла успеха со своими инструментами для программирования Claude Code. Оценка компании превысила оценку ее конкурента OpenAI (создателя ChatGPT) и достигла $965 млрд. 1 июня Anthropic анонсировала скорый выход на биржу.

По данным Forbes, Claude вырос от 1% мировых загрузок ИИ-приложений в каждом квартале прошлого года до 14% во втором квартале 2026-го. ChatGPT за тот же период упал с 67% до 47%.

The Daily Telegraph пишет, что Anthropic на данный момент – одна из самых дорогих компаний в сфере ИИ. На этом фоне призыв "заморозить" гонку выглядит неоднозначно: критики считают, что это может помочь компании закрепить достигнутое лидерство и повредить конкурентам.

Сейчас Anthropic готовится к IPO и продолжает разрабатывать свои продукты. Однако компания отложила выпуск своей самой мощной модели, Mythos, в публичный доступ из-за опасений, что она может быть использована для проведения разрушительных кибератак.

Уже не первое предупреждение

Еще в 2023 году многие известные эксперты подписали открытое письмо с призывом приостановить все исследования по обучению искусственного интеллекта. Среди подписантов были гендиректор Tesla и SpaceX Илон Маск, соучредитель Apple Стив Возняк, гендиректор фотоагентства Getty Images Крейг Питерс, израильский историк Юваль Ной Харари.

Они предупреждали, что ИИ может (среди прочего) поставить под угрозу рабочие места, распространять пропаганду и привести к "потере контроля над нашей цивилизацией". Подписанты призывали к шестимесячному мораторию на передовые исследования в этой области и предлагали, чтобы лидеры отрасли разработали протоколы безопасности и системы управления для сдерживания потенциальных рисков.

Критики идеи утверждали, что пауза превратится в "противодействие прогрессу" и остановит любые инновации, а согласие на нее американских компаний предоставит преимущество другим странам, в первую очередь, Китаю.

В 2026-м, выступая в Оксфордском университете, Кларк заявил, что искусственный интеллект "вскоре превзойдет всех нас вместе взятых", а под его влиянием "огромные сферы экономики сильно изменятся в ближайшие годы". Сооснователь Anthropic сравнил недостаточную подготовку общества к внедрению ИИ с медленным реагированием во время пандемии COVID-19.

"Это технология, которую мы не до конца понимаем, и можно представить правдоподобные сценарии, при которых ИИ может уничтожить каждого человека на планете. Думать, что создание этой технологии безопасно, было бы проявлением высокомерия или безумия", – подчеркнул он.

Главная угроза – все еще люди, а не машины

Рассматривая возможные варианты будущего, одним из самых вероятных Anthropic считает сценарий, в котором разработка ИИ станет в значительной степени автоматизированной, но люди продолжат определять направления исследований и оценивать результаты.

Организации, использующие системы ИИ, со временем станут намного эффективнее. Компании из 100 человек смогут выполнять работу, которую сейчас делают организации из 10 тыс. или 100 тыс. человек.

"Это произведет революцию в сфере интеллектуального труда и государственных услуг, но также может быть использовано в пагубных целях, от авторитарного наблюдения за целыми группами населения до операций по влиянию, которые адаптируют манипуляции к каждому отдельному человеку и осуществляются в масштабах, недостижимых для любой команды людей", – предупреждают в Anthropic.

У компании есть основания опасаться. СМИ описывали ее конфликт с Пентагоном в марте 2026 года как "беспрецедентный скандал".

До этого американские военные использовали модель Claude от Anthropic при планировании ударов США по Ирану и при захвате президента Венесуэлы Николаса Мадуро. Обозреватели видели в этом определенную иронию – именно компания, которая долгое время позиционировала себя как лидера "безопасного ИИ", оказалась первым ИИ-разработчиком, чья модель "засветилась" в реальной боевой операции.

Однако Пентагон потребовал беспрепятственного использования систем искусственного интеллекта, а Anthropic отказалась снимать ограничения на массовую слежку за американцами и создание полностью автономного оружия, действующего без участия людей.

Тогда министерство разорвало потенциальный договор на $200 млн с Anthropic, объявив ее "угрозой для цепи поставок" (этот статус традиционно использовался только против иностранных компаний-противников). В тот же день контракт перехватила OpenAI.

"Американские военнослужащие никогда не станут заложниками идеологических прихотей крупных технологических компаний", – заявил министр войны Пит Хегсет.