"Знищити кожну людину на планеті". Розробники заявили, що ШІ незабаром зможе обійтися без людей. Повстання машин наближається? 

Про що йдеться

Автори статті (співзасновник компанії Джек Кларк і керівниця дослідницького відділу Марина Фаваро) вважають, що системи ШІ розвиваються надто швидко і наблизилися до етапу рекурсивного самовдосконалення – здатності розвиватися без участі людини. Це загрожує "ризиком втрати людського контролю над системами ШІ".

Який вигляд матиме світ, де ШІ зможе вдосконалювати себе сам, в Anthropic не знають: "важко передбачити, на що буде схожою економіка, якщо людська праця перестане бути конкурентоспроможною".

На думку авторів статті, потрібна пауза в розробленнях, щоб установити правила регулювання і дати суспільству час адаптуватися до змін. Однак зупинення має сенс лише за умови участі великих гравців і наявності механізмів перевірки. Потрібна глобальна система контролю, яка дасть змогу уникнути ризику прихованого навчання нових моделей. Anthropic планує обговорити цю ідею з владою й учасниками ринку.

Добровільні обмеження малоймовірні, визнає Anthropic. "Приховати навчання нової моделі набагато простіше, ніж будівництво ракетної шахти", а будь-який учасник гонки, який не захоче дотримуватися паузи, дістане шанс вирватися вперед. Проте галузі потрібні рамки, вважають автори: "зараз усе скидається на те, що в галузі є педаль газу, але немає педалі гальма".

"У світі вже створювали системи верифікації для інших складних технологій – наприклад, Договір про ліквідацію ракет середньої та меншої дальності. Але на створення інфраструктури й довіри для цих систем ішли десятиліття. У нас немає стільки часу", – ідеться у статті.

У чому підступ

The Daily Telegraph пише, що Anthropic станом на зараз – одна з найдорожчих компаній у сфері ШІ (близько $965 млрд). На цьому тлі заклик "заморозити" гонку має неоднозначний вигляд: критики вважають, що це може допомогти компанії закріпити досягнуте лідерство і нашкодити конкурентам.

За даними Forbes, частка Claude зросла з 1% світових завантажень ШІ-застосунків у кожному кварталі минулого року до 14% у другому кварталі 2026-го. Частка ChatGPT за той самий період упала із 67% до 47%.

Зараз Anthropic готується до IPO і далі розробляє свої продукти. Однак компанія відклала випуск своєї найпотужнішої моделі, Mythos, у публічний доступ через побоювання, що її можуть використати для проведення руйнівних кібератак.

Уже не перше попередження

Ще 2023 року багато відомих експертів підписали відкритий лист із закликом зупинити всі дослідження з навчання штучного інтелекту й розробити протоколи безпеки. Серед підписантів були генеральний директор Tesla і SpaceX Ілон Маск, співзасновник Apple Стів Возняк, генеральний директор фотоагентства Getty Images Крейг Пітерс, ізраїльський історик Ювал Ной Харарі.

Вони попереджали, що ШІ може (серед іншого) поставити під загрозу робочі місця, поширювати пропаганду і призвести до "втрати контролю над нашою цивілізацією". 

Критики ідеї стверджували, що пауза перетвориться на "протидію прогресу" і зупинить будь-які інновації, а згода на неї з боку американських компаній віддасть перевагу іншим країнам, насамперед Китаю.

2026 року, виступаючи в Оксфордському університеті, Кларк порівняв недостатню підготовку суспільства до впровадження ШІ з повільною реакцією під час пандемії COVID-19.

"Це технологія, яку ми не до кінця розуміємо, і можна уявити правдоподібні сценарії, за яких ШІ може знищити кожну людину на планеті. Думати, що створення цієї технології безпечне, було б виявом зарозумілості або божевілля", – наголосив він.

Головна загроза – усе ще люди, а не машини

Розглядаючи можливі варіанти майбутнього, одним із найімовірніших Anthropic вважає сценарій, у якому розроблення ШІ стане значною мірою автоматизованим, але люди й далі визначатимуть напрями досліджень та оцінюватимуть результати. Організації, які використовують системи ШІ, з часом стануть набагато ефективнішими.

"Це можуть використати зі згубною метою, від авторитарного спостереження за цілими групами населення до операцій із впливу, які адаптують маніпуляції до кожної окремої людини і здійснюються в масштабах, недосяжних для будь-якої команди людей", – попереджають в Anthropic.

У компанії є підстави для побоювань. ЗМІ описували її конфлікт із Пентагоном у березні 2026 року як "безпрецедентний скандал".

До цього американські військові використовували модель Claude від Anthropic під час планування ударів США по Ірану й під час захоплення президента Венесуели Ніколаса Мадуро. Оглядачі бачили в цьому певну іронію – саме компанія, яка тривалий час позиціонувала себе як лідера "безпечного ШІ", виявилася першим ШІ-розробником, чия модель "засвітилася" в реальній бойовій операції.

Однак Пентагон вимагав безперешкодного використання систем штучного інтелекту, а Anthropic відмовилася знімати обмеження на масове стеження за американцями і створення повністю автономної зброї, яка діє без участі людей.

Тоді міністерство розірвало потенційний договір на $200 млн з Anthropic, оголосивши її "загрозою для ланцюга постачань" (цей статус традиційно використовували тільки проти іноземних компаній-суперників). Того самого дня контракт перехопила OpenAI.

"Американські військовослужбовці ніколи не стануть заручниками ідеологічних примх великих технологічних компаній", – заявив міністр війни Піт Гегсет.

Зараз компанія Anthropic веде судовий процес проти Пентагону, але водночас, за даними FT, допомагає Агентству національної безпеки США розгорнути модель Mythos для проведення наступальних кібероперацій (можливо, у Китаї чи Ірані).

У компанії свої дії пояснюють просто: якщо не використовувати ШІ для кібератак превентивно, вороги знайдуть спосіб зробити це першими.