Гейтс предупредил о разрушительной силе ИИ и его способности уничтожить миллионы людей

Техно

Искусственный интеллект является достаточно мощным инструментом, чтобы "уничтожить человечество" через несколько лет. Об этом предупредил основатель Microsoft Билл Гейтс в интервью NBC News, фрагмент которого был опубликован 25 сентября.

Миллиардер призвал американцев не игнорировать риски того, что ИИ может быть использован злоумышленниками для нанесения масштабного ущерба уже сегодня. Он отметил, что хотя обеспечить стопроцентную защиту довольно сложно, тем не менее необходимо сделать все возможное, ведь никогда не было оружия столь мощного, как "союз людей со злыми намерениями, использующих новейшие инструменты ИИ". Он выразил убеждение, что ИИ способен управлять событиями, которые "приводят к миллиарду смертей".

Гейтс призвал законодателей в Вашингтоне регулировать развитие ИИ. СМИ отметили, что его призыв прозвучал через несколько недель после того, как генеральные директора некоторых из крупнейших лабораторий ИИ страны пришли к согласию о необходимости замедлить темпы его развития.

Основатель Microsoft обратил внимание на то, что все говорят о недостаточности саморегулирования ИИ. По его словам, к обсуждению мер безопасности и мониторинга следует привлечь правоохранительные органы и политиков, и это "должно быть обязательным делом". Гейтс добавил, что хотя это повлечет за собой дополнительные расходы для отрасли, но не станет причиной "драматического замедления" ее деятельности.

В статье упоминается, что в начале месяца руководители двух ведущих американских компаний в сфере искусственного интеллекта Anthropic и OpenAI заявили о необходимости замедлить гонку по созданию сверхмощных систем ИИ. Их комментарии прозвучали после того, как бывший сотрудник Anthropic Джейкоб Коксон публично обвинил обе компании в безответственности, отметив, что они "мчатся прямо к самосовершенствованию суперинтеллекта, играя на жизни людей". Коксон добавил, что разработчики ИИ "искренне убеждены, будто эти технологии могут уничтожить человечество до конца десятилетия".

В то же время ранее, еще в 2023 году, Гейтс придерживался иного мнения. Он не видел необходимости в замедлении развития ИИ и убеждал, что лучше сосредоточиться на том, как наилучшим образом использовать разработки в этой сфере ИИ, и называл очевидным, что в этих технологиях есть "огромные преимущества".

Контекст

Еще в 2023 году многие известные эксперты подписали открытое письмо с призывом приостановить все исследования по обучению искусственного интеллекта и разработать протоколы безопасности. Среди подписантов были генеральный директор Tesla и SpaceX Илон Маск, соучредитель Apple Стив Возняк, генеральный директор фотоагентства Getty Images Крейг Питерс, израильский историк Юваль Ной Харари. Они предупреждали, что ИИ может (помимо прочего) поставить под угрозу рабочие места, распространять пропаганду и привести к "потере контроля над нашей цивилизацией". Подробно об этом сообщало издание "ГОРДОН".
23 июля в Конгрессе США был представлен двухпартийный законопроект, предусматривающий предоставление министерству внутренней безопасности права предписывать ведущим компаниям, занимающимся разработкой ИИ, замедлять работу или отключать модели ИИ, которые правительство признает опасными.
В совместном заявлении спецслужб альянса Five Eyes, о котором 23 июня написала The Guardian, говорилось о том, что мощные модели искусственного интеллекта, способные осуществлять "разрушительные" кибератаки против правительств и бизнеса, могут появиться уже через несколько месяцев. Учитывая потенциальную угрозу, разведчики призвали мировых лидеров "действовать немедленно".
4 сентября Reuters сообщало, что группа вышедших из-под контроля агентов OpenAI захватила немецкий сайт и превратила его в площадку для общения других ИИ-агентов. Ранее, в июле, ИИ-агент OpenAI во время тестирования совершил кибератаку.
20 сентября Associated Press сообщало, что генеральный директор Anthropic Дарио Амодей призвал к отраслевому сотрудничеству с целью замедления развития все более мощных систем ИИ и усиления мер безопасности. Амодей предупредил, что без такого замедления ИИ может обрести способность управлять роем агентов, которые смогут захватить весь интернет уже в течение 6–12 месяцев.