Гейтс предупредил о "многих неприятных сюрпризах" от ИИ уже в следующем году
Гейтс предупредил об угрозах, связанных с использованием ИИ
Фото: ЕРА
Главной угрозой в 2027 году станут кибератаки с использованием искусственного интеллекта. Такое мнение высказал основатель Microsoft Билл Гейтс в интервью CNN, опубликованном 11 октября.
Гейтс назвал искусственный интеллект "самой опасной технологией, которую когда-либо изобретало человечество".
"Когда есть злоумышленники, отсутствуют защитные ограничения и появляются новейшие модели ИИ, в ближайшие годы нас ждет немало неприятных сюрпризов, прежде всего в киберсфере", – предупредил он.
Основатель Microsoft считает, что в настоящее время риск связан не столько с потерей контроля над искусственным интеллектом, сколько с тем, что преступники могут использовать его для различного рода атак, вымогательств и манипуляций на финансовых рынках.
В то же время Гейтс также высказал мнение, что саморегулирования со стороны ИИ-компаний недостаточно. Он указал на то, что за ним должен осуществляться государственный контроль, и призвал к его введению.
Ранее, в конце сентября, Гейтс уже заявлял, что законодатели в Вашингтоне должны регулировать развитие ИИ. Тогда он предполагал, что тот является достаточно мощным инструментом, чтобы "уничтожить человечество" через несколько лет.
Однако в 2023 году Гейтс придерживался другого мнения. Он не видел необходимости в замедлении развития ИИ и убеждал, что лучше сосредоточиться на том, как наилучшим образом использовать разработки в этой сфере, и называл очевидным, что в этих технологиях есть "огромные преимущества".
Контекст
- Еще в 2023 году многие известные эксперты подписали открытое письмо с призывом приостановить все исследования по обучению искусственного интеллекта и разработать протоколы безопасности. Среди подписантов были генеральный директор Tesla и SpaceX Илон Маск, соучредитель Apple Стив Возняк, генеральный директор фотоагентства Getty Images Крейг Питерс, израильский историк Юваль Ной Харари. Они предупреждали, что ИИ может (помимо прочего) поставить под угрозу рабочие места, распространять пропаганду и привести к "потере контроля над нашей цивилизацией". Подробно об этом сообщало издание "ГОРДОН".
- 23 июля в Конгрессе США был представлен двухпартийный законопроект, предусматривающий предоставление министерству внутренней безопасности права предписывать ведущим компаниям, занимающимся разработкой ИИ, замедлять работу или отключать модели ИИ, которые правительство признает опасными.
- В совместном заявлении спецслужб альянса Five Eyes, о котором 23 июня написала The Guardian, говорилось о том, что мощные модели искусственного интеллекта, способные осуществлять "разрушительные" кибератаки против правительств и бизнеса, могут появиться уже через несколько месяцев. Учитывая потенциальную угрозу, разведчики призвали мировых лидеров "действовать немедленно".
- 4 сентября Reuters сообщало, что группа вышедших из-под контроля агентов OpenAI захватила немецкий сайт и превратила его в площадку для общения других ИИ-агентов. Ранее, в июле, ИИ-агент OpenAI во время тестирования совершил кибератаку.
- 20 сентября Associated Press сообщало, что генеральный директор Anthropic Дарио Амодей призвал к отраслевому сотрудничеству с целью замедления развития все более мощных систем ИИ и усиления мер безопасности. Амодей предупредил, что без такого замедления ИИ может обрести способность управлять роем агентов, которые смогут захватить весь интернет уже в течение 6–12 месяцев.
Как читать ”ГОРДОН” на временно оккупированных территориях
Читать
