Маск, Возняк и еще более тысячи исследователей подписали обращение, призывающее остановить исследования искусственного интеллекта

По состоянию на 29 марта обращение подписали более 1200 ученых, бизнесменов и экспертов, в их числе: американский бизнесмен, гендиректор компаний Tesla и SpaceX Илон Маск, американский бизнесмен, соучредитель соцсети Pinterest Эван Шарп, американский программист, соучредитель Apple Стив Возняк, генеральный директор фотоагентства Getty Images Крейг Питерс, израильский историк Юваль Ной Харари.

В обращении говорится, что все исследования более мощных систем искусственного интеллекта, чем GPT-4 от компании OpenAI, должны быть приостановлены как представляющие серьезную опасность для общества и человечества, пока не появятся общие протоколы безопасности.

"Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми. Эта уверенность должна быть хорошо обоснована и возрастать с величиной потенциальных эффектов системы", – говорится в обращении.

Отмечается, что продвинутый ИИ может запустить глубокое изменение в истории жизни на Земле.

"Современные системы искусственного интеллекта в настоящее время становятся конкурентоспособными с людьми при решении общих задач, и мы должны спросить себя: должны ли мы позволять машинам наводнять наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места, в том числе приносящие удовлетворение? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?" – говорится в письме.

Авторы подчеркивают, что важно получить независимую оценку, прежде чем приступать к обучению будущих систем. Они отмечают, что современные мощные системы должны быть более точными, безопасными, интерпретируемыми, прозрачными, надежными, согласованными, заслуживающими доверия и лояльными.

Также отмечается, что важно работать в сотрудничестве с политиками, чтобы разработать соответствующие контролирующие органы.

Глава OpenAI Сэм Альтман не подписал обращение, сообщает Reuters.

Контекст:

В марте OpenAI, поддерживаемая Microsoft, представила четвертую итерацию своей программы искусственного интеллекта GPT, которая поразила пользователей, сообщает Reuters. 

GPT может имитировать диалог, отвечать на дополнительные вопросы, признавать ошибки, оспаривать неверные предпосылки и отклонять неуместные запросы.

The Guardian пишет, что ранние пользователи описывали эту технологию как альтернативу Google, поскольку она способна предоставлять описания, ответы и решения на сложные вопросы, включая способы написания кода, а также решать проблемы компоновки и запросы оптимизации.