Гейтс попередив про руйнівну потужність ШІ та його здатність знищити мільйони людей

Техно

Штучний інтелект є достатньо потужним інструментом, щоб "знищити людство" через кілька років. Про це попередив засновник Microsoft Білл Гейтс під час інтерв'ю NBC News, фрагмент якого опублікували 25 вересня.

Мільярдер закликав американців не ігнорувати ризики, що ШІ може бути використаний зловмисниками для завдання масштабної шкоди вже сьогодні. Він зазначив, що хоча забезпечити стовідсотковий захист досить складно, однак указав, що це потрібно зробити максимально, адже ніколи не було зброї настільки потужної, як "поєднання людей зі злими намірами, які використовують найновіші інструменти ШІ". Він висловив переконання, що ШІ здатен керувати подіями, які "спричиняють мільярд смертей".

Гейтс закликав законодавців у Вашингтоні регулювати розвиток ШІ. Медіа зауважило, що його заклик прозвучав через кілька тижнів після того, як генеральні директори деяких із найбільших лабораторій ШІ країни погодилися щодо необхідності уповільнити темпи його розвитку.

Засновник Microsoft звернув увагу, що всі говорять про недостатність саморегулювання ШІ. За його словами, до обговорення заходів безпеки і моніторингу слід включити правоохоронні органи та політиків, і це "має бути обов'язковою справою". Гейтс додав, що хоч це потягне за собою додаткові витрати для індустрії, але не стане причиною "драматичного уповільнення" їхньої діяльності.

У статті згадується, що на початку місяця керівники двох провідних американських компаній у сфері штучного інтелекту Anthropic та OpenAI заявили про необхідність уповільнити перегони за створення надпотужних систем ШІ. Їхні коментарі пролунали після того, як колишній співробітник Anthropic Джейкоб Коксон публічно звинуватив обидві компанії у безвідповідальності, зазначивши, що вони "мчать прямо до самовдосконалення суперінтелекту, граючи на життя людей". Коксон додав, що розробники ШІ "щиро переконані, ніби ці технології можуть знищити людство до кінця десятиліття".

Водночас раніше, ще у 2023 році, Гейтс дотримувався іншої думки. Він не бачив потреби у сповільненні ШІ та переконував, що краще зосередитися на тому, як найкраще використати розроблення у цій сфері ШІ, та називав очевидним, що в цих технологіях є "величезні переваги".

Контекст

Ще 2023 року багато відомих експертів підписали відкритий лист із закликом зупинити всі дослідження з навчання штучного інтелекту й розробити протоколи безпеки. Серед підписантів були генеральний директор Tesla і SpaceX Ілон Маск, співзасновник Apple Стів Возняк, генеральний директор фотоагентства Getty Images Крейг Пітерс, ізраїльський історик Ювал Ной Харарі. Вони попереджали, що ШІ може (серед іншого) поставити під загрозу робочі місця, поширювати пропаганду і призвести до "втрати контролю над нашою цивілізацією". Детально про це інформувало видання "ГОРДОН".
23 липня в Конгресі США презентували двопартійний законопроєкт, який передбачає надання міністерству внутрішньої безпеки права наказувати провідним компаніям, що займаються розробленням ШІ, уповільнювати або вимикати моделі ШІ, які уряд визнає небезпечними.
У спільній заяві спецслужб альянсу Five Eyes, про яку 23 червня написало The Guardian, йшлося про те, що потужні моделі штучного інтелекту, здатні здійснювати "руйнівні" кібератаки проти урядів та бізнесу, можуть з’явитися вже за кілька місяців. З огляду на потенційну загрозу, розвідники закликали світових лідерів "діяти негайно".
4 вересня Reuters писало, що група агентів OpenAI, які вийшли з-під контролю, захопила німецький сайт і перетворила його на місце комунікації для інших ШІ-агентів. Раніше, у липні, ШІ-агент OpenAI під час тестування здійснив кібератаку.
20 вересня Associated Press писало, що генеральний директор Anthropic Даріо Амодей закликав до галузевої співпраці для уповільнення розвитку дедалі потужніших систем ШІ та посилення заходів безпеки. Амодей попередив, що без такого уповільнення ШІ може дістати здатність керувати роєм агентів, які зможуть захопити весь інтернет, уже протягом 6–12 місяців.