Гейтс попередив про "багато неприємних сюрпризів" від ШІ вже у наступному році
Гейтс застеріг від загроз, пов'язаних з використанням ШІ
Фото: ЕРА
Головною загрозою наступного 2027 року стануть кібератаки з використанням штучного інтелекту. Таку думку озвучив засновник Microsoft Білл Гейтс під час інтерв'ю СNN, опублікованому 11 жовтня.
Гейтс назвав штучний інтелект "найнебезпечнішою технологією, яку коли-небудь винаходило людство".
"Коли є погані люди, відсутність захисних обмежень та новітні моделі ШІ, у найближчі роки нас чекає чимало неприємних сюрпризів, насамперед у кіберсфері", – попередив він.
Засновник Microsoft вважає, що нині ризик пов’язаний не стільки з втратою контролю над штучним інтелектом скільки з тим, що злочинці можуть використовувати його для різного роду атак, вимагання та маніпуляцій на фінансових ринках.
Водночас Гейтс висловив думку, що саморегуляції з боку ШІ-компаній недостатньо. Він вказав на те, що за ним має здійснюватись державний контроль і закликав до введення такого.
Раніше, наприкінці вересня, Гейтс уже говорив, що законодавців у Вашингтоні повинні регулювати розвиток ШІ. Тоді він припускав, що той є достатньо потужним інструментом, щоб "знищити людство" через кілька років.
Натомість у 2023 році, Гейтс дотримувався іншої думки. Він не бачив потреби у сповільненні ШІ та переконував, що краще зосередитися на тому, як найкраще використати розроблення у цій сфері ШІ, та називав очевидним, що в цих технологіях є "величезні переваги".
Контекст
- Ще 2023 року багато відомих експертів підписали відкритий лист із закликом зупинити всі дослідження з навчання штучного інтелекту й розробити протоколи безпеки. Серед підписантів були генеральний директор Tesla і SpaceX Ілон Маск, співзасновник Apple Стів Возняк, генеральний директор фотоагентства Getty Images Крейг Пітерс, ізраїльський історик Ювал Ной Харарі. Вони попереджали, що ШІ може (серед іншого) поставити під загрозу робочі місця, поширювати пропаганду і призвести до "втрати контролю над нашою цивілізацією". Детально про це інформувало видання "ГОРДОН".
- 23 липня в Конгресі США презентували двопартійний законопроєкт, який передбачає надання міністерству внутрішньої безпеки права наказувати провідним компаніям, що займаються розробленням ШІ, уповільнювати або вимикати моделі ШІ, які уряд визнає небезпечними.
- У спільній заяві спецслужб альянсу Five Eyes, про яку 23 червня написало The Guardian, йшлося про те, що потужні моделі штучного інтелекту, здатні здійснювати "руйнівні" кібератаки проти урядів та бізнесу, можуть з’явитися вже за кілька місяців. З огляду на потенційну загрозу, розвідники закликали світових лідерів "діяти негайно".
- 4 вересня Reuters писало, що група агентів OpenAI, які вийшли з-під контролю, захопила німецький сайт і перетворила його на місце комунікації для інших ШІ-агентів. Раніше, у липні, ШІ-агент OpenAI під час тестування здійснив кібератаку.
- 20 вересня Associated Press писало, що генеральний директор Anthropic Даріо Амодей закликав до галузевої співпраці для уповільнення розвитку дедалі потужніших систем ШІ та посилення заходів безпеки. Амодей попередив, що без такого уповільнення ШІ може дістати здатність керувати роєм агентів, які зможуть захопити весь інтернет, уже протягом 6–12 місяців.