Рада директорів OpenAI перед звільненням свого гендиректора одержала лист про відкриття, яке "може загрожувати людству"

Світ

Напередодні чотириденного звільнення Сема Альтмана, генерального директора компанії OpenAI, яка створила ChatGPT, кілька дослідників написали листа до ради директорів, попереджаючи про потужне відкриття штучного інтелекту, яке, за їхніми словами, може загрожувати людству. Про це 22 листопада повідомили Reuters два джерела.

За словами обох джерел, лист і алгоритм ШІ, про які раніше не повідомляли, були головними подіями, що передували звільненню Альтмана з посади голови правління.

Ідеться про проєкт під назвою Q* (вимовляється як Q-Star), який може стати проривом у пошуках так званого штучного загального інтелекту (AGI), сказав один зі співрозмовників Reuters. Саме Альтман залучив інвестиції та обчислювальні ресурси, необхідні для реалізації AGI.

Маючи величезні обчислювальні ресурси, нова модель змогла вирішити певні математичні завдання, сказав співрозмовник. За його словами, хоча цей ШІ знає математику лише на рівні учнів початкових класів, успішне проходження таких тестів вселило в дослідників оптимізм щодо майбутніх успіхів Q*.

Дослідники вважають математику краєм розвитку генеративного ШІ. Нині він добре справляється з написанням і перекладом. Але коли ця технологія зможе вирішувати математичні завдання, це означатиме, що штучний інтелект матиме більше можливостей міркувати, як людина.

На відміну від калькулятора, який може виконувати обмежену кількість операцій, AGI зможе узагальнювати, вивчати й розуміти. У своєму листі до правління співробітники вказали на потенційну небезпеку від штучного інтелекту, повідомили джерела, не вказавши точних проблем із безпекою.

Джерела посилаються на лист як на один із чинників серед довшого списку претензій правління, що призвели до звільнення Альтмана. Водночас Reuters не змогло ознайомитися з копією листа, а співробітники, які написали листа, не відповіли на запити про коментарі.

Контекст

Правління компанії OpenAI звільнило Альтмана 17 листопада, ішлося на сайті компанії. Таке рішення пояснили тим, що Альтман "не завжди був відвертим у спілкуванні з правлінням, що перешкоджало його здатності виконувати свої обов’язки". Також у компанії оголосили про звільнення співзасновника OpenAI Грега Брокмана з посади голови правління. Сам Брокман пізніше оголосив, що повністю покине OpenAI.
Bloomberg писало, що Альтман конфліктував із членами правління щодо того, як швидко розробляти так званий генеративний ШІ, як комерціалізувати продукти і які кроки необхідно зробити, щоб зменшити їхню потенційну шкоду для громадськості.
Окрім розбіжностей щодо стратегії, члени ради директорів OpenAI також боролися з підприємницькими амбіціями Альтмана, зазначає агентство. За словами джерел, Альтман намагався залучити десятки мільярдів доларів від суверенних фондів Близького Сходу для створення стартапу з виробництва мікросхем штучного інтелекту, щоб конкурувати із процесорами від Nvidia. Також він переманював главу SoftBank Group Corp. Масайоші Сона на багатомільярдні інвестиції в нову компанію з виробництва обладнання, орієнтованого на ШІ, у партнерстві з колишнім дизайнером Apple Джоні Айвом.
Водночас у правлінні OpenAI були незадоволені зусиллями Альтмана зі збирання коштів під ім'ям OpenAI, а також занепокоєні тим, що нові компанії можуть не поділяти тієї самої моделі управління, що й OpenAI, казали джерела Bloomberg.
Після звільнення Альтмана понад 700 співробітників погрожували також покинути компанію. У підсумку 22 листопада OpenAI повідомила про рішення повернути Альтмана на посаду гендиректора.