Совет директоров OpenAI перед увольнением своего гендиректора получил письмо об открытии, которое "может угрожать человечеству" – Reuters
Накануне четырехдневного увольнения Сэма Альтмана, генерального директора компании OpenAI, создавшей ChatGPT, несколько исследователей написали письмо совету директоров, предупреждая о мощном открытии искусственного интеллекта, которое, по их словам, может угрожать человечеству. Об этом 22 ноября сообщили Reuters два источника.
По словам обоих источников, письмо и алгоритм ИИ, о которых ранее не сообщали, были главными событиями, предшествовавшими увольнению Альтмана с должности председателя правления.
Речь идет о проекте под названием Q* (произносится как Q-Star), который может стать прорывом в поисках так называемого искусственного всеобщего интеллекта (AGI), сказал один из собеседников Reuters. Именно Альтман привлек инвестиции и вычислительные ресурсы, необходимые для реализации AGI.
Обладая огромными вычислительными ресурсами, новая модель смогла решить определенные математические задачи, сказал собеседник. По его словам, хотя этот ИИ знает математику на уровне учеников начальных классов, успешное прохождение таких тестов вселило в исследователей оптимизм по поводу будущих успехов Q*.
Исследователи считают математику пределом развития генеративного ИИ. Сейчас он хорошо справляется с написанием и переводом. Но когда эта технология сможет решать математические задачи, это будет означать, что искусственный интеллект будет иметь больше возможностей рассуждать, подобно человеку.
В отличие от калькулятора, который может выполнять ограниченное количество операций, AGI сможет обобщать, изучать и понимать. В своем письме к правлению сотрудники указали на потенциальную опасность от искусственного интеллекта, сообщили источники, не указав точных проблем с безопасностью.
Источники ссылаются на письмо как на один из факторов среди более длинного списка претензий правления, которые привели к увольнению Альтмана. В то же время Reuters не смогло ознакомиться с копией письма, а сотрудники, написавшие письмо, не ответили на запросы о комментариях.
Контекст:
Правление компании OpenAI уволило Альтмана 17 ноября, говорилось на сайте компании. Такое решение объяснили тем, что Альтман "не всегда был откровенен в общении с правлением, что препятствовало его способности выполнять свои обязанности". Также в компании объявили об увольнении соучредителя OpenAI Грега Брокмана с должности главы правления. Сам Брокман позже объявил, что полностью покинет OpenAI.
Bloomberg писало, что Альтман конфликтовал с членами правления относительно того, как быстро разрабатывать так называемый генеративный ИИ, как коммерциализировать продукты и какие шаги необходимо предпринять, чтобы уменьшить их потенциальный ущерб для общественности.
Помимо разногласий по стратегии, члены совета директоров OpenAI также боролись с предпринимательскими амбициями Альтмана, отмечает агентство. По словам источников, Альтман пытался привлечь десятки миллиардов долларов от суверенных фондов Ближнего Востока для создания стартапа по производству микросхем искусственного интеллекта, чтобы конкурировать с процессорами от Nvidia. Также он переманивал главу SoftBank Group Corp. Масайоши Сона на многомиллиардные инвестиции в новую компанию по производству оборудования, ориентированного на ИИ, в партнерстве с бывшим дизайнером Apple Джони Айвом.
В то же время в правлении OpenAI были недовольны усилиями Альтмана по сбору средств под именем OpenAI, а также обеспокоены тем, что новые компании могут не разделять ту же модель управления, что и OpenAI, говорили источники Bloomberg.
После увольнения Альтмана более 700 сотрудников угрожали также покинуть компанию. В итоге 22 ноября OpenAI сообщила о решении вернуть Альтмана на должность гендиректора.