Кейтлин Калиновски, руководившая направлениями аппаратного обеспечения и робототехники в OpenAI, подала в отставку после недавнего соглашения компании с Министерством обороны США о развертывании её моделей искусственного интеллекта в засекреченных средах.
Калиновски объявила о своём решении в публикации в социальной сети, заявив, что компания продвинулась вперёд с оборонным партнёрством без достаточного обсуждения вопросов управления и механизмов безопасности. Её уход происходит на фоне более широкой дискуссии о роли компаний, разрабатывающих ИИ, в военной сфере и задачах национальной безопасности.
Отставка связана с партнёрством с Пентагоном
Калиновски заявила, что решение покинуть OpenAI далось ей нелегко, однако было обусловлено обеспокоенностью тем, как было принято и реализовано соглашение с Пентагоном.
«Искусственный интеллект играет важную роль в обеспечении национальной безопасности. Но слежка за американцами без судебного контроля и использование летальных автономных систем без человеческого разрешения — это границы, которые заслуживали гораздо более серьёзного обсуждения, чем они получили».
Согласно сообщениям СМИ, соглашение позволяет использовать модели OpenAI в засекреченных инфраструктурах Пентагона для задач, связанных с национальной безопасностью. О партнёрстве было объявлено примерно за неделю до того, как Калиновски покинула компанию.
Несмотря на критику процесса принятия решения, Калиновски выразила уважение к генеральному директору OpenAI Сэму Альтману и команде компании.
OpenAI заявляет о наличии ограничений и мер безопасности
В ответ на обеспокоенность вокруг соглашения OpenAI заявила, что контракт с Министерством обороны содержит чёткие ограничения на использование её технологий.
Согласно заявлению компании, партнёрство устанавливает так называемые «красные линии», запрещающие применение систем OpenAI для внутреннего наблюдения за гражданами или для полностью автономного оружия.
В компании также подчеркнули, что соглашение должно создать, по их словам, ответственную рамку для применения искусственного интеллекта в сфере национальной безопасности, при этом обсуждение этих вопросов продолжается с сотрудниками, законодателями и представителями гражданского общества.
Сделка последовала после неудачных переговоров с Anthropic
Партнёрство с Пентагоном возникло после того, как переговоры между Министерством обороны США и стартапом в области искусственного интеллекта Anthropic, как сообщается, завершились без соглашения по ограничениям на использование ИИ-систем.
Anthropic добивалась гарантий того, что её технологии не будут применяться для массового внутреннего наблюдения или полностью автономных систем вооружения. После того как переговоры не привели к результату, Пентагон заключил соглашение с OpenAI.
В OpenAI заявили, что их контракт также предусматривает аналогичные принципы безопасности, хотя критики ставят под сомнение достаточность и исполнимость таких ограничений.
Внутренние разногласия по поводу использования ИИ в военной сфере
Калиновски присоединилась к OpenAI в 2024 году, чтобы курировать проекты в области робототехники и потребительского аппаратного обеспечения, ранее работая над аппаратными разработками в Meta. Её уход подчёркивает существующие внутри отрасли напряжения относительно того, как компании, занимающиеся ИИ, взаимодействуют с оборонными структурами.
Сообщения о реакции на сделку с Пентагоном свидетельствуют, что некоторые сотрудники и наблюдатели отрасли выражают обеспокоенность возможностью использования технологий ИИ для систем наблюдения или автономного оружия, даже если компании формально устанавливают политические ограничения.
В то же время OpenAI утверждает, что сотрудничество с государственными структурами может помочь обеспечить ответственное применение систем искусственного интеллекта в сфере национальной безопасности.
Последствия для проектов робототехники OpenAI
Отставка Калиновски также может повлиять на развитие аппаратных и робототехнических проектов OpenAI. Компания изучает возможности создания физических систем на базе ИИ, включая исследования в области робототехники и разработку аппаратных прототипов, как часть своей более широкой стратегии развития искусственного интеллекта.
Хотя робототехника пока не является основным направлением текущих продуктов OpenAI, компания постепенно расширяет исследования в области физических систем и связанных технологий.
Эта отставка показывает, как решения о военных партнёрствах могут оказывать влияние на внутреннюю динамику технологических компаний, включая кадровые решения, дискуссии о корпоративном управлении и дальнейшее развитие перспективных направлений искусственного интеллекта.
Redactor
