Кейтлін Каліновскі, яка очолювала напрями апаратного забезпечення та робототехніки в OpenAI, подала у відставку після недавньої угоди компанії з Міністерством оборони США про розгортання її моделей штучного інтелекту в засекречених середовищах.
Каліновскі оголосила про своє рішення у дописі в соціальній мережі, заявивши, що компанія просунулася з оборонним партнерством без достатнього обговорення питань управління та механізмів безпеки. Її відставка відбувається на тлі ширшої дискусії щодо ролі компаній, які розробляють ШІ, у військовій сфері та питаннях національної безпеки.
Відставка пов’язана з партнерством із Пентагоном
Каліновскі зазначила, що рішення залишити OpenAI далося їй нелегко, однак було зумовлене занепокоєнням тим, як було ухвалено та реалізовано угоду з Пентагоном.
«Штучний інтелект відіграє важливу роль у забезпеченні національної безпеки. Але стеження за американцями без судового контролю та використання летальних автономних систем без дозволу людини — це межі, які заслуговували значно серйознішого обговорення, ніж вони отримали».
За повідомленнями ЗМІ, угода дозволяє використовувати моделі OpenAI у засекречених інфраструктурах Пентагону для завдань, пов’язаних із національною безпекою. Про партнерство було оголошено приблизно за тиждень до того, як Каліновскі залишила компанію.
Попри критику процесу ухвалення рішення, Каліновскі висловила повагу до генерального директора OpenAI Сема Альтмана та команди компанії.
OpenAI заявляє про наявність обмежень і заходів безпеки
У відповідь на занепокоєння щодо угоди OpenAI заявила, що контракт із Міністерством оборони містить чіткі обмеження щодо використання її технологій.
Згідно із заявою компанії, партнерство встановлює так звані «червоні лінії», які забороняють використання систем OpenAI для внутрішнього спостереження за громадянами або для повністю автономної зброї.
У компанії також підкреслили, що угода має створити, за їхніми словами, відповідальну рамку для застосування штучного інтелекту у сфері національної безпеки, водночас обговорення цих питань триває з працівниками, законодавцями та представниками громадянського суспільства.
Угода відбулася після невдалих переговорів з Anthropic
Партнерство з Пентагоном виникло після того, як переговори між Міністерством оборони США та стартапом у сфері штучного інтелекту Anthropic, як повідомляється, завершилися без досягнення угоди щодо обмежень на використання систем ШІ.
Anthropic прагнула отримати гарантії того, що її технології не використовуватимуться для масового внутрішнього спостереження або повністю автономних систем озброєння. Після того як переговори не дали результату, Пентагон уклав угоду з OpenAI.
У OpenAI заявили, що їхній контракт також передбачає подібні принципи безпеки, хоча критики ставлять під сумнів достатність і можливість виконання таких обмежень.
Внутрішні суперечності щодо використання ШІ у військовій сфері
Каліновскі приєдналася до OpenAI у 2024 році, щоб керувати проєктами у сфері робототехніки та споживчого апаратного забезпечення, раніше працюючи над апаратними розробками в Meta. Її відхід підкреслює наявні в галузі напруження щодо того, як компанії, що займаються ШІ, взаємодіють з оборонними структурами.
Повідомлення про реакцію на угоду з Пентагоном свідчать, що деякі працівники та спостерігачі галузі висловлюють занепокоєння можливим використанням технологій ШІ для систем спостереження або автономної зброї, навіть якщо компанії формально встановлюють політичні обмеження.
Водночас OpenAI стверджує, що співпраця з державними структурами може допомогти забезпечити відповідальне використання систем штучного інтелекту у сфері національної безпеки.
Наслідки для робототехнічних проєктів OpenAI
Відставка Каліновскі також може вплинути на розвиток апаратних і робототехнічних проєктів OpenAI. Компанія досліджує можливості створення фізичних систем на базі ШІ, зокрема проводить дослідження у сфері робототехніки та розробляє апаратні прототипи як частину своєї ширшої стратегії розвитку штучного інтелекту.
Хоча робототехніка поки не є основним напрямом поточних продуктів OpenAI, компанія поступово розширює дослідження у сфері фізичних систем і пов’язаних технологій.
Ця відставка демонструє, як рішення щодо військових партнерств можуть впливати на внутрішню динаміку технологічних компаній, включно з кадровими рішеннями, дискусіями про корпоративне управління та подальшим розвитком перспективних напрямів штучного інтелекту.
Redactor
