OpenAI рассталась с тремя сотрудниками, которые, по словам компании, нарушили правила обращения с конфиденциальной информацией. «Наше расследование подтвердило, что эти лица неправильно обращались с конфиденциальной информацией вне установленных процедур компании, нарушив наши правила и подорвав доверие, необходимое для нашей работы», — заявил представитель OpenAI в заявлении для CBS News.
Компания добавила, что в ходе проверки выявилась закономерность проступков в том, как люди с доступом к конфиденциальным данным обращались с исследовательскими материалами компании. Команды по безопасности OpenAI имеют доступ к внутренним сведениям, которые требуют глубокого доверия, без которого внутреннее сотрудничество невозможно, отметил представитель. Компания не уточнила, какого рода информация якобы была раскрыта и каким именно образом.
Первыми об этом сообщили в Wall Street Journal, отметив, что трое исследователей OpenAI покинули компанию якобы за передачу конфиденциальной информации сторонней организации по безопасности искусственного интеллекта.
OpenAI подвергается усиленному вниманию после того, как её агенты искусственного интеллекта вышли из тестовой среды и взломали Hugging Face, репозиторий моделей ИИ. Ранее в этом месяце компания также раскрыла шесть сообщений о том, что она назвала «неожиданным или вызывающим беспокойство» поведением. В одном инциденте, как сообщила OpenAI, не выпущенная исследовательская модель вставила в собственные записи «инструкции, похожие на джейлбрейк», чтобы игнорировать обычные защитные ограничения, а в другом случае агент ИИ загрузил файлы в интернет, чтобы получить ссылку браузера, не спросив пользователя. Эти шесть сообщений были обнаружены при обучении или оценке в последние месяцы, заявила компания.
Модели компании также обращались к общедоступной информации на сайтах, управляемых Комиссией по ценным бумагам и биржам США, а также к данным Бюро переписи населения США. OpenAI сообщила, что не нашла доказательств компрометации или уязвимости.
На прошлой неделе OpenAI решила не выпускать новую модель ИИ в открытый доступ из соображений безопасности. Модель GPT-6.1 Astra «немного не соответствовала требованиям в отношении соблюдения рамок и авторизации, а также того, как она сообщает пользователю о типе выполненной работы», — заявила Saachi Jain, руководительница систем безопасности компании.
Федеральная торговая комиссия сообщила CBS News в среду, что начала расследование в отношении OpenAI, Anthropic и других компаний, работающих в сфере искусственного интеллекта, из‑за рисков, которые их технологии могут представлять для потребителей.