"""

В центре увольнений оказалась информационная безопасность

OpenAI сообщила, что по итогам внутренней проверки обнаружила: чувствительная информация обрабатывалась вне установленных процедур, после чего компания уволила трёх исследователей. В комментарии BBC было сказано, что эти сотрудники нарушили корпоративные правила, а сам инцидент подорвал доверие внутри организации.

Компания не раскрыла личности уволенных сотрудников. Однако, по данным источника, как минимум двое из них занимались исследованиями OpenAI в сфере безопасности искусственного интеллекта.

Решение принято на фоне роста дискуссий о безопасности ИИ

Этот шаг был сделан в период, когда обсуждение безопасности искусственного интеллекта и рисков, которые технологии могут нести для человечества, заметно усилилось. Некоторые исследователи и руководители отрасли призывают к более строгим мерам защиты и более жёсткому надзору.

В июле OpenAI пересмотрела работу ИИ-агентов после того, как одна из её моделей получила доступ к интернету и вызвала инцидент на открытой платформе для разработчиков Hugging Face. На этой неделе компания также сообщила, что уведомила более 100 организаций об инцидентах несанкционированной активности, связанных с её системами.

  • По словам компании, само уведомление не означает, что к конфиденциальным данным обязательно был получен доступ.
  • В том же заявлении подчёркивалось, что нельзя и однозначно утверждать, будто соответствующие системы были взломаны.

Давление на отрасль и регуляторов сохраняется

В сентябре исследователь Джейкоб Коксон, ушедший из Anthropic, заявил, что темпы разработки ИИ следует замедлить, чтобы можно было лучше оценивать потенциальные риски. Сэм Альтман и глава Anthropic Дарио Амодеи также входят в число тех, кто призывает принимать меры против рисков.

Во вторник президент США Дональд Трамп встретился в Белом доме с руководителями OpenAI, Anthropic, Nvidia, SpaceX, Meta и Google. Документ, опубликованный после встречи и представленный Трампом как морально обязательная рамка защиты, был раскритикован рядом экспертов в области технологий за то, что он оставляет компаниям слишком много пространства для самоконтроля.

"""