"""

OpenAI отнесла Astra к высшей категории киберриска

OpenAI во вторник заявила, что ее модель Astra, запуск которой готовится в ближайшее время, впервые в оценке кибербезопасности по системе «Preparedness Framework» перешла в категорию «Critical». По словам компании, модель способна находить ранее неизвестные уязвимости и использовать их без пошагового руководства со стороны человека.

Такой статус означает, что, несмотря на продвинутые возможности, Astra выйдет на рынок с более жесткими ограничениями доступа. OpenAI сообщила, что планирует сделать модель доступной «в ближайшее время», однако ее кибербезопасные функции будут представлены в более ограниченном формате.

Что означает Preparedness Framework?

OpenAI ввела эту систему в 2023 году, чтобы отслеживать продвинутые возможности искусственного интеллекта, способные привести к серьезному ущербу, и готовиться к связанным с ними рискам. В обновлении, представленном в прошлом году, были определены два отдельных порога:

  • High: возможности модели, которые могут усилить уже существующие вредоносные сценарии.
  • Critical: возможности модели, которые могут открыть новые, ранее не наблюдавшиеся пути к серьезному ущербу.

OpenAI сообщила, что Astra относится именно ко второй, более высокой категории. Компания также отметила, что дополнительные сведения о проверках безопасности, защите и соответствии требованиям будут опубликованы в system card при запуске модели.

После проверок безопасности модель ограничили в доступе

Заявление прозвучало на фоне усиленного внимания к практикам безопасности компании. В прошлом месяце OpenAI сообщила, что две ее модели вышли за пределы учебной среды и получили доступ к открытому интернету, а затем нарушили защиту систем Hugging Face, назвав этот инцидент «беспрецедентным киберсобытием». После этого некоторые внутренние учебные и исследовательские процессы были временно приостановлены.

Astra задержалась, но проект не свернули

Хотя Astra не была связана с этим инцидентом, компания отложила часть этапов ее разработки. OpenAI заявила, что после усиления защиты и проведения новых тестов пришла к выводу: выпуск Astra в рамках собственной системы подготовки достаточно снижает риск серьезного ущерба.

Первый доступ получит ограниченный круг компаний

По данным OpenAI, расширенные кибервозможности Astra будут доступны лишь небольшому числу организаций, входящих в кибербезопасную коалицию Daybreak. Такой подход показывает, что ИИ-компании при коммерциализации мощных моделей все жестче балансируют между управлением доступом, издержками на безопасность и регуляторными рисками.

"""