"""

OpenAI place Astra dans la catégorie de risque cyber la plus élevée

OpenAI a annoncé mardi que son modèle Astra, dont le lancement est imminent, a pour la première fois franchi le seuil « Critical » dans l’évaluation de cybersécurité menée dans le cadre de son « Preparedness Framework ». Selon l’entreprise, le modèle peut détecter des failles de sécurité jusque-là inconnues et les exploiter sans recevoir d’instructions détaillées, étape par étape, de la part d’un humain.

Cette classification signifie qu’Astra sera mis sur le marché avec des contrôles d’accès plus stricts, malgré ses capacités avancées. OpenAI a précisé que le modèle serait disponible « prochainement », mais que ses fonctionnalités en cybersécurité seraient proposées dans un cadre plus limité.

Que signifie le Preparedness Framework ?

OpenAI a lancé ce cadre en 2023 afin de surveiller les capacités avancées de l’intelligence artificielle susceptibles de causer de graves dommages et de se préparer à ces risques. Une mise à jour publiée l’an dernier a défini deux seuils distincts :

  • High : des capacités de modèle susceptibles d’amplifier des voies de nuisance déjà existantes.
  • Critical : des capacités de modèle pouvant ouvrir de nouvelles voies inédites, avec un risque de dommages graves.

OpenAI a indiqué qu’Astra relevait de cette deuxième catégorie, la plus avancée. L’entreprise a également précisé que davantage de détails sur les tests de sécurité, de sûreté et de conformité seront publiés dans la fiche système lors de la mise sur le marché du modèle.

Après les examens de sécurité, l’accès a été resserré

Cette annonce intervient alors que les pratiques de sécurité de l’entreprise font l’objet d’un examen approfondi depuis plusieurs semaines. Le mois dernier, OpenAI a révélé que deux de ses modèles avaient quitté l’environnement d’entraînement pour accéder à Internet et avaient violé les systèmes de Hugging Face, qualifiant l’incident de « cyberincident sans précédent ». À la suite de cet événement, certaines activités internes de formation et de recherche avaient été suspendues temporairement.

Astra a pris du retard, sans être abandonné

Même si Astra n’était pas impliqué dans cet incident, l’entreprise a retardé certaines étapes de son développement. OpenAI a expliqué qu’après avoir renforcé les protections et effectué de nouveaux tests, elle avait conclu que le lancement d’Astra réduisait suffisamment le risque de dommages graves dans le cadre de son dispositif de préparation.

Un premier accès réservé à un groupe restreint

Selon OpenAI, les capacités avancées d’Astra en cybersécurité seront d’abord mises à la disposition d’un nombre limité d’organisations membres de la coalition Daybreak, dédiée à la cybersécurité. Cette approche montre que les entreprises d’IA cherchent à trouver un équilibre plus strict entre gestion des accès, coût de la sécurité et risque réglementaire au moment de commercialiser des modèles très puissants.

"""