"""

La sécurité de l’information au cœur des licenciements

OpenAI a annoncé avoir mis fin au contrat de trois chercheurs après un examen interne concluant que des informations sensibles avaient été traitées en dehors des procédures établies. Dans une déclaration transmise à la BBC, l’entreprise a indiqué que les personnes concernées avaient enfreint ses règles internes et provoqué une situation ayant fragilisé la confiance au sein de l’organisation.

La société n’a pas révélé l’identité des employés licenciés. En revanche, elle a précisé qu’au moins deux d’entre eux travaillaient sur ses recherches en matière de sécurité de l’IA.

Une décision prise dans un contexte de vives discussions sur la sécurité de l’IA

Cette mesure intervient alors que les débats sur la sécurité de l’IA et sur les risques que la technologie pourrait faire peser sur l’humanité se sont nettement intensifiés ces derniers mois. Certains chercheurs et dirigeants du secteur appellent à des garde-fous plus stricts et à une supervision renforcée.

En juillet, OpenAI a revu ses activités d’agents d’IA après qu’un de ses modèles a eu accès à Internet et provoqué une violation sur Hugging Face, la plateforme open source pour développeurs. L’entreprise a également annoncé cette semaine avoir informé plus de 100 organisations d’incidents liés à des activités non autorisées associées à ses systèmes.

  • Selon l’entreprise, le fait d’envoyer une notification ne signifie pas nécessairement que des données privées ont été consultées.
  • La même déclaration souligne qu’il n’est pas possible d’en conclure avec certitude que les systèmes concernés ont été compromis.

La pression de la surveillance reste forte dans le secteur et à Washington

En septembre, Jacob Coxon, chercheur ayant quitté Anthropic, a estimé qu’il fallait ralentir le rythme de développement de l’IA afin de mieux évaluer les risques potentiels. Sam Altman et le patron d’Anthropic, Dario Amodei, figurent également parmi ceux qui appellent à des mesures de précaution face à ces risques.

Mardi, le président américain Donald Trump a rencontré à la Maison Blanche des dirigeants d’OpenAI, d’Anthropic, de Nvidia, de SpaceX, de Meta et de Google. Le document publié à l’issue de la réunion, présenté par Trump comme un cadre de protection moralement contraignant, a été critiqué par certains experts technologiques, qui estiment qu’il laisse trop de place à l’autorégulation des entreprises.

"""