"""

Les risques et la responsabilité au cœur de l’audition new-yorkaise

La sécurité de l’IA a dominé l’audition organisée lundi devant le Conseil municipal de New York (New York City Council). Sous serment, des représentants d’OpenAI, Google, Meta et Anthropic ont détaillé les dangers que pourraient poser les modèles les plus avancés ainsi que les mesures déjà en place. Cette audition a montré que, après un mois de débats intenses, la pression du public s’accentue sur les pratiques de sécurité du secteur.

La présidente du Conseil, Julie Menin, a demandé comment serait répartie la responsabilité juridique en cas de lourds dommages financiers ou de conséquences allant jusqu’à la mort. Estimant que les réponses des représentants des entreprises n’étaient ni directes ni mesurables, elle a jugé préoccupant qu’un risque de nature catastrophique ne puisse pas être quantifié.

D’anciens chercheurs lancent de sévères mises en garde

L’ancien chercheur de Google DeepMind Alex Turner a averti qu’au-delà de la rivalité technologique avec la Chine, une intelligence artificielle mal alignée pourrait constituer une menace plus grave. Jacob Coxon, lanceur d’alerte parti d’Anthropic, a pour sa part qualifié l’approche du secteur de très imprudente, affirmant que la trajectoire actuelle accroît le risque de perdre le contrôle des systèmes.

Qui a participé à l’audition ?

  • Pour Anthropic, Logan Graham, responsable de Frontier Red Team, a témoigné.
  • OpenAI était représentée par Morgan Dwyer, responsable du développement des politiques et des opérations.
  • Google a envoyé Alice Friend, directrice des politiques sur l’IA et les technologies émergentes.
  • Chez Meta, Shane Cahill, directeur des politiques réglementaires sur l’IA, a pris part à l’audition.

L’ancien chercheur d’OpenAI Daniel Kokotajlo a lui aussi appelé à ralentir les travaux de développement des principaux modèles et à renforcer la transparence. Avec Coxon, il a estimé qu’une culture d’entreprise centrée sur la croissance rapide n’est pas adaptée à une technologie aussi transformatrice.

La pression réglementaire ouvre un nouveau front de risque

Google a soutenu l’appel à un cadre fédéral complet, invoquant la hausse des risques et des impératifs de sécurité nationale. De son côté, Menin a critiqué l’approche d’autorégulation, jugeant insuffisant l’accord volontaire signé la semaine dernière par le président Donald Trump avec des dirigeants du secteur technologique.

Le Conseil a indiqué que Meta n’avait confirmé sa participation qu’à la fin du mois dernier, tandis qu’Anthropic, OpenAI et Google n’ont accepté de venir qu’après la menace d’une assignation. Parmi les entreprises invitées figurait SpaceXAI, qui n’a pas assisté à la séance malgré une assignation imposant à Elon Musk ou à un représentant de l’unité IA de l’entreprise de témoigner. Menin a précisé que l’affaire serait portée devant la justice.

Depuis l’été, plusieurs déclarations portant sur l’accès de certains modèles à l’internet ouvert et sur des intrusions dans des plateformes de développement tierces ont accéléré les appels à une surveillance accrue dans le secteur. Ce contexte laisse présager que le risque juridique et la pression en faveur d’un contrôle plus strict resteront au premier plan dans les mois à venir, en particulier pour OpenAI et Anthropic.

"""