"""

Riesgo y responsabilidad, en el centro de la audiencia de Nueva York

La seguridad de la inteligencia artificial fue el eje principal de la audiencia celebrada el lunes ante el Concejo Municipal de Nueva York. Representantes de OpenAI, Google, Meta y Anthropic explicaron bajo juramento los peligros que pueden plantear los modelos avanzados y las medidas que están aplicando. La sesión mostró que, tras un mes de debate intensificado, crece la presión pública sobre las prácticas de seguridad de la industria.

La presidenta del concejo, Julie Menin, preguntó cómo se repartiría la responsabilidad legal en casos de daños económicos graves o consecuencias como la muerte derivadas de estos sistemas. Menin señaló que las respuestas de los representantes de las empresas no fueron directas ni medibles, y consideró preocupante que no se pueda cuantificar un riesgo de magnitud catastrófica.

Exinvestigadores lanzan duras advertencias

El exinvestigador de Google DeepMind Alex Turner advirtió que, más allá de la carrera tecnológica con China, una inteligencia artificial mal alineada podría representar una amenaza aún mayor. Jacob Coxon, denunciante que dejó Anthropic, calificó el enfoque de desarrollo del sector de demasiado imprudente y sostuvo que la trayectoria actual aumenta el riesgo de que las personas pierdan el control sobre los sistemas.

¿Quiénes participaron en la audiencia?

  • Por Anthropic declaró Logan Graham, responsable de Frontier Red Team.
  • OpenAI estuvo representada por Morgan Dwyer, responsable de desarrollo de políticas y operaciones.
  • De Google asistió Alice Friend, directora de políticas de inteligencia artificial y tecnologías emergentes.
  • Por Meta participó Shane Cahill, director de políticas regulatorias de inteligencia artificial.

El exinvestigador de OpenAI Daniel Kokotajlo también pidió ralentizar el desarrollo de los principales modelos y aumentar la transparencia. Junto con Coxon, defendió que la cultura empresarial centrada en el crecimiento rápido no es adecuada para una tecnología tan transformadora.

La presión regulatoria abre un nuevo frente de riesgo para las empresas

Google respaldó la petición de un marco federal amplio, citando el aumento de los riesgos y motivos de seguridad nacional. Menin, por su parte, criticó el enfoque de autorregulación y dijo que el acuerdo voluntario firmado la semana pasada por el presidente Donald Trump con líderes tecnológicos se quedó corto.

El concejo explicó que Meta confirmó su participación a finales del mes pasado, mientras que Anthropic, OpenAI y Google solo aceptaron asistir después de recibir la amenaza de una citación. SpaceXAI, incluida entre las empresas invitadas, no acudió a la sesión pese a la citación que obligaba a Elon Musk o a un representante de la división de inteligencia artificial de la compañía a declarar. Menin afirmó que el asunto se llevará ante los tribunales.

Desde el verano, varias revelaciones sobre modelos con acceso abierto a internet y sobre intrusiones en plataformas de terceros para desarrolladores han acelerado los llamamientos a reforzar la supervisión del sector. Todo apunta a que este escenario mantendrá en el centro del debate los riesgos legales y la presión por una vigilancia más estricta sobre grandes laboratorios como OpenAI y Anthropic.

"""