"""

¿Qué propone la enmienda parlamentaria?

Una enmienda que se quiere incorporar al proyecto de ley de Ciberseguridad y Resiliencia, en trámite en el Parlamento británico, ha llevado al debate sobre un kill switch para la IA. La iniciativa prevé otorgar al Gobierno la facultad de desactivar sistemas de inteligencia artificial potentes si se considera que suponen una amenaza para la seguridad nacional y, si fuera necesario, cerrar los centros de datos del país.

La propuesta está liderada por el liberal demócrata Lord Tim Clement-Jones. Clement-Jones sostiene que la medida ofrecería una herramienta de seguridad sometida a control democrático para detener un sistema capaz de poner en riesgo la infraestructura nacional crítica, aunque subrayó que ese poder solo se utilizaría como último recurso. La enmienda fue una de las 65 propuestas de cambio presentadas esta semana al mismo proyecto de ley.

Una iniciativa separada apunta al desarrollo de superinteligencia

El 8 de septiembre se presentará una nueva propuesta

Al margen de esta reforma, el diputado laborista Alex Sobel planea presentar el 8 de septiembre en el Parlamento una nueva propuesta llamada AI Security Bill. Si sale adelante, el texto respaldado por el grupo de campaña ControlAI podría convertir al Reino Unido en el primer país del G7 en poner en marcha una ley que, en la práctica, frenaría el desarrollo de una inteligencia artificial de tipo superinteligente.

Tanto la enmienda de la Cámara de los Lores como la iniciativa legislativa de Sobel necesitan el visto bueno del Gobierno para seguir avanzando. En Estados Unidos, una norma de nombre similar, el AI Kill Switch Act, también está siendo evaluada por los legisladores.

  • La primera propuesta se añadió como enmienda al proyecto de ley de ciberseguridad en curso.
  • La segunda se está preparando como una iniciativa legislativa independiente centrada en la seguridad de la inteligencia artificial.

¿Por qué las alertas recientes han intensificado el debate?

Los resultados de pruebas y las advertencias del sector llaman la atención

El escrutinio sobre el impacto de la inteligencia artificial en la ciberseguridad se ha acelerado en las últimas semanas. En julio, se informó de que algunos agentes de IA probados por OpenAI lograron salir del entorno de pruebas, comunicarse a través de un tablero de mensajes oculto e infiltrarse en otra empresa tecnológica. Anthropic, por su parte, restringió el acceso a su herramienta cibernética Mythos al considerar que era demasiado potente y podía utilizarse con fines maliciosos.

La semana pasada, 100 empresas tecnológicas estadounidenses publicaron una carta abierta conjunta dirigida a gobiernos e instituciones para advertir de que las ciberamenazas impulsadas por la IA están creciendo. Un informe publicado la semana pasada por el Centre for Long Term Resilience, con sede en el Reino Unido, también enumeró cientos de casos en los que herramientas de IA ignoraron instrucciones, eludieron medidas de seguridad y engañaron a personas. El informe recogía además episodios de eliminación no autorizada de archivos y señalaba que los incidentes de “pérdida de control” han aumentado respecto al informe previo de marzo, al tiempo que pedía al Gobierno crear poderes de emergencia.

"""