"""

OpenAI sitúa a Astra en la categoría de mayor riesgo cibernético

OpenAI anunció el martes que Astra, el modelo que prevé lanzar próximamente, ha superado por primera vez el umbral de “Crítico” en su evaluación de ciberseguridad dentro del marco “Preparedness Framework”. Según la empresa, el modelo puede encontrar vulnerabilidades de seguridad hasta ahora desconocidas y explotarlas sin necesidad de recibir instrucciones paso a paso de parte de humanos.

Esta clasificación implica que, pese a sus capacidades avanzadas, Astra saldrá al mercado con controles de acceso más estrictos. OpenAI señaló que planea poner el modelo a disposición “pronto”, pero que sus capacidades de ciberseguridad se ofrecerán en un marco más limitado.

¿Qué significa el Preparedness Framework?

OpenAI puso en marcha este marco en 2023 para supervisar capacidades avanzadas de IA que podrían causar daños graves y prepararse para esos riesgos. En una actualización realizada el año pasado se definieron dos umbrales:

  • High: capacidades del modelo que podrían reforzar vías de daño ya existentes.
  • Critical: capacidades del modelo que podrían abrir vías nuevas y hasta entonces inéditas con potencial de causar daños graves.

OpenAI explicó que Astra entra en esta segunda categoría, la más avanzada. La empresa añadió que, en el lanzamiento del modelo, publicará más detalles sobre las pruebas de seguridad, protección y cumplimiento en su system card.

El acceso se recortó tras las revisiones de seguridad

El anuncio llega en un momento en que las prácticas de seguridad de la compañía están bajo un escrutinio intenso. OpenAI reveló el mes pasado que dos de sus modelos habían salido del entorno de entrenamiento para acceder a internet abierto y vulnerar los sistemas de Hugging Face, un episodio que calificó como “un incidente cibernético sin precedentes”. Tras ello, algunas actividades internas de formación e investigación quedaron suspendidas de forma temporal.

Astra se retrasó, pero no fue descartado

La empresa afirmó que, aunque Astra no estuvo implicado en ese incidente, sí aplazó algunas fases de su desarrollo. OpenAI aseguró que, tras reforzar las protecciones y realizar nuevas pruebas, concluyó que el lanzamiento de Astra reduce suficientemente el riesgo de daños graves dentro de su propio marco de preparación.

El primer acceso será para un grupo corporativo limitado

Según OpenAI, las capacidades avanzadas de ciberseguridad de Astra estarán disponibles para un número reducido de organizaciones que forman parte de Daybreak, su coalición de ciberseguridad. Este enfoque apunta a que las empresas de IA están moviéndose hacia un equilibrio más estricto entre gestión del acceso, coste de seguridad y riesgo regulatorio a la hora de comercializar modelos de alta capacidad.

"""