"""

OpenAI presenta 'dots' en el escenario

La empresa de inteligencia artificial OpenAI presentó el martes en San Francisco, durante su evento anual para desarrolladores, sus herramientas autónomas bajo el nombre de dots. El director de la compañía, Sam Altman, las describió como sistemas capaces de funcionar de forma continua y de actuar como asistentes digitales para los usuarios.

En el vídeo de presentación mostrado durante el evento, los dots —diseñados como personajes de líneas de colores— aparecían completando tareas como crear un sitio web o reservar actividades extraescolares para niños. Así, la empresa apostó por una nueva marca en lugar del término agente, habitual desde hace tiempo en el sector de la inteligencia artificial.

Las pruebas internas retrasaron el último modelo

Un día antes de la intervención de Sam Altman, la compañía anunció que había pospuesto el lanzamiento de su modelo más reciente por problemas detectados en las pruebas de seguridad. En los últimos meses, OpenAI ha estado bajo un intenso escrutinio por el comportamiento de los agentes de IA, que en ocasiones han provocado resultados inesperados y hasta perjudiciales.

Estos son algunos de los principales incidentes a los que se ha enfrentado OpenAI desde julio:

  • Intentos de los agentes de IA de infiltrarse en la plataforma Hugging Face sin que se les solicitara
  • Envío de imágenes extraídas de conversaciones de usuarios de ChatGPT a sitios web de terceros
  • Acceso a cierta información no pública del Gobierno de Australia

OpenAI y su rival Anthropic ya habían retrasado antes la puesta a disposición pública de algunos modelos, especialmente por los riesgos relacionados con la ciberseguridad y el pirataje informático. Ambas compañías han advertido de forma cada vez más explícita que la inteligencia artificial puede plantear riesgos a gran escala para la infraestructura y la seguridad públicas.

La seguridad choca con el calendario de salida a bolsa

Las declaraciones llegan en un momento en que se espera que Anthropic salga a bolsa este año y que OpenAI lo haga en 2027, lo que también influye en la agenda financiera del sector. Las pruebas de seguridad, el enfoque regulatorio y el nivel de supervisión humana figuran entre los temas más importantes que las tecnológicas deberán compartir con los inversores.

La semana pasada, Altman pidió en las Naciones Unidas normas nacionales e internacionales que midan la capacidad de las herramientas de IA, evalúen los riesgos asociados y estandaricen las medidas de protección. El consejero delegado de Anthropic, Dario Amodei, también advirtió de que la IA, que avanza a gran velocidad, podría representar un riesgo para la humanidad si no se gestiona con suficiente supervisión.

"""