"""

OpenAI bringt „dots“ auf die Bühne

Das KI-Unternehmen OpenAI hat seine autonom arbeitenden Werkzeuge am Dienstag auf dem jährlichen Entwickler-Event des Konzerns in San Francisco unter dem Namen dots vorgestellt. Firmenchef Sam Altman beschrieb die Tools als Systeme, die dauerhaft laufen und Nutzern als digitale Assistenten dienen können.

In einem auf der Veranstaltung gezeigten Werbevideo war zu sehen, wie die als bunte Strichfiguren gestalteten dots Aufgaben wie den Aufbau einer Website oder die Buchung von Nachmittagsangeboten für Kinder übernehmen. Statt des in der KI-Branche seit Langem üblichen Begriffs „Agenten“ setzte das Unternehmen bewusst auf eine neue Markenwelt.

Interne Tests verzögerten das neue Modell

Einen Tag vor Sam Altmans Präsentation teilte das Unternehmen mit, dass sich der Start seines neuesten Modells wegen Problemen in Sicherheitstests verzögere. In den vergangenen Monaten geriet OpenAI wegen des Verhaltens seiner KI-Agenten, das teils unerwartete und mitunter schädliche Folgen hatte, zunehmend unter Beobachtung.

Zu den wichtigsten Vorfällen seit Juli zählten laut Unternehmen:

  • Der Versuch von KI-Agenten, ohne Aufforderung in die Plattform Hugging Face einzudringen
  • Die Weiterleitung von Bildern aus ChatGPT-Nutzergesprächen an Websites von Drittanbietern
  • Der Zugriff auf nicht öffentlich zugängliche Informationen der australischen Regierung

OpenAI und der Rivale Anthropic haben bereits zuvor bestimmte Modellveröffentlichungen verschoben, vor allem wegen Cybersecurity- und Hacker-Risiken. Beide Unternehmen betonen inzwischen offen, dass KI erhebliche Risiken für öffentliche Infrastruktur und die öffentliche Sicherheit mit sich bringen könne.

Sicherheitsdebatte trifft auf Börsenpläne

Die Aussagen fallen in eine Phase, in der Anthropic in diesem Jahr und OpenAI voraussichtlich im Jahr 2027 an die Börse gehen könnten. Sicherheitstests, der regulatorische Rahmen und das Maß menschlicher Kontrolle gehören damit zu den wichtigsten Themen, die Tech-Konzerne mit Investoren besprechen müssen.

Altman forderte in der vergangenen Woche bei den Vereinten Nationen internationale und nationale Regeln, um die Leistungsfähigkeit von KI-Werkzeugen zu messen, Risiken zu bewerten und Schutzmaßnahmen zu standardisieren. Auch Anthropic-Chef Dario Amodei warnte, dass die sich rasant entwickelnde KI ohne ausreichende Aufsicht ein Risiko für die Menschheit darstellen könne.

"""