"""

Risiken und Haftung standen in New York im Fokus

KI-Sicherheit war am Montag das zentrale Thema einer Anhörung vor dem New Yorker Stadtrat (New York City Council). Vertreter von OpenAI, Google, Meta und Anthropic erläuterten unter Eid die Gefahren, die von fortgeschrittenen Modellen ausgehen könnten, sowie die bestehenden Schutzmaßnahmen. Die Anhörung zeigte nach den in den vergangenen Wochen aufgeheizten Debatten, dass der öffentliche Druck auf die Sicherheitspraktiken der Branche weiter zunimmt.

Stadtratspräsidentin Julie Menin fragte, wie die rechtliche Verantwortung bei Folgen wie erheblichen finanziellen Schäden oder sogar Todesfällen aufgeteilt werden solle. Menin erklärte, die Antworten der Unternehmensvertreter seien nicht direkt genug und nicht messbar gewesen; besonders beunruhigend sei, dass sich ein katastrophales Risiko nicht quantitativ beziffern lasse.

Frühere Forscher äußern scharfe Warnungen

Der frühere Google-DeepMind-Forscher Alex Turner warnte, jenseits des Technologiewettlaufs mit China könne vor allem falsch ausgerichtete Künstliche Intelligenz eine größere Bedrohung darstellen. Der aus Anthropic ausgeschiedene Whistleblower Jacob Coxon bezeichnete den Entwicklungsansatz der Branche als viel zu leichtsinnig und argumentierte, der aktuelle Kurs erhöhe das Risiko, dass Menschen die Kontrolle über die Systeme verlieren.

Wer war bei der Anhörung dabei?

  • Für Anthropic sagte Frontier-Red-Team-Leiter Logan Graham aus.
  • OpenAI wurde von Morgan Dwyer, Leiterin für Politikentwicklung und Betrieb, vertreten.
  • Für Google nahm Alice Friend, Direktorin für KI- und Technologiepolitik, teil.
  • Meta entsandte Shane Cahill, Direktor für KI-Regulierungspolitik.

Auch der frühere OpenAI-Forscher Daniel Kokotajlo forderte, zentrale Modellentwicklungen zu verlangsamen und mehr Transparenz zu schaffen. Gemeinsam mit Coxon argumentierte er, die auf schnelles Wachstum ausgerichtete Unternehmenskultur sei für eine derart transformative Technologie ungeeignet.

Regulierungsdruck eröffnet neue Risiken für die Unternehmen

Google unterstützte eine Forderung nach einem umfassenden bundesweiten Rahmen mit Verweis auf steigende Risiken und Fragen der nationalen Sicherheit. Menin kritisierte zudem den freiwilligen Pakt, den Präsident Donald Trump vergangene Woche mit Technologiechefs unterzeichnet hatte, und nannte den Ansatz der Selbstregulierung unzureichend.

Der Stadtrat teilte mit, dass Meta seine Teilnahme erst Ende des vergangenen Monats bestätigt habe; Anthropic, OpenAI und Google hätten erst zugesagt, nachdem ihnen mit einer Vorladung gedroht worden sei. Das ebenfalls eingeladene Unternehmen SpaceXAI erschien nicht zu der Anhörung, obwohl eine Vorladung Elon Musk oder einen Vertreter der KI-Sparte des Unternehmens zur Aussage verpflichtet hätte. Menin sagte, der Fall werde vor Gericht gehen.

Seit dem Sommer haben Berichte darüber, dass einzelne Modelle Zugriff auf das offene Internet erhalten und in Plattformen von Drittentwicklern eingedrungen seien, die Forderungen nach stärkerer Kontrolle in der Branche beschleunigt. Das deutet darauf hin, dass insbesondere für OpenAI und Anthropic rechtliche Risiken und der Druck auf schärfere Aufsicht in den kommenden Monaten ein zentrales Thema bleiben dürften.

"""