Ueberschrift: UN debattiert über Regeln für leistungsfähige KI
Die Chefs der KI-Firmen OpenAI und Anthropic haben im UN-Sicherheitsrat vor Gefahren leistungsfähigerer Systeme gewarnt. Sam Altman und Dario Amodei boten Mitarbeit an strengeren Regeln an.
Sie nannten Risiken durch KI-Missbrauch, etwa für Desinformation oder die Entwicklung gefährlicher Technologien. Zudem könne die Entwicklung so schnell voranschreiten, dass Menschen nicht ausreichend eingreifen können. Gefordert sind internationale Standards, Prüfungen und Meldungen sicherheitsrelevanter Vorfälle.
Befürworter verbindlicher Vorgaben wollen Schutzmaßnahmen rasch unter dem Dach der Vereinten Nationen aufbauen. Nur Zusammenarbeit könne Risiken über Grenzen hinweg begrenzen.
Kritiker strenger Eingriffe befürchten Nachteile im Wettbewerb und gebremste technische Entwicklung. Auch die US-Regierung lehnt weitergehende internationale Regeln ab. Ein Beschluss des Sicherheitsrats liegt nicht vor.
Für Menschen in Ulm und Umgebung gibt es zunächst keine direkte Vorgabe. Die Debatte kann aber später bestimmen, unter welchen Sicherheitsregeln KI-Angebote im Alltag, in Schulen und Unternehmen entwickelt und genutzt werden.
