Der Chef des US-KI-Unternehmens Anthropic, Dario Amodei, verlangt ein langsameres Tempo bei besonders leistungsfähigen KI-Modellen. Sicherheitsvorkehrungen, Kontrollen und Regeln müssten mit der technischen Entwicklung Schritt halten, berichtet die Nachrichtenagentur AP.
Amodei warnt vor Systemen, die Aufgaben weitgehend selbstständig erledigen und sich so schnell verbessern könnten, dass Unternehmen und Behörden den Überblick verlieren. Er schlägt vor, externe Fachleute dauerhaft in den Firmen arbeiten zu lassen und ihre Sicherheitsarbeit unabhängig zu prüfen. Zudem wirbt er für internationale Absprachen. Nach Angaben des Wall Street Journal unterstützen auch OpenAI-Chef Sam Altman und Elon Musk den Ruf nach mehr Vorsicht.
Für Nutzer von KI-Diensten auch in Ulm und der Region steht damit ein Grundkonflikt im Raum: Mehr Prüfungen könnten die Einführung neuer Funktionen bremsen, sollen aber Risiken verringern. Gegner einer weitreichenden Verlangsamung befürchten dagegen Nachteile im Wettbewerb. Sie warnen, Forschung könne zu Unternehmen oder Staaten mit geringeren Auflagen abwandern.
Ob sich die Branche auf gemeinsame Standards einigt und Regierungen dabei mitziehen, ist offen.
