Transcript

US-Senatorin fordert verbindliche KI-Sicherheitsstandards – mit Haftung · Superkraft KI News | by Jörg Schieb

In den USA wird es ernst mit der KI-Regulierung. Senatorin Maria Cantwell hat einen sechsteiligen Rahmen vorgelegt, der speziell Frontier-KI – also die leistungsstärksten Modelle – regulieren soll. Ihr Vorschlag: Das National Institute of Standards and Technology, kurz NIST, soll verbindliche Standards gegen katastrophale Risiken entwickeln. Dazu gehören KI-gestützte Cyberangriffe, biologische oder chemische Bedrohungen und der Verlust der Kontrolle über KI-Systeme. Die Entwickler sollen verpflichtet werden, ihre Modelle kontinuierlich zu testen, schwere Systemfehler zu melden – und sie sollen haftbar gemacht werden können. Das ist ein echter Paradigmenwechsel. Bisher war KI-Regulierung eher freiwillig. Wenn Cantwells Vorschlag durchkommt, könnte das die gesamte Branche verändern.