Der Gouverneur von Kalifornien legt sein Veto gegen ein umfangreiches Gesetz zur KI-Sicherheit ein
Der kalifornische Gouverneur Gavin Newsom hat sein Veto gegen SB 1047, den Safe and Secure Innovation for Frontier Artificial Models Act, eingelegt und in einem Brief an die Gesetzgeber argumentiert , dass dieser „einen Regulierungsrahmen schafft, der der Öffentlichkeit ein falsches Gefühl der Sicherheit bei der Kontrolle dieser schnelllebigen Entwicklung vermitteln könnte.“ Technologie."
„Ich glaube nicht, dass dies der beste Ansatz ist, um die Öffentlichkeit vor echten Bedrohungen durch die Technologie zu schützen“, schrieb er. hätte verlangt, „dass ein Entwickler, bevor er mit der ersten Schulung eines abgedeckten Modells beginnt … verschiedene Anforderungen erfüllt, einschließlich der Implementierung der Fähigkeit, umgehend eine vollständige Abschaltung zu veranlassen … und ein schriftliches und separates Sicherheitsprotokoll zu implementieren.“
Newsom stellte jedoch fest, dass 32 der 50 größten KI-Unternehmen ihren Sitz in Kalifornien haben und dass sich der Gesetzentwurf nur auf die größten Unternehmen konzentrieren würde. „Kleinere, spezialisierte Modelle könnten sich als genauso gefährlich oder sogar gefährlicher erweisen als die Modelle, auf die SB 1047 abzielt“, erklärte er.
„Obwohl SB 1047 gut gemeint ist, berücksichtigt es nicht, ob ein Al-System in Umgebungen mit hohem Risiko eingesetzt wird, kritische Entscheidungen erfordert oder sensible Daten verwendet“, schrieb Newsom. „Stattdessen wendet der Gesetzentwurf selbst für die grundlegendsten Funktionen strenge Standards an – solange sie in einem großen System bereitgestellt werden.“
SB 1047 löste in der KI-Branche eine hitzige Debatte aus, als es durch die Gesetzgebung ging. OpenAI lehnte die Maßnahme entschieden ab, was dazu führte, dass die Forscher William Saunders und Daniel Kokotajlo aus Protest öffentlich zurücktraten , während sich Elon Musk, CEO von xAI, für den Gesetzentwurf aussprach . Viele in Hollywood äußerten ebenfalls ihre Unterstützung für SB 1047 , darunter JJ Abrams, Jane Fonda, Pedro Pascal, Shonda Rhimes und Mark Hamill.
„Wir können es uns nicht leisten, auf den Eintritt einer größeren Katastrophe zu warten, bevor wir Maßnahmen zum Schutz der Öffentlichkeit ergreifen. Kalifornien wird seiner Verantwortung nicht entsagen. Sicherheitsprotokolle müssen übernommen werden. Es sollten proaktive Leitplanken eingeführt werden und schwerwiegende Konsequenzen für schlechte Akteure müssen klar und durchsetzbar sein“, schrieb Newsom. Allerdings: „Letztendlich ist jeder Rahmen für
Eine wirksame Regulierung von Al muss mit der Technologie selbst Schritt halten.“
Die Ankündigung vom Montag erfolgt weniger als einen Monat, nachdem der Gouverneur AB 2602 und AB 1836 unterzeichnet hat, die beide von der Gewerkschaft SAG-AFTRA unterstützt werden . AB 2602 verlangt von Künstlern, vor der Verwendung ihrer „digitalen Nachbildungen“ eine informierte Einwilligung zu erteilen, während AB 1836 den Schutz gegen die Entfremdung der Stimme und des Abbilds verstorbener Künstler verstärkt.