Kalifornien Verabschiedet Gesetz gegen Deepfakes, Zögert jedoch bei Weiterer KI-Regulierung

Einleitung

Am 17. September 2024 unterzeichnete Kaliforniens Gouverneur Gavin Newsom drei neue Gesetze zur Regulierung von KI-generierten Deepfakes in Wahlkampagnen. Diese Maßnahmen sollen die Verbreitung von irreführendem, KI-generiertem Inhalt, der Wähler beeinflussen könnte, einschränken. Während diese Gesetze das Ziel verfolgen, die Integrität der Wahlen zu schützen, zeigt sich Newsom vorsichtig bei weiteren Gesetzesinitiativen zur Regulierung der KI-Industrie.

Die Neuen Deepfake-Gesetze

Die drei neuen Gesetze, die am Dienstag unterzeichnet wurden, zielen darauf ab, die Verbreitung von Deepfakes in politischen Kontexten zu regeln und die Transparenz in Wahlwerbung zu erhöhen. Diese Gesetze umfassen:

• Ein Gesetz, das die absichtliche Verbreitung von irreführenden, wahlbezogenen Deepfakes in einem Zeitraum von 120 Tagen vor und 60 Tagen nach einer Wahl verbietet.
• Ein weiteres Gesetz, das ab Januar in Kraft tritt und verlangt, dass KI-generierte Audio-, Video- oder Bildinhalte in politischen Werbeanzeigen gekennzeichnet werden müssen.
• Das dritte Gesetz, das als "Defending Democracy from Deepfake Deception Act" bekannt ist, verlangt von Social-Media-Plattformen mit mehr als einer Million Nutzern in Kalifornien, Deepfakes innerhalb von 72 Stunden nach einer Beschwerde zu kennzeichnen oder zu entfernen. Auch dieses Gesetz tritt im Januar in Kraft.

Die Balance zwischen Regulierung und Innovation

Trotz der Unterzeichnung der Deepfake-Gesetze äußerte Gouverneur Newsom Bedenken hinsichtlich eines weiteren KI-Gesetzes, bekannt als SB 1047. Dieses Gesetz würde KI-Unternehmen haftbar machen, wenn sie notwendige Sicherheitsmaßnahmen nicht ergreifen und ihre Technologie später erheblichen Schaden verursacht.

Newsom erklärte auf einer Veranstaltung in San Francisco, dass er die bewiesenen und hypothetischen Risiken von KI abwäge. "Wir dominieren diesen Bereich, und ich möchte das nicht verlieren," sagte Newsom laut Bloomberg. Er fügte hinzu, dass das Unterzeichnen falscher Gesetze im Laufe weniger Jahre tiefgreifende Auswirkungen auf die Wettbewerbsfähigkeit des Staates haben könnte.

Herausforderungen für Gesetzgeber

Die Debatte über die Regulierung von KI in Kalifornien zeigt die Herausforderungen, denen sich Gesetzgeber gegenübersehen. Sie müssen den Schutz der Öffentlichkeit vor Fehlinformationen und die Wahrung der Redefreiheit mit der Förderung technologischer Innovationen in Einklang bringen. Die Entscheidungen Kaliforniens könnten als Präzedenzfälle für andere US-Bundesstaaten und möglicherweise für nationale Gesetzgebungen dienen.

Diese neuen Gesetze konzentrieren sich ausschließlich auf Deepfakes, die Wähler täuschen könnten, und lassen gekennzeichnete Satire und Parodien zu. Die Regeln gelten für Darstellungen von Präsidentschafts- und Vizepräsidentschaftskandidaten sowie vielen landesweiten Kandidaten und gewählten Beamten.

Reaktionen und Ausblick

Die Verabschiedung der neuen Gesetze hat verschiedene Reaktionen hervorgerufen. Während einige die Maßnahmen als notwendigen Schritt zur Sicherung der Wahlintegrität begrüßen, äußern andere Bedenken hinsichtlich der Durchsetzbarkeit und der Auswirkungen auf die Redefreiheit.

Hayley Tsukayama, stellvertretende Direktorin für legislative Aktivismus bei der Electronic Frontier Foundation, äußerte Bedenken dahingehend, dass es für Plattformen schwierig sein könnte, zwischen täuschender Rede und geschützter Meinungsäußerung zu unterscheiden. "Zu sagen, dass sie in der Lage sein werden, wirklich täuschende Rede zu identifizieren und zu unterscheiden, was Satire oder durch das Erste Verfassungszusatz geschützte Rede ist, wird wirklich schwer sein," sagte Tsukayama.

Die Unterstützung der Gesetze argumentiert jedoch, dass Section 230 möglicherweise nicht anwendbar ist, da das Gesetz keine finanziellen Strafen für Unternehmen vorsieht, die das Gesetz nicht befolgen.

Ausblick auf Weitere Entwicklungen

Gouverneur Newsom hat bis zum 30. September Zeit, um über das Gesetz SB 1047 zu entscheiden, welches von einigen als das umfassendste Stück der KI-Gesetzgebung angesehen wird, das bisher in den Vereinigten Staaten eingeführt wurde. Dieses Gesetz würde weitreichende Sicherheitsmaßnahmen für große KI-Modelle einführen und könnte bedeutende Auswirkungen auf die KI-Industrie haben.

Während Kalifornien weiterhin eine Vorreiterrolle bei der Regulierung von KI einnimmt, wird der Staat möglicherweise als Modell für andere Jurisdiktionen dienen, die ähnliche Herausforderungen und Chancen in der Regulierung dieser schnell entwickelnden Technologie in Betracht ziehen.

Schlussfolgerung

Mit der Verabschiedung der neuen Deepfake-Gesetze zeigt Kalifornien erneut seine führende Rolle in der Regulierung von Technologie, während es gleichzeitig die Balance zwischen der Förderung von Innovation und dem Schutz der Öffentlichkeit sucht. Die kommenden Monate und Jahre werden zeigen, wie effektiv diese Maßnahmen sind und welche weiteren Schritte erforderlich sein könnten, um die Integrität von Wahlen und die Sicherheit in der digitalen Welt zu gewährleisten.

Quellen:

- https://www.nytimes.com/2024/09/17/technology/california-deepfakes-law-social-media-newsom.html - https://www.sfchronicle.com/election/article/newsom-signs-new-california-laws-rein-ai-election-19771932.php - https://www.gov.ca.gov/2024/09/17/governor-newsom-signs-bills-to-combat-deepfake-election-content/ - https://abcnews.go.com/US/wireStory/california-governor-signs-laws-crack-election-deepfakes-created-113793251 - https://www.theguardian.com/us-news/2019/oct/07/california-makes-deepfake-videos-illegal-but-law-may-be-hard-to-enforce - https://www.politico.com/news/2024/09/17/newsom-signs-election-deepfake-ban-00179557 - https://www.youtube.com/watch?v=EOwFeVESn-w - https://www.multistate.ai/updates/vol-14 - https://www.governing.com/policy/deepfakes-dominate-early-attempts-to-regulate-ai - https://www.reuters.com/technology/artificial-intelligence/california-governor-signs-legislation-protect-entertainers-ai-2024-09-17/