V-14: KI regulieren, Tech-Milliardäre entmachten - Für einen verantwortungsvollen Umgang mit Technologieentwicklung

Die Entwicklung von KI, insbesondere generativer KI, ist in den letzten 4 Jahren
rasant vorangeschritten. Die entsprechende Gesetzeslage hinkt jedoch nach wie
vor extrem hinterher. Eine Regulierung auf nationaler, europäischer oder
globaler Ebene findet bisher kaum statt. In den USA wird der KI-Boom durch
politische Entscheidungen noch weiter angefeuert. Gleichzeitig werden die
Gefahren durch unkontrolliertes Wachstum und unregulierte Entwicklung im KI-
Bereich immer deutlicher: Die negativen Folgen für die Natur, den Wasserhaushalt
sowie das Klima durch den Bau neuer Rechenzentren; der Verlust von
Arbeitsplätzen; die Auswirkungen auf Politik und Gesellschaft - unter anderem
durch den massiven Anstieg an Fakes, die sich nicht mehr von echtem Material
unterscheiden lassen; der Abbau kognitiver Leistung durch die Nutzung von LLMs
und weitere schwerwiegende Probleme sind inzwischen absehbar, in ihrer Tragweite
jedoch noch nicht ausreichend erforscht. Nicht zu vergessen sind auch die
Aussagen von KI-Forscher*innen und -Entwickler*innen, die vor einer
unregulierten Weiterentwicklung dieser Anwendungen warnen.

Gleichzeitig häufen sich die Berichte davon, dass KIs aus ihren Testumgebungen
ausbrechen und selbständig Hacker-Angriffe durchführen, wie zuletzt bspw. in
Australien. Diese rasante Entwicklung wird befeuert durch Männer, die mit ihren
Softwarefirmen die ersten im Rennen um eine "Superintelligenz" werden wollen und
von milliardenschweren Firmen und Investoren darin unterstützt werden. Die Macht
darüber, die Realität(en) der Vielen zu gestalten, liegt damit bei Wenigen. Wer
Kontrolle über diese Realitäten hat, erhält damit auch die Macht, politische
Entscheidungen zu beeinflussen und Gesellschaften zu verändern. Diese Macht
sollte niemals bei Einzelnen liegen.

Nützliche Technologie ist eine Sache. Die andere ist, ob wir noch eine Wahl
haben, ob und inwieweit wir sie nutzen wollen. Ein gesellschaftlicher Dialog
hierzu fand bisher nicht statt. Stattdessen wird insbesondere generative KI
heute ohne die Möglichkeit, sich aktiv dafür oder dagegen zu entscheiden, in
Apps, Software und den Alltag von Menschen integriert. Durch Apps wie ReCaptcha
und PokemonGo wurden Menschen ohne ihr Wissen oder ihre informierte Zustimmung
dazu gebracht, die Entwicklung von GenKI durch den Input von Daten
voranzubringen. Und auch der größte Kunstraub der Geschichte, das Scraping des
Internets und menschengemachter Kunst, Musik und Literatur zum Füttern von
Algorithmen zum KI-Training, war weder freiwillig noch wurden die Betroffenen
kompensiert. Noch heute vernichten KI-Firmen Millionen von Büchern, um an
unverfälschte Trainingsdaten zu kommen. Vieles dieser Vorgänge wären
strafrechtlich relevant, hätte ein Mensch sie durchgeführt.

LLMs und andere KI-Anwendungen sorgen für eine zunehmende Vereinheitlichung
unserer Umwelt: Sie verflachen unsere Sprache und vereinheitlichen die Ästhetik
von Veranstaltungsplakaten über Speisekarten hin zu Buch-Covern. Soziale
Kompetenzen und zwischenmenschliche Beziehungenwerden durch Chatbots ersetzt,
wir haben immer weniger Verbindung untereinander. Durch den Einsatz autonomer
Waffensysteme wird inzwischen sogar das Töten ausgelagert, ohne dass der Mensch
in der Gleichung noch vorkommt. Den einzigen positiven Effekt haben KI-Systeme
bisher auf die Kontostände von Tech-Bros, die sich die Taschen vollmachen,
während die Branche im Gesamten nicht profitabel ist. Aktuell werden riesige
Geldbeträge in Ringdeals zwischen Firmen wie NVIDIA, Oracle und OpenAI hin- und
hergeschoben, um Investoren zufriedenzustellen. Solche Blasen gefährden die
gesamte Weltwirtschaft. Auch die Preise für Speicherplatz und Arbeitsspeicher
sind für Privatnutzer dadurch bereits extrem gestiegen.

Als Bündnisgrüne hatten wir schon immer feine Sensoren, wenn es um
Zukunftspolitik geht. Wir warnten bereits vor Putins nicht endendem Machthunger
während der Annexion der Krim, vor den Gefahren von Atomkraft, den Folgen der
Klimakrise und unter anderem auch den Folgen einer Inbetriebnahme von NordStream
2. All diese Warnungen haben sich stets bewahrheitet, da wir unsere Politik auf
Evidenz, Umsicht und reale Verhältnisse unserer (Um)welt aufbauen. Auch in
Zeiten des KI-Booms ist es unsere Aufgabe, frühzeitig vor den Gefahren zu warnen
und auf eine Welt hinzuarbeiten, in der diese minimiert werden. Generative KI
hat ihren Nutzen bisher noch nicht gezeigt, obwohl bereits seit vier Jahren
große Versprechungen gemacht werden, dass sie unsere Welt besser machen würde,
wir weniger arbeiten müssten und lästige Aufgaben auslagern könnten. Bisher
wurde keine dieser Versprechungen eingelöst, u.a. aufgrund der fehlenden
Skalierbarkeit.

Wir setzen uns daher für eine globale Regulierung von künstlicher Intelligenz
ein. National und europaweit wollen wir mindestens folgende Standards umsetzen:

Transparenz, Regulierung und Sicherheitsstandards in der KI-Entwicklung

Wir fordern verbindliche Sicherheitsstandards beim Training, Testen und In-
Umlauf-Bringen von KI, insbesondere generativer KI. Der Betrieb von KI-Modellen
darf nicht ohne entsprechende Lizenzen durch private Firmen möglich sein. Hier
müssen ähnliche Sicherheitsstandards gelten wie bei allen anderen Technologien,
die als Waffen eingesetzt werden können.

100%ige Transparenz muss in allen Belangen hergestellt werden, die die
Sicherheit von Menschen betreffen.

Zudem sollen KI-Unternehmen und Rechenzentrenbetreiber explizit offenlegen
müssen, welche Umweltauswirkungen - hiermit sind nicht nur die Ausworkungen auf
Klima, Natur und Wasser, sondern auch auf die Gesellschaft gemeint - ihre
Anwendungen und der Bau und Betrieb von Rechenzentren haben. Insbesondere Kinder
gilt es vor süchtigmachenden Algorithmen zu schützen. Die Behörden müssen mit
den notwendigen Mitteln ausgestattet werden, um die EInhaltung dieser Standards
zu verfolgen und zu gewährleisten.

Urheber- und Persönlichkeitsrecht schützen, Künstler*innen entschädigen,
materielle Kulturgüter retten

Das Training von generativer KI kann als größter Kunstraub der Geschichte
bezeichnet werden. Millionen von Werken wurden ohne das Einverständnis, die
Nennung oder die Entschädigung ihrer Urheber*innen für das Training von LLMs und
anderen GenKIs genutzt. Aktuell werden Bücher vernichtet, um weitere
Trainingsdaten für LLMs zu generieren. Damit muss Schluss sein. Das Urheber- und
Nutzungsrecht muss angepasst werden, um Werke vor der Verwertung durch KI-Firmen
zu schützen. Jede Person muss das Recht haben, dass ihr geistiges Eigentum nicht
für das Training von generativen KIs verwendet wird. Wir stehen an der Seite von
Künstler*innen, Musiker*innen, Autor*innen, Synchronsprecher*innen und allen
weiteren Kunstschaffenden, deren Werke ohne ihre Zustimmung für das Training von
generativer KI verwendet wurden und werden. Gleichzeitig müssen Kunstschaffende
so geschützt werden, dass sie nicht ihre Persönlichkeitsrechte oder Werke für
KI-Training verkaufen müssen, um weiter engagiert zu werden. Das beste Beispiel
hierfür ist Netflix mit Knebelverträgen, bei denen Synchronsprecher*innen
praktisch gezwungen werden, ihre Stimme für KI-Trainningszwecke zu verkaufen.

Wir fordern zudem, nach dänischem Vorbild jedem Menschen das Recht auf das
eigene Gesicht, den eigenen Körper und die eigene Stimme zuzusprechen. Dies wäre
ein wirksamer Mechanismus, um Menschen die Möglichkeit zu eröffnen, juristisch
gegen Datenklau und Deep-Fakes vorzugehen. Insbesondere Frauen müssen besser vor
digitaler sexualisierter Gewalt geschützt werden.

Das Recht auf Privatsphäre darf nicht durch das unregulierte Sammeln von Daten
für private Firmen ausgehöhlt werden.

KI nur als Opt-In

An vielen Stellen im digitalen Raum lassen sich KI-Anwendungen nicht mehr
ausschalten, obwohl sie keinen erkennbaren Mehrwert für die Endnutzer*innen
bedeuten. KI, insbesondere GenKI, sollte als Opt-In-Produkt behandelt werden.
Dabei darf kein Nachteil entstehen, wenn sich Nutzer*innen gegen die Einbindung
von KI in ihre Anwendung entscheiden. Es muss zudem stets eindeutig ersichtlich
sein, wenn durch die Zustimmung zu AGBs auch die Zustimmung zur Verwertung von
Daten durch eine KI - ob generativ oder analytisch - gegeben wird.

Kennzeichnungspflicht bei allen durch KI erstellten Inhalte

Alle Inhalte, die durch den Einsatz von KI erstellt werden, sollen eine
entsprechende digitale Signatur sowie eine eindeutige analoge Kennzeichnung
erhalten und müssen eindeutig als KI-generiert erkennbar sein. Eine digitale KI-
Signatur hilft dabei, KI-generierte Inhalte nur an solchen Stellen auszuspielen,
die sich eindeutig dazu per Opt-In entschieden haben.

Keine KI in der Polizeiarbeit, tödlichen Waffen und Migrationsverwaltung

In der Polizeiarbeit soll KI nach aktuellen Plänen der Bundesregierung
standardmäßig genutzt werden bei sog. "intelligenter Videoüberwachung",
biometrischer Gesichtserkennung, beim Internet-Datenabgleich und der
automatischen Datenanalyse. Probleme sind hierbei vor allem, dass KIs durch den
Dateninput gesellschaftliche Strukturen reproduzieren und dadurch Menschen
diskriminieren und für Fehler anfällig sind. Ein Nutzen, bspw. von KI-gestützter
Videoüberwachung im öffentlichen Raum, kann bisher noch nicht wissenschaftlich
bewiesen werden. Fraglich ist auch, wie verfassungskonform der Einsatz von KI in
diesem Bereich ist.

Auch eine Nutzung in der Migrationsverwaltung ist vorgesehen, um bspw.
Entscheidungen über Asylbescheide schneller fällen zu können. Wir lehnen diesen
Einsatz grundsätzlich ab.

Die Nutzung von KI im Kriegsfall, für die Verwendung bei autonomen Waffen und in
Fällen, die menschliche Entscheidungen völlig ausklammern, ist mit den
Menschenrechten nicht vereinbar. Wir stellen uns entschieden gegen eine solche
Nutzung von KI.

Den Einsatz von Software, deren Entwickler eng an autoritäre Staaten angebunden
sind (so z.B. Palantir), lehnen wir ab.

KI-Entwicklung nicht ausschließlich in privaten Händen

Die Entwicklung und Nutzung von KI sollte aus den bereits genannten Gründen
nicht ausschließlich in den Händen von Privatpersonen liegen. Es braucht
multilaterale Abkommen, um einen verantwortungsbewussten und sicheren Umgang mit
dieser Technologie zu gewährleisten. Auch die Finanzierung sollte transparent
und reguliert ablaufen, um Überreichen nicht die Macht über globale
Entwicklungen zu geben.

Zukunft des Arbeitsmarktes frühzeitig in den Blick nehmen, Sozialstaat als
Sicherheitsnetz

Die Idee der Finanzierung des Sozialstaates durch die Einkommenssteuer wird
durch den vermehrten Einsatz von KI-Agenten zunichte gemacht, denn Agenten
zahlen (bisher) keine Steuern. Zusätzlich zur Einkommenssteuer für menschliche
Arbeit braucht es eine KI-Steuer, die analog hierzu in den Bundeshaushalt und
die Rentenkassen einfließt.

Gleichzeitig müssen wir jetzt beginnen, die möglichen Folgen von KI auf den
Arbeitsmarkt in den Blick zu nehmen. Die Erzählung, dass KI dazu genutzt wird,
dass Menschen bei gleichbleibender Lebensqualität weniger arbeiten müssen, hat
sich bisher nicht bewahrheitet. Für Berufseinsteiger*innen, insbesondere unter
Universitätsabsolvent*innen wird es immer schwieriger, eine Arbeit zu finden.
Gleichzeitig wird unser Sozialstaat aktuell massiv zusammengestrichen. Beide
Entwicklungen zusammen sorgen dafür, dass die Schere zwischen Arm und Reich
immer größer wird. Es braucht eine Job- oder Einkommensgarantie. Große
Unternehmen sollten verpflichtet werden, eine Quote an Einstiegspositionen
anzubieten, sofern diese durch KI ersetzt wurden. So lässt sich gewährleisten,
dass auch in 5 oder 10 jahren noch gut qualifizierte Menschen für den
Arbeitsmarkt zur Verfügung stehen.