KI-03-090-2: Künstliche Intelligenz mit dem Menschen im Mittelpunkt

Künstliche Intelligenz verändert, wie wir arbeiten, lernen, entscheiden und
miteinander kommunizieren. Sie ist eine technologische Revolution, die uns als
Menschen herausfordert: Sie macht uns größer, weil sie als mächtiges Werkzeug
unsere Fähigkeiten auf ungeahnte Weise erweitern kann. Sie macht uns kleiner,
weil sie menschliche Arbeit ersetzen und menschliche Fähigkeiten in den Schatten
stellen kann. Sie hat das Potenzial, unseren Alltag grundlegend zu verändern. KI
berührt die zentrale Frage, wer wir als Menschheit sein wollen und können.

Künstliche Intelligenz birgt viele Chancen für uns. KI hilft uns, Innovationen
und Wettbewerbsfähigkeit voranzubringen und neue Aufgaben zu bewältigen. KI kann
unseren Alltag von belastenden und monotonen Routineaufgaben befreien und Zeit
für kreative, soziale und gesellschaftlich wichtige Aufgaben schaffen. KI kann
für bis heute unheilbare Krankheiten Therapien und Medikamente entwickeln. KI
kann neue Techniken in der Landwirtschaft und effektive Frühwarnsysteme für
Extremwetter voranbringen. KI kann Kreislaufwirtschaft, die intelligente
Steuerung von Energienetzen und Autonomes Fahren ermöglichen. Schon heute sehen
wir, wie Millionen Menschen durch KI ihre Arbeit besser und effektiver machen.
Die Liste der Chancen und Möglichkeiten lässt sich erweitern.

KI ist heute keine neutrale Technologie, sondern eine globale Machtstruktur:
Wenige Konzerne bündeln Daten, Arbeitskraft, Energie und Rohstoffe aus aller
Welt und damit eine immer größere wirtschaftliche und politische Macht. Die
wiederkehrenden Sicherheitsvorfälle, bei denen KI-Agenten Firmensysteme und
Regierungsportale hacken, verdeutlichen die bereits heute existierende Gefahr.
Breitflächige Arbeitsplatzverluste würden Schicksale zerstören, den
gesellschaftlichen Zusammenhalt gefährden und die Finanzierung des Gemeinwesens
schwächen. KI kann biologische Waffen verbreiten. KI kann die Grenze zwischen
Wahrheit und Lüge auf immer verwischen. KI kann Unternehmen und Gesellschaften
so sehr schaden, dass manche die Auslöschung der Menschheit in wenigen Jahren
vorhersehen.

Niemand kann seriös vorhersehen, wohin sich KI in den kommenden Jahren und
Jahrzehnten entwickeln wird. Wird die Menschheit dank KI irgendwann in einem
müßiggängerischen Wohlstand leben, ohne zu arbeiten? Oder könnte eine immer
autonomere und leistungsfähigere KI die Menschheit schlimmstenfalls auslöschen?
Wir wissen es nicht. Ihre exponentiell wachsenden Fähigkeiten vermitteln uns ein
Gefühl der Mächtigkeit und der menschlichen Ohnmacht zugleich. Damit an Stelle
dieser Ohnmacht echte Gestaltungsmacht treten kann, müssen wir uns als
Gesellschaft darüber verständigen, wie wir mit dieser Technik umgehen wollen.
Wir dürfen die Gestaltungsmacht über diese Frage weder den Tech-Konzernen noch
autoritären Regierungen überlassen. Die Politik ist gefragt, diesen Prozess zu
gestalten. Das Ziel muss sein, die Chancen so zu vergrößern und die Risiken so
zu minimieren, dass KI keine Gefahr für unsere Demokratie und die Menschheit
darstellt, sondern dass sie dem Menschen und dem Gemeinwohl dient.

Für uns als Grüne steht der Mensch mit seiner Würde und Freiheit im Mittelpunkt.
Wir wollen Rahmenbedingungen schaffen, die dies ermöglichen. Unsere Leitlinie
ist, dass Künstliche Intelligenz innovativ, sicher, demokratisch und nachhaltig
gestaltet sein muss. Das geht nur wenn wir eine europäisch souveräne KI
ermöglichen und erschaffen. Die Selbstbestimmung des Menschen, die Kontrolle der
KI durch den Menschen, die Selbstbehauptung Europas und die Einhaltung der
Planetaren Grenzen müssen garantiert sein.

Das bedeutet:

• KI muss von Menschen demokratisch kontrolliert werden und transparent
  funktionieren.

• Wer KI-Systeme entwickelt, anbietet oder einsetzt, muss für die damit
  verbundenen Risiken Verantwortung tragen.

• Die Entwicklung, der Einsatz und die Wertschöpfungsketten von KI müssen
  die europäische Souveränität mehren und dürfen nicht Abhängigkeiten von
  China oder den USA verstärken.

• Der wachsende Energie- und Ressourcenverbrauch durch Rechenzentren muss
  effektiv begrenzt werden.

• Produktivitätsgewinne müssen den Menschen zugutekommen, und KI soll den
  Wohlstand der Breite der Gesellschaft vermehren.

• Diskriminierung durch KI verstößt gegen die Grundprinzipien unserer freien
  und demokratischen Gesellschaft. Wir bekämpfen sie entschlossen.

Dieser Beschluss ist angesichts der rasanten technischen Entwicklungen nur der
Anfang und nicht das Ende dieser Debatte in unserer Partei. Wir beauftragen
daher den Bundesvorstand, das Thema Künstliche Intelligenz zu einem
Arbeitsschwerpunkt für das Jahr 2027 zu machen.

KI-Souveränität in Europa

Europa hat den digitalen Wandel bisher aus guten Gründen als regulatorische
Aufgabe betrachtet, aber dramatisch zu wenig in eigene technologische
Kapazitäten investiert. Das hat zu erheblichen Abhängigkeiten von wenigen großen
Konzernen geführt, die größtenteils von außerhalb Europas stammen und durch
politische Einflussnahme aktiv die Demokratie und europäische Souveränität
bekämpfen. KI-Souveränität muss deshalb zu einem strategischen Ziel europäischer
Politik werden. Wir müssen unsere eigenen Kompetenzen, Infrastrukturen und KI-
Lösungen stärken, kritische Abhängigkeiten verringern und dafür sorgen, dass der
Einsatz von KI von unseren Werten von Freiheit, Demokratie, Transparenz und
fairem Wettbewerb geleitet wird.

Wir müssen europäische KI-Unternehmen dabei unterstützen, aus Forschung und
Innovation tragfähige und international wettbewerbsfähige Geschäftsmodelle zu
entwickeln. In Europa entstehen bereits heute leistungsfähige und
fortschrittliche KI-Modelle. Wir können diese Entwicklung verstärken und sie mit
unseren bestehenden Stärken in den Bereichen Robotik, industrielle KI,
Medizintechnik, Energietechnik und Klima kombinieren. Deswegen fordern wir im
nächsten Mehrjährigen Finanzrahmen der EU deutlich mehr Investitionen in
Zukunftstechnologien wie KI. Hierfür müssen in den nächsten Jahren mindestens
100 Milliarden Euro für KI und die dafür erforderlichen digitalen
Schlüsseltechnologien und Infrastrukturen bereitgestellt werden. Außerdem muss
der Staat als verlässlicher Ankerkunde auftreten, um europäischen Anbietern
Planungssicherheit zu geben und zugleich mit gutem Beispiel für eine souveräne,
nachhaltige und innovationsfreundliche Beschaffung vorangehen.

Mit dem Vorschlag für eine Verordnung zur Cloud- und KI-Entwicklung (CADA) will die EU-Kommission, dass öffentliche Auftraggeber bei der Vergabe den Beitrag eines Angebots zum europäischen Cloud- und KI-Ökosystem bewerten und für sensible Aufgaben nur Cloud-Dienste mit geprüfter Vertrauenswürdigkeit nutzen. Das unterstützen wir. Damit öffentliche Stellen Souveränität einkaufen und nicht nur ein Etikett, braucht es Transparenz: Wer öffentliche Aufträge für Cloud- und KI-Dienste oder öffentliche Fördermittel für Cloud und KI erhält, muss offenlegen, wem das Unternehmen gehört und wer es kontrolliert – bis zu den Endeigentümer*innen, einschließlich Stimmrechtsvereinbarungen, Vetorechten und kontrollbegründender Finanzierungen. Diese Prüfung sieht der Vorschlag bisher nur gegenüber Prüfstellen und nur für Cloud-Dienste der höheren Vertrauensstufen vor, für geförderte KI-Projekte gar nicht. Wir wollen sie auf KI-Modelle, KI-Dienste und die Vergabe von Fördermitteln ausweiten, und ihr Ergebnis muss für Vergabestellen und Öffentlichkeit einsehbar sein. Daten der Verwaltung dürfen nicht zum Training der Modelle des Anbieters verwendet werden. Wer öffentliches Geld will, legt offen, wem er gehört.

Auf deutscher und europäischer Ebene wollen wir durch offene Standards und
verpflichtende Schnittstellen im digitalen Raum neue Märkte erschließen und
insbesondere für den Mittelstand fairere Wettbewerbsbedingungen gegenüber großen
US-amerikanischen Technologiekonzernen schaffen. Dafür müssen der Digital
Services Act (DSA) und der Digital Markets Act (DMA) auf europäischer und
nationaler Ebene konsequent, strikt und frei von politischer Einflussnahme
angewandt werden.

Sichere KI durch klare Verantwortung und
unabhängige Kontrolle

Wer KI-Systeme entwickelt, anbietet oder einsetzt, muss für die damit
verbundenen Risiken Verantwortung tragen. Unternehmen dürfen sich nicht hinter
der vermeintlichen Autonomie eines KI-Agenten und intransparenten AGB verstecken
können. Deshalb wollen wir die bestehenden Haftungsregeln so anpassen, dass auch
bei selbstständig handelnder KI klar ist, wer für Schäden verantwortlich ist. Es
braucht auch im nationalen Recht eine eindeutige Verantwortlichkeit von
Entwicklern und Betreibern, eine erleichterte Beweisführung für Geschädigte, ein
Klagerecht für Verbände sowie eine angemessene finanzielle Absicherung
beziehungsweise Versicherung für besonders risikoreiche Systeme.

Ein Unternehmen sollte nicht allein darüber entscheiden dürfen, ob das eigene
KI-System sicher genug ist. Wir brauchen unabhängige Kontrolle und staatliche
KI-Sicherheitsinstitute, die auf Augenhöhe mit den Tech-Konzernen agieren können
– und das national, europäisch und international. Das neue deutsche KI-
Sicherheitsinstitut (AISI) muss zu einer leistungsfähigen und unabhängigen
Evaluierungseinrichtung ausgebaut werden, die über Personal, Compute,
technischen Modellzugang und Expertise verfügt, um besonders leistungsfähige KI-
Systeme unabhängig zu untersuchen. Das europäische AI-Office braucht Zugang zu
KI-Modellen, die bereits auf dem Markt sind oder deren Markteinführung getestet
wird, damit die Kommission entscheiden kann, ob bestimmte Modelle stärker
reguliert oder gar verboten werden sollen. Die bestehenden
Eingriffsmöglichkeiten des EU AI Acts müssen konsequent angewandt werden.

Beim Einsatz von KI-Anwendungen in Sicherheitsbehörden ist ein Höchstmaß an
Vorsicht zwingend geboten. Technologie- und Datensouveränität sowie
demokratische Kontrolle müssen zu jeder Zeit sichergestellt werden. Aus gutem
Grund verbietet der EU AI Act Anwendungen, die mit erheblichen Risiken verbunden
sind.

Nachhaltige KI in Einklang mit der Gesellschaft

Eine flächendeckend gut ausgebaute digitale Infrastruktur ist die
Grundvoraussetzung für ein digital funktionierendes Land und eine
wettbewerbsfähige Wirtschaft. Für die Entwicklung und Nutzung leistungsfähiger
und souveräner KI benötigen wir deshalb mehr Rechenleistung und mehr
Rechenzentren in Europa. Gleichzeitig dürfen wir nicht ausblenden, dass
Rechenzentren erhebliche Mengen an Fläche, Wasser und Energie verbrauchen. Wir
stärken die Energie- und Ressourceneffizienz in der Entwicklung und Anwendung
von KI, indem wir Transparenz über Verbrauch schaffen, effiziente Modelle
gezielt belohnen und Rechenzentren konsequent an die Energiewende koppeln.

Rechenzentren müssen vorrangig dort gebaut werden, wo ihre Abwärme sinnvoll
genutzt werden kann und ausreichend Strom- und Netzkapazitäten vorhanden sind.
Sicherheitsrelevante Rechenzentren müssen in europäischem Besitz sein.
Nachhaltige, ressourcenschonende Rechenzentren sollen bei der Vergabe von
Netzanschlüssen präferiert werden. Wir lehnen fossile Stromerzeugung auf dem
Gelände neuer Rechenzentren ab. Anstatt landwirtschaftlicher oder ökologisch
wertvoller Flächen sollten zuerst vorhandene Industriebrachen bebaut werden.
Intransparente Verträge, mangelnde Information von Stadt- und Gemeinderäten und
Verschwiegenheitsverpflichtungen stehen diesem Ziel grundsätzlich entgegen und
schaden der Akzeptanz solcher Projekte. Die geplante Wassernutzung und der
geplante Stromverbrauch müssen vor der Genehmigung unabhängig bestimmt und auch
im Betrieb laufend öffentlich gemacht werden.

Die vom Bau von Rechenzentren betroffenen Kommunen müssen angemessen an der
entstehenden Wertschöpfung beteiligt werden. Rechenzentren beanspruchen
erhebliche lokale Ressourcen, schaffen gleichzeitig aber vergleichsweise wenige
Arbeitsplätze. Dadurch profitieren Standortgemeinden bislang nur begrenzt über
die Gewerbesteuer. Es ist wichtig, dass die Kommunen stärker und angemessener an
den wirtschaftlichen Erträgen der Rechenzentren beteiligt werden.

Zukunft der Arbeit: Neue Jobs schaffen, Würde
menschlicher Arbeit bewahren

Künstliche Intelligenz wird unsere Arbeitswelt verändern. Wir wollen diesen
Wandel gestalten und die Produktivitätsgewinne von KI nutzen, ohne die sozialen
und wirtschaftlichen Risiken allein auf die Beschäftigten abzuwälzen.

Dafür brauchen wir einen verlässlichen Transformationsschutz. Wo KI
Arbeitsplätze oder Tätigkeitsprofile grundlegend verändert, muss die Präferenz
gelten: Qualifizierung und interne Weiterbeschäftigung haben Vorrang vor
Arbeitsplatzabbau. Beschäftigte und Betriebsräte sollten bei größeren und
relevanten KI-bedingten Umstrukturierungen frühzeitig informiert und einbezogen
werden.

Beschäftigte müssen die Möglichkeit erhalten, sich auf neue Anforderungen
vorzubereiten und die durch KI veränderte Arbeitswelt aktiv mitzugestalten, um
dem Gefühl der Ohnmacht vorzubeugen. Die Grenzen beim Einsatz von KI zur
Überwachung von Beschäftigten oder in Entscheidungen über Aufgabenverteilung,
Leistungsbewertung oder Personalentscheidungen im AI Act sind einzuhalten.
Beschäftigte und Betriebsräte müssen beim Einsatz solcher Systeme frühzeitig
informiert werden und wirksam mitbestimmen können.

Souveräne KI braucht kluge und fähige Köpfe. Daher braucht es eine breit
angelegte IT-Fachkräfteoffensive, mit der wir MINT-Fächer in den Schulen
stärken, IT-Studiengänge ausbauen und Frauen und Quereinsteiger*innen gezielt
gewinnen.

Die Gewinne aus höherer Produktivität dürfen nicht ausschließlich bei den
Unternehmen anfallen, während Beschäftigte das Risiko des Strukturwandels
tragen. Durch kapitalgedeckte Komponenten in den sozialen Sicherungssystemen wie
der Rente und einen Ausbau der Mitarbeiterkapitalbeteiligung können Beschäftigte
an den Produktivitätsgewinnen teilhaben.

Finanzierung des Gemeinwesens im digitalen
Zeitalter

Große Digitalkonzerne wie Amazon, Apple, Microsoft und Meta gehören zu den
wertvollsten Unternehmen der Welt. Zugleich tragen ihre Geschäftsmodelle in
Deutschland bislang nicht angemessen zur Finanzierung unseres Gemeinwesens bei.
Wir fordern deshalb eine nationale Digitalsteuer.

Sollten sich Szenarien bewahrheiten, nach denen menschliche Arbeit durch den
zunehmenden Einsatz von KI und Robotern in erheblichem Umfang verdrängt wird,
müssen wir auch über die Zukunft unserer Steuer- und Sozialsysteme sprechen.
Wenn ein wachsender Teil der Wertschöpfung durch Software, Daten, KI-Token und
automatisierte Systeme entsteht, kann die Finanzierung des Gemeinwesens nicht
dauerhaft primär auf der Besteuerung menschlicher Arbeit beruhen.

Denkbar sind deshalb beispielsweise eine Besteuerung von KI-Token oder der durch
KI und Robotik entstehenden Wertschöpfung, Abgaben auf besonders
ressourcenintensive Recheninfrastruktur oder höhere Körperschaftssteuern für
besonders automatisierte Unternehmen und niedrigere für besonders
arbeitsintensive Unternehmen. Dadurch würde menschliche Arbeit für Unternehmen
wieder attraktiver und der Umbruch in der Arbeitswelt könnte sozial
verträglicher gestaltet werden.

Auswirkungen auf menschliche Schaffenskraft,
Lernen und Kreativität

KI berührt die materiellen und geistigen Grundlagen unseres Zusammenlebens. Sie
verändert die Art, wie wir die Welt sehen und verstehen. Sie kann unser Wissen,
unsere Schaffenskraft und unsere Fantasie auf ungeahnte Weise bereichern. Aber
sie läuft auch Gefahr, die geistigen Leistungen der Vielen in den Dienst des
Gewinns Weniger zu stellen. Ihre Fähigkeit, nahezu unbegrenzt und in hoher
Geschwindigkeit Bilder, Töne und Texte hervorzubringen, kann uns abhängig und
manipulierbar machen. Politik, Bildung und Wissenschaft müssen darauf Antworten
finden – und werden gleichzeitig selbst von der KI verändert.

Bildung muss den Umgang mit KI für alle Altersgruppen lehren. Dazu gehört die
Beherrschung ihrer Instrumente und der verantwortungsvolle Umgang mit ihren
Produkten. Dazu gehört es aber auch, weiterhin die klassische Bildung, analoge
Techniken und handwerkliche Fähigkeiten zu vermitteln.

In Kunst und Kultur, Medien und Journalismus müssen die rechtlichen
Rahmenbedingungen gestärkt werden, insbesondere das Urheber- und
Persönlichkeitsrecht. Wir wollen bei der Verwendung urheberrechtlich geschützter
Daten für KI-Systeme erreichen, dass Urheber*innen ihre Rechte und
Vergütungsansprüche, zum Beispiel durch Lizenz- oder Abgabenmodelle, künftig
durchsetzen können. Die europäischen Transparenz- und Kennzeichnungspflichten
für KI-generierte Inhalte müssen konsequent umgesetzt und durchgesetzt werden.

In der Wissenschaft braucht es angesichts der Flutwelle von KI-erzeugten
Forschungspapieren klare Standards, neue Mechanismen zur Qualitätsprüfung und
zur Entscheidung über Forschungsförderung.

KI-Zusammenfassungen und Chatbots prägen zunehmend, wie wir Nachrichten
wahrnehmen. Das öffnet die Tür für Manipulationen von Algorithmen für
Falschinformation und zur Beeinflussung der öffentlichen Meinung. Durch
unabhängige und transparente KI-Modelle, eine Stärkung des unabhängigen
Journalismus sowie klare Regeln auf der Grundlage europäischer Werte gehen wir
dagegen vor.

Internationale Kooperation stärken und KI als
Menschheitsaufgabe bewältigen

Der Wettstreit um die leistungsfähigste Künstliche Intelligenz zwischen den USA
und China weist in bestimmten Aspekten Parallelen zum atomaren Wettrüsten
zwischen den USA und der Sowjetunion während des Kalten Krieges auf. Wie damals
besteht auch heute für konkurrierende Staaten und Unternehmen nur ein begrenzter
Anreiz, bei der Entwicklung immer leistungsfähigerer und autonomerer Systeme
einseitig Zurückhaltung zu üben. Viele der Milliardäre an der Spitze dieser
Industrie sympathisieren offen mit autoritären, teils faschistoiden Ideen und
bekämpfen Demokratie durch politische Einflussnahme und Social-Media-
Algorithmen, die extremistische Parteien bevorzugen. Die Risiken einer
unkontrollierten Entwicklung reichen weit über die Grenzen einzelner Staaten
hinaus.

Die Konsequenz daraus müssen verbindliche internationale Regeln,
Rahmenbedingungen und Kooperation sein. Zuerst müssen wir unsere Kräfte mit
anderen Ländern, die KI sicher, demokratisch und transparent einsetzen und
entwickeln wollen, besser bündeln und so Märkte und Innovationspotenzial
vergrößern. Dies geschieht im Rahmen der finnischen Initiative und muss
konsequent durch die Bundesregierung unterstützt werden. Im nächsten Schritt
wollen wir verbindliche internationale Regeln für besonders leistungsfähige KI-
Systeme entwickeln. Dazu können auch völkerrechtliche Vereinbarungen über
gemeinsame Sicherheitsstandards, Transparenz, unabhängige Evaluation und
internationale Aufsicht gehören. Ein solcher Rahmen sollte sich an den
Erfahrungen bestehender internationaler Atomkontrolle durch die IAEA oder
Rüstungskontroll- und Nichtverbreitungsregime orientieren, ohne deren
Instrumente unbesehen auf eine grundlegend andere Technologie zu übertragen.

Deutschland sollte sich gemeinsam mit seinen europäischen und internationalen
Partnern für ein befristetes globales Moratorium für die Weiterentwicklung der
leistungsfähigsten Frontier-KI Modelle und einen Ausschluss von rekursiver
Selbstverbesserung einsetzen, solange zentrale Sicherheitsfragen nicht
hinreichend geklärt sind. Ein solches Moratorium darf ausdrücklich kein
allgemeiner KI-Stopp sein und muss europäischen Firmen ein Aufholen zum Stand
der Technik ermöglichen, um uns aus der Abhängigkeit von amerikanischen Systemen
zu lösen. Die Nutzung bestehender KI-Systeme, Sicherheitsforschung, unabhängige
Evaluation und die Entwicklung sicherheitsfördernder Anwendungen müssen davon
ausgenommen bleiben. Ziel ist vielmehr eine Atempause bei der Entwicklung der
leistungsfähigsten Systeme, damit Sicherheitsforschung und Regulierung mit der
technischen Entwicklung Schritt halten können.

Wir müssen verhindern, dass ein globales Wettrennen um immer leistungsfähigere
und autonomere KI-Systeme entsteht, bevor wir wissen, wie wir die damit
verbundenen Risiken beherrschen können. Künstliche Intelligenz bietet enorme
Chancen. Damit diese Chancen tatsächlich den Menschen zugutekommen, muss aber
eines immer gelten: Die Entwicklung der Technologie darf nicht schneller sein
als unsere Fähigkeit, sie demokratisch zu kontrollieren. Der Mensch muss immer
im Mittelpunkt bleiben.