Wählen Sie eine Sprache
Dieser Artikel ist nur für Abonnent*innen von Voxeurop zugänglich
Paul Nemitz ist Chefberater in der GD Justiz und Verbraucherschutz der Europäischen Kommission und Gastprofessor für Recht am College of Europe. Er drückt hier seine persönliche Meinung aus und nicht unbedingt die der Europäischen Kommission. Sein Essay Prinzip Mensch Macht, Freiheit und Demokratie im Zeitalter der Künstlichen Intelligenz, den er gemeinsam mit Matthias Pfeffer verfasst hat, wurde im Jahr 2020 veröffentlicht.
Voxeurop: Ist Künstliche Intelligenz (KI) eine Chance oder eine Bedrohung für die Demokratie?
Paul Nemitz: An die Stelle von naivem Optimismus in Bezug auf KI treten zunehmend alarmistische Stimmen. Sowohl Elon Musk als auch Bill Gates haben gesagt, dass KI wie Atomkraft eine Chance und ein existenzielles Risiko ist. In seinem Buch Human Compatible beschreibt Stuart Russel, Autor des meistverkauften Lehrbuchs über KI, das Problem der Kontrolle von KI. Er zieht eine Parallele zur Atomkraft: Wir können nicht sicher sein, dass die allgemeine Künstliche Intelligenz nicht schon morgen erreicht sein wird. Es gab eine Zeit, in der alle führenden Wissenschaftler die Spaltung des Atoms für unmöglich hielten. All dies spricht dafür, dass die Demokratie nach dem bewährten Vorsorgeprinzip die Kontrolle über diese Technologie übernimmt.
Verantwortungsbewusste Ingenieure und Entwickler werden dem nicht widersprechen. Weder das Individuum noch die Demokratie können durch KI kontrolliert und manipuliert werden. Im Gegenteil: Der Einzelne und die Demokratie müssen die Kontrolle über die KI behalten. Ob wir KI zu einer Chance für die Demokratie machen können, hängt von vielen Faktoren ab: Zuallererst von der Bereitschaft derjenigen, die KI entwickeln, der Demokratie zu dienen und nicht nur Profit zu machen. Zweitens von der Bereitschaft, in KI zu investieren, die speziell darauf ausgerichtet ist, demokratische Akteure - von Parlamenten und Regierungen, politischen Parteien, Medien, Gewerkschaften, Nichtregierungsorganisationen und Kirchen bis hin zu Einzelpersonen - zu befähigen, aktiver und konstruktiver zum Funktionieren der Demokratie beizutragen.
Sollte die EU KI regulieren, und wenn ja, wie und in welche Richtung? Behandelt das KI-Gesetz die wichtigsten Fragen im Zusammenhang mit KI und ihrer Nutzung?
Wir können diese Technologie nicht allein der Selbstregulierung und der Ethik überlassen. Wie Chemikalien, Autos und Kernkraft, um nur einige Beispiele zu nennen, ist sie wichtig genug, um ein Gesetz zu benötigen, das ihre Richtung und Grenzen definiert. Das KI-Gesetz wird ein wichtiger Präzedenzfall sein, der den Vorrang der Demokratie in Zeiten rasanter technologischer Entwicklung bestätigt. Die billigen Rufe nach Selbstregulierung und Ethik anstelle von verbindlichem und durchsetzbarem Recht sind überholt, denn die Macht und die Geschwindigkeit der technologischen Entwicklung erfordern einfach ein Gesetz, um sicherzustellen, dass dem öffentlichen Interesse gedient wird und dass alle, auch diejenigen, die nicht mitspielen wollen, tatsächlich an Regeln gebunden sind, die durchsetzbar sind.
Wir können die wichtige Frage der Macht nicht ignorieren, wenn wir über KI diskutieren. Ohne verbindliches Recht liegt die Macht der Technologie, die Gesellschaft zu gestalten, allein in den Händen derer, die sie entwickeln und besitzen. Wenn die Gesellschaft so organisiert wäre, würde weder die Demokratie funktionieren, noch könnten wir die Achtung der Grundrechte gewährleisten. Auch der EU-Binnenmarkt braucht eine Regelung, denn ohne ein Gesetz auf EU-Ebene wäre die Gesetzgebung in den 27 Mitgliedstaaten bald zersplittert, und damit würde kein funktionierender Binnenmarkt für Hochtechnologie existieren. Der KI-Gesetzentwurf der EU behandelt viele wichtige Fragen im Zusammenhang mit der Entwicklung und Nutzung von KI. Wie alles in der Demokratie wird er ein Akt des Kompromisses sein – ein Kompromiss in die richtige Richtung zwischen verschiedenen politischen Weltanschauungen.
Nach dem aktuellen Gesetzesentwurf werden KI-Tools nach ihrem wahrgenommenen Risikoniveau kategorisiert: von minimal über begrenzt bis hin zu hoch und inakzeptabel. Problematische Bereiche könnten die biometrische Überwachung, die Verbreitung von Fehlinformationen oder diskriminierende Sprache sein. Ist dies sinnvoll?
Der risikobasierte Ansatz für die Regulierung ist ein guter Anfang. Aber er ist begrenzt, weil er die Gesetzgebung auf einen Reparaturbetrieb für Marktversagen und technologische Risiken reduziert, die im privaten Sektor entstehen. Wenn wir also nur eine risikobasierte Regulierung hätten, würde die Demokratie den Anspruch aufgeben, dass die Menschen durch die Demokratie ihre Gesellschaft und die Art und Weise, wie sie leben wollen, gestalten. Das KI-Gesetz ist jedoch Teil eines ganzheitlichen Pakets von Rechtsvorschriften der ersten Generation, mit denen die EU die neuen digitalen Realitäten gestaltet. Es steht neben dem Gesetz über digitale Dienste (GDD), dem Gesetz über digitale Märkte (GDM), der Datenschutz-Grundverordnung (DSGVO) und den Verbraucherschutzgesetzen, um nur einige der bereits bestehenden Gesetze zu nennen. Sie müssen nun schnell verabschiedet werden, um Fakten zu schaffen.
Die mehr als 3.000 Änderungsanträge im Europäischen Parlament zeigen, dass die Demokratie in Sachen KI und ihrer Regulierung viel zu sagen hat – und dass sie in Europa gut funktioniert. Ich glaube an die Bereitschaft zu Kompromissen, um Gesetze zu verabschieden und zu zeigen, dass Demokratie funktionieren kann. In diesem Sinne glaube ich, dass das KI-Gesetz zusammen mit anderen bereits bestehenden Gesetzen, die auch für KI gelten, ein gutes erstes Stück demokratischer Gesetzgebung zur Künstlichen Intelligenz ist, das sowohl für den privaten als auch für den öffentlichen Sektor verbindlich ist. Wir können stolz darauf sein, dass Europa in dieser wichtigen Frage, in der es darum geht, die Demokratie vor neue Technologien zu stellen, wieder einmal die Nase vorn hat.
Können wir den Ingenieuren und Mogulen der Tech-Giganten aus dem Silicon Valley bei der Selbstregulierung von KI vertrauen? Geht der jüngste Aufruf einiger von ihnen, die Entwicklung der KI zu stoppen, in die richtige Richtung, oder sollten die Regierungen (und die EU) eingreifen? Sollte es eine weltweite Regelung geben, damit alle unter gleichen Bedingungen spielen können?
In Bereichen, die für die Rechte des Einzelnen und das gute Funktionieren der Gesellschaft von großer Bedeutung sind, können wir nicht auf Selbstregulierung vertrauen. Selbst die Pressefreiheit und der Schutz von Journalisten in Europa beruhen auf starken Gesetzen. Die Vorstellung, dass die beste und freieste Gesellschaft ohne Gesetze existieren kann, ist einfach töricht. Im Gegenteil: Die Schaffung von Gesetzen ist der edelste Ausdruck der Demokratie. Wir dürfen das Gesetz nicht länger als Problem, als Kostenfaktor, als Hindernis für die Innovation betrachten.
Die Erfahrungen mit Klimawandel und Kernkraft zeigen, dass das Gegenteil der Fall ist. Diese Lektion gilt auch für die digitale Wirtschaft, die unseren öffentlichen Raum inzwischen weitgehend beherrscht: Nur starke Gesetze, die auf guten demokratischen Prozessen beruhen und über starke Durchsetzungsmechanismen verfügen, können in komplexen Gesellschaften das öffentliche Interesse schützen. Was die globale Regulierung anbelangt, so sind in der OECD, der UNESCO und dem Europarat zahlreiche Aktivitäten zu beobachten. Aber wir können nicht auf eine globale Einigung warten, denn unser demokratischer Prozess kann und sollte nicht von der Zustimmung anderer abhängen. Dennoch strebt Europa natürlich nach globaler Verständigung und, wo möglich, nach internationaler Rechtsetzung. Wir wollen eine Welt, die auf Regeln und nicht auf Macht basiert.
EU- und/oder US-Regulierungen würden in jedem Fall Raum für Schurkenstaaten oder Regierungen lassen, die KI für militärische oder störende Zwecke einsetzen. Welche Risiken gibt es hier?
Der Aggressor Vladimir Putin hat gesagt, dass derjenige, der KI kontrolliert, die Welt kontrolliert. Es gibt einen technologischen Wettlauf, um KI für militärische Zwecke zu nutzen. Es ist wichtig, dass die NATO in diesem Rennen nicht von Russland oder China überholt wird. Die Diskussionen über internationale Regeln für die Entwicklung und den Einsatz von KI zu militärischen Zwecken kommen aus offensichtlichen Gründen nur sehr langsam voran. Aber es gibt sicherlich Bestrebungen unter den demokratischen Staaten, für militärische KI ähnliche Regeln aufzustellen, wie sie für Landminen, Kleinwaffen und sogar Atomwaffen existieren.
Es ist wahrscheinlicher, dass wir aus einer Position der Stärke heraus gute Regeln finden werden als aus einer Position der Schwäche. Es wäre jedoch ein Fehler, dieses Argument zu nutzen, um einen Freibrief für die Entwicklung und Nutzung von KI durch Unternehmen im zivilen Sektor und durch Regierungen für nicht-militärische Zwecke zu fordern. Die Herausforderung, KI so zu gestalten, dass sie Demokratie und Grundrechte unterstützt, ist eine technologische Herausforderung, der sich die Entwickler stellen müssen, und kein Hindernis für die Entwicklung.
Was halten Sie von Elon Musks XAI? Besteht die Gefahr, dass er sie missbraucht, wie er es mit Twitter tut?
Elon Musk ist ein Akteur in der Aufmerksamkeitsökonomie. Ich weiß nicht, wohin seine XAI führt, und es ist auch nicht das Wichtigste, dies zu wissen. Aber eines ist klar: Elon Musk und seine Unternehmen müssen jederzeit vor dem Gesetz zur Rechenschaft gezogen werden, genau wie jede andere natürliche oder juristische Person.
Wie können wir KI-Unternehmen für den möglichen Missbrauch oder das Außer-Kontrolle-Geraten ihrer Produkte zur Verantwortung ziehen?
Die Kommission hat Rechtsvorschriften zur Haftung für KI vorgeschlagen. Und das KI-Gesetz legt die Sorgfaltsstandards fest, die KI-Entwickler und -Nutzer befolgen müssen.
Brauchen wir neben rechtlichen auch ethische Regeln für KI und ihre Nutzung durch Medienunternehmen und andere? Wenn ja, wie sollten diese aussehen?
Es ist nichts dagegen einzuwenden, wenn neben der Gesetzgebung auch ethische Regeln gelten. Der Ingenieurberuf hat eine lange Tradition bei der Festlegung ethischer Regeln für seine einzelnen Mitglieder, und einzelne Ingenieure haben oft eine höhere Ethik als die Unternehmen, für die sie arbeiten. Was jedoch nicht funktioniert, ist die Ersetzung des Gesetzes durch ethische Regeln oder Selbstregulierung. Die erste Regel der Ethik in jedem Technologieunternehmen muss lauten: Wir halten uns an das Gesetz, und zwar an vorderster Front. Also keine Spielchen am Rande des Gesetzes, egal ob es sich um Steuerrecht oder KI-Gesetze handelt. Wer denkt, dass disruptive Innovation auch eine Störung des Rechts beinhaltet, sollte die harte Hand des demokratischen Rechts zu spüren bekommen, denn im Grunde genommen wird die Demokratie oft nur aus Eigeninteresse missachtet.
In Ihrem Buch Prinzip Mensch Macht, Freiheit und Demokratie im Zeitalter der Künstlichen Intelligenz, das Sie gemeinsam mit Matthias Pfeffer verfasst haben, sagen Sie: „Digitale Technologien und ihre unternehmerischen Herren wissen heute mehr als die Menschen über sich selbst oder die Regierungen über die Welt wissen. [...] Zusammengenommen führt dies zu einer massiven Asymmetrie von Wissen und Macht in der Beziehung zwischen Mensch und Maschine.“ Wird die KI zu weniger Ungleichheiten führen oder wird sie im Gegenteil die Wissens- und Machtkluft zwischen denjenigen, die sie kontrollieren und beherrschen, und denjenigen, die sie nicht beherrschen, vertiefen – immer dasselbe? Wer wird Letztere schützen und wie? In Ihrem Essay erwähnen Sie auch mögliche Lösungen.
Die öffentliche Politik muss sicherstellen, dass der technologische Fortschritt allen Menschen zugutekommt und das gute Funktionieren der Demokratie fördert. Dies erfordert einen ganzheitlichen Politikmix und kann nicht durch eine einzige Maßnahme erreicht werden. Wir müssen die Mächtigen in die Schranken weisen und Machtkonzentration vermeiden, wir müssen neue Marktteilnehmer stärken und die Menschen in ihrem täglichen Leben unterstützen. Dieser Politikmix aus Regulierung und Industriepolitik, einschließlich öffentlicher Finanzierung, ist es, worum es bei politischen Entscheidungen in der Demokratie geht. So wie wir in der EU breite Mehrheiten für die Verabschiedung von Gesetzen und Haushalten brauchen, so ist auch die EU-Politik in diesen Fragen eine Mischung aus den verschiedenen Weltanschauungen der demokratischen Parteien.
Wenn sich die Mehrheiten ändern, ändert sich auch der Inhalt der Politik. Deshalb ist es für interessierte Menschen sinnvoll, sich konsequent und langfristig in den demokratischen Prozess einzubringen, der viel mehr ist als nur Wahlen. Alles, was mit und durch KI getan werden kann, um dieses Engagement für die repräsentative Demokratie und ihre Akteure zu verstärken, ist willkommen. Es ist nun an der Zeit, dass die großen Akteure im Bereich der KI über Lippenbekenntnisse hinausgehen und in die Verwirklichung dieses Ziels investieren. Wir brauchen Werkzeuge, die das nachhaltige Engagement der Menschen in der Demokratie erleichtern. Sie müssen den Einzelnen gegenüber den Mächtigen, wie Großunternehmen und Großregierungen, stärken und den Menschen helfen, sich gemeinsam zu organisieren und die schmerzhaften Prozesse der gemeinsamen Entscheidungsfindung wieder zu erlernen, sei es in politischen Parteien, Kirchen, Gewerkschaften oder großen Nichtregierungsorganisationen.
Es wurde gesagt, dass durch generative KI in den kommenden Jahren bis zu 300 Millionen Arbeitsplätze in der Welt verschwinden werden. Stimmen Sie dem zu? Was sind die Vorteile?
Die Politik der Vorsicht bedeutet, dass wir solche Studien ernst nehmen müssen, auch wenn ihre Vorhersagen stark voneinander abweichen. Viele neue Technologien erfordern neue Fähigkeiten und Maßnahmen, um Unternehmen und Menschen bei den bevorstehenden strukturellen Veränderungen zu unterstützen. Dies ist die Politik der EU. Demokratische Regierungen und die demokratische EU können nicht tatenlos zusehen, wie Demokratie, Rechtsstaatlichkeit oder gute Arbeitsplätze und Beschäftigung den Bach runtergehen, wenn KI und die Unternehmen, die ihre Entwicklung und Nutzung dominieren, die Macht übernehmen.
Wir engagieren uns aktiv in der Politik, um die Schattenseiten des digitalen Zeitalters zu vermeiden und das Beste daraus zu machen – für den einzelnen Menschen, aber auch für das gute Funktionieren unserer Gesellschaften. Eine „offene Diskussion“ im Weißen Haus mit führenden Vertretern der Technologiebranche über die Risiken der KI, über die wir in der Presse lesen konnten, ist gut. Aber ein Gesetz über KI und die Haftung für KI durch den demokratischen Prozess zu bekommen, ist noch besser. Es ist nicht schlecht, dass Europa eine Vorreiterrolle spielt, wenn es darum geht, dass Demokratie im Zeitalter der KI funktioniert.
Schätzen Sie unsere Arbeit?
Dann helfen Sie uns, multilingualen europäischen Journalismus weiterhin frei zugänglich anbieten zu können. Ihre einmalige oder monatliche Spende garantiert die Unabhängigkeit unserer Redaktion. Danke!
