Wählen Sie eine Sprache
Dieser Artikel ist nur für Abonnent*innen von Voxeurop zugänglich
Paul Nemitz ist Chefberater in der GD Justiz und Verbraucherschutz der Europäischen Kommission und Gastprofessor für Recht am College of Europe. Er drückt hier seine persönliche Meinung aus und nicht unbedingt die der Europäischen Kommission. Sein Essay Prinzip Mensch Macht, Freiheit und Demokratie im Zeitalter der Künstlichen Intelligenz, den er gemeinsam mit Matthias Pfeffer verfasst hat, wurde im Jahr 2020 veröffentlicht.
Voxeurop: Ist Künstliche Intelligenz (KI) eine Chance oder eine Bedrohung für die Demokratie?
Paul Nemitz: An die Stelle von naivem Optimismus in Bezug auf KI treten zunehmend alarmistische Stimmen. Sowohl Elon Musk als auch Bill Gates haben gesagt, dass KI wie Atomkraft eine Chance und ein existenzielles Risiko ist. In seinem Buch Human Compatible beschreibt Stuart Russel, Autor des meistverkauften Lehrbuchs über KI, das Problem der Kontrolle von KI. Er zieht eine Parallele zur Atomkraft: Wir können nicht sicher sein, dass die allgemeine Künstliche Intelligenz nicht schon morgen erreicht sein wird. Es gab eine Zeit, in der alle führenden Wissenschaftler die Spaltung des Atoms für unmöglich hielten. All dies spricht dafür, dass die Demokratie nach dem bewährten Vorsorgeprinzip die Kontrolle über diese Technologie übernimmt.
Verantwortungsbewusste Ingenieure und Entwickler werden dem nicht widersprechen. Weder das Individuum noch die Demokratie können durch KI kontrolliert und manipuliert werden. Im Gegenteil: Der Einzelne und die Demokratie müssen die Kontrolle über die KI behalten. Ob wir KI zu einer Chance für die Demokratie machen können, hängt von vielen Faktoren ab: Zuallererst von der Bereitschaft derjenigen, die KI entwickeln, der Demokratie zu dienen und nicht nur Profit zu machen. Zweitens von der Bereitschaft, in KI zu investieren, die speziell darauf ausgerichtet ist, demokratische Akteure - von Parlamenten und Regierungen, politischen Parteien, Medien, Gewerkschaften, Nichtregierungsorganisationen und Kirchen bis hin zu Einzelpersonen - zu befähigen, aktiver und konstruktiver zum Funktionieren der Demokratie beizutragen.
Sollte die EU KI regulieren, und wenn ja, wie und in welche Richtung? Behandelt das KI-Gesetz die wichtigsten Fragen im Zusammenhang mit KI und ihrer Nutzung?
Wir können diese Technologie nicht allein der Selbstregulierung und der Ethik überlassen. Wie Chemikalien, Autos und Kernkraft, um nur einige Beispiele zu nennen, ist sie wichtig genug, um ein Gesetz zu benötigen, das ihre Richtung und Grenzen definiert. Das KI-Gesetz wird ein wichtiger Präzedenzfall sein, der den Vorrang der Demokratie in Zeiten rasanter technologischer Entwicklung bestätigt. Die billigen Rufe nach Selbstregulierung und Ethik anstelle von verbindlichem und durchsetzbarem Recht sind überholt, denn die Macht und die Geschwindigkeit der technologischen Entwicklung erfordern einfach ein Gesetz, um sicherzustellen, dass dem öffentlichen Interesse gedient wird und dass alle, auch diejenigen, die nicht mitspielen wollen, tatsächlich an Regeln gebunden sind, die durchsetzbar sind.
Wir können die wichtige Frage der Macht nicht ignorieren, wenn wir über KI diskutieren. Ohne verbindliches Recht liegt die Macht der Technologie, die Gesellschaft zu gestalten, allein in den Händen derer, die sie entwickeln und besitzen. Wenn die Gesellschaft so organisiert wäre, würde weder die Demokratie funktionieren, noch könnten wir die Achtung der Grundrechte gewährleisten. Auch der EU-Binnenmarkt braucht eine Regelung, denn ohne ein Gesetz auf EU-Ebene wäre die Gesetzgebung in den 27 Mitgliedstaaten bald zersplittert, und damit würde kein funktionierender Binnenmarkt für Hochtechnologie existieren. Der KI-Gesetzentwurf der EU behandelt viele wichtige Fragen im Zusammenhang mit der Entwicklung und Nutzung von KI. Wie alles in der Demokratie wird er ein Akt des Kompromisses sein – ein Kompromiss in die richtige Richtung zwischen verschiedenen politischen Weltanschauungen.
Nach dem aktuellen Gesetzesentwurf werden KI-Tools nach ihrem wahrgenommenen Risikoniveau kategorisiert: von minimal über begrenzt bis hin zu hoch und inakzeptabel. Problematische Bereiche könnten die biometrische Überwachung, die Verbreitung von Fehlinformationen oder diskriminierende Sprache sein. Ist dies sinnvoll?
Der risikobasierte Ansatz für die Regulierung ist ein guter Anfang. Aber er ist begrenzt, weil er die Gesetzgebung auf einen Reparaturbetrieb für Marktversagen und technologische Risiken reduziert, die im privaten Sektor entstehen. Wenn wir also nur eine risikobasierte Regulierung hätten, würde die Demokratie den Anspruch aufgeben, dass die Menschen durch die Demokratie ihre Gesellschaft und die Art und Weise, wie sie leben wollen, gestalten. Das KI-Gesetz ist jedoch Teil eines ganzheitlichen Pakets von Rechtsvorschriften der ersten Generation, mit denen die EU die neuen digitalen Realitäten gestaltet. Es steht neben dem Gesetz über digitale Dienste (GDD), dem Gesetz über digitale Märkte (GDM), der Datenschutz-Grundverordnung (DSGVO) und den Verbraucherschutzgesetzen, um nur einige der bereits bestehenden Gesetze zu nennen. Sie müssen nun schnell verabschiedet werden, um Fakten zu schaffen.
Die mehr als 3.000 Änderungsanträge im Europäischen Parlament zeigen, dass die Demokratie in Sachen KI und ihrer Regulierung viel zu sagen hat – und dass sie in Europa gut funktioniert. Ich glaube an die Bereitschaft zu Kompromissen, um Gesetze zu verabschieden und zu zeigen, dass Demokratie funktionieren kann. In diesem Sinne glaube ich, dass das KI-Gesetz zusammen mit anderen bereits bestehenden Gesetzen, die auch für KI gelten, ein gutes erstes Stück demokratischer Gesetzgebung zur Künstlichen Intelligenz ist, das sowohl für den privaten als auch für den öffentlichen Sektor verbindlich ist. Wir können stolz darauf sein, dass Europa in dieser wichtigen Frage, in der es darum geht, die Demokratie vor neue Technologien zu stellen, wieder einmal die Nase vorn hat.
