Wählen Sie eine Sprache
Paul Nemitz ist Chefberater der Generaldirektion für Justiz der Europäischen Kommission und Professor für Recht am Collège d'Europe. Er gilt als einer der angesehensten Expert*innen für digitale Freiheit in Europa und leitete die Arbeit an der Datenschutz-Grundverordnung. Außerdem ist er zusammen mit Matthias Pfeffer Autor von Prinzip Mensch: Macht, Freiheit und Demokratie im Zeitalter der künstlichen Intelligenz, ein Essay über die Auswirkungen der neuen Technologien auf die individuellen Freiheiten und die Gesellschaft.
Halten Sie künstliche Intelligenz für eine Chance oder eine Bedrohung für die Demokratie, und warum?
Paul Nemitz: Ich würde sagen, dass eine der großen Aufgaben der Demokratie im 21. Jahrhundert darin besteht, die Macht der Technologie zu kontrollieren. Dieser Grundsatz gilt sicherlich auch für die KI. Die Begrenzung der Forschung hat eine lange Geschichte, zum Beispiel in Bezug auf gefährliche biologische Agenzien, die Genetik oder die Atomenergie: All dies wurde stark eingegrenzt, so dass es nichts Ungewöhnliches ist, dass die Demokratie neue Technologien wie die künstliche Intelligenz betrachtet, über ihre Auswirkungen nachdenkt und die Verantwortung übernimmt. Ich halte das für eine gute Sache.
In welche Richtung sollte KI also reguliert werden? Ist es möglich, künstliche Intelligenz zum Wohle der Allgemeinheit zu regulieren, und wenn ja, wie würde das aussehen?
Paul Nemitz: Zunächst einmal ist es eine Frage des Vorrangs der Demokratie vor Technologie und Geschäftsmodellen. Wie das Gemeinwohl in einer Demokratie aussieht, wird in einer Demokratie genau durch diesen Prozess entschieden. Parlamente und Gesetzgeber sind der Ort, an dem bestimmt wird, in welche Richtung das Wohl der Gesellschaft gehen soll: Das Gesetz ist die edelste Äußerungsform der Demokratie.
Elon Musk twitterte, dass eine umfassende Deregulierung notwendig sei. Ist das der Weg zum Schutz der individuellen Rechte und der Demokratie?
Wenn wir auf die Geschichte der gesetzlichen Regulierung der Technologie zurückblicken, gab es immer Widerstand von Seiten der Wirtschaft. Daher bin ich nicht beeindruckt, wenn einige Geschäftsleute sagen, dass es das Beste auf der Welt wäre, nicht durch Gesetze zu regulieren: Das ist der feuchte Traum der Kapitalist*innen und Neoliberalist*innen dieser Zeit. Aber Demokratie bedeutet eigentlich das Gegenteil: In der Demokratie können die wichtigen Fragen der Gesellschaft – und KI ist eine davon – nicht den Unternehmen und ihren Gemeinschaftsregeln oder der Selbstregulierung überlassen werden.
Sind Sie optimistisch, dass die Regulierung durch einen demokratischen Prozess stark genug sein wird, um die Deregulierungskräfte der Lobbyist*innen zu bremsen?
Sagen wir es mal so: In Amerika hat die Lobby die Oberhand. In Europa sind wir noch in der Lage, uns zu einigen. Natürlich ist die Lobby in Brüssel sehr stark, und wir müssen offen darüber sprechen: über das Geld, das Big Tech ausgibt und wie sie versuchen, nicht nur Politiker*innen, sondern auch Journalist*innen und Wissenschaftler*innen zu beeinflussen. Es gibt eine GAFAM-Kultur, die versucht, die öffentliche Meinung zu beeinflussen, und in meinem Buch habe ich ihr Instrumentarium recht detailliert beschrieben.
Sie sind sehr präsent, aber ich würde sagen, dass unser demokratischer Prozess immer noch funktioniert, weil unsere politischen Parteien und unsere Parlamentsabgeordneten nicht vom Geld der Big Tech abhängig sind, wie das bei den amerikanischen Parlamentarier*innen der Fall ist. Ich denke, wir können stolz darauf sein, dass unsere Demokratie nach wie vor in der Lage ist, innovativ zu sein, denn die Erarbeitung von Gesetzen zu diesen hochmodernen Themen ist keine technologische Angelegenheit, sondern steht wirklich im Mittelpunkt der gesellschaftlichen Fragen.
Evgeny Morozov sagt, dass der Aufstieg der künstlichen allgemeinen Intelligenz (AGI), im Grunde eine KI, die nicht programmiert werden muss und daher ein unvorhersehbares Verhalten zeigen könnte, die meisten Expert*innen beunruhigt. Befürworter wie der Gründer von openAI, Sam Altman, sind jedoch der Meinung, dass dies die Wirtschaft ankurbeln und „die Menschheit durch die Vermehrung des Reichtums erheben“ könnte. Wie denken Sie darüber?
Es gibt viele Fantasien darüber, wie sich die Technologie entwickeln wird, aber ich denke, das Wichtigste ist, dass die öffentlichen Verwaltungen, die Parlamente und die Regierungen auf Kurs bleiben und dies sehr genau beobachten.
Wir brauchen eine Verpflichtung zur Wahrheit von denjenigen, die diese Technologien entwickeln, oft hinter verschlossenen Türen. Wir brauchen einen Kulturwandel, denn wir sind zunehmend von dem abhängig, was sie uns erzählen. Und wenn die Politik davon abhängig ist, was die Unternehmen erzählen, dann müssen wir sie auch zur Wahrheit anhalten können.
Haben diese Geldbußen irgendeine Auswirkung? Selbst wenn Facebook mit einer Milliarde Dollar bestraft wird, macht das einen Unterschied? Fangen sie an, anders zu handeln? Was bedeutet das für sie in Bezug auf Geld oder Auswirkungen? Ist das alles, was wir haben?
Ich denke, Geldbußen sind nicht alles, aber wir leben in einer Welt mit einer enormen Machtkonzentration und wir brauchen eine Gegenmacht. Amerika weiß, wie man mit dem Kapitalismus umgeht: Wer ein Kartell bildet, sich auf Preise einigt, kommt ins Gefängnis. In Europa ist das nicht der Fall. Ich denke also, wir müssen in dieser Hinsicht von Amerika lernen, wir müssen bereit und willens sein, unsere Gesetze mit harter Hand durchzusetzen, denn Demokratie bedeutet, dass Gesetze gemacht werden, aber auch, dass Gesetze eingehalten werden. Und da kann es keine Ausnahme für Big Tech geben.
Heißt das, dass wir uns auf einen amerikanischeren Weg begeben sollten?
Es bedeutet, dass wir die Durchsetzung unserer Gesetze ernst nehmen müssen, und das macht leider oft Bußgelder notwendig. Das reicht jedoch nicht aus: Wir müssen daran denken, dass in einer demokratischen Gesellschaft die Gegenmacht von den Bürger*innen und der Zivilgesellschaft ausgeht. Wir können die/den Einzelne(n) nicht allein lassen, wenn es darum geht, für seine Rechte gegenüber Big-Tech zu kämpfen. Wir brauchen eine öffentliche Durchsetzung und wir müssen die Zivilgesellschaft befähigen, für die Rechte der/des Einzelnen zu kämpfen. Das ist kein Hindernis für die Innovation, sondern lenkt sie in Richtung des öffentlichen Interesses und einer gemäßigten Legalität. Ich denke, wir sind alle für Innovation, aber es untergräbt unsere Demokratie, wenn wir zulassen, dass mächtige Akteur*innen stören, das Gesetz brechen und damit davonkommen.
Thierry Breton, der EU-Kommissar für Binnenmarkt und Dienstleistungen, hat Elon Musk in einem Brief mitgeteilt, dass die EU Sanktionen gegen ihn verhängen könnte, wenn X weiterhin Desinformation fördert. Musk antwortete, dass er in diesem Fall Europa verlassen könnte, und dass andere Tech-Giganten versucht sein könnten, dasselbe zu tun. Wie sieht also das Kräfteverhältnis zwischen den beiden aus?
Ich würde sagen, es ist sehr einfach – ich bin in dieser Hinsicht ein sehr einfacher Mensch: Demokratie kann niemals erpresst werden. Wenn sie versuchen, uns zu erpressen, sollten wir sie einfach auslachen: Wenn sie gehen wollen, steht es ihnen frei zu gehen, und ich wünsche Elon Musk viel Glück an der Börse, wenn er Europa verlässt. Glücklicherweise sind wir immer noch ein sehr großer und profitabler Markt; wenn er es sich also leisten kann zu gehen: Auf Wiedersehen Elon Musk, wir wünschen Ihnen alles Gute.
Wie steht es mit der Gefahr des unkonventionellen Einsatzes von KI?
Ja, „unkonventionell“ bedeutet den Einsatz für den Krieg. Ich denke, im gemeinsamen Interesse der Welt, der Menschheit und der Regierbarkeit brauchen wir Fortschritte bei den Regeln für den Einsatz von KI zu militärischen Zwecken. Diese Gespräche sind schwierig, manchmal kann es Jahre, in manchen Fällen sogar Jahrzehnte dauern, um zu Vereinbarungen zu kommen, aber letztendlich denke ich, dass wir Regeln für autonome Waffen brauchen, und in diesem Zusammenhang auch für KI.
Um auf das zurückzukommen, was Chris Wylie gesagt hat, dass der derzeitige Regulierungsansatz nicht funktioniert, weil „er künstliche Intelligenz wie einen Dienst behandelt, nicht wie eine Konstruktion“. Teilen Sie diese Meinung?
Ich denke, dass wir beim Recht im Bereich der Technologie nicht in die Falle tappen sollten, die in der Tech-Industrie gestellt wird: „Lieber kein Gesetz als ein schlechtes Gesetz“, wobei ein schlechtes Gesetz eines ist, das nicht perfekt durchgesetzt werden kann. Meine Antwort darauf lautet: Es gibt kein Gesetz, das perfekt funktioniert, und es gibt kein Gesetz, das perfekt durchgesetzt werden kann. Aber das ist kein Argument gegen Gesetze. Und weil Gesetze Kompromisse sind, sind sie weder aus wissenschaftlicher noch aus funktionaler Sicht perfekt. Sie sind Geschöpfe der Demokratie, und am Ende ist es meiner Meinung nach besser, wenn wir uns auf ein Gesetz einigen, auch wenn viele es für unvollkommen halten.
