Wählen Sie eine Sprache
Dieser Artikel ist nur für Abonnent*innen von Voxeurop zugänglich
Schauen wir uns die nächsten fünf bis zehn Jahre an, in denen KI und Sensoren buchstäblich in alles integriert sein werden: Wir sehen einer Ära entgegen, in der Sie nach Hause kommen, im Wohnzimmer Ihren Fernseher einschalten, und während der Fernseher Sie beobachtet, spricht er mit dem Kühlschrank, dem Toaster, Ihrem Schlafzimmer, Ihrem Badezimmer, Ihrem Auto und Ihrem Briefkasten. Sie werden also in Ihrem privatesten Umfeld ständig beobachtet, und um Sie herum findet eine stille Unterhaltung statt. Im aktuellen wirtschaftlichen Kontext sollen Sie als Verbraucher optimiert werden.
Mit dieser Konversation zwischen den Geräten wird der Zweck verfolgt, dass diese Ihnen Dinge zeigen sollen, um Sie zu einem besseren Kunden zu machen. So werden Sie letztendlich Ihrer grundlegenden Handlungsfähigkeit beraubt, weil Entscheidungen für Sie getroffen werden, ohne dass Sie daran beteiligt sind.
Dies führt zu der wirklich grundlegenden Frage über das Menschsein in digitalen Räumen. In der Natur beeinflussen uns die Dinge, aber das Wetter oder die Tiere versuchen nicht, uns zu schaden. Aber wenn man in einer Stadt spazieren geht, in der die Stadt selbst darüber nachdenkt, wie sie einen optimieren kann, wird man zu einem Teilnehmer in einem Raum, der versucht, einem seine Entscheidungen zu diktieren. Wie können Sie freie Entscheidungen treffen, wenn die Stadt um Sie herum, die Gebäude um Sie herum, die Geräte um Sie herum – buchstäblich alles – versucht, mittels einer Vorauswahl zu bestimmen, was Sie sehen, um diese Entscheidung zu beeinflussen?
Wie kommt man aus diesem Raum wieder heraus, wenn man einmal dort ist, wo man beobachtet wird? Wie können Sie Ihre Autonomie als Mensch ausüben? Das wird ganz einfach unmöglich. Wir müssen wirklich anfangen, darüber nachzudenken, was wir mit KI aufbauen, in was wir uns hineinbegeben, denn wenn wir diesen Raum einmal geschaffen haben, gibt es keinen Ausweg mehr.
Aus diesem Grund müssen wir die KI regulieren – und zwar schnell. Wenn wir uns anschauen, wie wir andere Sektoren regulieren, dann formulieren wir als erstes eine Reihe von Schäden, die wir vermeiden wollen. Bei Flugzeugen wollen wir nicht, dass sie abstürzen; bei Medikamenten wollen wir nicht, dass sie Menschen vergiften.
Es gibt eine Reihe von Schäden, von denen wir bereits wissen, dass die KI zu ihnen beiträgt, und die wir in Zukunft vermeiden wollen: z. B. Desinformation, Täuschung, Rassismus und Diskriminierung: Wir wollen keine KI, die zur Entscheidungsfindung mit rassistischen Vorurteilen beiträgt. Wir wollen keine KI, die uns betrügt. Der erste Schritt besteht also darin, zu entscheiden, was die KI nicht tun soll. Der zweite Schritt besteht darin, ein Testverfahren zu entwickeln, damit die Dinge, die wir verhindern wollen, tatsächlich nicht passieren.
Wir testen Flugzeuge auf mögliche Schwachstellen, damit sie nicht vom Himmel fallen. Wenn wir also nicht wollen, dass ein Algorithmus falsche Informationen verstärkt, müssen wir einen Weg finden, dies zu prüfen. Wie ist er aufgebaut?
Welche Art von Eingaben verwendet er, um Entscheidungen zu treffen? Wie verhält sich der Algorithmus in einem Testbeispiel? Das Durchlaufen eines Testprozesses ist ein sehr wichtiger Aspekt der Regulierung. Stellen Sie sich vor, die Entwickler stellen vor der Freigabe fest, dass ein von einer Bank verwendeter Algorithmus eine rassistische Verzerrung aufweist und beim Test an einer Versuchsgruppe mehr Hypotheken an hellhäutige als an dunkelhäutige Menschen vergibt. Wir haben das Risiko bewertet und können nun zurückgehen und den Algorithmus korrigieren, bevor er freigegeben wird.
Es ist relativ einfach, KI nach demselben Verfahren zu regulieren, das wir auch in anderen Branchen verwenden. Es geht um Risikominderung, Schadensbegrenzung und Sicherheit, bevor die KI für die Öffentlichkeit freigegeben wird.
Stattdessen erleben wir derzeit, dass Big Tech diese großen Experimente mit der Gesellschaft durchführt und erst im Laufe des Prozesses Erkenntnisse gewinnt. Facebook findet die Probleme nach und nach heraus und entschuldigt sich dann für sie. Dann wird entschieden, ob es sich für die betroffene Bevölkerung lohnt, das Problem zu lösen oder nicht. Gibt es einen Völkermord in Myanmar – kein großer Markt – wird Facebook nichts dagegen unternehmen, obwohl es sich um ein Verbrechen gegen die Menschlichkeit handelt. Facebook hat zugegeben, dass es sich keine Gedanken darüber gemacht hat, wie seine Empfehlungsmaschine in einer Bevölkerung mit einer Geschichte religiöser und ethnischer Gewalt funktionieren würde. Man kann von einem Unternehmen verlangen, dass es dies vor der Freigabe einer neuen Anwendung prüft.
Das Problem mit der Idee von „move fast and break things“ [„Sei schnell und breche Regeln und Etabliertes“, ein Motto, das von Facebook-CEO Mark Zuckerberg populär gemacht wurde] ist, dass sie implizit besagt: „Ich habe das Recht, dich zu verletzen, wenn meine App cool genug ist; ich habe das Recht, dich zu opfern, um eine App zu machen.“ Das akzeptieren wir in keiner anderen Branche. Stellen Sie sich vor, es gäbe Pharmaunternehmen, die sagen: „Wir erzielen schnellere Ergebnisse bei der Krebsbehandlung, wenn Sie uns nicht regulieren, und wir alle Experimente machen können, die wir wollen“.
Das mag wahr sein, aber wir wollen diese Art von Experimenten nicht, sie wären katastrophal. Das müssen wir uns vor Augen halten, wenn KI zunehmend an Bedeutung gewinnt und in alle Bereiche integriert wird. KI ist die Zukunft von allem: wissenschaftliche Forschung, Luft- und Raumfahrt, Verkehr, Unterhaltung, vielleicht sogar Bildung. Wenn wir anfangen, unsichere Technologien in andere Sektoren zu integrieren, ergeben sich große Probleme. Deshalb müssen wir die KI regulieren.
Hier kommt Regulatory capture ins Spiel. Das bedeutet zu Deutsch so viel wie „Vereinnahmung einer Regulierungsbehörde“. Ein solches Vorgehen liegt vor, wenn eine Branche versucht, den ersten Schritt zu machen, um zu bestimmen, was reguliert werden soll und was nicht. Das Problem besteht darin, dass ihre Vorschläge in der Regel nicht auf heutige Schäden abzielen, sondern auf theoretische Schäden zu einem späteren Zeitpunkt.
Viele der Probleme, die die Gesellschaft im Zusammenhang mit der KI haben wird, fast mit dem Klimawandel vergleichbar sind. Gleichzeitig handelt es sich um ein systemisches Problem, und systemische Probleme erfordern systemische Lösungsansätze
Wenn eine Gruppe von Leuten sagt: „Wir verurteilen die Menschheit zum Aussterben, weil wir den Terminator-Roboter erschaffen haben, also reguliert uns“, dann heißt das: „Reguliert dieses Problem, das im Moment nicht real ist. Reguliert nicht das sehr reale Problem, das mich daran hindern würde, Produkte auf den Markt zu bringen, die rassistische Informationen enthalten, die gefährdeten Menschen schaden könnten und die Menschen dazu ermutigen könnten, sich selbst zu töten. Reguliert bloß nicht die realen Probleme, die mich zwingen, mein Produkt zu ändern.“
Wenn ich mir die globalen Touren dieser Tech-Mogule ansehe, die über ihre große Zukunftsvision sprechen und sagen, dass die KI die Menschheit beherrschen wird und dass wir deshalb die Regulierung ernst nehmen müssen, klingt das aufrichtig. Eigentlich klingt es für mich so, als würden sie sagen, dass sie dabei helfen werden, eine Menge Regeln für Dinge zu schaffen, die sie nicht ändern müssen. Man braucht sich nur die Vorschläge anzusehen, die sie vor ein paar Wochen [im Mai 2023] veröffentlicht haben: Sie wollen einen regulatorischen Rahmen rund um OpenAI schaffen, in dem Regierungen OpenAI und ein paar anderen großen Tech-Unternehmen ein De-facto-Monopol für die Entwicklung von Produkten geben würden, im Namen der Sicherheit. Dies könnte sogar zu einem Rechtsrahmen führen, der andere Forscher daran hindert, KI zu nutzen.
Das Problem ist, dass wir keine ausgewogene Diskussion darüber führen, was überhaupt reguliert werden sollte. Ist das Problem der Terminator oder die Fragmentierung der Gesellschaft? Ist es Desinformation? Ist es die Aufstachelung zur Gewalt? Ist es Rassismus? Wenn Sie aus einer privilegierten Position heraus sprechen – sagen wir, ein reicher weißer Mann irgendwo in der San Francisco Bay Area – denken Sie wahrscheinlich nicht darüber nach, wie es einer Person in Myanmar schaden wird. Sie denken nur darüber nach, ob es Ihnen wehtut. Rassismus tut Ihnen nicht weh, politische Gewalt tut Ihnen nicht weh.
Wir fragen die falschen Leute nach dem Schaden. Stattdessen müssen wir mehr Menschen aus der ganzen Welt einbeziehen, vor allem aus gefährdeten und marginalisierten Gemeinschaften, die den Schaden der künstlichen Intelligenz als erste erfahren werden. Wir müssen nicht über diese große Idee zukünftiger Schäden sprechen, sondern darüber, welche Schäden diese Menschen heute in ihren Ländern erleiden, und wie man dies heute verhindern kann.
Ich denke, dass viele der Probleme, die die Gesellschaft im Zusammenhang mit der KI haben wird, fast mit dem Klimawandel vergleichbar sind. Man kann ein Elektroauto kaufen, man kann etwas Recycling betreiben, aber gleichzeitig handelt es sich um ein systemisches Problem, und systemische Probleme erfordern systemische Lösungsansätze. Deshalb würde ich vorschlagen, aktiv zu sein und von den Verantwortlichen zu verlangen, dass sie etwas dagegen tun.
Politisches Kapital in dieses Thema zu investieren ist das Wichtigste, was die Menschen tun können – es ist wichtiger, als Mastodon beizutreten oder seine Cookies zu löschen. Was die Entwicklung von KI so unfair macht, ist, dass sie von großen amerikanischen Unternehmen entwickelt wird, die nicht unbedingt an den Rest der Welt denken. Die Stimmen kleiner Länder sind für sie weniger wichtig als die Stimmen der wichtigen Swing-Staaten in den USA.
Nehmen wir die Datenschutz-Grundverordnung (GDPR) in Europa als Beispiel: Hier geht es nicht um die zugrunde liegende Konstruktion. Sie schafft eine Reihe von Standards dafür, wie Menschen zustimmen oder nicht zustimmen, und letztendlich entscheidet sich jeder dafür. Das ist nicht der richtige Rahmen für einen Regulierungsansatz, denn wir behandeln ihn wie einen Dienst, nicht wie eine Konstruktion, und so regulieren wir die Sicherheit durch Zustimmung.
Das ist so, als ob wir die Sicherheit von Gebäuden regulieren, indem wir einfach ein Schild an die Tür hängen, das besagt, dass man mit der Annahme der Nutzungsbedingungen der schlampigen Planung und Konstruktion des Gebäudes zustimmt – und wenn es einstürzt, macht das nichts, weil man ja zugestimmt hat.
Dieser Text ist eine Transkription des Vortrags von Christopher Wylie auf dem ZEG Storytelling festival in Tiflis im Juni 2023. Er wurde von Gian-Paolo Accardo aufgezeichnet und von Harry Bowden überarbeitet.
Schätzen Sie unsere Arbeit?
Dann helfen Sie uns, multilingualen europäischen Journalismus weiterhin frei zugänglich anbieten zu können. Ihre einmalige oder monatliche Spende garantiert die Unabhängigkeit unserer Redaktion. Danke!
