Wählen Sie eine Sprache
Dieser Artikel ist nur für Abonnent*innen von Voxeurop zugänglich
Neben dem Krieg in der Ukraine, der neuen Welle der Migrationskrise und der anhaltenden Katastrophe des Klimawandels ist die künstliche Intelligenz (KI) eines der Themen, die die Welt in diesem Jahr beherrschen. Je nachdem, auf wen man hört, wird sie entweder alle Probleme der Menschheit lösen oder sie wird die Zivilisation, wie wir sie kennen, zerstören. Damit wären wir bei unserem ersten Widerspruch: Manchmal sind es dieselben Leute, die beides sagen. Und überraschenderweise kommen sie meistens aus dem Silicon Valley ...
Wir wollen uns einen Überblick verschaffen und einige der wichtigsten KI-bezogenen Entwicklungen in diesem Jahr durchgehen. Viele von ihnen habe ich in einem langen Essay beschrieben, der Anfang des Jahres in der New York Times erschien.
Ich möchte Ihnen hier die grundlegende Prämisse verraten: Unsere derzeitige Vernarrtheit in das Versprechen der KI ist in vielerlei Hinsicht nur die logische Folge unserer Vernarrtheit in den Markt und den Neoliberalismus. Man kann nur verstehen, warum so viele öffentliche Einrichtungen auf die süßen Versprechungen der KI-Anbieter hereinfallen, wenn man diesen Marketingschub in die breitere Geschichte der Privatisierung von Lösungen für ansonsten öffentliche und kollektive Probleme einordnet. Unsere Probleme heute mit Hilfe von KI zu lösen, ist also gleichbedeutend damit, sie mit Hilfe des Marktes zu lösen. Ich persönlich finde das problematisch – und ich hoffe, Sie auch. Aber dieser Zusammenhang – zwischen der heutigen KI und dem Neoliberalismus – wird nicht gut verstanden. Deshalb möchte ich ihn etwas besser erklären.
Im Mai unterzeichneten mehr als 350 Führungskräfte aus der Technologiebranche, Forscher und Akademiker eine Erklärung, in der sie vor den existenziellen Gefahren der künstlichen Intelligenz warnten. „Die Minderung des Risikos des Aussterbens durch KI sollte neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkrieg weltweit eine Priorität sein“, warnten die Unterzeichner.
Dies geschah im Anschluss an einen weiteren Brief, der große Beachtung fand. Zu seinen Unterzeichnern zählten unter anderen Elon Musk und Steve Wozniak, ein Mitbegründer von Apple,und er forderte ein sechsmonatiges Moratorium für die Entwicklung fortschrittlicher KI-Systeme.
In der Zwischenzeit hat die Biden-Regierung auf eine verantwortungsvolle KI-Innovation gedrängt und erklärt, dass wir, „um die Chancen zu nutzen“, die sie bietet, „zunächst ihre Risiken kontrollieren müssen“. Im Kongress haben die Senatoren zu einer nie dagewesenen Anhörung über das Potenzial und die Risiken der künstlichen Intelligenz aufgerufen, eine Art Crashkurs von Führungskräften aus der Industrie, Wissenschaftlern, Bürgerrechtlern und anderen Interessengruppen.
Die wachsende Angst vor künstlicher Intelligenz rührt nicht von den langweiligen, aber zuverlässigen Technologien her, die unsere Textnachrichten automatisch vervollständigen oder Staubsaugerroboter anweisen, Hindernissen in unseren Wohnzimmern auszuweichen. Es ist der Aufstieg der künstlichen allgemeinen Intelligenz, oder AGI, der die Experten beunruhigt.
AGI gibt es noch nicht, aber einige denken, dass die schnell wachsenden Fähigkeiten von OpenAI's ChatGPT zeigen, dass sie schon bald existieren wird. Sam Altman, ein Mitbegründer von OpenAI, beschreibt sie als „Systeme, die im Allgemeinen intelligenter sind als Menschen.“ Der Aufbau solcher Systeme bleibt eine gewaltige – manche sagen unmögliche – Aufgabe. Aber die Vorteile scheinen wirklich verlockend zu sein.
Man denke nur an Roombas, die intelligenten Staubsauger. Sie wären nicht mehr nur zum Staubsaugen der Böden verdammt, sondern könnten sich zu Allzweckrobotern entwickeln, die ihnen gerne morgens einen Kaffee aufbrühen und auch die Wäsche falten. Das Schöne daran ist, dass sie dank der künstlichen allgemeinen Intelligenz in der Lage sein werden, dies zu tun, ohne jemals dafür programmiert worden zu sein.
Klingt verlockend. Aber sollten diese AGI-Roombas zu mächtig werden, könnte ihre Mission, eine makellose Utopie zu schaffen, ihren staubaufwirbelnden menschlichen Besitzern zum Verhängnis werden. Schließlich sind wir, die Menschen, die Verursacher des ganzen Staubs – und da diese Roombas nie richtig programmiert werden, könnten sie zu dem Schluss kommen, dass die Beseitigung der Menschen eine Möglichkeit ist, den Haushalt sauber zu halten. Überlegen Sie daher gut, bevor Sie sich einen AGI-gesteuerten Roomba zulegen.
Die Diskussionen über die AGI wimmeln vor solchen apokalyptischen Szenarien. Doch eine aufstrebende AGI-Lobby aus Akademikern, Investoren und Unternehmern hält dagegen, dass AGI, sobald sie sicher ist, ein Segen für die Zivilisation wäre. Sam Altman, das Gesicht dieser Kampagne, begab sich auf eine weltweite Tournee, um die Gesetzgeber zu bezirzen. Anfang dieses Jahres schrieb er, dass AGI sogar die Wirtschaft ankurbeln, das wissenschaftliche Wissen fördern und „die Menschheit durch die Vermehrung des Reichtums erheben“ könnte.
Das ist der Grund, warum so viele kluge Köpfe in der Tech-Industrie an der Entwicklung dieser umstrittenen Technologie arbeiten: Es erscheint unmoralisch, sie nicht zur Rettung der Welt einzusetzen. Das Risiko, dass die AGI das Flugzeug abstürzen lässt, verblasst also im Vergleich zu ihren Versprechungen: Krebs zu heilen, das Analphabetentum zu beseitigen oder uns allen einen persönlichen Sekretär an die Seite zu stellen.
All diese Tech-Visionäre sind einer Ideologie verpflichtet, die diese neue Technologie als unumgänglich und – in einer sicheren Version – als universell nutzbringend ansieht. Ihre Befürworter können sich keine besseren Alternativen vorstellen, um die Menschheit zu „reparieren“ und ihre Intelligenz zu steigern. Ich wiederhole: Für sie liegt der Weg zur Steigerung der Intelligenz unserer Zivilisation in der Feinabstimmung von Datenmodellen, die sie mit mehr und besseren Daten füttern. Das ist vor allem ein technisches Programm.
Aber die übergeordnete Ideologie, die hinter diesen Bemühungen steht – wir wollen sie AGI-Ideologie nennen – ist falsch. Die wirklichen Risiken der AGI sind politischer Natur und lassen sich nicht durch die Zähmung rebellischer Roboter beheben. Selbst die sicherste AGI würde nicht das von ihrer Lobby versprochene progressive Allheilmittel liefern. Und indem die AGI-Ideologie die Entstehung der Künstlichen allgemeinen Intelligenz als nahezu unvermeidlich darstellt, lenkt sie davon ab, bessere Wege zur Steigerung der Intelligenz zu finden. Über einige davon werde ich gegen Ende meines Vortrags sprechen.
Ohne dass ihre Befürworter es wissen, ist die AGI-Ideologie nur der nicht anerkannte Abkömmling einer viel größeren Ideologie, einer Ideologie, die predigt, dass es, wie Margaret Thatcher es denkwürdig formulierte, keine Alternative gibt – nicht zum Markt. Denn die Technologieunternehmen, die AGI entwickeln, sind keine humanitären Organisationen im Sinne der Vereinten Nationen und auch keine Wohltäter wie Mutter Theresa – sie sind gewinnorientierte Kapitalisten, die die Institution des Marktes als wichtigste Form der Organisation unserer Gesellschaft fördern wollen.
Das ist der Grund, warum AGI – oder zumindest die Eile, sie zu entwickeln – den Kapitalismus nicht stoppen dürfte, wie Sam Altman angedeutet hat, sondern eher einen mächtigen (und viel trendigeren) Verbündeten für die zerstörerischste Überzeugung des Kapitalismus schaffen wird: den Neoliberalismus.
Die Architekten des Neoliberalismus sind fasziniert von Privatisierung, Wettbewerb und Freihandel und wollten eine stagnierende und arbeitsfreundliche Wirtschaft durch Märkte und Deregulierung dynamisieren und umgestalten.
Einige dieser Umgestaltungen haben funktioniert, aber sie waren mit einem immensen Preis verbunden. Im Laufe der Jahre hat der Neoliberalismus unzählig viele Kritiker auf den Plan gerufen, die ihn für die Große Rezession und die Finanzkrise, den Trumpismus, den Brexit und vieles andere verantwortlich machten.
Es ist daher nicht verwunderlich, dass sich die Regierung Biden von der Ideologie distanziert hat und anerkennt, dass die Märkte manchmal falsch liegen. Stiftungen, Denkfabriken und Akademiker haben es sogar gewagt, sich eine postneoliberale Zukunft vorzustellen. Leider sind solche Äußerungen in Europa sehr selten, auch wenn Emmanuel Macron kürzlich mit seiner Rede über ökologische Planung als Mittel zur Lösung der Klimakrise Schlagzeilen gemacht hat.
Doch der Neoliberalismus ist noch lange nicht tot. Schlimmer noch, er hat in der AGI-Ideologie einen Verbündeten gefunden, der seine wichtigsten Verzerrungen noch verstärkt und wiederholt. Ich möchte mich in diesem Vortrag auf drei davon konzentrieren. Die erste ist die Vorstellung, dass private Akteure tendenziell besser abschneiden als öffentliche (ich nenne das Marktverzerrung). An zweiter Stelle steht die klassische neoliberale Vorstellung, dass die Anpassung an die Realität wichtiger ist als deren Veränderung (das könnten wir als Anpassungsverzerrung bezeichnen). Drittens die Vorstellung, dass das Erfordernis der Effizienzmaximierung soziale Belange, insbesondere solche, die mit sozialer Gerechtigkeit zu tun haben, immer übertrumpft (wir können dies als Effizienzverzerrung bezeichnen).
Diese Verzerrungen stellen das verlockende Versprechen der AGI auf den Kopf: Anstatt die Welt zu retten, wird das Bestreben, sie zu entwickeln, alles nur noch schlimmer machen.
Die Marktverzerrung
Wenden wir uns dem ersten Vorurteil zu – dem des Marktes, nämlich der Idee, dass wir uns an private Anbieter von Dienstleistungen wenden und ihnen den Vorzug vor denen des Marktes geben sollten. Erinnern Sie sich noch an die Zeit, als Uber mit seinen billigen Tarifen um die Gunst der Städte buhlte, um als deren öffentliches Verkehrssystem zu dienen?
Alles fing gut an: Uber versprach unglaublich billige Fahrpreise, dank einer Zukunft mit selbstfahrenden Autos und minimalen Arbeitskosten. Gut betuchte Investoren liebten diese Vision und nahmen sogar die Milliardenverluste von Uber in Kauf.
Aber als die Realität eintrat, waren die selbstfahrenden Autos immer noch ein Wunschtraum. Die Investoren verlangten Renditen und Uber war gezwungen, die Preise zu erhöhen. Nutzer, die sich darauf verließen, dass Uber öffentliche Busse und Züge ersetzen würde, hatten das Nachsehen.
Der neoliberale Instinkt hinter dem Geschäftsmodell von Uber besteht darin, dass der private Sektor mehr leisten kann als der öffentliche Sektor. Das ist der Kern der Marktverzerrung.
Das gilt nicht nur für Städte und den öffentlichen Nahverkehr. Schauen Sie sich die Vereinigten Staaten an: Krankenhäuser, Polizeidienststellen und sogar das Pentagon verlassen sich zunehmend auf das Silicon Valley, um ihre Aufgaben zu erfüllen.
Mit der AGI wird sich dieser Trend noch verstärken, nicht zuletzt, weil die AGI in ihrem Umfang und ihrem Ehrgeiz keine Grenzen kennt. Sie verspricht, jede Aufgabe zu erfüllen, ohne dass man ihr jemals beigebracht hat, wie das geht. Kein Verwaltungs- oder Regierungsdienst wäre gegen das Versprechen eines Umbruchs immun.
Außerdem muss die AGI nicht einmal existieren, um sie anzulocken. Das ist jedenfalls die Lehre von Theranos, einem Start-up-Unternehmen, das versprach, durch eine revolutionäre Bluttesttechnologie eine „Lösung“ für das Gesundheitswesen zu bieten, und das früher ein Liebling der amerikanischen Eliten war. Seine Opfer sind real – im Gegensatz zu seiner Technologie.
Nach vielen weiteren Traumata wie Uber- und Theranos wissen wir bereits, was wir von der Einführung der AGI zu erwarten haben. Sie wird zwei Phasen umfassen. Erstens die Phase der Charmeoffensive, in der den Nutzern stark subventionierte Dienste angeboten werden, während man ihnen sagt, dass ihre niedrigen Kosten das Ergebnis genialer Innovatoren sind, die neue Wege finden, um Althergebrachtes zu tun. Dann folgt die unangenehme Rückzugsphase, in der die übermäßig abhängigen Nutzer und Agenturen die Kosten dafür tragen müssen, dass diese Dienste rentabel werden.
Wie immer spielen die Experten aus dem Silicon Valley die Rolle des Marktes herunter. Wie echte Populisten versichern sie uns, dass es bei dieser neuen Art von künstlicher Intelligenz darum geht, den Menschen in den Mittelpunkt zu stellen. In einem kürzlich erschienenen Essay mit dem Titel „Warum KI die Welt retten wird“ erklärt Marc Andreessen, ein prominenter Tech-Investor, sogar, dass die KI „wie jede andere Technologie den Menschen gehört und von ihnen kontrolliert wird“.
Solche exquisiten Euphemismen können nur von einem Risikokapitalgeber stammen. Die meisten modernen Technologien sind im Besitz von Unternehmen. Diese – und nicht die mythischen „Menschen“ – werden es sein, die die Rettung der Welt zu Geld machen werden.
Aber werden sie sie wirklich retten? Die bisherige Bilanz ist dürftig. Unternehmen wie Airbnb und TaskRabbit wurden als Retter der belagerten Mittelschicht begrüßt, weil sie versprachen, unsere Wohnungen und Freizeit zu Geldmaschinen zu machen. Die Elektroautos von Tesla wurden als Heilmittel für einen sich erwärmenden Planeten angesehen. Soylent, der Mahlzeitenersatz-Shake, startete eine Mission, um das Problem des Hungers in der Welt zu „lösen“, während Facebook versprach, die Verbindungsprobleme im globalen Süden „zu beheben“. Keines dieser Unternehmen hat die Welt gerettet.
Vor einem Jahrzehnt nannte ich dies Solutionismus, aber „digitaler Neoliberalismus“ wäre ein ebenso passender Name, um diesen Pseudo-Humanitarismus der Start-ups und Risikokapitalgeber zu beschreiben. In dieser Weltanschauung werden soziale Probleme im Lichte gewinnorientierter technologischer Lösungen neu formuliert. Infolgedessen werden Anliegen, die in den öffentlichen Bereich gehören, als unternehmerische Chancen auf dem Markt umgedeutet.
Durch die AGI-Ideologie wurde dieser lösungsorientierte Eifer neu entfacht. Letztes Jahr erklärte Altman, einer der Mitbegründer von OpenAI, dass „AGI wahrscheinlich notwendig ist, damit die Menschheit überlebt“, weil „unsere Probleme zu groß“ sind, „um sie ohne bessere Tools zu lösen.“ Er hat kürzlich behauptet, dass AGI ein Katalysator für das menschliche Wohlbefinden sein wird.
Aber Unternehmen brauchen Gewinne, und ein solches Wohlwollen, vor allem von unrentablen Firmen, die die Milliarden der Investoren verbrennen, ist ungewöhnlich. OpenAI, das Beträge in Milliardenhöhe von Microsoft angenommen hat, hat überlegt, weitere 100 Milliarden Dollar für den Aufbau von AGI zu beschaffen. Diese massiven Investitionen müssen zurückverdient werden – gegen die schwindelerregenden unsichtbaren Kosten des Dienstes. (Eine Schätzung vom Februar bezifferte die Kosten für den Betrieb von ChatGPT auf 700.000 Dollar pro Tag.)
So könnte die hässliche Phase des Rückzugs mit aggressiven Preiserhöhungen, um einen AGI-Dienst rentabel zu machen, vor dem „Überfluss“ und dem „Aufblühen“ kommen. Das heißt, die hässliche Realität – dass diese Dienste unrentabel sind und nur überleben, weil sie von den Investoren subventioniert werden – wird eintreten, bevor es ihnen gelingt, alle Probleme der Welt zu lösen. Aber wie viele öffentliche Einrichtungen würden bis dahin wankelmütige Märkte mit erschwinglichen Technologien verwechseln und von den teuren Angeboten von OpenAI abhängig werden?
Und wenn es Ihnen nicht gefällt, dass Ihre Stadt den öffentlichen Nahverkehr an ein wackliges Start-up-Unternehmen auslagert, wären Sie dann damit einverstanden, dass sie die Sozialfürsorge, die Abfallentsorgung und die öffentliche Sicherheit an die möglicherweise noch unbeständigeren AGI-Unternehmen vergibt?
Die Anpassungsverzerrung
Wenden wir uns nun der zweiten Verzerrung zu: Die Anpassung an die Realität ist dem Versuch, sie zu verändern, weit überlegen. Infolge dieser Verzerrung hat der Neoliberalismus ein Händchen dafür, Technologie zu mobilisieren, um das Elend der Gesellschaft erträglich zu machen. Ich erinnere mich an ein innovatives Technologieunternehmen, das im Jahr 2017 versprach, die Nutzung einer U-Bahnlinie in Chicago durch Pendler zu verbessern.
Es bot U-Bahn-Fahrern, die Hauptverkehrszeiten mieden, Belohnungen an. Die Macher setzten Technologie ein, um die Nachfrageseite (die Fahrgäste) zu beeinflussen, da sie strukturelle Veränderungen auf der Angebotsseite (wie die Erhöhung der Mittel für den öffentlichen Nahverkehr) für zu schwierig hielten. Die Technologie sollte dazu beitragen, dass sich die Einwohner Chicagos an die sich verschlechternde Infrastruktur der Stadt anpassen, anstatt diese zu reparieren, um den Bedürfnissen der Öffentlichkeit gerecht zu werden.
Das ist die Anpassungsverzerrung – das Bestreben, dass wir mit einem technologischen Zauberstab gegenüber unserer Notlage desensibilisiert werden können. Es ist das Produkt des Neoliberalismus, der unermüdlich Selbstvertrauen und Widerstandsfähigkeit preist.
Die Botschaft ist klar: Rüsten Sie sich, verbessern Sie Ihr Humankapital und nehmen Sie Kurs wie ein Start-up-Unternehmen. Und die AGI-Ideologie stimmt in diese Melodie ein. Bill Gates posaunte, dass die KI „den Menschen überall helfen kann, ihr Leben zu verbessern“. Dies geschieht nur ein Jahrzehnt, nachdem wir ermutigt wurden, das Programmieren zu lernen. Auch das sollte den Menschen überall helfen, ihr Leben zu verbessern. Immer geht es darum, die Kosten für die Lösung wichtiger sozialer und politischer Probleme auf die Schultern des Einzelnen abzuwälzen.
Das lösungsorientierte Fest beginnt gerade erst: Ob es um die Bekämpfung der nächsten Pandemie, der Epidemie der Einsamkeit oder der Inflation geht, die KI wird bereits als Allzweckhammer für viele reale und imaginäre Nägel angepriesen. Das Jahrzehnt, das durch den lösungsorientierten Wahnsinn verloren ging, zeigt jedoch die Grenzen solcher technologischen Lösungen auf.
Sicherlich sind die vielen Apps aus dem Silicon Valley – zur Überwachung unserer Ausgaben, Kalorien und Trainingspläne – gelegentlich hilfreich. Aber sie ignorieren meist die tieferen Ursachen von Armut oder Fettleibigkeit. Und ohne die Ursachen zu bekämpfen, bleiben wir im Bereich der Anpassung stecken und bewirken keine Veränderung. Wir haben also die Illusion, dass wir etwas zur Lösung dieser Probleme tun, aber in Wirklichkeit basteln wir nur an den Rändern herum; wir machen unsere Tragödie lebenswerter – aber nicht viel mehr als das.
Es ist ein Unterschied, ob man uns dazu anhält, unsere Gehgewohnheiten zu verfolgen – eine Lösung, die die individuelle Anpassung begünstigt – oder ob man sich bemüht, zu verstehen, warum es in unseren Städten keine öffentlichen Flächen gibt, auf denen man gehen kann – eine Voraussetzung für eine politikfreundliche Lösung, die eine kollektive und institutionelle Veränderung begünstigt.
Aber wie der Neoliberalismus sieht auch die AGI-Ideologie öffentliche Einrichtungen als einfallslos und nicht besonders produktiv an. Sie sind ein Kostenfaktor für die Gesellschaft, keine treibende Kraft. Sie sollten sich einfach an die AGI anpassen, zumindest laut Sam Altman, der kürzlich sagte, er sei nervös im Hinblick auf – ich zitiere – „die Geschwindigkeit, mit der sich unsere Institutionen anpassen können“ – ein Grund, fügte er hinzu, – ich zitiere wieder – „warum wir mit der Einführung dieser Systeme sehr früh beginnen wollen, während sie noch sehr schwach sind, damit die Menschen so viel Zeit wie möglich haben, sich anzupassen.“
Aber sollten sich die Institutionen nur anpassen? Können sie nicht ihre eigenen transformativen Pläne zur Verbesserung der menschlichen Intelligenz entwickeln? Oder nutzen wir Institutionen nur, um die Risiken der eigenen Technologien des Silicon Valley abzumildern? Sind nicht einige der wertvollsten Innovationen der Menschheitsgeschichte Institutionen – zum Beispiel die Universität, die Bibliothek, das Museum oder der Wohlfahrtsstaat?
Die Effizienzverzerrung
Lassen Sie uns zum Schluss noch die dritte Verzerrung ansprechen. Ein gängiger Vorwurf an den Neoliberalismus ist, dass er unser politisches Leben verflacht und auf Effizienz getrimmt hat. „Das Problem der sozialen Kosten“, ein Artikel aus dem Jahr 1960, der zu einem Klassiker des neoliberalen Kanons geworden ist, predigt, dass eine umweltverschmutzende Fabrik und ihre Opfer sich nicht die Mühe machen sollten, ihre Streitigkeiten vor Gericht auszutragen. Solche Streits sind ineffizient – wer braucht schon Gerechtigkeit? – und stehen dem Marktgeschehen im Weg. Stattdessen sollten die Parteien privat über eine Entschädigung verhandeln und weiter ihren Geschäften nachgehen. Für die Neoliberalen gilt das grundsätzlich: Recht und Politik stehen dem Geschäft und den Gewinnen im Weg.
Diese Fixierung auf die Effizienz hat dazu geführt, dass wir das Problem des Klimawandels „gelöst“ haben, indem wir die schlimmsten Übeltäter weitermachen ließen wie bisher. Der Weg, die Fesseln der Regulierung zu umgehen, besteht darin, ein System zu entwickeln – in diesem Fall die Besteuerung von CO2 –, das es den Verschmutzern ermöglicht, Gutschriften für den zusätzlichen Kohlenstoffausstoß zu kaufen, den sie verursachen.
Diese Kultur der Effizienz, in der die Märkte den Wert der Dinge messen und die Gerechtigkeit ersetzen, untergräbt unweigerlich die bürgerlichen Tugenden.
Und die Probleme, die dadurch entstehen, sind überall sichtbar. Akademiker beklagen, dass Forschung und Lehre im Neoliberalismus zur Ware geworden sind. Ärzte beklagen, dass Krankenhäuser profitableren Leistungen wie Wahloperationen Vorrang vor der Notfallversorgung einräumen. Journalisten hassen es, dass der Wert ihrer Artikel daran gemessen wird, wie viele Menschen sie lesen.
Stellen Sie sich nun vor, AGI würde auf diese angesehenen Institutionen – die Universität, das Krankenhaus, die Zeitung – losgelassen mit der noblen Mission, sie zu „reparieren“. Ihre impliziten staatsbürgerlichen Aufgaben würden für AGI unsichtbar bleiben, denn diese Aufgaben werden selbst in ihren Jahresberichten selten quantifiziert – und Jahresberichte gehören zu der Art von Materialien, die in die Modelle einfließen, die hinter AGI stecken.
Wie der Neoliberalismus sieht auch die AGI-Ideologie öffentliche Einrichtungen als einfallslos und nicht besonders produktiv an. Sie sind ein Kostenfaktor für die Gesellschaft, keine treibende Kraft
Wer rühmt sich schon gerne damit, dass nur eine Handvoll Studenten an seinem Kurs über die Geschichte der Renaissance teilgenommen hat? Oder dass ihr Artikel über Korruption in einem fernen Land nur ein Dutzend Seitenaufrufe hatte? Solche ineffizienten und unrentablen Ausreißer überleben auf wundersame Weise sogar im derzeitigen System. Der Rest der Institution subventioniert sie stillschweigend, indem er anderen Werten als der gewinnorientierten „Effizienz“ Priorität einräumt.
Wird dies auch in der AGI-Utopie noch der Fall sein? Oder wird die Reparatur unserer Institutionen durch AGI so aussehen, als würde man sie rücksichtslosen Beratern überlassen? Auch sie bieten datengestützte „Lösungen“ zur Maximierung der Effizienz an. Aber diese Lösungen verkennen oft das unübersichtliche Zusammenspiel von Werten, Aufgaben und Traditionen, das den Institutionen zugrunde liegt – ein Zusammenspiel, das kaum sichtbar ist, wenn man nur an der Datenoberfläche kratzt.
Die bemerkenswerte Leistung von ChatGPT-ähnlichen Diensten besteht darin, dass sie sich weigern, die Realität auf einer tieferen Ebene, jenseits der Datenoberfläche, zu erfassen. Während frühere KI-Systeme auf expliziten Regeln beruhten und jemanden wie Newton benötigten, um die Schwerkraft zu theoretisieren – um zu fragen, wie und warum Äpfel fallen –, lernen neuere Systeme wie AGI einfach, die Auswirkungen der Schwerkraft vorherzusagen, indem sie Millionen von Äpfeln beobachten, die auf den Boden fallen.
Wenn AGI jedoch nur mit knappen Kassen ausgestattete Institutionen sieht, die um ihr Überleben kämpfen, wird sie vielleicht nie auf deren wahres Ethos schließen können. Viel Glück dabei, die Bedeutung des hippokratischen Eids zu erkennen, wenn man Krankenhäuser beobachtet, die zu Profitcentern geworden sind.
Lassen Sie mich abschließend einige allgemeine Überlegungen dazu anstellen, was wir anders machen können. Margaret Thatchers anderes berühmtes neoliberales Diktum lautete: „So etwas wie Gesellschaft gibt es nicht“. Die AGI-Lobby teilt unbewusst diese düstere Sichtweise. Für sie ist die Art von Intelligenz, die es wert ist, nachgeahmt zu werden, eine Funktion dessen, was in den Köpfen der Menschen und nicht in der Gesellschaft als Ganzes geschieht.
Aber die menschliche Intelligenz ist ebenso sehr ein Produkt der Politik und der Institutionen wie der Gene und der individuellen Begabungen. Es ist einfacher, mit einem Stipendium in der Library of Congress intelligent zu sein, als mit mehreren Jobs an einem Ort ohne Buchladen und sogar ohne vernünftiges WLAN.
Es scheint nicht sehr umstritten zu sein, dass mehr Stipendien und öffentliche Bibliotheken Wunder zur Steigerung der menschlichen Intelligenz bewirken würden. Aber für die lösungsorientierten Leute im Silicon Valley ist die Steigerung der Intelligenz in erster Linie ein technologisches Problem – daher der Rummel um AGI
Wenn die AGI-Ideologie jedoch wirklich Neoliberalismus mit anderen Mitteln ist, dann sollten wir uns darauf einstellen, dass es weniger – und nicht mehr – intelligenzfördernde Institutionen geben wird. Schließlich sind sie die Überbleibsel der gefürchteten „Gesellschaft“, die für die Neoliberalen nicht wirklich existiert. Das große Projekt der AGI, die Intelligenz zu verstärken, könnte dazu führen, dass diese schrumpft.
Aufgrund dieser lösungsorientierten Verzerrung können selbst scheinbar innovative politische Ideen im Zusammenhang mit AGI nicht begeistern. Nehmen wir den jüngsten Vorschlag für ein „Manhattan Project for A.I. Safety“ – es basiert auf der falschen Vorstellung, dass es keine Alternative zu AGI gibt.
Aber wäre unser Bestreben, die Intelligenz zu steigern, nicht viel effektiver, wenn die Regierungen stattdessen ein Manhattan-Projekt für Kultur und Bildung und die Institutionen, die sie fördern, finanzieren würden? Warum sollte man Intelligenz nicht als etwas begreifen, das durch die Interaktion der Bürger entsteht – untereinander, aber auch mit anderen Institutionen? Würde uns diese sozialere und stärker dezentralisierte Auffassung von Intelligenz nicht zu einer ganz anderen Politik führen, auch zu einer Politik, die uns erkennen lässt, dass das Silicon Valley der Steigerung echter Intelligenz oft im Wege steht?
Ohne solche Bemühungen besteht die Gefahr, dass die enormen kulturellen Ressourcen unserer bestehenden öffentlichen Einrichtungen zu bloßen Trainingsdatensätzen für AGI-Startups werden, was den Irrtum verstärkt, dass die Gesellschaft nicht existiert.
Je nachdem, wie (und ob) sich die Roboterrebellion entwickelt, kann sich AGI als existenzielle Bedrohung erweisen oder auch nicht. Die AGI-Ideologie mit ihrer unsozialen Neigung und ihren neoliberalen Verzerrungen ist aber bereits eine solche: Wir brauchen nicht zu warten, bis die magischen Roombas ihre Grundsätze in Frage stellen.
Dieser Text ist die Abschrift der Rede von Evgeny Morozov während des Internazionale-Festivals in Ferrara 2023.
