Kann Europa die „Tech Bros“ in Schach halten?

In einer Welt, die zunehmend von Algorithmen und Unternehmensvertretenden des Sektors der künstlichen Intelligenz geprägt ist, war die Frage, wer die Technologie kontrolliert, noch nie so dringlich wie heute. In einem Gespräch während der Veranstaltung ZEG Amsterdam im Veranstaltungsort De Balie kamen die Journalistin und Wissenschaftlerin Julie Posetti, der Datenwissenschaftler Christopher Wylie und die Journalistin Natalia Antelava zu dem Schluss, dass die Gefahr nicht nur darin besteht, dass KI fehlfunktionieren könnte, sondern auch darin, dass die Menschen, die sie entwickeln, sich bereits für Gottheiten halten.

Wylie – bekannt als der Whistleblower von Cambridge Analytica – warnt davor, dass eine Technologie, die in der Lage ist, alles über uns zu wissen, zu sehen und vorherzusagen, die menschliche Autonomie gefährdet. „Stellen Sie sich eine Zukunft vor, in der alles um Sie herum von etwas vermittelt wird, das Sie beobachtet und über Sie nachdenkt, das Sie jederzeit sehen kann, aber das Sie nicht sehen können, und das Entscheidungen für Sie trifft. Wie steht es um Ihre Handlungsfähigkeit als Individuum, wenn die Welt buchstäblich auf Sie reagiert und über Sie nachdenkt?“ Der Effekt, so argumentiert er, ist sowohl intrinsisch als auch instrumentell: eine schleichende Infantilisierung, die „das Wesen des Menschseins zerstört“.

Der Kult um die Tech-Messiasse

Wylie beschreibt das Silicon Valley als eine moderne „Sekte“, die von einer Ideologie angetrieben wird, die technologischen Ehrgeiz mit messianischen Wahnvorstellungen verbindet. Persönlichkeiten wie Elon Musk, Sam Altman und Peter Thiel sprechen seiner Meinung nach in quasi-religiösen Begriffen davon, „Gott in ihren Servern“ zu erschaffen, und stellen sich eine transhumanistische Zukunft vor, in der sich die Menschheit zu Silizium entwickelt – unsterblich, allwissend und jenseits der Moral. 

Was dies gefährlich macht, warnt Wylie, ist nicht Exzentrik, sondern Macht: Milliardärinnen und Milliardäre, die glauben, die nächste Stufe der menschlichen Evolution aufzubauen, üben nun echten politischen Einfluss aus und gestalten Gesetze und Demokratien, ohne dafür Rechenschaft ablegen zu müssen. Posetti und Antelava merken an, dass die Medien diese Ideen nicht ernst nehmen – oft tun sie sie als abwegig ab, anstatt sie als radikales politisches Projekt zu betrachten. So kann dieser „Weltuntergangs-Kult” ungehindert agieren. 

Wylie widerlegt auch die Illusion der technologischen Neutralität und beschreibt Technologie als von Natur aus ideologisch, aufgebaut auf kapitalistischen und westlich-individualistischen Annahmen, die Nutzende spalten, monetarisieren und segregieren. Das Ergebnis, so sagt er, sei eine Form des „digitalen Kolonialismus“: Wo die Imperien des 19. Jahrhunderts Mineralien abbauten, extrahieren die Tech-Giganten von heute Aufmerksamkeit und Daten und untergraben damit lokale Regierungsformen und demokratische Strukturen. Wylie betont, dass echter Widerstand nicht mit der Regulierung der Big Tech beginnt, sondern damit, ihre Ideologie fernzuhalten.

Europas Moment – und seine Grenzen

Vor diesem Hintergrund wendet sich Antelava der Frage der Regulierung zu. Während die Regierungsführung in den Vereinigten Staaten ins Stocken geraten ist, sei Europa einer der wenigen Orte, an denen versucht werde, die Technologie durch Maßnahmen wie das EU-Gesetz zur künstlichen Intelligenz, das Gesetz über digitale Dienste und Besteuerungsmaßnahmen zur Rechenschaft zu ziehen. „Die Regierungen sind aufgewacht“, sagt sie, „aber ist es nicht schon zu spät?“

Posetti begrüßt Teile dieser Agenda, insbesondere wenn es darum geht, „ein gewisses Maß an Rechenschaftspflicht zu gewährleisten“ und „demokratische Debatten im öffentlichen Raum des 21. Jahrhunderts, einschließlich digitaler Räume, zu ermöglichen“. Sie warnt jedoch davor, dass „wir Aufholbedarf haben“, dass „wir nicht in die notwendigen Maßnahmen investieren“ und dass einige Maßnahmen (z. B. Ausweispflicht für Online-Nutzer unter 16 Jahren) „eher kontraproduktiv“ sind.

Die geopolitischen Gegenwinde sind heftig. Fortschritte bei der fairen Besteuerung und der Rechenschaftspflicht von Plattformen, so Posetti, seien „durch die unverhohlene Einschüchterung durch Trump im Zollkrieg untergraben und unterminiert worden“. Das Machtungleichgewicht gehe „über David und Goliath hinaus ... man hat jetzt diese Reihe von Milliardärinnen und Milliardären, die sich mit den Gesetzgebenden in den USA verbündet haben“ und wirtschaftliche und diplomatische Hebel einsetzen, „um der EU-Regulierung entgegenzuwirken“.

Damit Regulierung Wirkung zeigt, muss sie laut Wylie strukturell und durchsetzbar sein. „Es gibt keine Sicherheitsaufsicht für Technologie. Es gibt keine Standards für Technologie.“ Wir leben in einer absurden Situation, in der „es mehr Sicherheitsvorschriften für einen Toaster in Ihrer Küche gibt als für eine Plattform mit einer Milliarde Nutzenden“. Die Lösung erfordert sowohl Gestaltungsprinzipien – „wirklich einen Schritt zurücktreten ... was ist die zugrunde liegende Ideologie, die wir in Technik und Gestaltung verwenden wollen?“ – als auch Verantwortlichkeit: „Und diese Regulierung mit tatsächlichen Strafen zu verbinden. Dazu gehört auch die strafrechtliche Haftung für Führungskräfte, die zu kriminellen Handlungen beitragen.“ „Wenn Mark Zuckerberg befürchten würde, dass morgen die Bundespolizei an seine Tür klopft, würde er diese Probleme beheben.“

Er betont, dass keines dieser Probleme allein durch Code gelöst werden kann. „Die Lösung politischer Probleme ist immer politischer Natur, nicht technologischer.“ Das bedeutet, das Projekt beim Namen zu nennen: „Wir sprechen hier wirklich nicht über das Offensichtliche, nämlich dass es sich mittlerweile um politische Führungspersönlichkeiten im Silicon Valley handelt, die unsere Gesellschaft vollständig untergraben wollen.“ Sein Fazit: „Diese Unternehmen sollten meiner Meinung nach in ihrer jetzigen Form überhaupt nicht existieren dürfen“.

Die Demokratie zurückgewinnen

Für alle drei Redenden geht es beim Streit um KI nicht um Technologie, sondern um die Demokratie selbst – darum, wer im 21. Jahrhundert Wahrheit, Handlungsfähigkeit und Macht definiert.

Posetti plädiert für einen erneuerten Multilateralismus – eine Aktualisierung der Nachkriegsordnung, die auf den Menschenrechten basiert. Angesichts des zunehmenden Autoritarismus und von „Systemen, die die Wahrheit ersticken“ fordert sie „eine Art neuen Ansatz für eine zwischenstaatliche Lösung“ und fragt: „Welche Art von Netzwerkantwort, regulatorischer Netzwerkantwort, können wir über das hinaus erreichen, was die EU zu tun versucht?“ Sie fordert neue zwischenstaatliche Anstrengungen, ähnlich wie bei der Gründung der Vereinten Nationen und des Europarats nach dem Krieg. „Diese Institutionen sind aus einer Katastrophe heraus entstanden – um Demokratie, Rechtsstaatlichkeit und Menschenrechte zu gewährleisten“, sagt sie. „Wir müssen etwas Ähnliches für das digitale Zeitalter aufbauen, denn nationale Regulierung allein versagt.“

Wylie seinerseits fordert eine Neugestaltung nach grundlegenden Prinzipien – er spricht provokativ von einem feministischen Internet. „Das Internet ist derzeit nicht darauf ausgelegt, Ihnen zu helfen, Sie zu befreien und Ihnen mehr Wahlmöglichkeiten zu bieten“, sagt er. Die heute vorherrschenden Methoden „trennen uns von anderen ... Das hat nichts mit Gemeinschaftsbildung zu tun.“ Das Neukonzeptualisieren bedeutet, schutzbedürftige Nutzende, Machtverhältnisse und Missbrauch in den Mittelpunkt zu stellen – also Technik mit sozialem Zweck und nicht nur kommerzieller Optimierung.

Vor allem lehnt er den Kompromiss ab, der Schaden normalisiert hat: „Bequemlichkeit muss nicht ... Der Preis für Bequemlichkeit müssen nicht die Menschenrechte sein. Das schließt sich nicht gegenseitig aus.“ Das sollte Europas rote Linie sein. Regulierung darf kein Schutzschild auf dem Papier sein, sondern muss einer verfassungsrechtlichen Neugestaltung des digitalen öffentlichen Raums entsprechen – mit klaren Sorgfaltspflichten, Berufsstandards für Softwareentwickelnde, geprüften Sicherheitsstandards vor der Einführung und strafrechtlicher Haftung, wenn Plattformen zu schwerwiegenden Schäden beitragen.

Europa ist derzeit das Testfeld. Das KI-Gesetz ist zwar nicht perfekt, bekräftigt jedoch einen Grundsatz, den das Silicon Valley seit langem leugnet: Technologie muss den Menschen dienen, nicht umgekehrt. Ob dieser Grundsatz der Macht der neuen digitalen Oligarchen standhalten kann, wird nicht nur die Zukunft der KI, sondern auch die Zukunft der Demokratie selbst bestimmen.

Wo steht Europa?

In den letzten Jahren hat die Europäische Union einen umfassenden digitalen Rechtsrahmen geschaffen, der den Digital Markets Act (DMA), den Digital Services Act (DSA) und den Artificial Intelligence Act (AI Act) umfasst, um auf die Bedrohung durch das Silicon Valley zu reagieren, das die Institutionen, die Politik und das Verhalten auf dem Kontinent neu gestalten will.

Die DMA benennt sechs „Gatekeeper“ (Alphabet/Google, Amazon, Apple, ByteDance/TikTok, Meta/Facebook, Instagram und WhatsApp sowie Microsoft) und erlegt ihnen Verpflichtungen zur Verhinderung von Selbstbegünstigung und wettbewerbswidrigen Bündelungen auf. Im April 2025 stellte die Europäische Kommission fest, dass Apple und Meta gegen die DMA-Verpflichtungen in Bezug auf Gerätesteuerung und App-Store-Bindung verstoßen haben. Im März 2024 leitete die Kommission ein Verfahren wegen Nichteinhaltung der Vorschriften gegen Alphabet, Apple und Meta ein.

Warum sind diese Fälle von Bedeutung? Die DMA-Verpflichtungen in Bezug auf Interoperabilität, Beschränkungen der Datennutzung und Anti-Steering wirken sich direkt darauf aus, wie Gatekeeper KI-Assistenten integrieren, Modelle in Betriebssystemen bündeln und Nutzenden-Tracking-Daten für Trainingszwecke verwenden können (KI-Spezifikationsverfahren). Die Relevanz der Entscheidungen der Kommission wird von BEUC, der wichtigsten europäischen Verbrauchendenschutzorganisation, bestätigt, die die Entscheidungen vom April 2025 als „notwendig, um den Verbrauchenden mehr Auswahl zu bieten“ begrüßte.

Umgekehrt gilt das Gesetz über digitale Dienste nun vollständig für sehr große Online-Plattformen (VLOPs, gemäß Definition der Kommission) und verpflichtet diese, systemische Risiken wie algorithmische Desinformation und KI-gesteuerte Empfehlungssysteme zu bewerten und zu mindern. Im März 2024 veröffentlichte die Kommission Leitlinien zur Minderung von Wahlrisiken und integrierte den Verhaltenskodex zur Desinformation in die DSA-Toolbox, die im Februar 2025 eingeführt wurde. Die laufenden DSA-Gerichtsverfahren gegen X und TikTok stellen die Bestimmungen zu algorithmischen Risiken auf die Probe.

---

---

Darüber hinaus betonte die Vizepräsidentin der Kommission, Henna Virkkunen, im Januar 2025, dass „algorithmische Rechenschaftspflicht und Kontrollen zur Vermeidung von Verzerrungen von zentraler Bedeutung für die Durchsetzung des DSA sind“. In Übereinstimmung mit dem Kommissar warnt die Koalition für digitale Rechte EDRi vor „Vereinfachungs- und Deregulierungsnarrativen“, die das EU-Regelwerk schwächen könnten.

Das KI-Gesetz (auch bekannt als Verordnung EU 2024/1689) trat im August 2024 in Kraft. Es legt drei unterschiedliche Fristen fest, die Unternehmen, die KI einsetzen, einhalten müssen: Erstens sind Praktiken mit inakzeptablen Risiken seit Februar 2025 verboten; zweitens gelten seit August 2025 die Pflichten für allgemeine KI-Modelle (GPAI); und drittens werden die EU-KI-Vorschriften für Hochrisikosysteme bis Ende 2026 oder Anfang 2027 schrittweise eingeführt. Vieles wird von der Arbeit des kürzlich gegründeten Europäischen KI-Büros abhängen, das sich aus Vertretenden der Vollzugsbehörden der Mitgliedstaaten und einem in Brüssel ansässigen KI-Büro zusammensetzt.

Letzteres koordiniert die nationalen Behörden und überwacht die Einhaltung der GPAI-Vorschriften. Das Büro setzt sich auch für Maßnahmen und Strategien der Mitgliedstaaten ein, um die gesellschaftlichen und wirtschaftlichen Vorteile der KI in der gesamten EU kontinuierlich zu nutzen, und tauscht bewährte Verfahren aus. Es bietet Sandbox-Umgebungen, Tests in der Praxis und andere europäische Unterstützungsstrukturen, um die Einführung von KI zu fördern. 

Nach Konsultation des Europäischen KI-Ausschusses und einer öffentlichen Konsultation Ende 2024 veröffentlichte die Europäische Kommission ihren Verhaltenskodex für allgemeine KI für Unternehmen und Behörden, der regelmäßig aktualisiert wird.

Ein Kontinent in Abhängigkeit gefangen?

Wird dies ausreichen, um die europäischen Bürger*innen, Unternehmen und Institutionen vor Missbrauch zu schützen? „Verzögerungen bei der Umsetzung, unzureichende Konsultationen und unangemessener Einfluss der Industrie drohen, das KI-Gesetz unwirksam zu machen“, warnt die EU-weite Datenschutzorganisation EDRi. Eine weitere wichtige Organisation für digitale Rechte, Access Now, hat die Kommission aufgefordert, „die Leitlinien menschenrechtsorientiert zu halten und eine Vereinnahmung durch die Industrie zu vermeiden“. 

Am anderen Ende des Lobbying-Spektrums betreiben die größten Digitalunternehmen auf europäischer Ebene intensives Lobbying, um Einfluss auf die GPAI-Kodizes und Transparenzvorschriften zu nehmen. Dies wird dadurch erleichtert, dass das KI-Ökosystem Europas nach wie vor überwiegend von ausländischer Technologie abhängig ist, sodass die EU kaum Kontrolle über die Modell- oder Hardware-Ebene der aufstrebenden KI-Wirtschaft hat. Fast alle auf dem Kontinent verwendeten Frontier-Modelle – ChatGPT (OpenAI), Gemini (Google), Llama (Meta) und Claude (Anthropic) – werden von US-amerikanischen Unternehmen entwickelt und gehostet. Ihre Modelle werden außerdem mit hochleistungsfähigen NVIDIA-GPUs trainiert, die von TSMC in Taiwan hergestellt werden. 

Kein Wunder, dass der Europäische Rechnungshof (ECA) in seinem Sonderbericht 12/2025 warnte, dass die Union „noch weit von der Chip-Autonomie entfernt ist“ und Gefahr läuft, in Bezug auf die Selbstversorgung mit Halbleitern hinter die USA und Asien zurückzufallen. In ähnlicher Weise betont der Bericht des Europäischen Parlaments „Making Europe an AI Continent“ (September 2025) die anhaltende „Auslandsabhängigkeit bei KI-Gigafabriken“ und die Notwendigkeit koordinierter Investitionen in Recheninfrastruktur und Kompetenzen. 

Kurz gesagt: Die Modellschicht ist amerikanisch und die Computing-Schicht taiwanesisch. Wenn Europa sich eher auf Regulierung als auf Umsetzung konzentriert, läuft es Gefahr, eine Regulierungsmacht ohne technologische Souveränität zu bleiben.

Wachsende Spannungen mit Washington

Während die EU weiterhin die DSA und die DMA vorantreibt, nehmen die Spannungen zwischen den transatlantischen Partnern zu. Donald Trump hat gedroht, neue Zölle zu erheben und andere Vergeltungsmaßnahmen gegen Länder zu ergreifen, die „Digitalsteuern” einführen oder Vorschriften erlassen, die seiner Meinung nach amerikanische Technologieriesen diskriminieren. Ein durchgesickertes diplomatisches Telegramm vom 4. August enthüllte, dass US-Botschaften angewiesen worden waren, aktiv gegen die EU-Digitalregulierung vorzugehen. Dies veranlasste europäische Gesetzgebende, Washingtons Kampagne als direkten Angriff auf die Souveränität der Union zu verurteilen.

Brüssel bleibt trotz des Drucks standhaft. Die Europäische Kommission hat mehrere DSA-Untersuchungen eingeleitet, die sich gegen X (ehemals Twitter) wegen seiner Algorithmen und Transparenzsysteme richten und vorläufige Verstöße von TikTok und Meta wegen Verweigerung des Datenzugangs für Forschende und Behinderung der Meldung von Inhalten feststellen. Apple und Meta wurden im Rahmen der DMA bereits mit Geldstrafen in Höhe von jeweils 500 Millionen Euro bzw. 200 Millionen Euro belegt.

Unterdessen versuchen Frankreich und Deutschland, das Gleichgewicht zwischen Regulierung und Wettbewerbsfähigkeit neu zu definieren. Ihr gemeinsamer Digital Sovereignty Summit im November in Berlin zielt darauf ab, einen „vereinfachten“ EU-Rechtsrahmen zur Förderung von Innovation zu schaffen – ein Versuch, die digitale Autonomie Europas mit seinen wirtschaftlichen Ambitionen in Einklang zu bringen und gleichzeitig die wachsenden politischen und wirtschaftlichen Spannungen mit Washington zu bewältigen.

Nutzung von KI-Daten in der EU (2022–2025)

Trotz der politischen Bemühungen ist die Verbreitung von KI in Europa nach wie vor begrenzt, nimmt jedoch langsam zu. Laut Eurostat nutzten im Jahr 2023 etwas mehr als 8 % der Unternehmen in der EU-27 mit zehn oder mehr Beschäftigten KI, 2024 stieg dieser Anteil auf 13,5 % – ein Anstieg um 5,5 Prozentpunkte. Bei den Großunternehmen lag die Akzeptanz bei 41,2 %, während sie bei KMU etwa 11–13 % betrug. Auf Arbeitnehmendenebene zeigen die ersten Ergebnisse der Eurofound-Erhebung über die Arbeitsbedingungen in Europa 2024, dass derzeit etwa 12 % der europäischen Arbeitnehmenden generative KI-Tools in ihrer täglichen Arbeit einsetzen, wobei zwischen den einzelnen Ländern starke Unterschiede bestehen: die Werte reichen von unter 5 % bis über 20 %. Die öffentliche Meinung bleibt vorsichtig optimistisch: Eine im Februar 2025 durchgeführte Eurobarometer-Umfrage ergab, dass über 60 % der Europäer*innen KI am Arbeitsplatz positiv bewerten und mehr als 70 % glauben, dass sie die Produktivität steigern kann. Allerdings betonen überwältigende 84 % die Bedeutung eines sorgfältigen Umgangs mit KI, um Datenschutz und Transparenz zu gewährleisten. Insgesamt zeichnen diese Daten das Bild eines Kontinents, der neugierig auf KI ist, aber noch zögert, und dessen digitale Wirtschaft weiterhin von einer Handvoll globaler Anbietender abhängig ist.

🤝 Dieser Artikel entstand im Rahmen des Projekts PULSE, einer europäischen Initiative zur Förderung grenzüberschreitender journalistischer Kooperationen, in Zusammenarbeit mit De Balie. György Folk (EUrologus/HVG, Ungarn), Elena Sánchez Nicolás (EUobserver) und Ana Somavilla (El Confidencial, Spanien) haben daran mitgewirkt.

📺 Sehen Sie sich das vollständige Gespräch zwischen Natalia Antelava, Julie Posetti und Christopher Wylie im De Balie an.