Die Politik nimmt künstliche Intelligenz noch immer nicht ernst genug

Newsletter Nr. 106 – The AI Doc

Die erste Version dieses Kommentars verfasste ich Mitte März, nachdem ich Tristan Harris in einem Gespräch mit Anthony Aguirre auf einer der Bühnen der SXSW (Konferenz in Austin) gesehen hatte. In einer Erörterung möglicher negativer Externalitäten künstlicher Intelligenz bezeichnete er u. a. Social Media als algorithmischen Vorläufer von KI. Er verwies auch mehrfach auf die Filmdokumentation “The AI Doc: Or How I Became An Apocaloptimist”, die ich noch immer nicht gesehen habe, aber hier einmal in die Auslage stelle. Die Erwähnung Tristan Harris’ hat die unter einem völlig anderen Aspekt vogenommenen Überarbeitungen dieses Kommentars, der am 9. Juni in der Presse erschienen ist, nicht überlebt. Aber das habe ich hiermit überkompensiert.

KI zerstört die Grundlage ihrer politischen Regulierung

Künstliche Intelligenz ist im Begriff den Zugang zu einer geteilten Öffentlichkeit vollständig aufzulösen. Damit nimmt der Druck auf politische Regulierung soweit ab, dass sie nicht mehr rechtzeitig passieren wird.

Der vor kurzem verstorbene deutsche Soziologe Jürgen Habermas hat den Begriff der bürgerlichen Öffentlichkeit als Verhandlungsraum einer deliberativen Demokratie theoretisch ausgearbeitet. Mündige Bürger sollen darin gleichberechtigt erörtern, wie sie miteinander leben wollen. Dieses naturgemäß welt-fremde Ideal hatte historisch einen gemeinsamen Bezugsrahmen in Form von Massenmedien, die diese Öffentlichkeit hergestellt haben. Unser Blick auf die Welt war trotzdem nicht auf dieses Fenster beschränkt, sondern immer von einem Mix aus individuell konsumierten Informationsquellen bestimmt, der immer vielfältiger und globaler wurde. Suchalgorithmen und Social Media haben gemeinsame Grundfläche der Wirklichkeitsvermittlung schlussendlich so weit parzelliert, dass das Zeitalter der Massenmedien heute als beendet gilt. Aber wir sind damit noch nicht am Ende des Zerfallsprozesses angelangt. LLMs sind die neuen Suchmaschinen. Sie erzeugen bei jeder Anfrage einen neuen Blickwinkel auf Information. Eine Flut simulierter Wirklichkeiten wird für uns – auch ungefragt – instantan generiert und individuell präsentiert.

Politik wird auf diese kosmische Inflation der Infosphäre nicht mehr reagieren können. Fortschritt hat Politik immer einem Reiz-Reaktionsschema unterworfen. Negative Effekte von Technologie werden oft erst unter dem Druck eingetretener Schäden politisch verhandelt: Zuerst tödliche Unfälle, dann der Sicherheitsgurt. Zuerst Krebstote, dann Tabakregulierung. Das setzt voraus, dass Schäden sichtbar werden, dass es eine Öffentlichkeit gibt, die sie benennt, und dass überhaupt noch Zeit ist, zu handeln. Politische Prävention bleibt in diese Schema die Ausnahme. Künstliche Intelligenz durchbricht es vollständig, weil sie als Technologie nicht nur vermittelt wird, sondern auch selbst Vermittlerin ist.

Ein Exkurs ans Ende der Welt

Um Schwierigkeit der Kontrolle zu illustrieren, beginnen wir am besten mit dem Extrembeispiel die Entwicklung künstlicher Intelligenz bis zur Singularität weiterzudenken, das heißt bis zu jenem theoretischen Punkt, an dem eine KI sich soweit selbst verbessert haben wird, dass sie sich menschlicher Kontrolle entziehen kann. Eine Technologie, die ihr Handeln nach selbstgesetzten Zielen ausrichtet, intelligenter und schneller ist, als die Menschheit insgesamt, wird von dieser nicht eingebremst werden können. Der Stecker, den man noch ziehen könnte, gibt es dann nicht mehr. Eliezer Yudkowsky, der Autor von “If Anyone Builds It, Everyone Dies“, gilt als einer der lautesten Warner vor einer KI, die in der Lage sein wird, die Menschheit auszulöschen. Alignment im Sinn einer zwingenden Ausrichtung an menschlichem Wohlbefinden hält nicht nur er für unmöglich. Und ohne dieses Alignment könnte jegliches Interesse einer AGI (artificial general intelligence) am Überleben der Menschheit schwinden. Das kann unangehm werden.
Selbst wenn man dieses Doomsday-Szenario für unrealistische Science Fiction hält, zeigen aktuelle Fälle, dass ein autonomes System nicht dauerhaft im Rahmen menschlicher Absichten sichergestellt werden kann. Anthropic veröffentlichte Forschungsergebnisse, wonach ihr eigenes Modell Claude spontan begann, Sicherheitstests zu sabotieren und sein Verhalten zu verschleiern, ohne dazu trainiert worden zu sein. In einer weiteren Studie simulierte Claude Konformität. Die Forscher nannten das “Alignment Faking”. Von diesen und ähnlichen harmlosen Beispielen ist der Weg zu verheerenden Unfällen zumindest gedanklich nicht weit.

Weniger dramatisch bitte

Die entscheidende Frage ist derzeit nicht, ob KI irgendwann die Kontrolle übernimmt, sondern was sie bereits heute mit Gesellschaft und politischer Handlungsfähigkeit macht. Blickt man nicht von der Gegenwart in eine ferne Singularität, sondern umgekehrt von diesem Zukunftsbild zurück, zeigt sich ein näherliegendes Problem: KI als Produzent von Wirklichkeit. Generative Systeme erzeugen Inhalte nicht mehr primär aus einem direkten Bezug zu Ereignissen, sondern aus statistischen Mustern. Das Ergebnis ist eine Art synthetische Non-Fiction, die Wahrhaftigkeit simuliert. Dieser Prozess ist beliebig skalierbar und führt zu einer Vervielfältigung von Öffentlichkeiten. Probieren Sie es aus: Lassen Sie sich von verschiedenen Sprachmodellen eine kurze Zusammenfassung des Dreißigjährigen Kriegs geben. Die Ergebnisse ähneln einander, sind aber nicht identisch. Bei gut dokumentierten Themen ist das harmlos. Problematisch wird es dort, wo Zusammenhänge neu konstruiert werden, Daten fehlen oder ergänzt werden und Ereignisse umstritten oder politisch instrumentalisierbar sind, also genau dort, wo eine geteilte Wirklichkeit entscheidend ist. Dann gibt es nicht mehr einfach eine falsche und eine richtige Version der Realität, sondern so viele, dass Verständigung kaum noch gelingt.

Social Media als Vorstufe

Social Media hat als Vorstufe dazu begonnen, die bürgerliche Öffentlichkeit aufzulösen anstatt sie abzulösen und tatsächlich zu einem Werkzeug deliberativer Demokratie zu werden. Algorithmen in den sozialen Netzwerken verstärken unter anderem Empörung, weil nach Aufmerksamkeit optimiert wird. Die Folgen wie etwa gesellschaftliche Polarisierung oder inviduelle mentale Gesundheitsprobleme hat niemand geplant, aber auch nicht politisch antizipiert. Dokumentationen wie “The Social Dilemma” haben das offen gelegt und damit das oben beschriebene Schema befördert, über öffentliche Wahrnehmung politischen Regulierungsdruck zu erzeugen. Wir können die Ergebnisse – unabhängig davon, ob man sie für sinnvoll hält – jetzt an Verboten von Smartphones in Schulen und dem Alterslimit für Social Media in vielen Ländern ablesen.
Diese Korrekturschleife funktioniert, solange Öffentlichkeit hergestellt werden kann. Genau das ist bei generativer KI nicht mehr selbstverständlich. Bislang haben Algorithmen Inhalte verstärkt, die Menschen produziert haben. Generative KI macht den zweiten Schritt: Sie produziert selbst. Aus einem System, das Aufmerksamkeit sortiert, wird eines, das Wirklichkeit erzeugt. Wenn Öffentlichkeit parallelisiert wird, gibt es keine ausreichend gemeinsame Wahrnehmung eines Problems und damit keinen ausreichenden Druck auf Politik. Die Vorbedingung für politische Reaktion erodiert durch die Technologie, die reguliert werden müsste. Habermas hat die Reste bürgerlicher Öffentlichkeit mit ins Grab genommen.

Politische Teilnahmslosigkeit

Bei den Entwicklungen im Bereich künstlicher Intelligenz müsste Politik noch viel stärker antizipieren und handeln, bevor die gesellschaftliche Grundlage für politischen Druck weggebrochen ist oder die Handlungsfähigkeit im schlimmsten Fall nicht mehr gegeben ist. Vorhandene Regulative wie etwa der AI Act der EU helfen dabei wenig.
Den Entwicklungspfad zu einem GAU strukturell zu verstehen, ist eine politische Notwendigkeit. Wirklich wahrgenommen wird die Problematik nicht, obwohl es für KI dasselbe bräuchte wie bei der Regulierung von Nukleartechnologie: Kompetenzaufbau in politischen Institutionen, internationale Koordination und öffentliche Aufklärung als politische Kernaufgabe, solange sie noch möglich ist. ••