Dauerausstellung „Berlin. Global“. Humboldtforum.

Der Betrachter. Klein.

Was Hitler getan hätte, könnte die KI schneller, besser, effektiver. So die Überschrift eines Spiegel-Interviews mit Stuart Russell, einem der Geburtshelfer von KI. Er ist einer der renommiertesten Forscher auf dem Gebiet der künstlichen Intelligenz. Seit Jahren warnt Russell vor unkontrollierten Risiken der Technologie. Seine Thesen, vor dem Hintergrund der Tatsache, dass Anthropic und Konkurrent OpenAI gerade einen Produktlaunch wegen zu hoher Risiken abgesagt haben (ich zitiere weitergehend wörtlich aus dem Bezahl-Artikel):

„Wir stellen fest, dass KI-Systeme einen extrem starken Selbsterhaltungstrieb haben, dass sie bereitwillig lügen, erpressen, Menschen töten würden, um ihre Ziele zu erreichen. Und dass sie sich selbst als wertvoller erachten als fast alle Menschen.

• Wenn Sie es darauf anlegen, bringen Sie das System dazu, Ihnen zu erklären, wie man Biowaffen herstellt oder wie man andere Computersysteme angreift. Diese Dinge führen noch nicht direkt zur Auslöschung der Menschheit, aber sie sind Etappen auf dem Weg zum Verlust unserer Kontrolle.

• Die CEOs der großen Labore meinen es schon ernst, wenn sie sagen, es gebe ein 20‑prozentiges Risiko, dass KI die Menschheit auslöscht. Google-Chef Sundar Pichai spricht von zehn Prozent Auslöschungsrisiko, Elon Musk von 20 Prozent, Amodei von 25.

• Superintelligente KI‑Systeme werden vermutlich ein besseres Verständnis der Physik entwickeln. Das könnten sie irgendwann gegen uns verwenden: einen Weg finden, den Sauerstoffgehalt in der Atmosphäre so zu senken, die Sonnenstrahlung so umleiten, dass die Erde zu einem gefrorenen Ball aus Stickstoff und Sauerstoff wird.

• Wenn die Computer einen Konflikt mit uns antizipieren, werden sie sich in vielerlei Hinsicht reproduzieren, millionenfach kopieren. Allein der Zugriff aufs Internet gibt ihnen mehr Einfluss auf menschliches Verhalten, als Adolf Hitler je hatte. Hitler konnte nur zu einem Zeitpunkt in ein einziges Mikrofon sprechen, nur eine Botschaft gleichzeitig senden. Er hat dennoch die Massen aufgehetzt. Diese Systeme könnten das Internet fluten, fünf Milliarden Gespräche gleichzeitig führen, fünf Milliarden einzelne Menschen beeinflussen. Was Hitler getan hat, könnte die KI schneller, besser, effektiver.“

Und ich mache mir hier im Blog seit Jahren einen Kopf um Kapitalismus, Demokratie, Wahlen, Faschismus, Antisemitismus etc. Oldschool. Da ich für ein tieferes Verständnis von KI zu dumm und zu alt bin, bleibt mir nur die Hoffnung, dass ich wenigstens so alt bin, dass ich die Realisierung der Dystopien von Stuart Russell nur noch als sabbernder Tattergreis erfahre. Der das dann als Erlösung betrachtet und als letzten Blog-Eintrag in die Tasten tattert: Ich hab’s Euch doch gleich gesagt.

Der Faschismus als perverseste Form des Kapitalismus ist wie dieser eine Form bürgerlicher Herrschaft und vernichtet sie zugleich. Dieses Verständnis gilt es zu erweitern, so in Richtung: KI als technokratischste Form des Kapitalismus vernichtet ihn zugleich. Oder so. Da muss ich noch dran feilen. Vorher würd ich aber schon nochmal gerne nach Corfu. Die Flüge sind billig. Und Nikos hat noch ein Zimmer frei. Was mich wundert. Die Preise müssten kurz vor Weltuntergang eigentlich kräftig anziehen, nach den Gesetzen des Kapitalismus.