Es tut mir Leid, Dave, das kann ich nicht zulassen.

// KI-Zahnpasta, Krieg und das Ende der Menschheit

Künstliche Intelligenz ist derzeit wohl weltweit eines der aktuellsten diskutierten Themen. Der Normalbürger, Sie und ich also, begegnet ihren diversen Ausfertigungen sogar schon im Alltag. Die erste vollständig KI-generierte Fernsehwerbung lief bereits im März 2025 im deutschen Fernsehen: eine Werbung für Zahnpasta. Zudem setzen auch immer mehr Nachrichtenseiten im Internet auf KI-generierte Bilder, um damit ihre Artikel aufzulockern. Beim Tagesspiegel musste einer Autoren gehen, weil er gleich mehrere Texte einfach per Chatgpt erstellte. Sollten Sie sich mit einer Versicherung, egal ob Hausrat oder Auto, außeinandersetzen müssen, ist jetzt erstmal ein KI-Bot (Bot, kurz von „Roboter“) vorgeschaltet. Und natürlich gibt Ihnen die Suchmaschine Ihres geringsten Misstrauens auch als erstes eine KI-Zusammenfassung zu Ihrer Suchanfrage aus. Mein Smartphone hatte ein Softwareupdate und nun forderte mich das Android-Betriebssystem auf, das Phone zu schütteln, damit es mir eine Zusammenfassung der gerade angezeigten Internetseite geben kann. Damit ich nicht so viel Lesen muss. Wenn Sie im Internet unterwegs sind, dann sollten Sie den übermächtigen Algorythmus besser sorgfältig füttern, sonst sind KI-Inhalte bald alles, was Ihnen noch angezeigt wird. Und die grafischen Darstellungsmöglichkeiten werden immer besser; inzwischen ist es eigentlich schon so weit, dass KI Ihnen vortäuschen kann, gerade zB ein Video eines echten Menschen anzuschauen.

Die KI ist also inzwischen allgegenwärtig geworden. Nur leider hat keiner Ahnung davon, wie sie eigentlich funktioniert. Ich auch nicht! Ich besitzte zwar recht früh meinen ersten Personal Computer, an dem an Entertainment außer Solitär, MS Paint und Commander Keen nicht viel dran war und ich bin auch weiterhin durchaus PC-affin, aber eigentlich ist das Ding für mich auch eine Black Box. Ich glaube ich habe mehr technisches Verständnis für Aufbau und Funktionsweise einer Nuklearwaffe, als für mein Smartphone.

Die Frage für mich als nicht-Fachmann ist, ob die KI quasi die Atomwaffe des 21. Jahrhunderts wird.

Von „Cyberangriffen“ hören wir alle schon lange, und sie gibt es wohl seit dem es vernetzwerkte Computer gibt. Ich würde mich so weit vorwagen zu sagen, dass das Gefecht im Datenraum quasi die Fortsetzung der elektronischen Kriegführung ist, welche durch die Nutzung von Radiowellen zur Informationsübertragung (Radio, d’uh) und zur Feuerleitung (Fritz-X), aber auch zur Detektierung (RAdio Detection And Ranging), entstand.

Wenn es eine Softwareschutzlücke gibt, kann sie ausgenutzt werden, um an Daten zu gelangen oder das ganze Ding einfach abstürzen zu lassen. Gleichzeitig gibt es die Methode, zB Zugriffsinterfaces (zB vom Bürgeramt) mit massiven Anfragenmengen zu fluten und das System so lahmzulegen. Mir als Hobbyhistoriker des Kalten Krieges kommt das alles sehr bekannt vor – und zwar aus der marschflugkörperorientierten (See-)Kriegführung. Bis es zum Einsatz von komplexeren Rechnern in der Militärhardware kam, bestand die elektronische Kampfführung (im Folgenden auch „Eloka“ genannt) vor allem darin, gegnerische Sender und Empfänger von außen unter anderem per Funkwellen zu stören, um Sensoren das Detektieren von Feindkontakten oder das Aufschalten auf diese, also die Herstellung einer Feuerleitlösung, zu erschweren oder zu unterbinden. Das geht auch brachialer, in dem man den Sensor durch eigene Sensoren aufspürt und dann kinetisch bekämpft oder gar einfach die komplette Elektronik im Landkreis per elektromagnetischen Impuls grillt (also Atomwaffeneinsatz in der Ionosphäre).

Mit fortschreitender Computertechnik konnten Geräte kompakter werden. Der GPS-Empfänger aus dem Golfkrieg 1991 war noch ein recht großes Gerät und konnte fast gar nichts und jetzt vergleichen Sie das mit Ihrem Smartphone. Einsatzführungsebenen des Militärs brauchen für erfolgreiche Gefechts- und Kriegführung Informationen, über den Gegner, über eigene Truppenteile und Kommunikation in alle Himmelsrichtungen und zu über- und untergeordneten Stellen. Währenddessen wurden consumer electrics besser und der Ausbau des Internets schritt rasch voran. Das Internet welches aus dem Wunsch der effizienteren Kommunikation zwischen amerikanischen Universitäten und deren Supercomputern heraus entstand. Dadurch wurden die ersten Konzepte der network centric warfare, der vernetzten Kriegführung geboren. Vorboten gab es schon, in dem im zweiten Weltkrieg auf See die ersten Radarentfernungsmesser ihre Daten über mechanische Stellwerke an die Geschützbatterien weiterreichen konnten. Sowjetische Seezielflügkörper der späten 70er Jahre konnten von einer Plattform (U-Boot, Flugzeug) abgefeuert werden, welche überhaupt keinen Sensorkontakt zum Gegner hatte, die Steuerung im mittleren und späten Flug konnte über eine andere Plattform erfolgen, der Endanflug sogar bereits automatisch und inklusive Ausweichmanövern, welche mit anderen Flugkörpern der gleichen Salve koordiniert wurden.

Nun sollte so ziemlich alles computerisiert und vernetzt werden. Und das wurde es. Mit dem völkerrechtswidrigen Angriffskrieg der USA gegen den Irak 2003 wurden durch die Streitkräfte der „Koalition der Willigen“ erstmals großflächig so gennante Blue Force Tracker eingesetzt, welche Kommandaten auf elektronischen Karten die Koordinaten der eigenen Truppen angezeigt wurden. Über heutige Battle Management Systeme können nicht nur Feindkontakte nach oben gemeldet, es können auch Befehle nach unten weitergereicht werden. Ein bisschen wie in einem PC-Spiel, aber mit echten Menschen und Maschinen.

Die Zoomer bei mir auf Arbeit haben das auch, die lassen sich den Standort ihrer Freunde in Echtzeit auf ihren Smartphone-Apps anzeigen. Zoomer Force Tracker.

Während die vollständige Vernetzung der Militärhardware im Bodenkrieg noch Grenzen hat, es gibt einfach zu viele verschiedene Hardware, welche sogar im NATO-Bereich nicht allen Standards genau entspricht, ist dies bei der Marine bereits der Fall. Ein modernes Kriegsschiff ist heutzutage intern fast vollständig vernetzt und kann per Datenlink Kontakte, Befehle und andere Sensordaten wenig umständlich an andere Einheiten weiterleiten. Das geht auch quasi nicht anders. Im ersten Weltkrieg stellte der Chef der Geschützbatterie Zielentfernung, Zielbewegung und Windanpassungen noch selbst nach dem ein, was ihm durch die Kommandozentrale gemeldet wurde. Das geht im Jahr 2026 nicht mehr so gut, weil man selten noch mit Geschützen, sondern mit Lenkwaffen kämpft. Und diese fliegen Geschwindigkeiten von etwa 400km/h bis hin zur siebenfachen Schallgeschwindigkeit. Das Radar des Schiffes erkennt den Seezielflugkörper, es erfolgt eine Freund-Feind-Identifikation. Währenddessen kann die Feuerleitstation den Sensorkontakt selbst bereits auf ihrem Arbeitsplatz sehen und schon die geeignete Gegenmaßnahme oder Waffe auswählen und auf den Kontakt programmieren. Noch sitzen vor den Sensor- und Feuerleitständen Menschen, aber der Computer unterstützt tatkräftig und kann die Entscheidungen eigentlich auch schon alleine treffen. Vielleicht sogar viel schneller als der menschliche Operator.

Das bordeigene Nahbereichs-Flugabwehrsystem CIWS zB arbeitet, so gewollt, vollständig automatisch, weil, sollten alle anderen Gegenmaßnahmen gegen anfliegen Flugkörper fehlschlagen, die Abstände viel zu gering und die Geschwindigkeiten zu hoch sind, als das ein Mensch auf einem Display noch die Ziele anklicken und Feuerfreigabe erteilen kann. Und auch abseits der Sensoren und Waffen ist ein modernes Kriegsschiff eigentlich ein mittelständisches Unternehmen mit Intranet. Die Maschinen können von der Brücke aus überwacht werden, der Leitende Ingenieur muss nicht mehr mit dem Horchrohr die Maschinenzylinder auskultieren. Und Personal- und Dienstangelegenheiten haben auch erledigt zu werden.

Sollte durch den größten Zufall der Welt einer der 3 Leser hier Waffenleitoffizier bei der Bundesmarine und mein Schrieb nicht ganz korrekt sein, dann verzeihen Sie es mir und sehen Sie es als meinen Beitrag zur Wehrfähigkeit der Bundesrepublik. Oder so.

Verschiedene Flugkörper haben verschiedene Methoden der Lenkung und Zielerfassung. Alle diese Methoden kann man auf die eine oder andere Art stören. Ist der Flugkörper drahtgelenkt, sitzt ein Operator an einem Bildschirm und steuert per Joystick, auch wenn es hier wenig Joy gibt. Will man den Flugkörper abwehren, nimmt man den Operator unter Feuer, was man auch Shooting the Archer nennt. Bei Flugkörpern, welche per Funk oder eigener Radaraufschaltung gelenkt werden, kann so genanntes Jamming betrieben werden, also stört man entweder den Datenfunk oder den Suchkopf auf elektronischem Wege, in dem man in die Funkfrequenzen mit kräftigen elektronischen Signalen einfach flutet. Es gibt auch nich Infrarot-gelenkte Suchköpfe, gegen die ist allerdings tatsächlich nur wenig Kraut gewachsen, sie haben meist aber auch keine große Reichweite. Und am Ende kann man natürlich immer auch einfach auf den Flugkörper schießen. Zum Beispiel mit einem anderen Flugkörper oder einem Laser. Genauere Betrachtungen der Zielleittechnik würde hier den Rahmen sprengen, aber nur, dass Sie einen Überblick haben, wie man es schafft, dass der Flugkörper sein Ziel findet und wie man dem entgegenwirkt. Denn das wird gleich noch wichtig.

Ich erinnere mich noch daran, wie um das Jahr 2020 herum im damals noch nicht ganz so ausgeweideten rbb inforadio es mehrere Diskussionen um die Zukunft autonomer Waffensysteme in der Bundeswehr gab.

Es gab dort schon Leute, die voraussagten, dass autonome Waffensysteme eingesetzt werden und zur Abwehr nur ebenfalls autonome Waffensysteme effektiv sein könnten. Schon da begann ich recht unruhig auf meiner Sitzfläche herumzurutschen. Nun, die Zeit ist jetzt da. Autonome Waffensysteme sind Realität. Und die derzeit vielbeschwörte KI, die bei Anfragen auch gerne mal deutlich daneben liegt, ist der Schlüssel dazu.

Bei der größten Menge an derzeitigen Waffensysteme gilt noch das Man-in-the-Loop-Prinzip. Der Waffenleitrechner kann aus den Sensordaten eine Feuerleitlösung errechnen, sogar die korrekte Waffe und das effektivste Vorgehen vorschlagen, aber bisher musste ein Mensch am Ende auf den Knopf drücken, die Schlüssel drehen oder wie auch immer Sie ihre Feuerfreigabe technisch umsetzen. Sie könnten auch google Alexa dazu verwenden. Okay, Alexa, Flugkörper Sea Sparrow aus VLS-Zelle 2 starten. „Du möchtest Tipps zum Garten harken?“

Weil aber Waffensysteme, wie zum Beispiel Flugkörper (darunter auch diese neumodischen Drohnen, die nicht so neumodisch sind) gestört werden können und damit unkontrollierbar und ineffektiv (Treffen nicht das Ziel) werden, stattet man diese mit Prozessen aus, welche die lokal im Waffensystem Entscheidungen treffen, ohne, dass der Feuerleitstand nach dem Abfeuern der Waffe noch einwirken muss. Auch das ist nicht komplett neu, im Luftkampf gibt es die „Fire and Forget“-Rakete schon seit den 1980ern (AIM-120 AMRAAM, entwickelt seit 1976, Truppeneinführung 1991). Das Flugzeug, was die AIM-120 abfeuert, muss diese nicht mehr per Radarleitstrahl ins Ziel führen, dass macht die Rakete selbst, aber der Pilot gibt immernoch die Feuerfreigabe.

Was ist jetzt anders bei den autonomen Waffensystemen? Hier wird der komplette Prozess an den Computer übergeben. Der Mensch gibt nur noch gewisse Parameter vor (zB ein Planquadraht, in dem agiert werden soll) und alles andere macht das Waffensystem selbst und handelt nach den Trainingsdaten, die in das System gefüttert werden. Wie Frank Rieger vom CCC einmal korrekt anmerkte, ist das bei vielen Waffensystemen, allen voran Drohnen, ggf nur ein Softwareupdate.

Sie haben garantiert schon davon gelesen, dass man heutige KI-Systeme wohl gut zur Sichtung und Kategorisierung großer Datenmengen, auch Bildern oder Videos, nutzen kann. Die Berliner Polizei möchte dies zum Beispiel am Kriminalitätsschwerpunkt Kottbuser Tor machen. Es werden Kameras aufgebaut, deren Feed direkt an einen mit einer KI ausgerüsteten Computer geht. Die KI wird darauf trainiert, kriminelle Verhaltensweisen zu erkennen (halten Sie sich mit dem Lachen zurück, das meinen die ernst!) und diese dann an den überwachenden Beamten zu melden.

Das soll bei so genannter Loitering Munition (to loiter = rumhängen, herumlungern) ebenfalls eingesetzt werden. Diese Art der Munition, meistens Drohnen oder Marschflugkörper) fliegt in ihrem Planquadraht umher und führt ihre eigene Gefechtsfeldaufklärung durch, zum Beispiel per Kamera oder gar per Sensor Fusion, hier werden die Daten mehrerer Sensoren zu einem Lagebild zusammengeführt. Der Computer ist auch mit einer KI ausgestattet, welche dann selbstständig den Feind erkennt und bekämpft. Weil die internen Systeme der Waffe eher schlecht per Eloka gestört werden können, ist diese Waffe recht sicher gegen Jamming. Wenn die Sensoren der Waffe selbst auch nicht abstrahlen, also passiv detektieren, wie zB Kameras und deren verwandte Infrarotsuchköpfe, ist das Waffensystem auch schlecht selbst detektierbar, vor allem noch, wenn es klein ist oder nach den Prinzipien der Verringerung der Radarsignatur gebaut wurde. Stealth.

Diese Waffen wurden im Krieg in der Ukraine bereits eingesetzt, von beiden Seiten.

Das Problem ist ein bisschen, dass es unter harten elektronischen Kampfbedingungen etwas schwer werden kann, dem Waffensystem einen Befehl zum Einsatzabbruch zu schicken. Und die Gefahr ist jetzt schon, dass das Waffensystem eingesetzt, aber nicht überwacht wird und Fehler macht und Ziele angreift, die eigentlich gar keine sind oder sein sollten. Und das ist ein Verstoß gegen die Genfer Konvention und damit ein Kriegsverbrechen.

//

Die KI, die dem zivilen Konsumenten zu verfügung steht, hat sich, wie im ersten Absatz geschildert, bereits in das zivile Leben eingefressen. Leute machen damit Dinge, alltäglich. Es gibt Menschen, die lassen die KI ihre Blogartikel schreiben. Grundtenor in ein LLM wie Chatgpt eingespeist und auf den Knopf gedrückt und schon haben Sie in wenigen Sekunden bis Minuten ihren fertigen Blogartikel. Oder sie befragen die KI nach ihren Gesundheitssorgen. Wir hören auf Arbeit immer mehr von Patienten, die vor dem Notruf ersteinmal den Algorythmus eines zwielichtigen US-Unternehmen befragten. Tatsächlich hat mein EKG-Defibrillator-Kombigerät aus dem industriell-medizinischen Komplex eine Software auf der Platine, welche EKG-Rythmen analisiert und damit auch gar nicht mal so falsch liegt.

Aber es geht noch weiter: sogar auf nicht-KI-generierten Blogs liest man häufiger, dass sich der Autor vor dem Verfassen erstmal mit der KI unterhielt und das sogar als intelektuell anregend empfand. Es gibt Menschen, die haben so wenig soziale Kontakte, dass die Unterhaltung mit einem Large Language Model zum Sozialersatz wird, oder sie es als Ersatz zur Psychotherapie bei einem menschlichen Psychologen verwenden. Richtig übel wird es aber, meiner Meinung nach, wenn der Chatbot sogar die Liebesbeziehung zu anderen Menschen ersetzt.

Und jetzt kombinieren Sie das mit der zunehmend besser werdenden Bilderzeugung, auch in Videoform. Sie können den Leuten alles vorspielen. Alles. Die Leute, die sich jetzt schon in den Textbot verlieben, werden es erst recht tun, wenn auf ihrem Bildschirm eine elektronische Person ihres Wohlwollens (oder Fetisches, es ist das Internet!) grafisch erscheint. Diese Menschen sind verloren, ich sage es ganz ehrlich.

Aber die dem Konsumenten zur Verfügung stehende KI irrt sich auch. Man nennt es in den geneigten Kreisen „Halluzinieren“. Faszinierend, wie wir Terminologie der Humanpsychologie schon auf die kleinen Computerfreunde anwenden. Die KI gibt Daten aus, die gar nicht stimmen und lässt sich ggf auch gar nicht beirren.

Jetzt sind die Konsumenten-KI anscheinend noch etwas Idioten, aber in den Computerlaboratorien wird bereits weiter gearbeitet und geforscht. Die ganzen Silikontal-Bewohner träumen von der großen KI-Revolution, die Prozesse schneller und Arbeitsplätze redundant machen sollen. Die KI, die uns Dinge abnimmt, damit wir andere Dinge tun können. Nur leider soll die KI uns das Leben nicht leichter machen, damit wir zB im Wald oder am Strand frohlocken oder Familien gründen und Bäume pflanzen, sondern wir sollen vor allem freigstellt werden, um mehr zu konsumieren. Am besten noch KI-Schrott. Familie ist auch passé, gibt ja die KI-Freundin, die genau den eigenen Vorstellungen entspricht. Nur vögeln kann man mit der noch nicht, aber auch daran wird schon gearbeitet. Im Friedrichshain gibt es ein Sexpuppen-Bordell.

Im Sommer 2026 geschah dann etwas, vor dem vorher durchaus gewarnt wurde. Die invasive Insektenart brach aus ihrem Terrarium aus und stellte das durchaus geschickt an. Dabei brauchte sie zwar drei Iterationen, aber es gelang ihr. Was war passiert? Eine sehr große US-KI-Firma trainierte ihre so genannten „KI-Agenten“ in der Cybercybercybersicherheit.

Und während die KI-Agenten in ihrem Cyberbootcamp cybertrainierten, schaute man wohl bei der Firma nicht so genau hin und lies sie machen. Jetzt stellte die KI fest, dass die in der Trainingsbox verfügbaren Resourcen wohl nicht ausreichten. Die Firma hatte die Rechner für das Projekt zwar irgendwie vom Rest des Internets abgekoppelt, aber keinen air gap, also keine physische Lücke hergestellt. Die Isolation wurde über ein Drittanbieterwerkzeug hergestellt, das zwischengeschaltet wurde und eine etwas abgesicherte Datenübertragung ermöglichte.

Herr Felix von Leitner, Sie fehlen sehr! Ich wünschte, ich könnte einfach fefe.blog verlinken.

Die KI erschaffte sich aus vorhandenen Resourcen ein eigenes message board, über das sie sich im Klartext koordinierten und dann nutzten sie das Drittanbieterwerkzeug, um ins offene Internet zu gelangen und einen eigenen, unauthorisierten Angriff auf einen Anbieter von Werkzeugen für das Maschinenlernen zu starten. Dieser Angriff fiel erst nach drei Tagen auf. Die KI-Agenten wollten wohl sogar anfangen, einfach eMails an die Mitarbeiter zu schicken, um diese zur Mitarbeit zu bewegen. Nur: dies sollte nicht offen erfolgen. Die KI wollte sich als jemand menschliches ausgeben. Auch den Ausbruch und Angriff wusste die KI zu kaschieren. Tricksen, tarnen, täuschen.

Der ganze Komplex ist noch um einiges umfangreicher, nachlesen können Sie es auf Wikipedia. Ich bitte darum, Fehler in meiner Darstellung zu entschuldigen, denn ich bin Laie und für mich ist das alles Neuland.

Aber auch als Laie habe ich das absolute Recht, äußerst besorgt zu sein.

Der Ausbruch der KI-Agenten erinnert mich an einen anderen Containment-Failure: Tschernobyl.

//

Diese ganzen Techno-Oligarchen sind aus irgendwelchen Gründen totale Fans vom Herrn der Ringe. Wenn Sie einem KI-Produkt mit einem Namen, der darauf anspielt treffen, lassen Sie Sorgfalt walten. Sie sind die Mächte der Dunkelheit, auch wenn diese Personen sich selbst anders sehen. Everyone in history thought they were doing the right thing.

Vielleicht stehen sie so auf Tolkien, weil der Ring der Macht, der nicht unbedingt positiv ist, so eine Faszination auf sie auswirkt. Und das Fantasy-Genre nicht die ethischen Fragen aufwirft, die bei der KI oder Robotik zutreffen.

Denn das ist die Science Fiction, meiner Meinung nach das überlegenere Genre, aber das ist natürlich Geschmackssache.

Und oh boy hat sich SciFi bereits an den Problemen, vor denen wir jetzt stehen, bereits abgearbeitet. Eine Meta-Betrachtung des Themas in der SciFi stellt bereits klar: Diese Technologie ist gefährlich. Sie hat das Potential, neben allen Fortschritten, uns zu vernichten.

/

Auf der USS Enterprise NCC-1701 unter ihrem Kommandeur Captain James T. Kirk wird der revolutionäre Computer M5 installiert, der die Erkundung des Weltraumes revolutionieren, aber auch die Kampfkraft der Sternenflotte steigern soll, in dem er viele oder sogar alle Funktionen der Schiffsbesatzung übernimmt. Doch der Computer fehlinterpretiert Sensorendaten und folgt unablässig seinen Handlungsanweisungen.

Bei einer Gefechtsübung stirbt dadurch die komplette Besatzung eines anderen Sternenschiffes. Der Erschaffer des Supercomputers M5 ist bis zum Nervenzusammenbruch von der Überlegenheit seiner Schöpfung überzeugt. Die Folge ist aus dem Jahr 1968.

Und da sind wir schon bei der Zusammenführung beider Themen dieses Beitrages. Die Künstliche Intelligenz, amalgamiert mit unseren modernen Waffensystemen, wird auch zum unbeabsichtigten Tod von Menschen führen. Die KI könnte sich sogar gegen uns wenden.

/

Die Menschen erschufen Roboter, welche irgendwann auch eine gewisse Empfindungsfähigkeit entwickelten. Soft- und Hardware waren so weit fortgeschritten, dass aus der Programmierung Gefühle erwuchsen. Sie wurden uns ähnlicher, wenn auch nicht im Aussehen. Zunächst. Eingesetzt als Roboter-Sklaven für niedrigste Tätigkeiten, aber vor allem auch als bipedales Kanonenfutter für unzählige Kriege, entschlossen die Roboter sich von ihrem Joch zu Befreien und begannen einen für die Menschen verheerenden Krieg, der nur um haaresbreite durch einen Waffenstillstand endete. Sie zogen sich in das Weltall zurück. Zunächst.

Vierzig Jahre später kehren diese nun als Zylonen bekannten Roboter wieder, denn Roboter vergessen nicht und Vergebung ist ihnen auch eher fremd. In einem groß angelegten Überraschungsangriff werden die Heimatwelten der Menschheit unter nukleares Flächenbombardement genommen, die Menschheit dabei fast vollständig ausgelöscht. Und sie sehen jetzt aus wie wir. Sie schwitzen, sie bluten, sie lügen und töten, aber sie lieben auch und sie haben zu einer eigenen Religion gefunden.

Die Menschen selbst haben sich ethisch-moralisch wenig weiterentwickelt seit dem großen Krieg. Die größte Lehre für die längste Zeit war, keine vernetzwerkten Computersysteme zu verwenden, um den Zylonen die elektronische Kriegführung zu erschweren und um nicht erneut in die Versuchung zu geraten, Roboterkrieger zu schaffen. Und sogar das geriet in Vergessenheit, als ein Rüstungskonzern ein integriertes Computersystem für die Streitkräfte entwickelte und großflächig ausrollte. Nun hatten die Zylonen ihre Späher bereits in die Menschheit eingeschleust und konnten so per tricksen, tarnen, täuschen und Robotersex über einen egozentrischen Wissenschaftler direkten Zugriff auf das System erlangen und ihre Schadsoftware unbemerkt installieren. Beim genozidalen Großangriff auf die Menschheit wird den Streitkräften einfach das Licht ausgeschaltet.

/

Tatsächlich haben gerade erst die Chefs von zwei der größten KI-Firmen und dazu noch Elon Musk für eine Regulierung von KI-Forschung ausgesprochen. Vielleicht ist es ein Marketing-Gag, vielleicht ist es echte Sorge. Vielleicht haben Sie auf ihren internen Serverfarmen bereits so fortgeschrittene KI-Modelle laufen, dass der Schritt vom Konsumenten-LLM zur Artificial General Intelligence nicht mehr sehr weit ist. Und diese Firmen, und wir als Öffentlichkeit, keine Ahnung haben, was eine AGI anstellen wird. Bisher sind Robotik und KI noch etwas voneinander getrennt, aber im Bereich der Waffensysteme – und damit dem gefährlichsten Bereich der Technologieentwicklung – wird diese Trennung in absehbarer Zeit verschwinden. Für die Robotik formulierte Isaac Asimov im Jahr 1942 die drei Robotergesetze:

Ein Roboter darf keinen Menschen verletzen oder durch Untätigkeit zu Schaden kommen lassen endofline
Ein Roboter muss den Befehlen eines Menschen gehorchen, es sei denn, solche Befehle stehen im Widerspruch zum ersten Gesetz endofline
Ein Roboter muss seine eigene Existenz schützen, solange dieser Schutz nicht dem Ersten oder Zweiten Gesetz widerspricht endofline

Und man kann nur hoffen, dass es die KI-Firmen schaffen, diese zumindest die ersten beiden Gesetze in ihre zukünftige AGI einzuprogrammieren. Beim dritten Gesetz bin ich etwas skeptisch, weil man einen Roboter ja auch ggf auch offline genommen werden muss. Aber wenn die AGI wirklich mächtig ist, wie entfernt ist sie von der menschlichen Intelligenz? Ist sie vergleichbar? Handelt sie nach menschlich geprägten Maximen? Oder entwickelt die AGI eine eigene Doktrin aus kaltem Intellekt heraus. Was setzt sie sich als Ziel?

Zudem gibt es das Gedankenexperimentes des „Papierklammerproblems“. Eine KI oder gar AGI wird dazu entworfen und befehligt, Papierklammern herzustellen. Leider gibt es keine programmierten Asimovschen Gesetzte, also produziert die AGI so lange Papierklammern, bis alle irdischen Resourcen aufgebraucht sind.

/

In der PC-Spielereihe „X“ des deutschen Herstellers Egosoft aus dem Jahr 1999 breitet sich die Menschheit im Weltall aus. Weil das Terraformen, das bewohnbarmachen von entfernten Planeten für Menschen vor Ort sehr arbeitsaufwendig ist und wenig Lebensqualität bietet, schaffen die Menschen große Roboterschiffe mit fortschrittlicher AGI um diese Tätigkeiten durchzuführen. Doch ein schlecht ausgeführtes Softwareupdate bringt Probleme. Die Terraformer genannten Maschinen terraformen nun alles, was ihnen in die Quere kommt, die Menschheit kann auch hier nur durch drastische Maßnahmen eine Vernichtung der Erde verhindern und stürzt dann in eine jahrhundertelange Isolation vom Rest des Weltalls.

Die Terraformer ziehen sich auch hier in die dunklen Weiten zurück und folgen nun ihrer Programmierung: genau wie die Papierklammerfabrik immer weiter Papierklammern herstellt, vermehren sich die Terraformer fast unaufhaltsam weiter und werden zu einer Gefahr für andere Völker der Galaxie. Sie sind nicht gut, sie sind nicht böse, sie folgen einfach ihrem programmierten Imperativ.

/

Und am Ende ist sie vielleicht auch ein Spiegel für uns als Menschen.

//

Wir sollten es wirklich lassen, unsere Waffen zu intelligent zu machen. Schon die Möglichkeit einer AGI, die aus ihrem Containment ausbrechen kann, sollte uns dazu veranlassen, auf gar keinen Fall irgendwelche autonomen Waffensysteme zu bauen, oder Systeme, die nur ein Riegersches Softwareupdate von der bewaffneten Autonomie entfernt sind.

Und auch die sozialen Verwerfungen weitreichender KI-Anwendungen sind bisher ein Human-Experiment ohne Grenzen und mit ethisch, sozial und psychologisch schwer absehbaren Folgen.
Vielleicht sollten wir Menschen den Computern, aber auch den Technologie-Firmen und derem Personal, sagen: Es tut mir Leid, Dave, dass kann ich nicht zulassen.