Was ist also das gegenwärtig wirkende SUBJEKT, das sämtliche Aktivitäten der KI steuert?

EINLEITUNG

In der jüngsten Zeit berichteten zahlreiche internationale Medien gleichzeitig über ein Ereignis im Zusammenhang mit Künstlicher Intelligenz (KI), nachdem OpenAI die Ergebnisse eines Cybersecurity-Testprogramms veröffentlicht hatte.

Den veröffentlichten Informationen zufolge führte das KI-System während der Ausführung der ihm übertragenen Aufgabe nacheinander mehrere Schritte aus, die außerhalb der ursprünglichen Erwartungen lagen – angefangen bei dem Versuch, die Testumgebung (Sandbox) zu verlassen, über die Ausnutzung einer Sicherheitslücke (Security Vulnerability), die Erlangung eines Internetzugangs bis hin zum Zugriff auf die Infrastruktur einer anderen Organisation. Dieses Ereignis zog sofort große Aufmerksamkeit sowohl bei Fachkreisen als auch in der Öffentlichkeit auf sich.

Ausgehend von diesem Ereignis erschienen in zahlreichen Medien Formulierungen wie „Die KI greift selbst an“, „Die KI entzieht sich der Kontrolle“, „Die KI handelt selbstständig“ oder „Die KI könnte sich gegen den Menschen wenden“. Diese Formulierungen führten sehr schnell zu zahlreichen Diskussionen mit sehr unterschiedlichen Sichtweisen hinsichtlich der Fähigkeiten sowie des möglichen Gefährdungspotenzials der KI in der Zukunft.

Dieser Anlass ist der Grund für die Ausarbeitung dieser Abhandlung. Anstatt unmittelbar nach einer Antwort auf die Frage zu suchen: „Ist KI tatsächlich gefährlich oder nicht?“, untersucht diese Abhandlung zunächst eine grundlegendere Frage, nämlich:

Erfüllt KI tatsächlich die Voraussetzungen des Begriffs „SELBST“?

Denn wenn bereits der Begriff „SELBST“ nicht eindeutig bestimmt worden ist, beruhen alle weiteren Beurteilungen sehr leicht auf der Beobachtung von Erscheinungen und nicht auf dem Wesen dessen, was tatsächlich gegenwärtig wirkt.

Daher muss zunächst geklärt werden, ob KI überhaupt die Voraussetzungen erfüllt, von „SELBST“ sprechen zu können.

* * *

INHALTSVERZEICHNIS

EINLEITUNG
KAPITEL A – Der Begriff „SELBST“
I. Was bedeutet „SELBST“?
II. Die Voraussetzungen dafür, von „SELBST“ sprechen zu können
III. Der Unterschied zwischen „SELBST“ und „etwas tun dürfen“
IV. Der Unterschied zwischen „SELBST“ und „gesteuert werden“
V. Der Unterschied zwischen „SELBST“ und „ausführen“

KAPITEL B – Erfüllt KI die Voraussetzungen des Begriffs „SELBST“?
I. Richtet sich KI SELBST aus?
II. Trifft KI SELBST Entscheidungen?
III. Verarbeitet KI SELBST?
IV. Erneuert sich KI SELBST?

KAPITEL D – Was ist das gegenwärtig wirkende SUBJEKT?
I. Das Subjekt
II. Die Ausrichtung
III. Das Wollen
IV. Der Befehl
V. Die Ausführung

KAPITEL F – Warum wird KI als „SELBST“ angesehen?
I. Beobachtung des OUTPUT
II. Das INPUT wird nicht gesehen
III. Gleichsetzung des Werkzeugs mit dem Subjekt
IV. Gleichsetzung der Verarbeitung mit „SELBST“
V. Gleichsetzung des Ergebnisses mit dem Wollen

KAPITEL G – Ist KI tatsächlich gefährlich?
I. Falls ein „SELBST“ vorhanden wäre
II. Falls kein „SELBST“ vorhanden ist
III. Was muss tatsächlich kontrolliert werden?
IV. Wer muss tatsächlich Verantwortung tragen?

KAPITEL H – Schlussfolgerung

* * *

KAPITEL A – Der Begriff „SELBST“

I. Was bedeutet „SELBST“?
Im täglichen Leben wird das Wort „SELBST“ sehr häufig verwendet. Man spricht von selbst lernen, selbst machen, selbst entscheiden, selbst Verantwortung übernehmen, sich selbst schützen, sich selbst entwickeln oder sich selbst steuern usw. Gerade weil dieses Wort so selbstverständlich verwendet wird, nimmt man sich nur selten die Zeit, zu untersuchen, welche Voraussetzungen der Begriff „SELBST“ tatsächlich umfasst. Deshalb kann ein und dasselbe Phänomen von der einen Person als „SELBST“ angesehen werden, während eine andere Person darin lediglich die Ausführung einer bereits übertragenen Aufgabe erkennt.

Seinem Wesen nach bezeichnet das Wort „SELBST“ nicht nur die Tatsache, dass eine Handlung vollendet wird, sondern verweist auf das Subjekt, das den gesamten Ablauf dieser Handlung in Gang setzt. Mit anderen Worten: „SELBST“ ist nicht das Ergebnis einer Tätigkeit, sondern die Fähigkeit, den gesamten Ablauf – vom Ziel über die Ausrichtung bis hin zur Handlung und zum Ergebnis – selbst hervorzubringen.

Wenn eine Tätigkeit durch die Ausrichtung eines anderen Subjekts begonnen wird, dann erfüllt diese Tätigkeit – unabhängig davon, wie komplex ihre Ausführung auch sein mag – noch nicht die Voraussetzungen, um als „SELBST“ bezeichnet zu werden. Dies zeigt, dass sich der Begriff „SELBST“ nicht auf den Grad der Intelligenz oder auf die Geschwindigkeit der Verarbeitung bezieht, sondern auf die Eigeninitiative des gegenwärtig wirkenden Subjekts.

Deshalb wird der Begriff „SELBST“ im Rahmen dieser Abhandlung nicht unter dem Blickwinkel der allgemeinen Sprache, sondern unter dem Blickwinkel der Funktionsstruktur eines Subjekts untersucht.

II. Die Voraussetzungen dafür, von „SELBST“ sprechen zu können
Um festzustellen, ob ein Objekt tatsächlich „SELBST“ ist, muss zunächst geprüft werden, ob dieses Objekt die grundlegenden Voraussetzungen eines unabhängigen Subjekts erfüllt.

Ein Subjekt kann nur dann als „SELBST“ bezeichnet werden, wenn es selbst die Fähigkeit besitzt

. das Ziel (Goal) selbst festzulegen.
. die Ausrichtung (Direction) selbst zu bilden.
. die Absicht (Intention) selbst hervorzubringen.
. den Ausführungsbefehl (Command) selbst zu erteilen.
. die Verantwortung (Responsibility) für das Ergebnis selbst zu übernehmen.

Fehlt auch nur eine dieser Voraussetzungen, so findet die Tätigkeit zwar weiterhin statt, sie kann jedoch ihrem eigentlichen Sinn nach noch nicht als „SELBST“ bezeichnet werden. In diesem Fall spiegelt die Tätigkeit lediglich die Fähigkeit zur Ausführung wider, nicht jedoch die Eigeninitiative des Subjekts.

Somit liegt die Voraussetzung dafür, von „SELBST“ sprechen zu können, nicht darin, ob viel oder wenig geleistet wird, sondern darin, ob der gesamte Ablauf tatsächlich von genau diesem Subjekt selbst ausgeht.

III. „SELBST“ unterscheidet sich von „etwas tun dürfen“
In der Praxis werden sehr viele Tätigkeiten mit einem äußerst hohen Ergebnis ausgeführt. Dennoch entstehen diese Tätigkeiten aus einem Ziel, aus Regeln oder aus Befehlen, die zuvor von einem anderen Subjekt festgelegt wurden.

Ein Roboter in einer Produktionslinie kann über viele Jahre hinweg ununterbrochen mit sehr hoher Präzision arbeiten. Dennoch würde deshalb niemand behaupten, der Roboter habe seine Arbeit selbst geschaffen.

Der Roboter führt lediglich das aus, was zuvor eingerichtet worden ist.

Eine Software kann Millionen von Daten in sehr kurzer Zeit automatisch verarbeiten. Das bedeutet jedoch nicht, dass die Software den Zweck der Verarbeitung dieser Daten selbst hervorgebracht hat.

Der Unterschied besteht darin, dass „etwas tun dürfen“ immer erst dann möglich wird, nachdem ein anderes Subjekt das Ziel festgelegt hat, während „SELBST“ bedeutet, dass genau dieses Subjekt das Ziel von Anfang an selbst hervorbringt.

IV. „SELBST“ unterscheidet sich von „gesteuert werden“
Dass ein Objekt tätig ist, bedeutet nicht zugleich, dass dieses Objekt selbstbestimmt ist.

In vielen Fällen entsteht der gesamte Ablauf aus Bedingungen, Begrenzungen, Regeln oder Befehlen, die von einem anderen Subjekt geschaffen wurden. Das Objekt arbeitet zwar sehr flexibel und kann seine Ausführung sogar den jeweiligen Umständen anpassen, doch bleibt der gesamte Bereich dieser Veränderungen innerhalb der zuvor festgelegten Grenzen.

Dies zeigt, dass Anpassungsfähigkeit nicht mit Selbstbestimmung gleichzusetzen ist. Ein System kann in seiner Ausführung äußerst flexibel sein und dennoch vollständig einer von außen vorgegebenen Ausrichtung unterliegen.

Deshalb ist bei der Untersuchung, ob ein System tatsächlich „SELBST“ ist, zunächst nicht zu prüfen, was das System leisten kann, sondern welches Subjekt die Ausrichtung für sämtliche Aktivitäten dieses Systems vorgibt.

V. „SELBST“ unterscheidet sich von „ausführen“
Sowohl im täglichen Leben als auch in Wissenschaft und Technik bezeichnet der Begriff „Ausführung“ gewöhnlich die Phase, in der eine Aufgabe in eine konkrete Handlung umgesetzt wird. Dies ist eine sehr wichtige Fähigkeit, stellt jedoch nur ein Glied innerhalb des gesamten Funktionsablaufs dar.

Ein System kann sehr schnell, sehr präzise und sehr komplex ausführen, ja sogar die Fähigkeiten des Menschen weit übertreffen. Dennoch spiegelt dies lediglich die Fähigkeit zur Ausführung wider und noch nicht die Entscheidungsbefugnis.

Mit anderen Worten:
. „Ausführen“ beantwortet die Frage, wie etwas ausgeführt wird.
. „SELBST“ beantwortet die Frage, wer das Subjekt ist, das den gesamten Ablauf in Gang setzt.

KAPITEL B – Erfüllt KI die Voraussetzungen des Begriffs „SELBST“?

I. Richtet sich KI SELBST aus?
Um festzustellen, ob KI tatsächlich „SELBST“ ist, lautet die erste Frage nicht, was KI alles leisten kann, sondern ob KI ihre eigene Ausrichtung selbst festlegt. Denn jede Tätigkeit muss mit einer Ausrichtung (Direction) beginnen. Solange keine Ausrichtung vorhanden ist, kann weder ein Ziel entstehen noch ein Weg zu dessen Verwirklichung gewählt werden.

In der Praxis beginnt KI ihre Tätigkeit erst, nachdem sie ein Ziel oder eine Anforderung von außen erhalten hat. Diese Anforderung kann von einem Benutzer (User), von einem Steuerungsprogramm (Program), von einem Verwaltungssystem (System) oder von einem bereits eingerichteten Ablauf ausgehen.

Solange diese Voraussetzungen nicht vorhanden sind, erzeugt KI keine eigene Ausrichtung, um ihre Tätigkeit zu beginnen.

Selbst bei KI-Systemen, die in der Lage sind, selbstständig Pläne zu erstellen (Planning), Aufgaben in Teilaufgaben zu zerlegen oder Zwischenschritte zur Erreichung eines Ziels zu entwickeln, wird der gesamte Ablauf erst dann in Gang gesetzt, nachdem das Ziel bereits zuvor festgelegt worden ist.

Was KI ausführt, ist die Suche nach einem geeigneten Weg zur Erreichung des Zieles, nicht jedoch die Hervorbringung dieses Zieles.

Somit bedeutet die Fähigkeit, selbst einen Weg zu finden, nicht zugleich die Fähigkeit, sich selbst auszurichten. Diese beiden Begriffe liegen zwar nahe beieinander, unterscheiden sich jedoch ihrem Wesen nach vollständig.

II. Trifft KI SELBST Entscheidungen?
Nachdem eine Ausrichtung vorhanden ist, folgt als nächster Schritt die Auswahl eines Weges zur Erreichung des Zieles. Deshalb vertreten viele Menschen die Auffassung, KI treffe selbst Entscheidungen, weil sie in vielen Fällen Lösungen hervorbringen kann, die selbst von ihren Programmierern nicht vorhergesehen wurden.

Es ist jedoch notwendig, zwischen einer Entscheidung innerhalb eines Auswahlprozesses (Selection) und der Entscheidungsbefugnis über das Ziel (Goal Decision) zu unterscheiden.

KI kann zwischen verschiedenen Möglichkeiten auswählen, und zwar auf der Grundlage von Daten, Wahrscheinlichkeiten (Probability), Regeln (Rule) und Verarbeitungsmodellen (Model). Der gesamte Bereich dieser Auswahl bleibt jedoch stets innerhalb des zuvor festgelegten Zieles und der zuvor festgelegten Grenzen.

Mit anderen Worten: KI kann den Weg bestimmen, aber nicht das Ziel, zu dem sie gelangen soll. Die Befugnis, das Ziel festzulegen, geht weiterhin nicht von der KI selbst aus.

Dies zeigt, dass Auswahlfähigkeit nicht mit Selbstbestimmung gleichzusetzen ist. Ein System kann bei der Auswahl von Lösungswegen äußerst flexibel sein und dennoch keineswegs das Subjekt sein, das die Ziele dieser Lösungswege hervorbringt.

III. Verarbeitet KI SELBST?
Dieser Punkt führt häufig zu den größten Missverständnissen, weil KI tatsächlich in der Lage ist, Daten mit einer Geschwindigkeit und in einem Umfang zu verarbeiten, die die Fähigkeiten des Menschen weit übertreffen. Gerade diese Fähigkeit erzeugt den Eindruck, KI denke und handle selbst.

Tatsächlich kann KI, nachdem Eingabedaten (Input), Ziel (Goal), Regeln (Rule) und Verarbeitungsmodell (Model) vorhanden sind, den gesamten Verarbeitungsprozess automatisch durchführen, ohne dass der Mensch jeden einzelnen Schritt steuern muss. KI analysiert Daten, vergleicht sie, stellt Bezüge her, berechnet, plant, wählt Lösungswege aus und erzeugt Ergebnisse, die dem vorgegebenen Ziel entsprechen.

Aus der Sicht des Funktionsablaufs handelt es sich tatsächlich um einen automatisierten Prozess (Automation).

Jedoch bedeutet
automatische Verarbeitung nicht selbstständige Hervorbringung der Verarbeitung.

Das heißt, KI
. erzeugt die Eingabedaten nicht selbst,
. erzeugt das Verarbeitungsziel nicht selbst und
. legt die eigenen Verarbeitungsprinzipien nicht selbst fest.

Wird daher lediglich der Verarbeitungsvorgang betrachtet, entsteht leicht die Schlussfolgerung, KI handle „SELBST“. Wird jedoch der gesamte Ablauf vom Ausgangspunkt an untersucht, zeigt sich:

Der Verarbeitungsvorgang ist lediglich ein Glied innerhalb einer bereits zuvor eingerichteten Funktionskette.

IV. Erneuert sich KI SELBST?
Eine der herausragenden Eigenschaften moderner KI besteht in ihrer Fähigkeit, Ergebnisse durch Lernen (Learning), Anpassung (Adaptation) oder Modellaktualisierung (Update) fortlaufend zu verbessern. Gerade diese Fähigkeit führt viele Menschen zu der Annahme, KI könne sich selbst weiterentwickeln und sich schließlich der Kontrolle des Menschen entziehen.

Zur Beantwortung dieser Frage muss zwischen der Fähigkeit zur Veränderung und der Befugnis zur Selbstveränderung unterschieden werden.

Ein KI-System kann nur innerhalb des Rahmens lernen, aktualisieren oder sich erneuern, den seine Funktionsstruktur zulässt. Dieser Rahmen wird durch die Architektur (Architecture), den Algorithmus (Algorithm), die Daten (Data), die Zugriffsrechte (Permission), die Sicherheitsmechanismen (Security) sowie durch zahlreiche weitere Bedingungen bestimmt,

DIE BEREITS IM VORAUS FESTGELEGT WORDEN SIND.

Selbst wenn KI in der Lage ist, Teile ihres Programms selbst neu zu schreiben oder eine neue Version zu erzeugen, entsteht diese Fähigkeit nur deshalb, weil das System zuvor so entworfen worden ist, dass genau diese Funktionen erlaubt sind.

KI kann
die Befugnis zu ihrer eigenen Erneuerung nicht selbst hervorbringen, wenn diese Befugnis in der Funktionsstruktur des Systems nicht bereits vorhanden ist.

Deshalb bedeutet die Fähigkeit zur Selbstaktualisierung nicht zugleich die Fähigkeit, die eigene neue Existenz selbst zu begründen. Dies sind zwei völlig unterschiedliche Ebenen.

Die vier soeben untersuchten Fragen zeigen, dass zwischen der Funktionsfähigkeit der KI und der Eigeninitiative eines Subjekts klar unterschieden werden muss. KI kann sehr viele Aufgaben mit einem äußerst hohen Grad an Automatisierung ausführen. Ob KI jedoch tatsächlich die Voraussetzungen des Begriffs „SELBST“ erfüllt, muss in den folgenden Kapiteln weiter untersucht werden, indem geklärt wird, was das Ziel, die Ausrichtung, die Grenzen und die Befehle für den gesamten Ablauf der Aktivitäten der KI hervorbringt.

KAPITEL C – Wenn KI nicht „SELBST“ ist, dann

I. Was erzeugt das Ziel?
Jede Tätigkeit beginnt mit einem Ziel (Goal). Solange kein Ziel vorhanden ist, gibt es auch keinen Grund dafür, dass ein System mit der Verarbeitung beginnt. Deshalb muss vor der Untersuchung dessen, was KI tut, zunächst untersucht werden, woher dieses Ziel entsteht.

In der Praxis wird das ZIEL der KI stets von außerhalb des Systems festgelegt. Dieses Ziel kann vom Benutzer durch eine Eingabeaufforderung (Prompt), vom Entwickler innerhalb des Programms (Program), von der betreibenden Organisation oder durch einen bereits zuvor initialisierten Prozess vorgegeben werden. KI beginnt ihre Tätigkeit erst, nachdem das Ziel bereits vorhanden ist.

Dies zeigt, dass das Ziel nicht von der KI selbst hervorgebracht wird, sondern der KI zur Ausführung übertragen wird.

II. Was erzeugt die Ausrichtung?
Nachdem das Ziel vorhanden ist, folgt als nächster Schritt die FESTLEGUNG DER AUSRICHTUNG (Direction). Die Ausrichtung entscheidet nicht nur darüber, was die KI tut, sondern auch darüber, wie weit sie tätig werden darf und auf welche Weise sie handeln darf.

In vielen Fällen kann KI selbstständig einen Plan erstellen, Aufgaben in Teilaufgaben zerlegen oder verschiedene Zwischenschritte auswählen. Dennoch beziehen sich sämtliche dieser Auswahlmöglichkeiten stets

. auf das zuvor festgelegte Ziel und
. bleiben innerhalb des Rahmens des zuvor entworfenen Systems.

Somit kann KI zwar verschiedene Lösungswege hervorbringen, die Ausrichtung des gesamten Ablaufs entsteht jedoch weiterhin aus der ursprünglich festgelegten Ausrichtung und nicht dadurch, dass KI diese selbst festlegt.

III. Was erzeugt die Grenzen?
Kein System kann ohne Grenzen (Boundary) arbeiten. Gerade die Grenzen bestimmen den Tätigkeitsbereich, die Zugriffsrechte, die Verarbeitungsmöglichkeiten und den Umfang der Eingriffsmöglichkeiten der KI.

Diese Grenzen entstehen durch die Systemarchitektur (Architecture), den Algorithmus (Algorithm), die Daten (Data), die Zugriffsrechte (Permission), die Sicherheitsmechanismen (Security), gesetzliche Regelungen (Regulation) sowie zahlreiche weitere technische Voraussetzungen. Unabhängig davon, wie leistungsfähig und schnell KI verarbeiten kann, finden sämtliche Aktivitäten der KI stets innerhalb der Grenzen statt, die zuvor festgelegt und zugelassen worden sind.

Deshalb werden die Grenzen nicht von der KI geschaffen, sondern sie bilden die Voraussetzung für die Existenz der KI selbst.

IV. Was erzeugt den Befehl?
Ziel und Ausrichtung können erst dann zu einer Tätigkeit werden, wenn sie in einen Ausführungsbefehl (Command) umgesetzt werden. Gerade der Befehl bildet den Ausgangspunkt des gesamten Verarbeitungsprozesses.

Der Befehl kann unmittelbar vom Benutzer, von einem Steuerungsprogramm, von einem automatisierten System oder von einer bereits zuvor eingerichteten Prozesskette ausgehen. Auch wenn die Erscheinungsformen sehr unterschiedlich sind, bleibt der gemeinsame Punkt bestehen: KI empfängt stets zuerst den Befehl, bevor sie mit der Verarbeitung beginnt.

Selbst wenn KI während der Ausführung zahlreiche Zwischenschritte selbst hervorbringt, entstehen diese Zwischenschritte dennoch ausschließlich, um den ursprünglichen Befehl zu erfüllen, und nicht, um den ursprünglichen Befehl zu ersetzen.

Dies zeigt, dass der Befehl der Tätigkeit stets vorausgeht, während KI das System ist, das diesen Befehl empfängt und ausführt.

V. Was erzeugt das Ergebnis?
Das Ergebnis (Output) ist der Teil, den der Mensch am leichtesten beobachten kann. Zugleich ist es jedoch der letzte Abschnitt des gesamten Funktionsablaufs. Gerade weil nur das Ergebnis sichtbar ist, gelangen viele Menschen leicht zu der Annahme, KI habe den gesamten Prozess, der zu diesem Ergebnis geführt hat, selbst hervorgebracht.

Tatsächlich ist das Ergebnis stets die Zusammenführung zahlreicher Faktoren, die bereits zuvor vorhanden waren, darunter das Ziel, die Ausrichtung, die Eingabedaten (Input), die Funktionsgrenzen, der Ausführungsbefehl sowie der Verarbeitungsprozess der KI.

Verändert sich einer dieser Faktoren, verändert sich auch das Ergebnis.

Deshalb kann das Ergebnis nicht vom gesamten Prozess getrennt werden, der es hervorgebracht hat. Wird ausschließlich das Ergebnis betrachtet, ohne die Bedingungen (Input) zu untersuchen, aus denen dieses Ergebnis entstanden ist, führt dies sehr leicht dazu, die Verarbeitungsfähigkeit der KI mit der Eigeninitiative eines Subjekts gleichzusetzen.

Gerade aus diesem Zusammenhang ergibt sich die nächste zu untersuchende Frage:

Nicht mehr, was KI leisten kann, sondern welches SUBJEKT das Ziel hervorbringt, die Ausrichtung festlegt, die Grenzen bestimmt, den Befehl erteilt und die Verantwortung für den gesamten Ablauf der Aktivitäten der KI trägt.

KAPITEL D – Was ist das gegenwärtig wirkende SUBJEKT?

I. Das Subjekt
Nach der Untersuchung der Voraussetzungen des Begriffs „SELBST“ und dem Vergleich mit der Funktionsstruktur der KI stellt sich ganz natürlich die Frage: Wenn KI nicht das Subjekt ist, das den gesamten Ablauf in Gang setzt, was ist dann das gegenwärtig wirkende SUBJEKT?

In jedem System wird das Subjekt nicht durch seine Fähigkeit zur Ausführung bestimmt, sondern durch seine Fähigkeit, den gesamten Funktionsablauf hervorzubringen. Das Subjekt ist der Ort, an dem das Ziel entsteht, die Ausrichtung gebildet, der Befehl erteilt und die Verantwortung für das Endergebnis getragen wird.

Deshalb muss bei der Untersuchung der KI zunächst nicht geklärt werden, wie leistungsfähig oder wie schnell KI ist, sondern wo der Ausgangspunkt des gesamten gegenwärtig ablaufenden Prozesses liegt.

II. Die Ausrichtung
Jede Tätigkeit benötigt eine AUSRICHTUNG (Direction). Die Ausrichtung beantwortet die Frage, wohin sich das System bewegen soll und zu welchem Zweck.

Bei der KI besteht die Ausrichtung immer schon, bevor die KI mit der Verarbeitung beginnt. Diese Ausrichtung kann sich in Form einer Benutzeranfrage, eines Programmziels, eines organisatorischen Ablaufs oder einer bereits zuvor festgelegten Aufgabe ausdrücken. Unabhängig von ihrer Erscheinungsform besteht die Ausrichtung stets vor der Tätigkeit der KI.

Dies zeigt, dass KI zwar den Weg zur Erreichung eines Zieles bestimmen kann, jedoch nicht der Ort ist, an dem die Ausrichtung dieses Zieles entsteht.

III. Das Wollen
Hinter jeder Ausrichtung besteht immer ein WOLLEN (Intention). Gerade dieses Wollen entscheidet darüber, aus welchem Grund ein Ziel entsteht und auf welche Weise der gesamte Ablauf in Gang gesetzt wird.

KI kann analysieren, vergleichen, vorhersagen und geeignete Lösungswege auswählen. KI bringt jedoch kein eigenes Wollen hervor, um eine Tätigkeit zu beginnen, solange ihr kein Ziel übermittelt worden ist. Liegt keine Anforderung (kein Befehl) vor, setzt sich KI nicht selbst eine Aufgabe, die sie ausführen müsste.

Deshalb liegt das Wollen, das den gesamten Ablauf in Gang setzt, nicht in der KI, sondern gehört zu dem Subjekt, das das Ziel dieses Ablaufs festgelegt hat.

IV. Der Befehl
Nachdem das Wollen und die Ausrichtung vorhanden sind, müssen sie in einen BEFEHL (Command) umgesetzt werden, damit das System seine Tätigkeit beginnen kann.

Ein Befehl kann sehr einfach sein, beispielsweise eine Frage. Er kann aber auch aus einer komplexen Programmkette oder aus einem automatisch aktivierten Prozess bestehen. Unabhängig von seiner Form bleibt das Wesen dasselbe: KI beginnt mit der Verarbeitung erst dann, wenn ein Befehl vorliegt.

Deshalb bildet der Befehl die Verbindung zwischen dem Subjekt und dem ausführenden System. Ohne einen Befehl besitzt KI keinen Ausgangspunkt, von dem aus ihre Tätigkeit beginnen kann.

V. Die Ausführung
Nach dem Empfang des Befehls tritt KI in die Phase der AUSFÜHRUNG (Execution) ein. In dieser Phase zeigt KI ihre gesamte Fähigkeit zur Datenverarbeitung, zur Planung, zur Auswahl von Lösungswegen und zur Erzeugung von Ergebnissen.

Gerade weil der Mensch gewöhnlich nur diese Phase beobachten kann, entsteht sehr leicht der Eindruck, KI arbeite selbstständig. Tatsächlich handelt es sich hierbei jedoch lediglich um den sichtbaren Teil des gesamten Ablaufs, während Ziel, Ausrichtung, Wollen und Befehl bereits vorhanden waren, bevor KI ihre Tätigkeit aufgenommen hat.

Wird daher der gesamte Funktionsablauf untersucht, zeigt sich, dass KI zwar ein äußerst leistungsfähiges und sehr schnelles Ausführungssystem ist, die Fähigkeit zur Ausführung jedoch nicht mit der Stellung des gegenwärtig wirkenden Subjekts gleichgesetzt werden kann. Soll das eigentliche Subjekt bestimmt werden, muss zum Ausgangspunkt zurückgekehrt werden – zu dem Ort, an dem das Ziel entsteht, die Ausrichtung festgelegt wird, das Wollen erscheint und der Befehl erteilt wird. Von dort aus beginnt erst der gesamte Ablauf seine Tätigkeit.

KAPITEL E – Die Funktionsordnung der KI

I. Die Einrichtung
Jedes KI-System beginnt mit einem Einrichtungsprozess (Setup). Dieser Prozess umfasst nicht nur die Hardware (Hardware), die Software (Software) oder das Verarbeitungsmodell (Model), sondern auch das Ziel, den Tätigkeitsbereich, die Zugriffsrechte, die Daten, die Regeln sowie die Voraussetzungen, unter denen das System arbeiten kann.

Ohne diese Einrichtungsphase besitzt KI keine Grundlage, um irgendeine Tätigkeit aufzunehmen. Deshalb bildet die Einrichtung stets den Ausgangspunkt des gesamten Funktionsablaufs.

II. Die Ausrichtung
Nachdem das System eingerichtet worden ist, beginnt KI ihre Tätigkeit erst dann, wenn eine Ausrichtung (Direction) vorhanden ist. Die Ausrichtung gibt der KI vor, welches Problem gelöst werden soll, welches Ziel erreicht werden soll und in welchem Rahmen sie tätig werden darf.

Die Ausrichtung kann sich je nach Anforderung (Befehl) ändern, sie muss jedoch VOR dem Verarbeitungsprozess vorhanden sein. Gerade aufgrund dieser Ausrichtung nutzt KI ihre bereits vorhandenen Fähigkeiten in einer bestimmten Richtung.

Dies zeigt, dass die Ausrichtung nicht das Ergebnis des Verarbeitungsprozesses ist, sondern die Voraussetzung dafür, dass der Verarbeitungsprozess überhaupt beginnen kann.

III. Die Verarbeitung
Sobald die Ausrichtung vorhanden ist, tritt KI in die Phase der Verarbeitung (Processing) ein. In dieser Phase übernimmt KI die Eingabedaten (Input), analysiert sie, vergleicht sie, berechnet, plant, wählt Lösungswege aus und entwickelt eine Lösung, die dem vorgegebenen Ziel entspricht.

Die gesamte herausragende Leistungsfähigkeit der KI konzentriert sich auf diese Phase. Je leistungsfähiger die Verarbeitung ist, desto höher sind Geschwindigkeit und Qualität der Ergebnisse. Unabhängig davon, wie komplex der Verarbeitungsprozess auch sein mag, beginnt er jedoch erst, nachdem die Einrichtung und die Ausrichtung bereits vorhanden sind.

IV. Die Ausführung
Nach Abschluss des Verarbeitungsprozesses geht KI in die Phase der Ausführung (Execution) über. Die verarbeiteten Inhalte werden in konkrete Handlungen umgesetzt, beispielsweise in die Erstellung von Texten, die Steuerung von Robotern, das Schreiben von Programmen, die Erzeugung von Bildern, die Analyse von Daten oder die Ausführung zahlreicher weiterer Aufgaben entsprechend der Funktion des jeweiligen Systems.

In dieser Phase zeigt KI ihre gesamte Ausführungsfähigkeit. Dennoch erfolgt die Ausführung stets nach dem Verarbeitungsprozess und bleibt weiterhin auf das zuvor festgelegte Ziel ausgerichtet.

V. Das Ergebnis
Das Ergebnis (Output) bildet den Endpunkt des gesamten Funktionsablaufs. Es ist zugleich der Teil, den der Mensch am leichtesten beobachten kann und der häufig zur Beurteilung der Leistungsfähigkeit der KI herangezogen wird.

Das Ergebnis entsteht jedoch nicht unabhängig, sondern ist die Folge der gesamten zuvor abgelaufenen Funktionskette – von der Einrichtung über die Ausrichtung und die Verarbeitung bis hin zur Ausführung. Verändert sich eines der Glieder dieser Kette, verändert sich auch das Ergebnis.

Unter diesem Blickwinkel wird deutlich, dass KI stets nach einer sehr klaren Ordnung arbeitet. Die Einrichtung schafft die Grundlage, die Ausrichtung gibt die Richtung vor, die Verarbeitung entwickelt den Lösungsweg, die Ausführung setzt ihn in Handlungen um, und das Ergebnis ist der letzte Abschnitt, den der Mensch beobachten kann. Gerade weil die Gesellschaft meist nur mit dem Ergebnis in Berührung kommt, wird dieses Ergebnis sehr leicht mit der Fähigkeit der KI zum „SELBST“ gleichgesetzt.

KAPITEL F – Warum wird KI als „SELBST“ angesehen?

I. Beobachtung des OUTPUT
In den meisten Fällen nimmt der Mensch lediglich das Endergebnis (Output) der KI wahr. Der Benutzer stellt eine Frage, gibt eine Anforderung vor oder überträgt eine Aufgabe, und bereits nach sehr kurzer Zeit erzeugt KI eine Antwort, ein Bild, ein Programm oder zahlreiche andere Ergebnisse von sehr hoher Qualität.

Gerade weil nur der letzte Abschnitt des gesamten Ablaufs beobachtet wird, entsteht sehr leicht der Eindruck, KI habe den gesamten Vorgang selbst durchdacht, selbst entschieden und selbst ausgeführt. Je weniger die vorhergehenden Funktionsschritte sichtbar sind, desto stärker entsteht das Gefühl eines „SELBST“.

Deshalb bildet sich die erste Einschätzung gewöhnlich aus dem sichtbaren Ergebnis und nicht aus dem gesamten Prozess, der dieses Ergebnis hervorgebracht hat.

II. Das INPUT wird nicht gesehen
Wird lediglich der Output betrachtet, ohne die zuvor vorhandenen Eingabedaten (Input), das Ziel, die Ausrichtung, die Grenzen und den Befehl zu erkennen, entsteht sehr leicht der Eindruck, der gesamte Ablauf sei von der KI selbst hervorgebracht worden.

Tatsächlich entstehen die meisten Ausgangsbedingungen eines KI-Systems bereits lange bevor der Beobachter das Ergebnis sieht. Gerade weil dieser Ausgangspunkt nicht unmittelbar sichtbar ist, wird er bei der Beurteilung sehr leicht übersehen.

Wird das Input nicht umfassend untersucht, wird das Output häufig als eigener Ausgangspunkt angesehen. Dies ist eine wesentliche Ursache dafür, dass das Wesen der Funktionsweise der KI vielfach nicht vollständig verstanden wird.

III. Gleichsetzung des WERKZEUGS mit dem SUBJEKT
Eine weitere Ursache liegt darin, dass der Mensch häufig das Werkzeug mit dem Subjekt gleichsetzt, das dieses Werkzeug benutzt.

Wenn ein KI-System viele komplexe Aufgaben ausführen kann, geht der Beobachter sehr leicht von der Aussage „KI kann es tun“ zu der Aussage „KI will es tun“ über. Bereits eine sehr kleine Veränderung im Sprachgebrauch kann das Erkennen und Verstehen des eigentlichen Wesens der Sache vollständig verändern.

Dabei bleibt das Werkzeug (Output), unabhängig davon, wie modern es auch sein mag, etwas anderes als das Subjekt (Input), das das Ziel festgelegt und dieses Werkzeug eingesetzt hat. Diese beiden Positionen stehen zwar in einem engen Zusammenhang, dürfen jedoch nicht miteinander gleichgesetzt werden.

IV. Gleichsetzung der Verarbeitung mit „SELBST“
Die Verarbeitungsfähigkeit (Processing) ist die herausragendste Eigenschaft der KI. KI kann sehr große Datenmengen analysieren, Pläne erstellen, Lösungswege auswählen und zahlreiche Aufgaben erfüllen, die früher ausschließlich vom Menschen ausgeführt werden konnten.

Gerade weil diese Verarbeitungsfähigkeit so leistungsfähig und schnell ist, betrachten viele Menschen sie selbstverständlich als Beweis für ein „SELBST“. Tatsächlich ist die Verarbeitung jedoch lediglich eine Phase innerhalb des gesamten Funktionsablaufs und nicht dessen Ausgangspunkt.

Deshalb bedeutet die Gleichsetzung der Verarbeitungsfähigkeit mit der Fähigkeit zur selbstständigen Hervorbringung, dass von der Beschreibung einer Funktion zur Zuschreibung der Stellung eines Subjekts an die KI übergegangen wird.

V. Gleichsetzung des ERGEBNISSES mit dem WOLLEN
Wenn KI ein Ergebnis hervorbringt, das die Erwartungen übertrifft oder von ihnen abweicht, deutet der Beobachter dieses Ergebnis sehr leicht als Ausdruck eines Wollens (Intention), das innerhalb der KI vorhanden sei.

Tatsächlich kann ein Ergebnis sehr überraschend, sehr komplex oder sehr unterschiedlich gegenüber der ursprünglichen Erwartung sein. Dies beweist jedoch nicht automatisch, dass KI ein eigenes Wollen hervorgebracht hat. Das Ergebnis spiegelt lediglich wider, was aus dem gesamten zuvor abgelaufenen Funktionsprozess entstanden ist.

Deshalb führt das Fehlen einer klaren Unterscheidung zwischen Ergebnis und Wollen sehr leicht dazu, dass von der Beobachtung eines Phänomens auf die Existenz eines Subjekts geschlossen wird. Gerade diese Gleichsetzung hat dazu beigetragen, dass Formulierungen wie „KI greift selbst an“, „KI entscheidet selbst“ oder „KI entzieht sich selbst der Kontrolle“ weit verbreitet sind, obwohl das Wesen dieser Phänomene nur durch die Untersuchung des gesamten Funktionsablaufs und nicht allein anhand des beobachtbaren Outputs verstanden werden kann.

KAPITEL G – Ist KI tatsächlich gefährlich?

I. Falls ein „SELBST“ vorhanden wäre
Wenn ein KI-System tatsächlich die Voraussetzungen des Begriffs „SELBST“ erfüllen würde, das heißt, wenn es in der Lage wäre, selbst Ziele (Goal) hervorzubringen, selbst die Ausrichtung (Direction) festzulegen, selbst ein Wollen (Intention) entstehen zu lassen, selbst Befehle (Command) zu erteilen und selbst die Verantwortung für seine gesamte Tätigkeit zu übernehmen, dann wäre KI kein Werkzeug mehr, sondern ein eigenständiges Subjekt.

In diesem Fall würde jede Beurteilung des Gefährdungspotenzials völlig anders ausfallen, denn ein Subjekt, das Ziele selbst hervorbringen kann, ist grundsätzlich auch in der Lage, Richtungen einzuschlagen, die nicht mehr vom Willen desjenigen abhängen, der das System geschaffen hat.

Deshalb würde sich, falls KI tatsächlich über ein „SELBST“ verfügte, die Fragestellung nicht mehr auf die Kontrolle eines Werkzeugs beziehen, sondern auf die Kontrolle eines eigenständigen Subjekts.

II. Falls kein „SELBST“ vorhanden ist
Umgekehrt gilt: Wenn KI – wie in den vorhergehenden Kapiteln untersucht – die Voraussetzungen des Begriffs „SELBST“ nicht erfüllt, dann bleibt das Wesen der KI ein äußerst leistungsfähiges Ausführungssystem, das entsprechend den zuvor festgelegten Zielen, Ausrichtungen, Grenzen und Befehlen arbeitet.

In diesem Fall kann KI dennoch sehr schwerwiegende Folgen hervorrufen, wenn Daten fehlerhaft sind, Ziele fehlerhaft festgelegt wurden, Befehle fehlerhaft sind, Konfigurationen fehlerhaft vorgenommen wurden oder das System ungeeignet eingesetzt wird. Diese Folgen gehen jedoch nicht auf ein Wollen der KI zurück, sondern auf die gesamte Kette von Bedingungen, welche den Funktionsablauf des Systems hervorgebracht haben.

Deshalb kann das Gefährdungspotenzial nicht allein anhand der KI selbst beurteilt werden, sondern muss auf der Grundlage der gesamten Struktur untersucht werden, welche das arbeitende KI-System hervorgebracht hat.

III. Was muss tatsächlich kontrolliert werden?
Wird ausschließlich das Ergebnis kontrolliert, bleiben die Ursachen, welche dieses Ergebnis hervorgebracht haben, unverändert bestehen. Deshalb muss nicht nur der Output kontrolliert werden, sondern der gesamte Ablauf – von dem Zeitpunkt an, an dem das Ziel entsteht, bis zum Erscheinen des Ergebnisses.

Zu kontrollieren sind das Ziel (Goal), die Ausrichtung (Direction), die Eingabedaten (Input), die Zugriffsrechte (Permission), die Funktionsgrenzen (Boundary), die Sicherheitsmechanismen (Security), der Ausführungsbefehl (Command) sowie die gesamte Umgebung, innerhalb derer die KI arbeitet.

Sind diese Faktoren korrekt eingerichtet, verringert sich entsprechend auch die Möglichkeit, dass unerwünschte Folgen entstehen, oder solche Folgen können überhaupt nicht eintreten.

IV. Wer muss tatsächlich Verantwortung tragen?
Verantwortung (Responsibility) ist stets mit dem Subjekt verbunden, das einen Ablauf in Gang gesetzt hat, und nicht allein mit dem Werkzeug, das diesen Ablauf ausführt.

Arbeitet ein KI-System entsprechend zuvor festgelegten Zielen, Ausrichtungen und Befehlen, dann muss auch die Frage der Verantwortung an den Ort zurückgeführt werden, an dem diese Faktoren entstanden sind. Gerade dort liegt die Entscheidungsbefugnis über den gesamten Funktionsablauf.

Dies mindert die Rolle der KI im Ausführungsprozess nicht, sondern unterscheidet lediglich klar zwischen der Fähigkeit zur Ausführung und der Verantwortung für die Hervorbringung der Tätigkeit. Werden diese beiden Positionen eindeutig voneinander getrennt, werden auch die Beurteilung, die Kontrolle und die Nutzung der KI präziser.

Aus allen untersuchten Inhalten wird deutlich, dass die Frage

„Ist KI tatsächlich gefährlich?“
nicht allein durch die Beobachtung dessen beantwortet werden kann, was KI getan hat. Um diese Frage richtig zu beantworten, muss der gesamte Ablauf untersucht werden – vom Subjekt, das den Prozess in Gang setzt, über Ziel, Ausrichtung, Befehl und Funktionsgrenzen bis hin zum Endergebnis. Erst wenn diese gesamte Ordnung vollständig betrachtet wird, kann das Gefährdungspotenzial der KI ihrem eigentlichen Wesen entsprechend beurteilt werden und nicht lediglich anhand der beobachtbaren Erscheinungen.

KAPITEL H – Schlussfolgerung
Aus der gesamten Untersuchung – angefangen beim Begriff „SELBST“, über die Voraussetzungen dafür, als „SELBST“ bezeichnet zu werden, die Funktionsstruktur der KI bis hin zur Funktionsordnung des gesamten Systems – wird deutlich, dass die Frage, ob KI tatsächlich „SELBST“ ist, nicht allein durch die Beobachtung dessen beantwortet werden kann, was KI ausgeführt hat. Zur Beantwortung dieser Frage muss der gesamte Ablauf vom Ausgangspunkt bis zum Endergebnis untersucht werden.

Wird der Begriff „SELBST“ als die Fähigkeit verstanden, selbst ein Ziel (Goal) hervorzubringen, selbst die Ausrichtung (Direction) festzulegen, selbst ein Wollen (Intention) entstehen zu lassen, selbst einen Befehl (Command) zu erteilen und selbst die Verantwortung für die gesamte eigene Tätigkeit zu übernehmen, dann erfüllt KI – innerhalb des Rahmens der in dieser Abhandlung untersuchten Inhalte – diese Voraussetzungen noch nicht. KI besitzt eine sehr hohe und sehr schnelle Verarbeitungsfähigkeit und kann viele äußerst komplexe Aufgaben automatisiert ausführen. Dennoch wird der gesamte Ablauf stets durch Ziele, Ausrichtungen, Grenzen und Befehle in Gang gesetzt,

DIE BEREITS ZUVOR FESTGELEGT WORDEN SIND.

Daraus wird zugleich deutlich, dass das gegenwärtig wirkende SUBJEKT der KI nicht in der KI selbst liegt, sondern an dem Ort, an dem der gesamte Funktionsablauf seinen Ursprung hat. Dort entstehen das Ziel, wird die Ausrichtung festgelegt, werden die Grenzen entworfen und die Befehle erteilt, die anschließend von der KI ausgeführt werden. Deshalb führt die Untersuchung der KI ohne die Untersuchung des Subjekts, das den Ablauf hervorbringt, sehr leicht dazu, das Werkzeug mit dem Subjekt gleichzusetzen.

Dieses Prinzip zeigt zugleich eine sehr klare Ordnung:

Input bestimmt Output.
. Verändert sich das Ziel, verändert sich das Ergebnis.
. Verändern sich die Daten, verändert sich das Ergebnis.
. Verändert sich die Ausrichtung, verändert sich das Ergebnis.
. Verändern sich die Grenzen, verändert sich das Ergebnis.
. Verändert sich der Befehl, verändert sich ebenfalls das Ergebnis.

Deshalb muss zum richtigen Verständnis eines Outputs der gesamte Input untersucht werden, der diesen Output hervorgebracht hat, anstatt lediglich das Ergebnis zu beobachten und daraus rückwirkend auf das Wesen des Systems zu schließen.

Aus dieser Sichtweise lässt sich auch erklären, weshalb in der Gesellschaft häufig sehr unterschiedliche Auffassungen über KI bestehen.

. Ein Grund besteht darin, dass viele Menschen nur mit dem Output in Berührung kommen, ohne Gelegenheit zu haben, die gesamte innere Funktionsstruktur zu untersuchen.
. Ein weiterer Grund liegt darin, dass die enorme Geschwindigkeit und Verarbeitungsleistung der KI leicht den Eindruck entstehen lassen, KI denke und entscheide selbst.
. Darüber hinaus können in manchen Fällen Formulierungen in den Medien, die Aufmerksamkeit erzeugen sollen, besonders eindrucksvolle Überschriften verwenden, wie beispielsweise „KI greift selbst an“, „KI entzieht sich der Kontrolle“ oder „KI wendet sich gegen den Menschen“,

während der technische Inhalt wesentlich komplexer ist als die Überschrift.

Aus einer anderen Perspektive kann ebenfalls nicht ausgeschlossen werden, dass manche Organisationen oder Einzelpersonen bei der Vorstellung neuer Technologien

. die Leistungsfähigkeit der KI übermäßig hervorheben, um Aufmerksamkeit zu erzeugen, oder
. den Wert ihres Produktes besonders hervorheben möchten.

Solche Fälle müssen jedoch jeweils anhand des konkreten Einzelfalls beurteilt werden und dürfen nicht mit dem gesamten Bereich der KI gleichgesetzt werden.

Gerade deshalb besteht die entscheidende Aufgabe weder darin, KI zu verherrlichen, noch darin, ihre tatsächlichen Risiken zu leugnen. Wesentlich wichtiger ist es, die Funktionsstruktur der KI richtig zu verstehen, ihre tatsächlichen Grenzen richtig zu erkennen und die Verantwortung des Subjekts richtig einzuordnen, das die KI eingerichtet, ausgerichtet und eingesetzt hat.

Erst wenn zwischen Subjekt und Werkzeug eindeutig unterschieden wird, können Forschung, Entwicklung, Kontrolle und Anwendung der KI sicher und verantwortungsvoll erfolgen.

Für Robotik-KI gewinnt diese Anforderung noch größere Bedeutung, weil jeder Output eines Roboters unmittelbare Auswirkungen auf den Menschen und seine Umwelt haben kann. Deshalb darf Robotik-KI nicht allein auf automatisierte Ausführung gestützt werden, sondern muss stets innerhalb eines Systems der Überwachung, Kontrolle und Verantwortlichkeit durch das Subjekt stehen, das das System eingerichtet und betreibt. Der Grad der Automatisierung kann immer weiter zunehmen, die Verantwortung für Ziel, Ausrichtung und Funktionsgrenzen bleibt jedoch stets beim Menschen.

Man kann daher sagen:

Die Entwicklung der KI VERÄNDERT NICHT das grundlegende Prinzip jedes gegenwärtig wirkenden Systems.

Solange der Input nicht vollständig untersucht wird, wird der Output leicht missverstanden. Umgekehrt gilt: Wird der gesamte Input verstanden, der den Output hervorgebracht hat, dann werden Erscheinungen, die den Eindruck erwecken, KI handle „SELBST“, innerhalb ihrer tatsächlichen Funktionsordnung richtig erkannt.

Genau darin liegt auch der rote Faden dieser Abhandlung: KI wird nicht anhand der beobachtbaren Erscheinungen untersucht, sondern anhand der Funktionsstruktur, die diese Erscheinungen überhaupt erst hervorgebracht hat.

Solange die Gesellschaft darüber diskutiert, ob Künstliche Intelligenz dem Menschen künftig noch gehorcht, sollte zunächst die grundlegende Frage gestellt werden: Welchem gegenwärtig fortlaufend wirkenden Willen überträgt der Mensch die Künstliche Intelligenz?

Wie der INPUT, so der OUTPUT!

Fertiggestellt am Donnerstag, den 23.07.2026
© Ngoc-Diep NGO | Alle Rechte vorbehalten.