Das menschliche Gehirn, KI und die Frage des Bewusstseins
Anfang des Jahres 2023 saß ich nach einem Vortrag, den ich an einem sozialwissenschaftlichen Lehrstuhl einer Universität gehalten hatte, mit einem Dutzend junger wissenschaftlicher Mitarbeiterinnen und Mitarbeiter beim Abendessen. Es war eine sehr nette Runde. Ich hatte über die Bedeutung zwischenmenschlicher Beziehungen aus Sicht der Sozialen Neurowissenschaften gesprochen. Wenige Wochen vor meinem Vortrag hatte die Einführung der textproduzierenden digitalen Maschine »Chat-GPT« von der Firma Open AI Aufsehen erregt. Daher drehte sich die Diskussion um die Einschätzung digitaler Systeme mit KI. Einige der jungen Wissenschaftlerinnen und Wissenschaftler vertraten allen Ernstes die Position, KI-Systeme hätten ein Bewusstsein und könnten demnach Ansprüche ableiten, wie Subjekte behandelt zu werden.
Nicht nur Chat-GPT, auch andere Textgeneratoren wie LaMDA und Bildgeneratoren wie DALL-E-2, Midjourney oder Stable Diffusion richten die öffentliche Aufmerksamkeit auf Maschinen, die diese Produkte ermöglicht haben: Computer, die mit sogenannten Künstlichen Neuronalen Netzen (KNN) arbeiten. Sie sind gemeint, wenn von Künstlicher Intelligenz oder KI die Rede ist (Englisch: »Artificial Intelligence« oder AI). Systeme dieser Art sind seit Jahren in vielen Produkten im Einsatz, unter anderem in Kraftfahrzeugen, die uns beim Autofahren assistieren, oder in Suchmaschinen, die wir im Internet benutzen. Das Gespräch mit den jungen Soziologinnen und Soziologen machte mir deutlich, wie wenig selbst in wissenschaftlichen Kreisen darüber bekannt ist, wie »Künstliche Intelligenz« und »Künstliche Neuronale Netze« wirklich funktionieren und in welch ehrfürchtige Trance unser Denken über KI-Systeme hinüberzugleiten droht.
Hinter der Suggestion, dass Künstliche Intelligenzen auf diesem Globus irgendwann die Geschäftsführung übernehmen werden, stehen Menschen, die mit diesen Systemen Macht ausüben und gute Geschäfte machen. Die digitale Mystik ist ihr Narrativ. Der einst eher obskure, allenfalls in Science-Fiction-Kreisen gehegte Gedanke von der Ablösung und schließlich der Abschaffung der Menschheit, den die Denker des Transhumanismus seit über zwei Jahrzehnten ernsthaft in die Debatte einbringen, macht inzwischen auch in der breiten Bevölkerung die Runde. Dass jedes neue digitale Produkt, das mit Künstlicher Intelligenz arbeitet, durch die Medien erklärt und begleitet wird, ist gut. Weniger gut ist das ehrfürchtige Staunen, in welchem der öffentliche Diskurs geführt wird.
Ausdruck der merkwürdigen Ehrfurcht, welche digitale Produkte vielerorts auslösen, ist eine Stimmung, man dürfe jetzt nichts verpassen: Alle, die bei der Digitalisierung als Konsumenten nicht vorne mitspielten, seien Verlierer: Kinder, wenn sie nicht schon in der Kita an ihren Bildschirmen wischen. Schulen, wenn sie ihre Lehrkräfte nicht durch KI-gestützte Lernprogramme ersetzt haben. Jugendliche und Erwachsene, die ihr Leben nicht in einem sozialen Netzwerk leben. Menschen, die noch nicht gamen oder im Metaversum navigieren. Das neue Narrativ lautet: Wo digitale Systeme im Einsatz sind, da sind wir »up to date«. Wo, wie altmodisch, immer noch Menschen mit Menschen zu tun haben, da bestehe dringender Bedarf nach Abhilfe. Dieses Narrativ ist Ausdruck unserer bereits jetzt erheblich geschwächten Bodenhaftung zur Realität, die der Anlass war und ist, dieses Buch zu verfassen.
Die digitalen Systeme sollten unsere Werkzeuge werden, anstatt dass wir uns zu ihrem Werkzeug machen lassen. Wir müssen aus der hypnotischen Passivität der Konsumenten herauskommen. Dazu gehört unter anderem auch, digitale Techniken – etwa ab der 5. Klasse – in der Schule zu lehren, anstatt Kinder und Jugendliche viel zu früh zu suchtabhängigen Konsumenten der Endgeräte zu machen. Wir müssen die Steuerung über unser Leben bewahren beziehungsweise zurückgewinnen, anstatt zuzulassen, dass wir und unsere Kinder sich von den digitalen Angeboten steuern lassen und erleiden, was ich Realitätsverlust nenne. Hinter den Systemen, die von uns Besitz ergreifen, stehen diejenigen, die sie besitzen und mit ihnen Macht ausüben.
Die ungeheure Machtzusammenballung in den digitalen Konzernen hat eine schleichende Ent-Demokratisierung unserer Gesellschaften und die Rückkehr des Menschen in selbst gewählte Unmündigkeit mit sich gebracht.182 Die digitalen Monopole demokratischen, marktwirtschaftlichen und steuerlichen Standards zu unterwerfen, wird eine gewaltige politische Aufgabe sein. Gegenstand dieses Buches ist aber vor allem aufzuzeigen, dass wir auf einer ganz persönlichen Ebene etwas gegen die Rückkehr in die Unmündigkeit tun können. Dies betrifft unseren Kontakt zu Mitmenschen, und hier vor allem zu unseren Kindern. Ihre Präsenz und ihre Wünsche nach analogem Wahrgenommen-Werden sind, um es mit dem bereits zitierten Viktor Frankl zu sagen, die entscheidenden Fragen, die das Leben an uns stellt.
Das menschliche Gehirn und die Frage des Bewusstseins
Beim Nachdenken darüber, was Bewusstsein ist183 und ob Künstliche Neuronale Netze ein Bewusstsein haben, stößt man sehr schnell auf die noch grundlegendere Frage, was »Leben« ist. Die Frage des Bewusstseins stellt sich nur für Lebewesen.184 Wir knüpfen hier nun einige Überlegungen an, die ich bereits im zweiten Kapitel angestellt habe. Dass die materiellen Strukturen biologischer Lebewesen den Gesetzen der Physik und der Chemie folgen, ist unbestreitbar. Ebenso aber auch, dass sich biologisches Leben damit nicht vollständig erklären lässt. Der bereits zitierte Ernst Mayr, ein ehemals an der Harvard-Universität tätiger Evolutionsbiologe mit international anerkannter Autorität, hielt fest: »Die Biologie ist keine zweite Physik.«185
Was Lebewesen von nicht lebenden Dingen unterscheidet, ist, wie ich es sehe und im zweiten Kapitel bereits ausgeführt habe, ein intrinsisches Welt-Interesse.186 Lebewesen trachten danach, mit ihrer Umgebung in eine Beziehung zu kommen. Bereits einsträngige Erbmoleküle suchen nach der Möglichkeit, einen komplementären zweiten Strang entstehen zu lassen. Einzeller gehen über ihre Rezeptoren in Beziehung mit ihrer Umwelt.187 Pflanzen und Tiere zeigen ein unbestreitbares Welt-Interesse. Welt-Interesse und Bewusstsein sind nicht identisch.188 Intrinsisches Welt-Interesse ist eine notwendige, aber keine hinreiche Voraussetzung für Bewusstsein. Computer haben kein intrinsisches Welt-Interesse.
Dass David Chalmers, wie es auch etliche seiner transhumanistischen Kollegen tun, einerseits das menschliche Gehirn als eine algorithmisch arbeitende Maschine betrachtet und dem Menschen den freien Willen abspricht, andererseits simulierten Gehirnen beziehungsweise Künstlichen Intelligenzen eine Bewusstseinsfähigkeit zuspricht, entbehrt nicht einer gewissen Ironie. Die Algorithmen, nach denen es funktioniere, seien dem Gehirn durch seine biologische, neuronale Konstruktion vorgegeben. Da auch der menschliche Geist (Englisch: »Mind«) aus diesen Algorithmen bestehe, lasse er sich, wie schon erwähnt, auf einen mit Künstlichen Neuronalen Netzen ausgestatteten Computer übertragen oder hochladen (englisch: »Mind Uploading«). Eine weitere von David Chalmers vertretene Annahme betrifft die Möglichkeit, auch ohne Uploading das menschliche Gehirn – wie den Körper als Ganzes – digital simulieren zu können. Die Reduzierung biologischer Systeme auf die Funktionsweise von Maschinen bei gleichzeitiger Mystifizierung von Maschinen als prinzipiell bewusstseinsfähige Subjekte ist beides: ein Frontalangriff auf die Realität und auf die Humanität. Bevor wir einen Blick auf einige Funktionsmerkmale der echten neuronalen Netze unseres Gehirns und danach auf die Künstlichen Neuronalen Netze werfen, betrachten wir die Situation des Kindes am Beginn des Lebens.
Neugeborene haben ein intrinsisches Welt-Interesse und ohne Frage ein Bewusstsein,189 sie erleben die Welt. Sie besitzen aber so gut wie kein explizites Wissen und nur wenig Intelligenz. Das Beispiel des Neugeborenen macht deutlich, dass Wissen, Intelligenz und die Fähigkeit, Rechenoperationen durchzuführen, weder notwendige noch hinreichende Bedingungen für Bewusstsein sind. Wenn man die Entwicklung von Säuglingen entlang der ersten beiden Lebensjahre aus der Nähe verfolgt, erkennt man die Bedeutung sozialer Erfahrungen, insbesondere von zweiseitigen Spiegelungs- und Resonanzerfahrungen für das Entstehen des kindlichen »Selbst«.190 Das Selbst ist nicht identisch mit dem Bewusstsein, es wird als Selbst-Bewusstsein aber zu einer Instanz, die kommunizieren kann, was im Bewusstsein vor sich geht. Ein weiterer Aspekt des Bewusstseins, den uns Säuglinge offenbaren, ist die Bedeutung des Körpers. Wenn das Erleben ein zentrales Kriterium des Bewusstseins ist, dann zeigt der Säugling, dass dieses Erleben den Körper zum Subjekt hat. Später, wenn sich ein »Selbst« gebildet hat,191 wird der Körper die Funktion des Erlebens mit dem Selbst teilen. Die Bedeutung des Körpers betrifft auch die Entwicklung der Kognition, die ihrerseits ein Aspekt von Intelligenz ist. Auch sie hat, wie ich im zweiten Kapitel dargestellt habe, ihren Ursprung im Körper, was das Konzept der »Grounded Cognition« beziehungsweise »Embodied Cognition« entstehen ließ.192 Computer haben keinen Körper.
Über die biologische Basis menschlichen Bewusstseins
Bereits der Name macht deutlich, dass »Künstliche Neuronale Netze« auf die »echten« neuronalen Netze des Gehirns Bezug nehmen. Letztere haben ihren Sitz in der Gehirnrinde, die nach übereinstimmender Überzeugung aller Neurowissenschaftler:innen die neuronale Basis des Bewusstseins ist. Um die Hirnrinde in Funktion zu halten, bedarf es einer ganzen Reihe von darunterliegenden, sogenannten subkortikalen Gehirnstrukturen. Von besonderer Bedeutung ist ein vom Hirnstamm nach oben ziehendes Wachmacher-System, ohne das es zwar kein Bewusstsein gäbe, das selbst aber kein Bewusstsein herstellen kann.193 Die Hirnrinde besteht aus sechs übereinanderliegenden Schichten von Nervenzellen, nicht unähnlich einer sehr flachen Torte mit einer Höhe von »nur« 3 Millimetern. Diese 3 mm haben es aber in sich. Die Nervenzellen einer jeden Schicht sind sowohl innerhalb der eigenen Schicht als auch zu den Nachbarschichten verbunden. Jede Nervenzelle hat zahlreiche kurze, sich verzweigende Nervenfasern,194 auf deren Oberflächen die Ausläufer anderer Nervenzellen andocken. Hier werden Impulse von anderen Nervenzellen empfangen. Neben den zahlreichen kurzen gibt es eine lange Nervenfaser pro Zelle, die Impulse an andere Nervenzellen abgeben kann.195
Jede Nervenzelle hat auf ihrer Oberfläche rund 10.000 Synapsen, also Kontaktstellen zu anderen Nervenzellen. Jede Nervenzelle empfängt über diese Synapsen Erregungsimpulse (das wären sozusagen die »Inputs«), die sich in der Nervenzelle aufsummieren. Auch hemmende Inputs sind möglich. Oberhalb einer Gesamtsumme an empfangener Erregung kommt es über eine Synapse am Ende ihrer langen Faser zur Aussendung eines Erregungsimpulses (dies wäre der »Output«). Die Zelle gewichtet den Input, sie gleicht jeden Input mit den anderen Inputs und mit ihrem eigenen inneren Zustand ab, bevor sie einen Output veranlasst.
Würde ein klar definierter Input zu einem ebenso definierten Output der Nervenzelle führen, läge ein einfacher Algorithmus vor. Eine solche Situation findet sich jedoch nur bei reflexartigen Vorgängen, bei denen eine bestimmte Reizwahrnehmung eine sofortige Reaktion zur Folge hat. In allen übrigen Fällen nehmen die Nervenzellen der Hirnrinde sozusagen eine Abwägung vor. Das Bewusstsein hat seinen Ort im Zwischenraum zwischen eingehenden Reizen (die so beschaffen sind, dass sie nicht mit einer zwingenden Reaktion beantwortet werden müssen) und ausgehenden Reaktionen. Bewusstsein ist ein wacher Schwebezustand zwischen Wahrnehmung und der offengelassenen Möglichkeit zu reagieren. Entsprechend diesem Modell müssen Nervenzellen, welche die Grundlage des Bewusstseins bilden, zwischengeschaltet sein zwischen Nervenzellen, die Sinnesreize empfangen, und solchen, die Reaktionen auf den Weg bringen. Genau so verhält es sich.
Die Areale der Hirnrinde, welche die Reize eines Sinnesorgans registrieren und verarbeiten, sind über Fernverbindungen mit hierarchisch »höheren« kortikalen Arealen verbunden, welche die Wahrnehmungen integrieren und die den erwähnten »Zwischenraum« zwischen Wahrnehmung und Reaktion darstellen. Hier werden die Eindrücke aus den einzelnen Sinnen zu einem Gesamteindruck zusammengefasst und in Schwebe gehalten. Diese höheren Areale liegen in der sogenannten Scheitel-Schläfenregion196 im oberen Bereich der hinteren Gehirnhälfte. Sie sind nach Ansicht des kalifornischen Hirnforschers Christof Koch gute Kandidaten, das neuronale Korrelat für das Bewusstsein darzustellen.197
Eindrücke in der Schwebe halten zu können, ist eines von drei Kernmerkmalen des Bewusstseins. Ein mit den Augen gesehenes Bild in der Sehrinde des Hirnmantels (im visuellen Cortex) kurz abzubilden und dieses Bild im gleichen Moment wieder verschwinden zu lassen, würde diesen visuellen Eindruck nicht ins Bewusstsein heben.198 Auch die Weiterleitung von der Sehrinde an die »höheren« Zentren würde die Lage nicht verbessern, wenn der Eindruck dort, kaum eingetroffen, ebenfalls sofort wieder verschwinden würde. Tatsächlich scheint aber Folgendes zu passieren: Die neuronalen Impulse werden von der Sehrinde zu den »höheren« Zentren abgeschickt und lösen dort einen Rücklauf zum Absender (in diesem Beispiel also zur Sehrinde) aus. Die Erregung wandert zwischen dem spezialisierten Sinnesareal und den »höheren« Zentren also sozusagen hin und zurück.199 Das würde einem »In-der-Schwebe-Halten« entsprechen. Diese Fähigkeit zeigt sich bereits bei Säuglingen.200 Die ersten neuronalen Rückmeldeschleifen am Beginn des Lebens entwickeln sich aller Wahrscheinlichkeit nach zwischen der körperlichen Eigenwahrnehmung des Säuglings und den »höheren« kortikalen Zentren. Dieser Prozess beginnt mit einiger Sicherheit bereits beim Fötus, zum Beispiel beim intrauterinen Fingerlutschen oder beim Hören.
Das zweite Kernmerkmal des Bewusstseins betrifft die Integration. Die im Bewusstseinsstrom zusammenkommenden Wahrnehmungen betreffen nicht nur einen Sinn. Sie sind auch nicht auf die fünf Sinne reduziert. Zum Bewusstsein gehören, wie schon erwähnt, auch die Wahrnehmungen des eigenen Körpers, unter anderen die Atmung, der Herzschlag, die Spannung der Muskulatur und der psychische Stresslevel.201 Was wir Bewusstsein nennen, setzt also eine ganzheitliche Zusammenführung, eine Integration sämtlicher genannter Wahrnehmungen voraus. Der kalifornische Bewusstseinsforscher Christof Koch sieht den bereits erwähnten oberen Bereich der hinteren Gehirnhälfte, den parieto-temporalen Cortex, als Zone der neuronalen Integration.
Der Frankfurter Neurowissenschaftler Wolf Singer fand, dass die neuronale Integration nicht nur durch zusammenlaufende Nervenbahnen, sondern auch durch ein synchrones oszillatorisches Schwingen neuronaler Aktivität hergestellt werden kann. Er entdeckte ein im gleichen Rhythmus synchron ablaufendes Schwingen elektrischer Aktivität in voneinander entfernten Arealen der Hirnrinde.202 Demnach wäre nicht ein gemeinsamer Ort, sondern ein gemeinsames Aktivsein entlang der Zeit das integrierende Prinzip. Die Gruppe synchron oszillierender neuronaler Zentren ist kontinuierlich und zugleich im ständigen Wandel: Ständig scheiden einzelne aus, während neue dazukommen.203 Wolf Singers Beobachtung würde sehr elegant erklären, warum unser Bewusstsein einerseits kontinuierlich ist und seine Inhalte trotzdem wechseln können.
Ein drittes Kernmerkmal des Bewusstseins ist, worauf besonders Christof Koch hingewiesen hat, seine »auf sich selbst wirkende kausale Kraft«.204 Der Begriff der kausalen Kraft meint, dass Bewusstseinszustände tatsächliche Wirkungen auf die Realität desjenigen Systems haben können, welches der jeweilige Träger des Bewusstseins ist. Tatsächlich kann das Bewusstsein und der mit ihm korrelierende innere Funktionszustand des menschlichen Gehirns sowohl auf die Struktur des Gehirns als auch auf die des Körpers zurückwirken. Körper und Gehirn unterliegen, wie bereits im zweiten Kapitel ausgeführt, nicht nur »Bottom-up«-Prozessen von den Genen über Zellen und Organe bis zum Bewusstsein, sondern auch realen »Top-down«-Prozessen, die sich als Neuroplastizität oder als Psychosomatik zeigen.
Daraus, ob und wie wir unser Gehirn benutzen, ergeben sich Auswirkungen auf seine Struktur. Bewusstseinsvorgänge können sich aber auch auf die Physiologie des Körpers auswirken, zum Beispiel Entzündungsprozesse205 auslösen oder ein gesundes Herz schlagartig ruinieren.206 »Top-down«-Prozesse beginnen, genau betrachtet, nicht beim Bewusstsein, sondern bei den sozialen Beziehungen des Menschen (ebenso wie die »Bottom-up«-Prozesse nicht beim Bewusstsein enden, sondern sich in den sozialen Beziehungen weiter fortsetzen). Die Bedeutung der sozialen Dimension für das Bewusstsein und für die ihm zugrunde liegenden Strukturen wird neuerdings auch von »Hardcore«-Neurowissenschaftlern anerkannt.207
Wie funktionieren Künstliche Neuronale Netze? Und haben Künstliche Intelligenzen Bewusstsein?
Die »Nervenzellen« (»Neurone«)208 von Künstlichen Neuronalen Netzen sind mathematische Konstrukte. Es sind nicht etwa nachgebildete Miniatur-Nervenzellen, sondern in einem Computer gespeicherte Recheneinheiten oder »Rechenknoten«.209 Trotzdem hilft es, sich diese Rechenknoten wie Nervenzellen vorzustellen. Bei Künstlichen Neuronalen Netzen handelt es sich um übereinanderliegende Schichten dieser Rechenknoten. Jeder Rechenknoten (jedes »Neuron«) einer Schicht (eines »Layers«) ist in der Regel mit allen Rechenknoten der jeweils nachfolgenden Schicht verbunden.210 Die Stärke der durch diese Verbindungen hergestellten Schaltungen kann von den Konstrukteuren des KNN eingestellt (»gewichtet«) und bei Bedarf verändert werden. Die erste Schicht aus künstlichen Neuronen ist die Eingabeschicht. Die letzte ist die Ausgabeschicht, sie liefert das Ergebnis. Zwischen Ein- und Ausgabeschicht können Dutzende von verborgenen Rechenknoten-Schichten (englisch: »Hidden Layers«) liegen. Die Eingabeschicht erhält die Daten zugeführt, die zu verarbeiten sind, zum Beispiel Text- oder Bildmaterial.211 Der Computer speichert die inneren Strukturen des ihm zugeführten Datenmaterials und setzt die Komponenten dieses Materials in seinen verborgenen Schichten miteinander in Beziehung.212 Der Computer tut dies in einer von außen, auch für Experten im Detail nicht einsehbaren Art und Weise. Die Zwischenschichten (»Hidden Layers«) sind eine »Black Box«.213
Ein KNN ist also ein auf einem Computer eingerichtetes System von Rechenknoten. Es »weiß«, bevor ihm Daten zugeführt werden, gar nichts. Um Aufgaben erfüllen zu können, die man ihm abverlangen möchte, muss das KNN zunächst mit Daten »gefüttert« und dann »trainiert« werden: Dies erfolgt dadurch, dass der Computer eine ungeheure Menge jenes Materials zugeführt bekommt, zu dem er später Fragen beantworten oder Ergebnisse liefern soll. Das zur Fütterung vorgesehene Material muss digital aufbereitet sein. Im Falle von Text-Generatoren wie Chat-GPT wird das KNN mit Millionen von Texten »gefüttert« (das »Futter« stammt aus Internetseiten, aus Chats und Texten der sozialen Netzwerke, aus Texten von Wikipedia oder Google Scholar, aus Zeitungen, Büchern und weiteren Quellen214). Im Falle von Bildgeneratoren erfolgt die »Fütterung« mit Millionen von Bildern aus dem Internet. Dann wird »trainiert«: Das System erhält von seinen Trainern nun »Anfragen«. Die von der Ausgabeschicht ausgegebenen Ergebnisse werden mit den erwünschten (richtigen) Antworten verglichen.215 Im Verlauf des Trainings können die Stärken der Verbindungen (die Gewichtungen) innerhalb des KNN von den Trainern immer wieder leicht verändert werden, so lange, bis die Ergebnisse gut genug sind. Am Ende kann »von Hand« nachgebessert werden (zum Beispiel indem einzelne fehlerbehaftete oder unerwünschte Quellen oder Ergebnisse gezielt blockiert werden).216
Ein KNN ordnet die Daten, mit denen es gefüttert wurde, nach Gesichtspunkten, die mit den wechselseitigen Wahrscheinlichkeitszusammenhängen der Datenbestandteile zu tun haben. Ein KNN »weiß«, wie schon erwähnt wurde, gar nichts, es begreift nicht, was es tut. Es hat nicht den Hauch eines Bewusstseins.217 Dies erklärt, warum die Netzwerke auch nach einem aufwendigen Training immer wieder Ergebnisse auswerfen, die voll danebenliegen oder fantasiert sind. Da es sich ausschließlich an Wahrscheinlichkeitszusammenhängen orientiert, kann ein KNN kuriose Ergebnisse produzieren. Beim »Füttern« eines KNN mit Pferde- und anderen Tierbildern war übersehen worden, dass die Pferdebilder eine winzige Signatur eines Fotostudios trugen. Anstatt die Form des Pferdes hatte sich das KNN als wichtigstes Pferdemerkmal die Signatur des Fotostudios gewählt. Beim »Füttern« mit Bildern von Wölfen identifizierte das KNN den Schnee, der auf den meisten Wolfsbildern zu sehen war, als wichtigstes Wolfs-Merkmal. Umgekehrt können kleine Veränderungen an realen Objekten, die ein KNN aufgrund des Materials, mit dem es gefüttert wurde, erkennen soll, zu einer Nichterkennung eines solchen (gering veränderten) Objekts führen: Kleine Aufkleber auf Stoppschildern im Straßenverkehr hatten zur Folge, dass das in Kraftfahrzeugen eingebaute KNN das Schild nicht mehr erkannte. Fehler dieser Art haben in den USA zahlreiche Menschen, die in autonom fahrenden Fahrzeugen unterwegs waren, das Leben gekostet.
Bewusstlose Rechenmaschinen
Um ihnen ein Bewusstsein unterstellen zu können, lassen Künstliche Neuronale Netze alle Voraussetzungen vermissen. Abgesehen davon, dass KNN nicht leben, also kein intrinsisches Welt-Interesse zeigen, fehlen ihnen wesentliche Merkmale, welche menschliches Bewusstsein und seine neurobiologischen Grundlagen kennzeichnen. Künstlichen Neuronalen Netzen fehlt ein ganzheitliches Erleben. Die von ihnen aufgenommenen Texte oder Bilder sind, um dem KNN gefüttert werden zu können, bereits als digitales Datenmaterial vorverarbeitet und werden nur als solches abspeichert. Ein KNN hält keine ganzheitlichen Erlebniseindrücke in der Schwebe, wie es das menschliche Bewusstsein tut. Was ein KNN präsent oder in der Schwebe hält, sind die in Rechenoperationen verwandelten Einzelteile der Daten, mit denen es gefüttert wurde, und die Wahrscheinlichkeiten, mit denen diese Einzelteile miteinander verbunden sind.
Zu den weiteren Merkmalen, die Künstliche Neuronale Netze von menschlichem Bewusstsein unterscheiden, gehört auch die fehlende kausale Kraft. KNN sind keine auf sich selbst zurückwirkenden Subjekte. Aus der Art, wie sie ihre Funktionen ausüben, ergeben sich, anders als beim Menschen, keine intrinsischen Rückwirkungen auf ihr materielles Substrat. KNN sind körperlos. Weil ihnen ein Körper fehlt, haben sie keine Gefühle. Sie können Sehnsüchte, Liebesgefühle, Glück, Traurigkeit, Einsamkeit, Schmerz, Hunger, Stress und Wohlbehagen und die damit verbundenen körpersprachlichen Zeichen simulieren. Sie können die damit verbundenen Bewusstseinszustände aber nicht realisieren.
Ein Computer, der mitteilt, er sei traurig, vergießt keine Tränen, ebenso wenig wie er nass werden würde, wenn er auf einem Bildschirm einen Regenguss simuliert. KNN können Körperfunktionen wie Erregung oder sexuelle Begegnungen simulieren. Dass diesen Simulationen jegliche kausale Kraft fehlt, wird spätestens daran deutlich, dass sie kein Kind zeugen können. Wenn der bei Google entwickelte, mit KNN arbeitende Sprachcomputer LaMDA gesagt haben soll »Ich meditiere und fühle mich dabei entspannt«218, dann stellt sich die Frage, was der Computer entspannt haben will angesichts der Tatsache, dass ihm entspannungsfähige körperliche oder digitale Strukturen völlig fehlen. Was würde es bedeuten, wenn ein KNN von sich geben würde, es fühle sein Herz pochen, wenn es seinem Gegenüber begegne?
Können KNN und KI unser Bewusstsein verändern?
Komplikationen für Gesellschaften und für einzelne Menschen ergeben sich nicht etwa daraus, dass KIs Bewusstsein hätten, sondern dass Computer simulieren können, sie hätten ein Bewusstsein. Ihre Fähigkeit, scheinbar sinnvoll zu sprechen und, falls es sich um Roboter handelt, die Mimik und Körpersprache des Menschen zu imitieren, macht sie für ein menschliches Gegenüber so gut wie ununterscheidbar von einem realen, fühlenden und bewussten Wesen. Dass Computer den sogenannten Turing-Test bestehen, also durch ein menschliches Gegenüber nicht mehr als Computer erkannt werden können, verleiht ihnen aber kein Bewusstsein.
Wenn Computer oder Roboter mit Programmen ausgestattet sind, die sie eine affektiv scheinbar einfühlsame Sprache sprechen lassen219 und den Eindruck hervorrufen, sie könnten zu ihrem menschlichen Gegenüber in Resonanz gehen,220 dann sind emotional ausgehungerte Menschen, die sich nach einem liebenden Gegenüber sehnen, verloren. Sie werden in Liebe verfallen und dafür kämpfen, dass der geliebten Pseudo-Person kein Leid angetan wird, so wie im Falle von Blake Lemoine. Menschen, die sich ständig mit digitalen Produkten befassen, erleiden einen Mangel an analogen sozialen Kontakten. Dies begünstigt umgekehrt, dass sie ihr Heil in digitalen Welten suchen, wo sie den dort herumspukenden Suggestionen verfallen. Ein Teufelskreis.
Dass mit KNNs arbeitende, mit KI ausgestattete Computer mit den sprachlichen und visuellen Simulationen, die sie erzeugen können, bei Menschen starke reale Effekte auslösen können, zeigt, dass eine kausale Kraft wirksam ist. Der Irrtum, dem man hier leicht erliegt, ist die Annahme, die kausale Kraft stamme von den Computersystemen, welche mit ihren Konsumenten interagieren. Doch von wem geht die kausale Kraft aus, wenn Erwachsene bei einem Kinderfest für einige kleine Kinder ein Puppentheater aufbauen und die Kinder mit den auf der Puppenbühne auftauchenden Figuren beeindrucken und erschrecken? Von wem geht die kausale Kraft aus, wenn jemand mit einer E-Mail eine innige Beziehung abrupt beendet und damit den Adressaten oder die Adressatin in Traurigkeit versetzt? Die kausale Kraft geht weder von den Handpuppen noch von der E-Mail aus, sondern von den Theaterspielern und dem Schreiber der E-Mail. Digitale Produkte, soziale Medien, Videospiele, das Metaversum und generative KIs (wie Chat-GPT und andere) sind Teil eines hypnotischen Systems, das uns vergessen lässt, vielleicht vergessen lassen soll, von wem die massiven kausalen Kräfte tatsächlich ausgehen: von den Besitzern der Digitalkonzerne und der Schar der digitalen Kardinäle.
Die einzelnen Komplikationen, die sich aus dem Umgang mit Systemen ergeben können, die mit KI arbeiten, sind durchaus beachtlich:
Wo wir uns Sorgen machen sollten und wo nicht
Eine Sorge, die mit Blick auf unsere Bildungseinrichtungen über Chat-GPT geäußert wurde, wird von mir nicht geteilt, vor allem nicht aus den dafür vorgebrachten Gründen: dass Lernende ihre Lehrenden mit Arbeiten, die sie nicht selbst verfasst haben, täuschen könnten. Das konnten Lernende auch bisher schon. Allerdings möchte niemand von einem Piloten oder einer Pilotin geflogen, von einem Arzt oder einer Ärztin behandelt oder von einem Handwerker oder einer Handwerkerin bedient werden, der oder die sich seine oder ihre Qualifikationen durch die Abgabe von Prüfungsarbeiten erschlichen hat, die von einem Chatbot geschrieben wurden.
Schulen, Ausbildungsstätten und Universitäten werden künftig den analogen präsenzpflichtigen Unterricht und das mündliche Prüfungswesen wieder stärker in den Vordergrund stellen müssen. Wenn Lehrende und Lernende wieder mehr persönlich miteinander zu tun haben, ist dies ein Realitäts- und Menschlichkeitsgewinn. Wo schriftlich geprüft werden muss, müssen die Arbeiten unter Aufsicht und unter Ausschluss digitaler Endgeräte beziehungsweise unter beaufsichtigtem Ausschluss des Internets geschrieben werden. Worüber wir uns klar werden und mit jungen Menschen sprechen sollten, ist die Gefahr, dass Systeme wie Chat-GPT uns so lange beim Denken helfen, bis wir selbst nicht mehr denken können.
Wirklich große Gefahren von generativen KI-Systemen liegen im Bereich ihrer Anwendung im Militär, bei Polizei und Justiz, im Finanzwesen, bei der öffentlichen Verwaltung und in der Medizin. Im militärischen Bereich besteht die hochakute Gefahr, dass autonom arbeitende KI-Systeme schweren Fehleinschätzungen unterliegen (wie es bei autonom fahrenden Fahrzeugen laufend geschieht) und Kriege auslösen oder eskalieren lassen. Bei Polizei und Justiz besteht die Gefahr, dass Einzelpersonen ins Wahrscheinlichkeitsraster verdächtiger Gruppen geraten und Nachteilen ausgesetzt werden. Im Finanzwesen ist zu befürchten, dass Menschen aufgrund von statistischen Kriterien in Gruppen subsumiert werden, die von Krediten und oder Versicherungen ausgeschlossen werden. In der öffentlichen Verwaltung können KI-Systeme, die beispielsweise über die Vergabe von Studienplätzen entscheiden, Ungerechtigkeiten verursachen.
In der Medizin werden KI-Systeme zu einer Schematisierung und Ent-Individualisierung von Therapien führen, außerdem zu einem Rückgang der persönlichen Beziehung zwischen einerseits Patienten und Patientinnen und andrerseits Pflegekräften und ärztlichem Personal. Menschen sind keine Computer, sondern soziale Wesen. Genesungsprozesse werden durch die Arzt-Patienten-Beziehung stark mitbeeinflusst. In allen genannten Bereichen ergeben sich Probleme vor allem dadurch, dass einzelne Individuen von KI-Systemen bestimmten Gruppen zugeordnet werden und Entscheidungen vor allem die Gruppenzugehörigkeit und nicht mehr den Einzelfall zur Grundlage haben.
Die Realität: Ein kostbares Gut, das keinen leichtfertigen Umgang verträgt
Die Realität ist ein nicht beliebig belastbares, durchaus zerbrechliches Konstrukt. Das kann jeder nachvollziehen, der miterlebt hat, wie ein anderer Mensch aus ihr herausgefallen ist, sei es durch eine Psychose, durch Drogen oder durch eine Demenz. Zur Realität wird die Wirklichkeit vor allem dadurch, dass meine Wahrnehmung mit der anderer übereinstimmt, dass sie also zur gemeinsamen, sozial geteilten Wirklichkeit wird.224 Nur wenn über wesentliche Tatsachen Einvernehmen herrscht, macht ein Gespräch Sinn. Meinungsunterschiede sind dann kein Problem. Behaupten andere aber konsistent das Gegenteil von dem, was ein Mensch bei bestem Wissen und Gewissen klar als real zu erkennen meint, dann bleibt diesem nur, entweder einzulenken und seine Wahrnehmung anzupassen225 oder sein Gegenüber für verrückt zu erklären oder selbst verrückt zu werden. Alle drei Varianten sind Teil unserer derzeitigen, vom Realitätsverlust gekennzeichneten sozialen Realität.
Damit sie Realität sein kann, muss sie ein Mindestmaß an Konstanz haben, sie darf nicht ständig und ohne Begründung willkürlich verändert werden. Die Gewissheit einer gemeinsamen Realität ist nicht nur die Voraussetzung für die Anerkennung von Realität als solcher. Sie ist auch die Grundlage für tragfähige zwischenmenschliche Beziehungen. Und sie ist Grundlage der eigenen psychischen Gesundheit. Daher ist der zweifache Angriff auf die Realität, wie ihn David Chalmers vornimmt, auch so verhängnisvoll. Wenn wir einerseits unsere Realität als von höherer Stelle aus simuliert erklären, andererseits menschengemachte digitale Simulationen in den Rang einer ebenbürtigen Realität heben, dann überlassen wir die Definition von Realität denen, die das Geschäft der Simulation beherrschen.
Die digitalen Produkte unserer Zeit drohen zu einem hypnotischen System zu werden, das uns unmerklich in Besitz nimmt. Der Realitätsverlust findet auf breiter Front statt und zeigt sich an vielen Stellen unseres täglichen Lebens. Der bedeutsamste Garant von »Realität« für den Menschen ist der analoge andere Mensch, dem ich in die Augen schauen kann, während er mit mir spricht. Dass ein Großteil zwischenmenschlicher Kontakte nur noch unter Zwischenschaltung und Kontrolle von Digitalkonzernen stattfindet und dass analoge zwischenmenschliche Begegnungen und der Blick in die Augen eines anderen messbar drastisch abgenommen haben, ist Realitätsverlust. Dass immer mehr Menschen immer mehr Zeit in den virtuellen Räumen der sozialen Medien, der Videospiele und demnächst im Metaversum verbringen, ist Realitätsverlust. Dass wir unseren Körper nicht mehr benutzen, sondern ihn durch Avatare ersetzen lassen, dass bereits Grundschulkinder mit ihrem Körper nichts mehr anfangen und keine Purzelbäume mehr schlagen können, all das ist Realitätsverlust.
Der nach unseren Mitmenschen zweitwichtigste Garant von »Realität« ist die Natur. Dass die Propheten der aus dem Transhumanismus kommenden digitalen Mystik, die Produzenten von Science-Fiction-Filmen und von Videospielen die Erde als einen bereits an die Apokalypse preisgegebenen Planeten darstellen, ist Realitätsverlust. Dass wir die Realität – und mit ihr die Natur – vergessen sollen, ist nicht nur digitale Mystik, sondern Teil eines gigantischen Geschäftsmodells.
Es wird Zeit, die digitale Mystik zu entmystifizieren, aufzuwachen und den Marsch in die selbst verschuldete Unmündigkeit zu beenden.