Sokrates gegen Minsky – Können Künstliche Intelligenz und Roboter den Menschen ersetzen?

(Die aufwühlenden Gegenwartsprobleme sich selbst überlassend, wende ich mich wieder einer zeitlosen Frage zu, die immer schon im Zentrum meiner Aufmerksamkeit stand: dem Problem menschlicher Freiheit, aber so wie sich dieses uns in heutiger Form präsentiert. Marvin Minsky, der Prophet der Künstlichen Intelligenz, ist seit 2016 verstorben, aber das schließt ja nicht aus, dass er oben im Himmel Sokrates begegnet und ein heftiges Streitgespräch mit ihm führt)

Minsky

Wir leben in einer außerordentlichen Zeit, weil wir über den Menschen nicht mehr zu philosophieren brauchen, sprich zu phantasieren, um sein Wesen bis auf den Grund zu erkunden. Die exakten Wissenschaften geben uns zum ersten Mal die Mittel an die Hand, um mit Zahlen und unwiderleglichen Beweisen uns selbst sozusagen auf den Begriff zu bringen. Was die Naturwissenschaften seit dreihundert Jahren geleistet haben, nämlich dass sie die Natur für den Menschen erst berechenbar machten, damit wir sie anschließend beherrschen, das wird jetzt auch für den Menschen möglich. Ich sage es noch einmal: zum ersten Mal in der Geschichte.

Sokrates

Mit anderen Worten: ihr braucht uns nicht mehr. Wir sind Fantasten, die allerlei Fabeln und Mythen über den Menschen in Umlauf brachten. Jetzt aber kommt ihr mit euren Messgeräten, und am Ende werdet ihr eine Handvoll Gleichungen aufstellen, die euch erlauben, selbst noch die Gedanken eines Menschen für die nächsten vierzehn Tage vorauszusagen – so wie ihr jetzt schon das Wetter für zwei Wochen voraussagen könnt und die Bahn des Jupiter sogar für die nächsten Jahrtausende.

Minsky

So ist es, aber ich zögere keinesfalls, eure vergangenen Leistungen zu rühmen. Die Gespräche, die einer wie du damals im alten Athen mit gescheiten jungen Männern führtest, habe ich in meiner Jugend gern gelesen. So viel Poesie und Begeisterung, wirklich beeindruckend! Aber seien wir ehrlich, deine Aufteilung des Staates nach Lehr-, Wehr- und Nährstand blieb völlig folgenlos. Dein Schüler Plato blieb sein Leben lang ohne politischen Einfluss; in Syrakus dachte der dortige Diktator gar nicht daran, sein System zu übernehmen. Ihr Philosophen habt die Welt mit Erzählungen versorgt, aber eure praktische Wirkung war bis zum heutigen Tag gleich null, weil sie nicht auf strenger Wissenschaft beruht. Deshalb verschwindet ihr jetzt auch aus den Universitäten, während die Naturwissenschaften Hochkonjunktur genießen.

Sokrates

Also glaubst du, dass ihr schon bald Denken und Verhalten des Menschen so gut beschreiben könnt, dass ihr ein Gemeinwesen am Reißbrett planen könnt, damit alles so verlässlich und vorhersehbar verläuft wie in einem Termitenstaat? Ich fühle mich an Watson und Skinner, die Gründer des Behaviorismus, erinnert, die diese triste Utopie schon vor einem Jahrhundert verkündeten.

Minsky

Das ist nun aber eine boshafte Formulierung, weil du damit ja ausdrücken willst, dass Freiheit in einem solchen Staat nicht existiert. Aber Freiheit ist eine Illusion, die ihr nur als solche noch nicht begriffen habt. Solange der Mensch nach Gesetzen handelt, kann es keine Freiheit geben, handelt er aber nicht nach Gesetzen, dann folgt er dem Zufall – und dann ist er ebenso wenig frei. Die Rede vom Termitenstaat ist daher nichts anderes als irreführender Unsinn. Der Mensch ist niemals frei gewesen, auch wenn er sich einbildet es zu sein. Was wir, die Wissenschaftler vom Menschen, jetzt tun, ist nur, dass wir seine Unfreiheit am Beispiel der Künstlichen Intelligenz und des Roboters demonstrieren.

Sokrates

Ich gebe zu, da habt ihr schon sehr viel Großartiges geleistet.

I Der künstliche Mensch beweist, dass wir auf dem besten Wege sind, den natürlichen völlig zu enträtseln

Minsky

Nicht wahr? Das verdient wirklich große Bewunderung. Unsere praktischen Erfolge liefern nicht weniger als den Beweis, dass wir im Begriff sind, den Menschen vollständig zu entschlüsseln. Unsere größten Rechenmaschinen führen Aufgaben innerhalb von Sekunden aus, welche Menschen selbst in Jahrtausenden nicht zu lösen vermögen. Unsere Schachroboter, ausgerüstet mit künstlicher Intelligenz, schlagen inzwischen jeden menschlichen Spieler, unsere Roboterärzte liefern bessere Diagnosen als unsere universitätsgeprüften Doktoren, unsere KI bestückten künstlichen Rechtsanwälte verfügen über mehr Wissen und daher auch über mehr Kompetenz als jeder natürliche Jurist, unsere Leitsysteme in den Flugzeugen machen Piloten aus Fleisch und Blut heute schon überflüssig – und reduzieren die Unfallhäufigkeit auf jenes Minimum, dass allenfalls noch durch schadhafte Technik verursacht wird (wie beim Menschen z.B. durch Herzversagen). Die von Künstlicher Intelligenz gesteuerten Autos werden schon bald fließenden Verkehr ermöglichen, der noch dazu nahezu unfallfrei sein wird.

Sokrates

Wenn ich dich recht verstehe, ist es euer Ziel, den fehlbaren, vergleichsweise unendlich langsam reagierenden, in seinem Wissen beschränkten Menschen durch sein vollkommenes Gegenstück zu ersetzen, nämlich durch ein künstliches Gehirn in einem künstlichen Roboter, der ihm in jeder Hinsicht weit überlegen ist.

Minsky

Ja, und auf diesem Weg sind wir schon so weit vorangeschritten, dass die meisten heute noch existierenden Berufe in einigen Jahren nicht mehr benötigt werden. Piloten sind jetzt schon ein entbehrlicher Luxus, Lastwagen-, Bus- und Taxifahrer werden es morgen sein. In der Diagnostik sind auch die Ärzte schon weitgehend überflüssig, nur in der Therapie spielen sie noch eine gewisse Rolle, aber Roboter werden auch hier schon bald die besseren Chirurgen sein. Dolmetscher werden kaum mehr gebraucht, da Übersetzungsmaschinen inzwischen hervorragende Arbeit leisten. Hier sehe ich bei allem Fortschritt, auf den wir sehr stolz sein können, ein gewisses Problem.

Sokrates

Ich pflichte dir bei, dass darin vielleicht sogar ein gewaltiges Problem liegen wird. Aber viel interessanter erscheint es mir, der grundsätzlichen Frage nachzugehen, ob euer Optimismus berechtigt ist, dass ihr den Menschen bald vollständig entschlüsseln und durch einen künstlichen Supermenschen ersetzen werdet.

Darüber möchte ich mit dir reden, weil ich diese These nicht nur für übertrieben halte, so als bräuchtet ihr einfach etwas mehr Zeit für die weitere Forschung. Nein, ich halte sie für grundsätzlich und für nachweisbar falsch. Mehr noch, ich halte sie für eine große und noch dazu gefährliche Illusion – trotz aller unbestreitbaren praktischen Erfolge, die ihr aufgrund dieser Arbeitshypothese bis heute errungen habt und zweifellos noch erringen werdet.

Minsky

Aha, da spricht der Philosoph, der seine Spekulation unserem Wissen entgegenhält. Auf Spekulationen lasse ich mich aber nicht ein. Faktum ist, dass wir unserem Ziel, den natürlichen durch den künstlichen Menschen zu ersetzen, jetzt schon ganz nahe sind. Wir wissen nur noch nicht ganz genau, auf welchem von zwei Wegen wir es am schnellsten erreichen. Die einen setzen darauf, die elementaren Regeln der Logik zur Grundlage der Künstlichen Intelligenz zu machen, also von wenigen Grundbeziehungen auszugehen, um diese immer mehr zu verfeinern, bis wir alle Operationen des menschlichen Gehirns auf diese Art nicht nur vollziehen, sondern sie auch viel schneller und umfassender ausführen können (logic-based symbolic processing).

Andere wollen eher pragmatisch vorgehen, indem sie alle möglichen praktisch erprobten Problemlösungsverfahren miteinander vereinen (deep learning). Aber das Ziel bleibt letztlich doch immer dasselbe. Am Ende haben wir einen Supermenschen geschaffen, der nicht nur alles ebenso kann, was jeder beliebig gewählte Mensch aus einer Weltbevölkerung von 10 Milliarden vermag, sondern noch sehr viel größere Fähigkeiten besitzt, da sein Wissen und seine Reaktionsfähigkeit einer nahezu grenzenlosen Steigerung fähig sind.

Sokrates

Was dieser Mensch kann, werdet ihr dann also genau vorhersagen können?

Minsky

Selbstverständlich. Darin liegt ja der Zweck unserer Forschungen. Da wir diesen Supermenschen selbst erschaffen haben, sind wir natürlich auch in der Lage, seine möglichen Denkvorgänge und seine überhaupt möglichen Handlungen vorauszusagen. Du wirst zugeben, dass dies ein Durchbruch von historischen Ausmaßen ist. Wir haben zwar bisher die unbelebte Natur beherrscht, aber der Mensch schien sich unseren Anstrengungen zu entziehen. Er blieb für uns unberechenbar. Anders der Supermensch, den wir mit Künstlicher Intelligenz ausrüsten. Er ist für uns völlig berechenbar, da wir ihn selbst programmieren. Weil sein Gehirn das des natürlichen Menschen noch übertrifft, werden wir auf diesem Umweg dann auch den natürlichen Menschen entschlüsseln. Es ist wahr: Behavioristen wie Watson und Skinner hatten die Richtung schon aufgezeigt. Wir aber verfügen nun auch über die technischen Mittel, um den völlig berechen- und programmierbaren Menschen tatsächlich zu erschaffen.

Sokrates

Dann wäre es also in Zukunft ein Leichtes, mein und dein Denken vorherzusagen? Ich verstehe, wenn schon der Supermensch berechenbar ist, dann gilt das natürlich umso mehr für uns beide, die wir im Vergleich nur recht bescheidene Hirnstrukturen aufweisen.

Minsky

So ist es! Wir müssen uns endlich von der absurden Annahme befreien, dass zwar die ganze äußere Natur berechen- und weitgehend auch beherrschbar ist, aber dass wir selbst gleichsam außerhalb der Natur stehen, und, wie man früher glaubte, deshalb prinzipiell unberechenbar seien. Das ist nichts als ein dummes, unwissenschaftliches Vorurteil. Wir Menschen sind doch genauso Natur und daher ihren Gesetzen auch genauso ausgeliefert. Wenn wir die Abläufe der Natur vorhersagen können, dann muss das ebenso im Hinblick auf die Abläufe in unserem Gehirn möglich sein. Es ist nur eine Frage der Zeit, bis wir wissen, was in meinem oder deinem Hirn morgen oder in einer Woche geschieht und was wir beide in Zukunft tun oder lassen werden. 

Sokrates

Und ich bestehe nochmals darauf, dass ein kritischer Wissenschaftler die These von der vollständigen Berechenbarkeit von Mensch und Natur grundsätzlich ablehnen muss, wenn er seriöser Wissenschaftler bleiben will. Oder anders gesagt, dass er keiner mehr ist, wenn er eine solche These vertritt.

II Ein Roboter kann keine Experimente anstellen

Minsky

Philosophen sind immer für Überraschungen gut. Diese wunderliche Behaup­tung bedarf der Erklärung.

Sokrates

Das ist weniger schwer, als du vielleicht glaubst. Die empirischen Wissenschaften stellen bekanntlich Experimente an, um ihre theoretischen Aussagen über die Wirklichkeit praktisch zu überprüfen. Ich frage dich: gehen sie dabei nicht von der ihnen als selbstverständlich erscheinenden Voraussetzung aus, dass sich Experimente zu beliebiger Zeit, an beliebigem Ort, in beliebiger Größe und Komplexität durchführen lassen? Mit anderen Worten, setzen sie dabei nicht voraus, dass sie kraft ihres Wollens reale Vorgänge jederzeit willkürlich herbeiführen können?

Minsky

Das ist richtig, darin besteht ja ein Experiment.

Sokrates

Wenn es aber das Wollen eines Menschen ist, dass ein Experiment stattfindet, dann ist dessen Eintreten in diesem Moment und an diesem bestimmten Ort (z. B. in einem Labor) doch nicht durch die Geschichte des Universums oder dessen Gesamtzustand determiniert? Wir müssen vielmehr behaupten, dass es im Hinblick auf diesen ganz zufällig ist, da es sein Zustandekommen ja allein dem Wollen eines bestimmten Wissenschaftlers verdankt?

Minsky

Das wird man wohl sagen müssen.

Sokrates

Gut, dass wir da einer Meinung sind, denn von Laplace bis zu Bertrand Russell wurde in der gesamten Geschichte der Neuzeit eine ganz andere Auffassung vertreten. In klassischer Form hat der französische Mathematiker Laplace diese gegenüber Napoleon vertreten: „Eine Intelligenz, die in einem bestimmten Moment alle Kräfte erfasste, welche die Natur beherrschen, und darüber hinaus die respektive Lage der Elemente, aus denen sie besteht, würde – vorausgesetzt, dass sie groß genug wäre, um alle diese Daten der Analyse zu unterwerfen – in einer einzigen Formel die Bewegungen der größten Körper des Universums und die der kleinsten Atome gleichermaßen erfassen: nichts wäre ungewiss für sie. Zukunft und Vergangenheit würden ihr deutlich vor Augen stehen.“

Du siehst, dass es nach dieser Auffassung keine Ereignisse geben kann, die nicht aus der Geschichte und dem Gesamtzustand des Universums ableitbar wären. Eine vollkommende Intelligenz soll sogar imstande sein, aus dessen heutigem Zustand die ganze Zukunft zu erschließen. Wenn du meinst, dass die Forschung an Robotern mit künstlicher Intelligenz uns bald erlauben wird, auch menschliche Gedanken und Handlungen vorauszusagen, dann folgst du dieser These.

Minsky

Warte einen Augenblick, das musst du noch etwas konkreter begründen.

III Ein unauflösbarer logischer Widerspruch!

Sokrates

Ja, gewiss, deine Schöne Neue Welt sollten wir wirklich etwas näher beschreiben. Ich weiß, wir sitzen jetzt schon in Flugzeugen, die automatisch gesteuert werden und morgen werden wir in Autos sitzen, die ihr Ziel selbständig ansteuern, aber immerhin bleibt uns noch die Wahl, das Auto an selbstbestimmte Ziele zu dirigieren, z.B. nach Bonn oder Rom. Dein künstlicher Supermensch aber hat diese Wahl nicht mehr, denn ihr wollt sein Verhalten ja genauso voraussagen wie eine Mondfinsternis. Mit Laplace glaubt auch ihr zu wissen, dass er im Grunde so wenig frei ist wie der Mond und die unbelebte Natur. Das heißt aber doch, dass die Wissenschaft von morgen, nicht nur die Gesetze zu kennen beansprucht, nach denen unsere Flugzeuge und Autos funktionieren, sondern ebenso die Gesetze, welche die Hirne der sie benutzenden Menschen lenken. Wie für den Rest der Natur glaubt sie voraussagen zu können, wie sie in Zukunft denken und welche Befehle sie dem Körper erteilen werden.

Und deshalb stürzt ihr auf einmal in eine logische Falle – ich meine in einen unaufhebbaren Widerspruch.

Minsky

Aha? Und wo glaubst du denn den zu finden?

Sokrates

Im Wissenschaftler selbst, der zugleich zum Subjekt und zum Objekt der Voraussage wird. Er soll dann nämlich voraussehen können, was er selbst in Zukunft denken wird. Bei eurem Schachspieler, bei euren Roboterärzten, bei euren mit Künstlicher Intelligenz ausgestatteten Anwälten ist das jetzt schon möglich, denn ihr habt sie ja programmiert. Ihr wisst daher genau über die möglichen Alternativen ihres Verhaltens Bescheid und könnt vorhersagen, wie sie unter gegebenen Bedingungen reagieren, wie sie reagieren müssen. Aber da ihr behauptet, dass diese künstlichen Wesen die Essenz des Menschen sozusagen auf vollkommene Weise verkörpern, gilt das natürlich doppelt für uns, die weit unvollkommeneren natürlichen Menschen. Euer Forscher behauptet also, dass er irgendwann an den Punkt gelangt, wo er mit Laplace’scher Intelligenz nicht nur sein späteres Verhalten, sondern sogar noch alle seine künftigen Forschungsergebnisse voraussagen kann.

Minsky

Das ist schon richtig, aber es wird natürlich noch Jahre, vielleicht Jahrzehnte dauern, bis die Forschung tatsächlich dahin gelangt. Deswegen macht es doch wenig Sinn, jetzt schon darüber zu sprechen.

Sokrates

Nein, im Gegenteil, es macht sogar den größten Sinn anzunehmen, dass euer Ziel bereits erreicht worden ist, denn nur dann können wir darüber reden, welche Folgen sich daraus zwangsläufig ergeben – ich meine den logischen Selbstwiderspruch.

Minsky

Ich weiß schon, was du sagen willst. Wenn ich genau voraussagen könnte, was ich morgen und in aller Zukunft tun werde, dann werde ich das sicher auf keinen Fall mehr tun wollen, weil ja aller Reiz der Neuheit verloren ist. Denn ich würde ja auch meine Gefühle und Empfindungen im Voraus kennen. Mein künftiges Leben wäre ganz und gar überflüssig – ich wäre nur noch eine willenlose Maschine ohne eigenen Antrieb. 

Aber du begehst einen Denkfehler. Wir können die deterministische Ansicht eines Laplace nicht deswegen beiseiteschieben, weil sie uns so wenig gefällt.

Sokrates

Nein, wir müssen sie deswegen zurückweisen, weil sie erkennbar falsch ist. Die Freiheit von Mensch und Natur wird durch das wissenschaftliche Experiment erwiesen, denn dieses bettet ein vom Menschen geplantes Ereignis in die bestehende Wirklichkeit ein, ohne dass es sich aus dieser ableiten ließe oder gar von dieser determiniert worden ist. Seine Existenz beruht allein auf einem Akt des menschlichen Wollens, ohne diesen gäbe es das Ereignis nicht – nicht an diesem bestimmten Ort, zu dieser bestimmten Zeit mit diesen bestimmten Charakteristiken. Die Rakete fliegt nach Gesetzen, die wir der Natur abgelauscht haben zum Mond, aber dass es am Montag, den 23. Juni dazu kommt, gehorcht keinem Naturgesetz, sondern wird vom Direktor der NASA oder einer anderen Behörde verordnet.

Minsky

Ich gebe zu, dass Experimente eine offene Wirklichkeit zur Voraussetzung haben, eine Wirklichkeit, in die menschliches Wollen souverän einzugreifen vermag. Aber die Evolution der Natur findet doch völlig unabhängig von unserem Wollen statt. Da nützt es uns doch gar nichts, menschenerdachte Experimente zu ihrer Erklärung heranzuziehen.

Sokrates

Einspruch! Es nützt uns sogar sehr viel, um nämlich darauf aufmerksam zu machen, dass wir die Wirklichkeit niemals vollständig erklären, wenn wir nur Gesetze und deren deterministische Wirkung Gesetze vor Augen haben.

Schau bitte her: dieselbe Unableitbarkeit, wie wir sie eben für das Experiment festgestellt haben, begegnet uns in der Evolution der Natur. Aus der Kenntnis des Urplasmas nach dem Anfangszustand des Universums lassen sich die 83 primordialen Elemente nicht ableiten, sie gehorchen nur den Anfangsbedin­gungen. Aus den Elementen lassen sich nicht die Moleküle ableiten, sie sind nur den bis dahin geltenden Gesetzen unterworfen. Aus den Molekülen der anorganischen Natur können wir die organischen Stoffe und das Leben nicht ableiten, obwohl beide den Gesetzen von Physik und Chemie unterworfen bleiben. Aus der Biologie können wir nicht den Geist errechnen, obwohl dieser sich nicht über die Gesetze des biologischen Lebens hinwegsetzen kann.

Lass es mich bildhaft so ausdrücken: ein kosmischer Experimentator könnte all dies erdacht haben, ebenso wie ein irdischer Wissenschaftler ein Experiment erdenkt. Beide sind bei der Kreation neuer Wirklichkeiten durch die Gesetze der vorhandenen eingeschränkt, und doch schaffen sie zu einer bestimmten Zeit an einem bestimmten Ort etwas Neues, das sich aus dem Vorhandenen nicht herleiten lässt.

Was ich damit noch einmal bekräftigen will? Die Vorstellung eines Laplace und all seiner Nachfolger bis hin zu Bertrand Russell müssen wir mit aller Entschiedenheit als falsch zurückzuweisen. Wir leben in einer offenen Welt, wo ständig neue Wirklichkeiten entstehen, die sich aus den Gesetzen der ihnen voraufgehenden nicht erschließen lassen, obwohl sie auf ihnen aufruhen und sie voraussetzen.

IV Euer künstlicher Supermensch kann nicht agieren, er kann nur re-agieren

Minsky

Interessant, überraschend und für mich auf den ersten Blick auch überlegenswert, obwohl du damit einer dreihundertjährigen Tradition widersprichst, die allerdings, wie du natürlich weißt, durch die Erkenntnisse der Quantenphysik inzwischen relativiert worden ist. Dort werden der Zufall und das unableitbar Neue ja sehr wohl akzeptiert. Aber das möchte ich nur nebenbei bemerken. Wichtiger scheint mir, dass du dich jetzt endlich wieder unserem Thema zuwendest. Was haben Experiment und das Neue in der Natur mit der Künstlichen Intelligenz und Robotern zu tun?

Sokrates

Du fragst? Aber der Zusammenhang liegt doch klar zutage! Hast du nicht vorher darauf bestanden, dass der Mensch ein Teil der Natur sei? Darin gebe ich dir natürlich recht. Dann muss aber, was für Letztere gilt, auch auf den Menschen zutreffen. Wenn also neue Wirklichkeit jederzeit innerhalb der bestehenden durch das Experiment oder überhaupt jede Art von menschlicher Handlung hervorgebracht werden kann, dann muss es solche Inseln des Neuen ebenso auch im menschlichen Denken geben. Wir müssen davon ausgehen, dass uns beständig Gedanken einfallen (und zu Handlungen führen), die wir nicht aus der Vergangenheit unseres Denkens oder aus dessen Gesamtzustand ableiten können. Anders gesagt, werden wir aus diesem Grund auch nie fähig sein, zukünftiges Denken aus dessen Jetztzustand abzuleiten.

Minsky

Na schön, aber einmal angenommen, du hättest mit dieser Aussage recht, dann sehe ich trotzdem nicht, welche Bedeutung dies für den künstlichen Menschen hat. Um es einmal rundheraus zu sagen: ich verstehe überhaupt nicht, wie du an unserem großen Projekt herummäkeln kannst, dem Projekt, endlich den vollkommenen Menschen zu erschaffen, den künstlichen Supermenschen, der alle Vorzüge des natürlichen besitzt, aber ohne an dessen Unzulänglichkeiten zu leiden. Was ist an diesem großartigen Projekt auszusetzen?

Sokrates

Ich protestiere nicht gegen dieses euer Ziel. Ich behaupte nur, dass ihr es niemals erreichen werdet, weil ihr es grundsätzlich nicht erreichen könnt. Der künstliche mit digitaler Intelligenz ausgerüstete Roboter, unterscheidet sich nämlich dadurch von seinem natürlichen Gegenbild, dass er immer nur reagieren kann.

Gewiss tut er das in vielen Bereichen unendlich viel besser als sein natürliches Vorbild. Aber seine Leistung ist auch prinzipiell genau darauf beschränkt. Der Schachroboter reagiert nach programmiertem Algorithmus auf den Zug eines Gegners, die Diagnoseroboter werten nach eingebautem Programm die Fotos des Radiologen aus. Der Flugpilot reagiert mit größter Verlässlichkeit auf die Gesamtheit von Situationen, mit denen er zuvor gefüttert wurde. Aber kein künstlicher Mensch schafft neue Wirklichkeiten – und das aus einem einfachen, logisch zwingenden Grund: Programmierer sind grundsätzlich nicht in der Lage, aus dem Alten das Neue, also aus dem ihnen Bekannten das ihnen Unbekannte abzuleiten. Der Mensch aber bringt genau das in einem fort zuwege: er erschafft das Neue. Denk nur daran, wie es ihm in den vergangenen zweihundert Jahren gelang, die natürliche und soziale Wirklichkeit radikal umzugestalten.

Minsky

Nein, ich kann keinesfalls zustimmen, dass die Künstliche Intelligenz das nicht ganz genauso vermag. Es gibt das Gesetz und es gibt den Zufall. Gesetze geben das Regelmaß vor, aber einen Zufallsgenerator kann man der künstlichen Intelligenz sehr wohl einbauen. Dann reagiert der Roboter nicht nur auf äußere Reize und Bedingungen, sondern er betätigt sich wie der natürliche Mensch, indem er neue, unvorhersehbare Handlungen setzt. Ich behaupte also, dass wir den natürlichen Menschen auch in dieser Hinsicht imitieren und vermutlich sogar übertreffen können.

V Der Zufall ist koexistent mit den Gesetzen

Sokrates

Ja, damit kommen wir zu einem Schlüsselbegriff unserer gemeinsamen Untersuchung: dem Zufall.

Minsky

Richtig, und dieser Begriff befreit uns auch von der Freiheit, die objektiv gesehen ein Nichts ist, da sie allein auf subjektiver Täuschung beruht. Ich sagte schon: solange der Mensch nach Gesetzen handelt, kann er nicht frei sein, handelt er aber nicht nach Gesetzen, dann folgt er dem Zufall – dann ist er natürlich ebenso wenig frei. Ich sagte schon, wir Wissenschaftler vom Menschen tun nichts anderes, als dass wir die menschliche Unfreiheit am Beispiel der Künstlichen Intelligenz und des Roboters demonstrieren. Wir nehmen uns dazu den Zufall vor, den wir mit Hilfe des Zufallsgenerators künstlich erzeugen

Sokrates

Ich weiß, das glaubt ihr, aber in Wirklichkeit, seid ihr dazu gar nicht imstande.

Minsky

Wieso nicht? Willst du bestreiten, dass es Zufallsgeneratoren gibt?

Sokrates

Nein, das bestreite ich keineswegs, nur produzieren sie keinen Zufall. Zunächst einmal ist der Zufall, den sie erzeugen, von vornherein radikal eingeschränkt. Ein echter Zufall wäre es, wenn sich auf meinem Konto plötzlich eine Milliarde Dollar befänden oder mich ein Windstoß in die Hängematte in meinem Garten trüge. Aber davon ist beim Zufallsgenerator ja keine Rede. Er vermag nur Zahlenfolgen zu produzieren.

Minsky

Aber es genügt doch, dass diese völlig regellos sind.

Sokrates

Allerdings, das würde zu Demonstrationszwecken schon genügen, doch sind sie gerade nicht regellos, wenn Wissenschaftler sie systematisch hervorbringen wollen.

Minsky

Wieder so eine deiner Behauptungen.

Sokrates

Ich frage dich. Können wir mit Hilfe einer Regel etwas Regelloses erzeugen?

Minsky

Natürlich nicht.

Sokrates

Aber nichts anderes geschieht doch, wenn wir einen Generator planen, der den regellosen Zufall hervorbringen soll, denn alle Planung beruht auf Regeln.

Minsky

Nun schön, das sehe ich ein. Kein Algorithmus ist imstande, eine Folge hervorzubringen, die keinem Algorithmus gehorcht. Das ist elementare Logik. Aber du hast trotzdem eines vergessen. Wir können einen solchen Apparat zum Beispiel durchs Fenster schauen lassen, wenn sich dort der übliche Fußgängerverkehr ereignet. Lass einen Sensor die Größe jedes vorbeigehenden Passanten messen und diese mit der Sekundenzahl multiplizieren, die seit dem Erscheinen des letzten Fußgängers verging. Dann haben wir einen echten Zufall. Denn wir können uns kein Gesetz vorstellen, dass die Häufigkeit, die unterschiedliche Größe und die zeitliche Distanz zwischen den Fußgängern bestimmt.

Oder nimm einen anderen Fall. Wir kennen die Halbwertzeit, nach der nur noch die halbe Menge von strahlendem Radium vorhanden sein wird, aber den Zeitpunkt, wann ein einzelnes Alphateilchen ausgeschickt wird, kennen wir nicht. Der gehorcht dem Zufall. Wir könnten den Zufallsgenerator also auch mit diesen zufälligen Zeitpunkten füttern, um eine durch nichts zu berechnende Zahlenfolge hervorzubringen.

Sokrates

Sehr richtig, aber weißt du auch, was das heißt? Du sagt damit doch nichts anderes – und zwar zu Recht -, als dass der Mensch immer nur das Nicht-Zufällige, also irgendeine Regel hervorbringen kann. Um den Zufall zu imitieren, muss er ihn der Natur entnehmen.

VI Der Zufall bleibt für uns ein reines, undeutbares Geheimnis. Das gilt für den Zufall in der außermenschlichen Natur wie beim Menschen. Da fällt etwas zu, das wir nicht erklären können.

Minsky

Und was willst du damit so Großartiges sagen? Sind das nicht lauter Spitzfindigkeiten, die uns keinen Schritt weiterführen?

Sokrates

Im Gegenteil, das ist eine grundlegende Einsicht. Sie besagt nämlich, dass der Zufall für uns ein reines Geheimnis ist. Wir verstehen nur die Regel, wir erkennen nur das Gesetz, aber alles Regellose, alles Gesetzlose ist für uns Terra incognita.

Minsky

Richtig, und genau deswegen kümmert sich die Wissenschaft ja auch nicht weiter darum, sondern spricht vom „blinden, sinnlosen Zufall“, den sie ganz aus ihrem geistigen Horizont verdrängt.

Sokrates

Aber wie können wir etwas blind und sinnlos nennen, von dem wir prinzipiell nicht wissen, was es ist? Und wie wollt ihr etwas in die Künstliche Intelligenz und die Roboter einbauen, das sich unserem Verstehen entzieht? Und schließlich: wie wollt ihr das selbstgesteckte Ziel erreichen, menschliches Verhalten vorherzusagen, wenn sich der Zufall doch der Berechenbarkeit entzieht ?

Minsky

Da pflichte ich bei. Das ist natürlich nicht möglich.

Sokrates

Damit ist aber neuerlich betont, was ich von Anfang an sagen wollte. Der künstliche Mensch, also der KI-bestückte Roboter, kann prinzipiell nie deckungsgleich mit dem natürlichen sein, weil er im Unterschied zu diesem immer nach vorgegebenen Regeln verfährt. Wir können ihm keinen Algorithmus einbauen, der keinem Algorithmus gehorcht. Deswegen bleibt er immer ein Kunstprodukt, das zwar im Hinblick auf einzelne Fähigkeiten die Leistung natürlicher Menschen um Potenzen zu übertreffen vermag, aber ihm dennoch grundsätzlich unterlegen ist, denn weder der natürliche Mensch noch die Natur gehorchen ausschließlich Regeln (Gesetzen). Vielmehr beherrscht der Zufall sie mindestens in gleichem Maße – und zwar ein Zufall, der keineswegs blind und sinnlos ist.

Minsky

Das ist mir zu abstrakt. Ein Beispiel bitte!

Sokrates

Ein Beispiel habe ich vorher schon beschrieben. Die uns bekannten Naturgesetze bestimmen die Bahn, welche eine Rakete von der Erde zum Mars zurücklegen wird. Aber der genaue Zeitpunkt ihres Abschusses hängt vom Wollen eines Herrn Meyer ab, von den jeweils zur Verfügung stehenden finanziellen Mitteln, dem Stand der Technik und nicht zuletzt sogar von den Zufällen des Wetters an der Abschussrampe – und natürlich noch von tausend weiteren Bedingungen, die sich alle nicht im Voraus errechnen lassen. Zufall und Gesetz sind daher in gleichem Maße an diesem wie an jedem anderen Ereignis beteiligt. Jedes Gesetz gilt immer nur unter bestimmten Bedingungen.

Minsky

Aber das schließt doch nicht aus, dass wir im Laufe unserer Forschungen am Ende die ganze Wirklichkeit, einschließlich des darin agierenden Menschen in ihrer durchgehenden Gesetzmäßigkeit durchschauen!

Sokrates

Doch genau das ist damit ausgeschlossen, und zwar nicht aufgrund unzulänglichen menschlichen Wissens, sondern grundsätzlich. Wir stellten zuvor bereits fest, dass das Experiment als solches ein unberechenbarer Eingriff unseres Wollens in die Wirklichkeit ist. Damit aber gelangen wir zu dem Schluss, dass der Zufall nicht nur zufällig neben dem Gesetz besteht, sondern eine zweite Dimension der Wirklichkeit ist, und zwar eine notwendige. Wissenschaft setzt das Experiment und damit den willkürlichen Eingriff in eine dafür offene Wirklichkeit voraus. Wir können das Gesetz nicht ohne die Freiheit (den Zufall) und die Freiheit (den Zufall) nicht ohne das Gesetz konzipieren.

Minsky

Quod erat demonstrandum! Bravo! Jetzt würde ich aber gerne einmal das erstaunliche Experiment vor mir sehen, mit dem du mir diese These beweist. Denn sonst bleibt das alles doch nur Theorie – um nicht das Wort Spekulation zu verwenden. Und außerdem gefällt es mir nicht, dass jetzt auf einmal Freiheit und Zufall austauschbar nebeneinanderstehen, als wären sie ein und dasselbe.

Sokrates

Was den ersten Punkt betrifft, muss ich dich zunächst einmal enttäuschen. Ein solches Experiment kann es nicht geben. Denn Experimente können immer nur Regeln bestätigen oder eben nachweisen, dass wir uns irrten, als wir sie zu bestätigen suchten. Dagegen gibt es kein denkbares Experiment, mit dem wir die Existenz von Regellosigkeit bei bestimmten Ereignissen beweisen könnten. Um bei dem schon genannten Beispiel zu bleiben. Es gibt kein Experiment, mit dem wir nachweisen können, dass die Abfolge der Fußgänger vor dem Fenster nicht doch einem unendlich komplexen Algorithmus gehorcht oder der Zerfall des Radiums nicht ebenfalls einer uns heute noch verborgenen Regel.

Andererseits gibt es aber auch kein denkbares Experiment, mit dem wir das Gegenteil nachweisen könnten, nämlich dass die gesamte Wirklichkeit deterministisch von Gesetzen beherrscht wird, wie selbst der große Bertrand Russell noch glaubte. Eben weil ein solches Experiment unmöglich ist, sprach Karl Popper ja von dem Prinzip der Kausalität als einer metaphysischen Annahme.

Minsky

Gut, damit bekräftigst du aber nur, was ich gerade festgestellt habe, nämlich dass deine These auf reiner Spekulation beruht, weil die experimentierende Wissenschaft sie nicht beweisen kann.

Sokrates

Nein, du irrst auch diesmal! Denn jetzt kommt der Philosoph zu seinem Recht oder auch jeder Wissenschaftler, der nach den Voraussetzungen unseres Denkens fragt. Zuvor haben wir gesehen, dass der Wissenschaftler einen unauflösbaren Widerspruch produziert, wenn er die Freiheit entsorgt. Diese ist – auch wenn wir sie Zufall nennen – eine Denknotwendigkeit. Aber was Freiheit oder Zufall „wirklich“ oder „eigentlich“ ist, werden wir niemals wissen, denn dann hätten wir sie zu etwas Erkennbarem, Regelhaftem gemacht. Wir können aber das unbekannt Neue grundsätzlich nicht auf etwas schon Bekanntes reduzieren.

Minsky

Also ist Freiheit doch wirklich nichts anderes als bloßer Zufall, mithin blind und sinnlos!

Sokrates

Nein, das eben gerade nicht. Wir können ihr nur in vielen Fällen keinen Sinn erteilen, den wir verstehen – und in diesem Fall wird sie für uns zu einem Zufall. Aus der Perspektive eines sehr fernen Beobachters kosmischen Geschehnisse ist die willkürlich herbeigeführte Explosion einer Atombombe ein bloßer Zufall, nicht anders als das Bersten einer Supernova. Aus der Perspektive von Wissenschaftlern, die damit ein Experiment durchführen, handelt es sich dagegen um ein sinnvolles Ereignis.

Die Evolution des Kosmos vom Urplasma bis zum menschlichen Geist erscheint der heutigen Wissenschaft als Resultat einer unendlichen Abfolge von blinden und sinnlosen Zufällen, womit das ganze Werden der Natur einschließlich aller Lebewesen dann auch gern zusammenfassend als sinnlos apostrophiert wird. Aber der Zoologe Rupert Riedl wendet mit Recht dagegen ein: „Was für ein Vermessen wäre es, wollte sich die Zecke die Blutgefäße eines Säugetieres vorstellen, der Hund die internationale Rauschgiftszene oder wir uns die Gesetze jenseits des Kosmos.“

Wir sagen also nur, dass Zufall für uns ist, was wir nicht verstehen, während der Sinn auf unser eigenes zweckhaftes Handeln beschränkt ist. Aber hier manifestiert er sich auch in fortwährend neuer Gestalt. Die „Schöpferische Vernunft“ erschafft stets neue Manifestationen von Sinn. In nichts anderem besteht letztlich die Geschichte des Menschen. Denn dieser Sinn ist heute nicht derselbe wie in den Zeiten der Jäger und Sammler oder bei Kopfjägern und Nomaden. Diese Unterschiede können wir nicht imitieren, indem wir Robotern einen Zufallsgenerator einbauen, dann handeln sie entweder nur nach dem Sinn von gestern oder sie handeln schlechterdings blind und sinnlos. Der künstliche Supermensch kann immer nur eine Karikatur des natürlichen sein.

***In diesem Aufsatz fasse ich einige der Schlussfolgerungen zusammen, zu denen ich in meinem Buch „Schöpferische Vernunft – eine Philosophie der Freiheit (William James gewidmet)“ gekommen bin. Was in diesem Aufsatz ganz fehlt, ist mangels Platz natürlich die historische Perspektive, die einen breiten Raum in meinem Buch einnimmt.

Von Herrn Pfarrer Gerhard Loettel aus Magdeburg erreicht mich dazu folgende Reaktion:

Lieber Gero Jenner !

Vielen Dank für Ihren vortrefflichen Sokrates-Artikel. Ganz der Gero Jenner in seinem Element und glasklare Definitionen, danke.

Als kleines Dankeschön möchte/werde  ich Ihnen einige Betrachtungen über die gegenwärtige Konfliktlage per Post zusenden. Das  Konvolut wird demnächst erweitert als Büchlein auf dem Markt erscheinen.

Ihnen alles Gute und Gesundheit in dieser Corona-Zeit. Hoffentlich beschert sie uns eine Krone an neuem Miteinander, Denken  und Frieden.

Herzlich Ihr Gerhard Loettel

Von Herr Elmar Klink erhalte ich per Mail folgenden Kommentar:

Lieber Herr Jenner,

das ist natürlich ein hochinteressantes fiktives Zwiegespräch, das Sie da führen lassen. Ich befasse mich auch schon seit längerem mit der Thematik Künstliche Intelligenz (schrieb dazu auch einen längeren Essay, der in meiner Datensammlung leider verschütt ging). Ich halte es aber weniger mit Minsky als mit Joseph Weizenbaum, einem der großen Computer-Pioniere. Vorstufen der KI durchziehen bereits auf breiter Front die heutige Gesellschaft, Wissenschaft, Technologie und Dienstleistung. Sie wird so oder so kommen.

Solange sie eine rein dienende Funktion hat, wäre sie zu akzeptieren. Sobald sie aber anfinge, wie jedes komplexere „neuronale Netzwerk“ ähnlich einem autonomen Gehirn eigenständig morphogene Qualität und Wirkung zu erzeugen (der Computer HAL 9000 in Stanley Kubricks „2001 – Odyssee im Weltraum“, den die Frage an seinen Schöpfer, Dr. Chandra, bewegt: Werde ich träumen?), wird sie zum großen Problem und zur Gefahr (siehe etwa Rupert Sheldrake, engl. Biochemiker: „Das schöpferische Universum“, worin er seine morphogenetische Feldtheorie entwickelt).

Denn zwischan Mensch und Maschine steht eine entscheidende Inkompatibilität: das menschliche Gehirn funktioniert (zum Glück für jeden Schlaganfall-Betroffenen) analog, die KI ist gnadenlos digital, entweder 1 oder 0. Im Analogen liegt die Humanität, das Menschliche. Etwas kann sowohl als auch sein. Das Gehirn ist in der Lage, in gewissem Ausmaß ausgeschaltete oder ausgefallene Teile analog zu ersetzen. Isaac Asimov schrieb die bemerkenswerte Erzählung „Der Zweihundertjährige“ (auch verfilmt als „Der 200 Jahre Mann“ mit Robin Williams als Hausroboter), der m. E. das Thema gut auf den Punkt bringt: Der hochentwickelte Cyborg-Organismus will nichts anderes als MENSCH werden und am Ende in Würde sterben können. In einem anderen SF-Film „Dark Star“ von John Carpenter („Assault“; „Halloween“; „The Fog – Nebel des Grauens“) betreibt ein Raumschiffkommander Phänomenologie mit einer Weltzerstörungsbombe, um sie von falschen Daten zu überzeugen. Die intelligente Bombe überlegt es sich zunächst. Kommt dann aber zum Schluss, am Anfang gab es nur sie und das Licht <<Bumm>> und sie explodiert.

Die Thematik wäre hochinteressant, um sich einzuklinken in ein „sokratisches Gespräch“, einer Methode, auf die ich bei dem Kantianer und ethischen Sozialisten Leonard Nelson stieß. Aber es übersteigt momentan mein sonstiges Schreib- und Themenpensum. Vielleicht zu einem späteren Zeitpunkt…

Freundlichen Gruß

Elmar Klink, Bremen

Meine Replik:

Vielen Dank für diesen interessanten Beitrag. Er erhellt aber nicht eigentlich das Problem, ob die Künstliche Intelligenz die menschliche irgendwann zu ersetzen imstande sein wird. Ob das Gehirn eher nach analogem oder nach digitalem Muster funktioniert, ist da auch keine entscheidende Frage, sondern ob es möglich ist, es als eine Maschine zu betrachten, deren Ablauf wir theoretisch vorausberechnen könnten.

Das ist die Grundfrage – die Frage nach der menschlichen Freiheit – auf die ich eine Antwort geben wollte und, wie ich meine, in meinem Buch auch gegeben habe – sehr viel vollständiger natürlich als in diesem kurzen Essay. Anders gesagt, die vielleicht ganz lustige äußere Form eines Dialogs zwischen Außerirdischen darf nicht darüber hinwegtäuschen, dass die Frage nach der menschlichen Freiheit für unsere Theorie der Erkenntnis die größte Relevanz besitzt. GJ