Vorbemerkung des Übersetzers
Alan Turing (1912-1954) dürfte dem Publikum primär als Kryptologe bekannt sein, der im Zweiten Weltkrieg den deutschen Enigma-Code knackte. Dass der A. M. Turing Award, der ‚Nobelpreis‘ der Informatik, 1966 nach ihm benannt wurde, kommt nicht von ungefähr: Turing war einer der zentralen Akteure des beginnenden Digitalzeitalters, sowohl mathematisch/theoretisch (Turing-Maschine, Präzisierung des Algorithmus-Begriffs, Berechenbarkeit) wie auch praktisch (Colossus in Bletchley Park, Manchester-Computer).
Alan Turings BBC-Radioessay von 1951 ist deswegen so interessant, weil er in populärwissenschaftlicher Form alle Argumente aufruft, die Turing in seinem, für die KI-Forschung so wegweisenden, Essay „Computing Machinery and Intelligence“ (1950) systematisch entwickelt hat. Tatsächlich führt er dort bereits alle Problembereiche an, die die KI-Debatte bis heute bestimmen – vom Intelligenzbegriff und Fragen der philosophy of mind bis hin zu dem Problem, das gerade besonders aktuell ist: Die Frage, ob eine KI irgendwann intelligenter sein wird als wir, so dass wir sie vielleicht „in unterlegener Position halten“ müssen – also das, was wir heute „Regulierung der KI“ nennen.
Ein Wort noch zu Alan Turings Biografie: Er war schwul. Eine unmenschliche Gesetzgebung trieb ihn, dem England und die Demokratie so viel zu verdanken hat, in die Depression und vermutlich auch in den Suizid. Erst 2013 wurde er rehabilitiert.
Radiovortrag 15. Mai 1951, BBC
Von Alan Turing
Aus dem Englischen von Hartmut Finkeldey
Digitalcomputer werden häufig als mechanische Gehirne beschrieben. Die meisten Wissenschaftler werden diese Sicht wahrscheinlich eher als Zeitungsjargon betrachten, einige andere nicht. Ein Mathematiker brachte den gegenteiligen Standpunkt mir gegenüber sehr nachdrücklich mit folgenden Worten zum Ausdruck: „Es wird für gewöhnlich gesagt, dass diese Maschinen keine Gehirne sind, aber Sie und ich wissen: Sie sind es.“ In diesem Vortrag werde ich die Konzepte hinter den verschiedenen möglichen Standpunkten vortragen, allerdings nicht immer unparteiisch. Ich werde der Sicht die meiste Aufmerksamkeit geben, die ich selber habe: dass es nicht abwegig ist, Digitalcomputer als Gehirne zu beschreiben. Die andere Position wurde ja schon von Professor Douglas Hartree vorgetragen.
Zunächst denken wir mal an die naive Sicht des Mannes auf der Straße. Er hört Erstaunliches darüber, was diese Maschinen alles machen können. Sie scheinen intellektuelle Fähigkeiten zu haben, zu denen er selbst völlig außerstande wäre. Er kann sich das nur erklären, indem er annimmt, dass diese Maschinen eine Art Gehirn sind, oder er zieht es vor, das, was er gehört hat, einfach nicht zu glauben.
Die meisten Wissenschaftler sprechen verächtlich von einer abergläubischen Haltung. Sie wissen einiges über die Prinzipien, nach denen diese Maschinen konstruiert sind, und darüber, wie sie genutzt werden. Ihre Sichtweise wurde von Lady Lovelace vor über hundert Jahren gut zusammengefasst, als sie sich über Charles Babbages Analytical Engine äußerte. Sie sagte, wie Hartree zitiert: „Die Analytical Engine hat keinen wie immer gearteten Anspruch, irgendetwas zu erschaffen. Sie kann alles tun, wozu wir sie mit unserem Wissen anweisen können.“ Dies beschreibt sehr gut, wie Digitalcomputer derzeit und wie sie vermutlich noch viele Jahre überwiegend genutzt werden. Jede einzelne Berechnung, die die Maschine vollzieht, wurde im Voraus von einem Mathematiker geplant. Je weniger Zweifel es darüber gibt, was passieren wird, desto mehr freut es den Mathematiker. Es ist, als wenn man eine militärische Operation plant. Dies vorausgesetzt kann man wirklich sagen, dass die Maschine nichts erschafft.
Es gibt nun einen dritten Standpunkt, und den vertrete ich selbst: Ich stimme Lady Lovelaces Diktum soweit zu, soweit es reicht, aber ich glaube, dass dessen Validität eher darin besteht, wie Digitalcomputer derzeit [de facto] benutzt werden, als darin, wie sie benutzt werden könnten. Tatsächlich glaube ich, dass man sie so nutzen könnte, dass sie angemessen als Gehirn zu beschreiben sind. Ich könnte auch sagen: „Wenn irgend eine Maschine angemessen als Gehirn beschrieben werden kann, dann kann jeder Digitalcomputer als solches beschrieben werden.
Die letzte These erfordert Einiges an Erklärung. Es mag ziemlich verwundern, aber mit einigen Einschränkungen erweist sie sich als nicht zu hintergehende Tatsache. Es zeigt sich, dass sie aus der charakteristischen Eigenschaft von Digitalcomputern folgt, die ich ihre Universalität (universality) nenne. Ein Digitalcomputer ist eine universelle Maschine in dem Sinn, dass sie eine sehr große Klasse von Maschinen ersetzen kann. Er wird keinen Bulldozer, keine Dampfmaschine, kein Teleskop ersetzen, aber er wird jedes konkurrierende Rechenmaschinendesign ersetzen, also jede Maschine, die man mit Daten füttern kann und die dann später Ergebnisse ausgeben wird. Um zu bewerkstelligen, dass unser Computer die betreffende Maschine imitiert, ist es nur notwendig, den Computer so zu programmieren, dass er berechnet, was die betreffende Maschine unter gegebenen Umständen tun würde – und insbesondere, welche Antworten sie ausgeben würde. Der Computer würde dann die gleichen Antworten ausgeben.
Wenn nun bestimmte Maschinen als Gehirne beschrieben werden können, muss unser Digitalcomputer nur programmiert werden, sie zu imitieren, und er wäre ebenfalls ein Gehirn. Wenn wir akzeptieren, dass reale Gehirne, wie wir sie in Tieren und speziell im Menschen vorfinden, in gewisser Weise Maschinen sind, dann heißt das, dass unser Digitalcomputer, wenn angemessen programmiert, sich verhalten wird wie ein Gehirn.
Dies Argument enthält mehrere Annahmen, die man aus guten Gründen angreifen kann. Ich hatte schon gesagt, dass die Maschine, die imitiert werden soll, eher wie eine Rechenmaschine als wie ein Bulldozer sein muss. Dies spiegelt lediglich die Tatsache, dass wir von mechanischen Analogien zu Gehirnen sprechen und nicht zu Füßen oder Kiefern. Es war auch notwendig, dass diese Maschine von der Art sein sollte, deren Verhalten im Prinzip durch Berechnung vorhersagbar ist. Wir wissen sicherlich nicht, wie eine solche Berechnung genau durchgeführt werden müsste, und Sir Arthur Eddington hat sogar argumentiert, dass nach dem Unbestimmtheitsprinzip der Quantenmechanik eine solche Berechnung nicht einmal theoretisch möglich wäre.
Eine weitere Annahme war die, dass die Speicherkapazität des benutzten Computers ausreichend sein müsste, um voraussagen zu können, wie sich die Maschine verhalten wird, die imitiert werden soll. Er sollte auch ausreichend schnell sein. Unsere gegenwärtigen Computer haben wahrscheinlich keine ausreichende Speicherkapazität, obwohl sie genug Geschwindigkeit haben dürften. Das bedeutet im Grunde, dass wir, wenn wir etwas so kompliziertes wie das menschliche Hirn imitieren wollen, eine Maschine benötigen, die deutlich größer ist als alle, die wir derzeit haben. Wir brauchen sicherlich etwas, was mindestens einhundertmal so groß ist wie der Manchester-Computer. Ersatzweise würde natürlich auch eine Maschine von gleicher Größe oder sogar kleiner genügen, wenn wir einen befriedigenden Fortschritt bei der Speicherung von Information erreichen würden.
Man sollte anmerken, dass ein Zuwachs an Komplexität der benutzten Computer nicht erforderlich ist. Wenn wir versuchen, komplexere Maschinen und Gehirne zu imitieren, benötigen wir immer größere Computer dafür. Wir benötigen aber keine immer komplizierteren. Das klingt paradox, aber die Erklärung dafür ist nicht schwer. Die Imitation einer Maschine durch einen Computer erfordert es nicht nur, dass wir den Computer gebaut, sondern auch, dass wir ihn angemessen programmiert haben. Je komplexer die Maschine, die wir imitieren wollen, desto komplexer muss das Programm sein.
Das kann man sich mithilfe eines Beispiels klarmachen. Nehmen wir an, zwei Personen wollen ihre Autobiografie schreiben. Die eine hatte ein ereignisreiches Leben, der anderen ist wenig widerfahren. Es gäbe dann zwei Schwierigkeiten, die für die Person mit dem ereignisreicheren Leben schwerer zu lösen wären als für den anderen. Er würde mehr Papier benötigen, und er müsste intensiver darüber nachdenken, was zu erzählen sei. Die Zufuhr von Papier wäre kein großes Problem, wenn er sich nicht gerade zum Beispiel auf einer einsamen Insel befände, und immer wäre es nur ein technisches oder finanzielles Problem. Das andere Problem wäre fundamentaler und würde sich noch verstärken, wenn er nicht sein eigenes Leben beschriebe, sondern ein Werk verfassen würde über ein Thema, von dem er nichts weiß – sagen wir über das Familienleben auf dem Mars. Unser Problem, einen Computer so zu programmieren, dass er sich verhielte wie ein menschliches Gehirn, wäre wie ein Versuch, einen solchen Bericht auf einer einsamen Insel zu schreiben. Wir haben nicht die Speicherkapazität, die nötig wäre, in anderen Worten: Wir hätten nicht genug Papier – und wir wüssten allemal nicht, was wir zu schreiben hätten, wenn wir es hätten. Das ist ein trauriger Zustand, aber, um den Vergleich fortzusetzen, es ist schon einiges gewonnen, wenn man weiß, wie man schreibt, und sich klarmacht, dass das meiste Wissen in Büchern gesammelt werden kann.
Bedenkt man dies, scheint das plausibelste Argument, mit dem man die Beschreibung von Digitalcomputern als mechanische oder Elektronengehirne kritisieren kann, dieses zu sein: Auch wenn man sie programmieren könnte, sich wie ein menschliches Hirn zu verhalten, wissen wir derzeit nicht, wie das zu bewerkstelligen wäre. Dieser Ansicht stimme ich völlig zu. Sie lässt die Frage offen, ob es uns letztlich gelingt, ein solches Programm zu finden oder nicht. Ich persönlich bin geneigt zu glauben, dass man ein solches Programm findet. Ich denke zum Beispiel, dass es gegen Ende des Jahrhunderts möglich sein wird, eine Maschine so zu programmieren, dass sie Fragen beantworten kann und es extrem schwierig sein wird, zu entscheiden, ob die betreffenden Antworten von einer Maschine oder einem Menschen kommen. Ich kann mir dabei eine mündliche Befragung vorstellen, aber alle Fragen und Antworten maschinengeschrieben, damit wir uns nicht um irrelevante Dinge kümmern müssen, wie etwa die Frage, wie authentisch die menschliche Stimme nachgeahmt werden kann. Dies stellt nur meine Meinung dar; es gibt genug Platz für andere.
Es gibt noch weitere Schwierigkeiten. Sich verhalten wie ein Gehirn, scheint zu heißen, einen freien Willen zu haben, aber das Verhalten eines Digitalcomputers ist, wenn er einmal programmiert wurde, vollständig determiniert. Diese beiden Fakten müssen irgendwie in Einklang gebracht werden, aber dieser Versuch verstrickt uns in eine sehr alte Kontroverse: die zwischen freiem Willen und Determinismus. Es gibt zwei Lösungen: Es kann sein, dass unser Gefühl, einen freien Willen zu haben, eine Illusion ist. Oder wir haben wirklich einen freien Willen, aber es gibt keinen Weg, ihn in unserem Verhalten nachzuweisen. Im letzteren Fall gälte: Wie gut auch immer eine Maschinen menschliches Verhalten imitiert – es müsste als bloßer Schein betrachtet werden. Ich weiß nicht, ob wir jemals eine Entscheidung zwischen diesen beiden Alternativen treffen können, aber welche auch immer korrekt wäre – eine Maschine, die das Gehirn imitiert, müsste allemal so tun, als hätte sie einen freien Willen, und es ist sinnvoll, sich zu fragen, wie man das wohl erreichen mag. Eine Möglichkeit wäre die, dass ihr Verhalten von so etwas wie einem Roulette-Rad oder einem Radiumvorrat abhängt. Das Verhalten dieser Dinge mag vielleicht vorhersagbar sein, aber wenn, dann wissen wir nicht, wie.
Wie auch immer, es ist nicht einmal nötig, dergleichen zu tun. Es ist nicht schwierig, Maschinen zu konstruieren, deren Verhalten einigermaßen zufällig wirkt auf jeden, der die Details ihrer Konstruktion nicht kennt. Natürlich löst das Einbeziehen eines Zufallselements, wie immer es gestaltet ist, unser wichtigstes Problem nicht, nämlich wie man eine Maschine programmieren müsste, um ein Gehirn zu imitieren, oder (kürzer gesagt, nicht exakter) um zu denken. Aber es gibt uns Hinweise darauf, wie der Prozess aussehen könnte. Wir müssen nicht immer genau wissen, was der Computer tun wird. Wir sollten uns freuen, wenn die Maschine uns überrascht, und zwar so, wie jemand erfreut ist, wenn ein Schüler etwas tut, was ihm nicht explizit beigebracht wurde.
Lassen Sie uns nun zu Lady Lovelace’ Diktum zurückkehren: „Die Maschine kann alles tun, wozu wir sie anzuweisen wissen.“ Im weiteren Verlauf der Passage wird man dann versucht sein, zu glauben, dass die Maschine nur das tun kann, zu dem wir sie anzuweisen wissen. Aber ich denke, dass das nicht zutrifft. Sicherlich kann die Maschine nur das tun, zu dem wir sie anweisen, alles andere wäre ein mechanischer Fehler. Aber es gibt keinen Grund, anzunehmen, dass wir, wenn wir unsere Anweisungen geben, auch wissen, was wir tun und was die Konsequenzen unserer Anweisungen sein werden. Man muss nicht in der Lage sein, zu verstehen, wie diese Anweisungen zu dem darauf folgenden Verhalten der Maschine führen, sowenig wie jemand verstehen muss, wie die Mechanismen der Keimung funktionieren, wenn er einen Samen in den Boden pflanzt. Die Pflanze wächst, ob jemand nun versteht, warum sie das tut, oder nicht. Wenn wir die Maschine programmieren und sie tut etwas Interessantes, was wir so nicht vorhergesehen haben, wäre ich geneigt zu sagen dass die Maschine etwas Neues geschaffen hat; eher, als zu sagen, dass dieses Verhalten implizit im Programm enthalten sei und die Originalität bei uns läge.
Ich werde nicht versuchen; viel darüber zu sagen, wie man es anstellt, ‚eine Maschine so zu programmieren, dass sie denkt‘. Tatsache ist, dass wir nur wenig darüber wissen und bis jetzt nur wenig Forschung dazu stattfand. Es gibt reichlich Ideen, aber wir wissen bis jetzt nicht, welche davon von Wichtigkeit sind. Wie im Kriminalroman kann zu Beginn jede Kleinigkeit für den Ermittler von Wichtigkeit sein. Wenn der Fall gelöst ist, müssen der Jury lediglich die wesentlichen Fakten präsentiert werden. Aber derzeit haben wir nichts, was wir der Jury präsentieren könnten. Ich möchte an dieser Stelle nur soviel sagen, dass ich glaube, dass der Prozess eng verwandt sein dürfte mit dem des Lernens.
Ich habe versucht, zu erklären, was die wesentlichen Argumente sind für und gegen die Theorie, dass man eine Maschine dazu bringen kann, zu denken, aber Einiges sollte man auch sagen über die irrationalen Argumente. Viele widersetzen sich extrem der Idee von einer Maschine, die denkt, aber nicht, so glaube ich, aus irgendwelchen Gründen, die ich genannt habe oder aus sonstigen rationalen Gründen, sondern einfach, weil sie die Idee nicht mögen. Man kann viele Dinge finden, die sie unangenehm macht. Wenn eine Maschine denkt, könnte sie intelligenter denken als wir, und wo blieben dann wir? Selbst wenn wir die Maschine in unterlegener Position halten könnten, zum Beispiel indem wir sie in strategisch wichtigen Momenten ausschalten, sollten wir, als Spezies, uns zutiefst gedemütigt fühlen. Die gleiche Gefahr und Demütigung würde uns von der Möglichkeit drohen, vom Schwein oder von der Ratte übertroffen zu werden. Die theoretische Möglichkeit dazu dürfte kaum strittig sein, aber wir haben so lange mit Schweinen und Ratten gelebt, ohne dass deren Intelligenz großartig zunahm, dass wir uns kaum beunruhigen über diese Möglichkeit. Wir fühlen, dass, wenn dies geschehen sollte, es Millionen Jahre dauern würde. Aber die neue Gefahr ist viel näher. Wenn es denn kommt, kommt es ziemlich sicher im nächsten Jahrhundert. Es ist noch fern, aber nicht astronomisch fern, und es ist sicherlich etwas, was uns Angst machen könnte.
Es ist üblich, in einem Artikel oder Gespräch über diesen Gegenstand einen kleinen Trost anzubieten in Form eines Statements, dass einige bestimmte menschliche Eigenschaften niemals von einer Maschine imitiert werden können. Man könnte zum Beispiel sagen, dass eine Maschine nie gutes Deutsch schreiben wird, oder dass sie nie auf sexuelle Attraktivität reagiert oder Pfeife raucht. Ich kann einen solchen Trost nicht anbieten, denn ich glaube, dass solche Grenzen nicht existieren. Aber ich glaube und hoffe stark, dass keine großen Anstrengungen unternommen werden, Maschinen zu bauen, die spezifisch menschliche, jedoch nicht geistige Eigenschaften wie etwa seinen Körperbau realisieren. Es schiene mir doch recht zwecklos, solche Versuche zu unternehmen, ihr Resultat hätte etwas Unangenehmes wie bei künstlichen Blumen. Versuche, eine denkende Maschine zu erstellen, scheinen mir einer anderen Kategorie anzugehören. Der ganze Denkprozess ist immer noch mysteriös für uns, doch ich glaube, dass der Versuch, eine denkende Maschine zu bauen, uns viel dabei hilft, herauszufinden, wie wir selber denken.
***
Quelle des Originaltexts
Copeland, Jack (editor): The Essential Turing. The ideas that gave birth to the computer age. Oxford, Clarendon Press/Oxford University Press, 2004, Seiten 482 – 486.
Bildnachweis:
Beitragsbild: A Colossus Mark 2 codebreaking computer being operated by Dorothy Du Boisson (left) and Elsie Booker (right), 1943 (Wikimedia)
