Die Kernideen
2084 und die KI-Revolution. Wie künstliche Intelligenz unsere Zukunft prägt
Eine Minute Aufnahme deiner Stimme reicht, damit eine Maschine in deinem Namen deine Familie anruft. Der Oxforder Mathematiker John Lennox trennt die Wahrheit über KI vom Rummel um sie, zeigt Gefahren, die schon da sind, von Deepfakes bis zur totalen Überwachung, und stellt eine Frage, die Technik nicht beantworten kann: Was ist der Mensch wert? Seine Antwort ist christlich, und er vertritt sie offen.
Für wen
Für alle, die ChatGPT nutzen und sich fragen, ob dieser Chatbot wirklich denken kann. Für Eltern, die sich Sorgen machen, was Technik mit Kindern macht. Für Gläubige und Skeptiker, die gern hören möchten, wie ein christlicher Mathematiker mit Harari über KI streitet.
Man muss Menschen als Menschen behandeln, nicht als Maschinen, und Maschinen als Maschinen, nicht als Menschen.
Von 1984 zu 2084
1962 ließ ein Mathematikstudent aus Cambridge ein einfaches Programm auf EDSAC 2 laufen, einem der ersten Computer. Als er seinem Betreuer sagte, er würde sich gern mit Rechentechnik beschäftigen, antwortete der, sie habe keine Zukunft. Dieser Student war John Lennox.
Sechzig Jahre später schreibt Lennox, Mathematiker und Wissenschaftsphilosoph in Oxford, über eine Revolution, an der er einst vorbeigegangen ist. Der Titel des Buches verweist auf den Roman „1984“ von George Orwell. Wie Neil Postman es formulierte, fürchtete Orwell, dass uns zugrunde richtet, was wir hassen, und Huxley fürchtete, dass uns zugrunde richtet, was wir lieben. Mit dem Aufkommen der KI, meint Lennox, werden beide Ängste wahr.
Er fragt, was KI wirklich kann, welche Gefahren schon jetzt von ihr ausgehen und was der Mensch wert ist, wenn Maschinen ihn übertreffen. Hinter alldem stehen die Fragen von Kant: Was kann ich wissen, was darf ich hoffen, was soll ich tun. Lennox beantwortet sie als Christ und verbirgt das nicht.
Die Maschine antwortet, ohne die Frage zu verstehen
Heute gibt es nur schwache KI: ein Programm, das eine einzige Aufgabe löst, für die ein Mensch Verstand braucht, zum Beispiel Go spielen. Ihre Grundlage ist maschinelles Lernen: Es findet Muster in riesigen Datenmengen und leitet daraus Vorhersagen ab. Für Lennox ist das eine Nachahmung von Intelligenz, kein Denken.
Den Unterschied erklärt ein Gedankenexperiment des Philosophen John Searle mit dem Namen „chinesisches Zimmer“. Ein Mensch, der kein Chinesisch kann, sitzt zwischen Kisten mit Schriftzeichen und hält ein Regelbuch in den Händen. Indem er den Regeln folgt, beantwortet er Fragen auf Chinesisch richtig, versteht aber kein einziges Wort. Ein Computer, behauptet Searle, hat nichts, was dieser Mensch nicht auch hätte.
ChatGPT wählt die wahrscheinlichsten nächsten Wörter und kann selbstsicheren Unsinn ausgeben: Ein Chatbot, den man bat, über Inflation zu schreiben, verwies auf fünf Bücher, die es nicht gibt. Sogar Halicin, ein Antibiotikum, das als Entdeckung der KI bezeichnet wurde, entstand dank Menschen: Sie hatten die Aufgabe gestellt und die Daten ausgewählt, erklärte die Teamleiterin Regina Barzilay.
Den Schlüssel zu diesem Unterschied findet Lennox bei C. S. Lewis: Einen Stuhl macht ein Zimmermann, ein Kind aber wird ihm geboren. Eine Maschine wird gemacht, nicht geboren.
Über den Autor
John Lennox ist Mathematiker und Wissenschaftsphilosoph an der Universität Oxford und christlicher Apologet. Seit vielen Jahren streitet er öffentlich mit atheistischen Wissenschaftlern über Wissenschaft und Gott.
Alle Bücher des Autors: John Lennox
Begriffe aus dem Buch
- Jesus
- Huxley
- Kant
- schwache KI
- maschinelles Lernen
- Lewis
- Deepfake
- Solschenizyn
- EDSAC: Einer der ersten Computer mit gespeichertem Programm, gebaut an der Universität Cambridge. Sein erstes Programm führte EDSAC 1949 aus, EDSAC 2 kam 1958 hinzu.
- Orwell: George Orwell, englischer Schriftsteller, Autor der Dystopie „1984“ (1949) über einen Staat, der seine Bürger ständig überwacht.
- Postman: Neil Postman, amerikanischer Medienforscher, Autor der Bücher „Wir amüsieren uns zu Tode“ und „Das Technopol“.
- Searle: John Searle, amerikanischer Philosoph aus Berkeley, Urheber des Gedankenexperiments „chinesisches Zimmer“.
- chinesisches Zimmer: Searles Gedankenexperiment: Ein Mensch gibt nach Regeln für den Umgang mit chinesischen Schriftzeichen richtige Antworten, ohne Chinesisch zu verstehen. Das Experiment zeigt, dass ein Programm auszuführen nicht heißt, zu verstehen.
- ChatGPT: Ein Chatbot der Firma OpenAI auf der Grundlage eines großen Sprachmodells, das die wahrscheinlichste Fortsetzung eines Textes vorhersagt.
- Halicin: Ein Antibiotikum, das 2019 am MIT mithilfe eines Deep-Learning-Systems gefunden wurde; es tötet viele arzneimittelresistente Bakterien. Benannt nach dem Computer HAL aus dem Film „2001: Odyssee im Weltraum“.
- Barzilay: Regina Barzilay, Informatikerin am MIT, leitete das Team, das Halicin fand.
- Crookes: Danny Crookes, Professor für Computertechnik an der Queen’s University Belfast.
- Sozialkreditsystem: Eine Reihe staatlicher und unternehmerischer Programme in China, die die Vertrauenswürdigkeit von Unternehmen und Bürgern bewerten und sie nach dieser Bewertung belohnen oder bestrafen.
- MERICS: Das Mercator Institute for China Studies, ein Forschungszentrum in Berlin. Sein Bericht von 2022 beschreibt, wie das Sozialkreditsystem in der Praxis funktioniert.
- Freie Universität Berlin: Eine der größten Universitäten Berlins. Ihre Forscher befragten 2200 Menschen in China zum Sozialkreditsystem.
- McAfee: Ein amerikanisches Unternehmen für Cybersicherheit.
- Transhumanismus: Eine Bewegung, die den Menschen mithilfe von Technik grundlegend verbessern will: das Altern besiegen und die geistigen, körperlichen und psychischen Fähigkeiten stark erweitern.
- Harari: Yuval Noah Harari, israelischer Historiker, Autor der Bücher „Sapiens“ und „Homo Deus“.
- Mariani: Jean Mariani, französischer Neurobiologe, leitet ein Institut, das Langlebigkeit erforscht.
- Tritsch: Daniel Tritsch, französischer Neurobiologe, ehemaliger Kodirektor eines neurobiologischen Labors.
- Kryonik: Das Einfrieren des Körpers oder Gehirns nach dem Tod in der Hoffnung, dass die Wissenschaft der Zukunft sie wiederbeleben kann.
- homo deus: Lateinisch „Mensch-Gott“. Harari nennt so Menschen, die sich selbst in Götter verwandelt haben; Lennox bezieht diesen Namen auf Jesus Christus, Gott, der Mensch wurde.
- Picard: Rosalind Picard, Professorin am MIT Media Lab, Begründerin des Forschungsgebiets Affective Computing.
- Affective Computing: Ein Forschungsgebiet, das Computer entwickelt, die menschliche Gefühle erkennen und auf sie reagieren können. Begründet hat es Rosalind Picard.
- Ebenbild Gottes: Die biblische Lehre (1. Mose 1,27), dass der Mensch nach dem Bild Gottes geschaffen ist. Für Lennox ist das die Grundlage der Würde jedes Menschen.
Ähnliche Bücher
- Ein Konflikt der Visionen, Thomas Sowell
- Ein Frosch unter der Zunge. Jüdische Volksmedizin in Osteuropa, Marek Tuszewicki
- Wie ein Hacker denkt, Bruce Schneier
- Ein Leben auf unserem Planeten. Mein Zeugnis und meine Vision für die Zukunft, David Attenborough
- Gewalt und Mitgefühl. Die Biologie des menschlichen Verhaltens, Robert M. Sapolsky
- Annawadi oder der Traum von einem anderen Leben, Katherine Boo
- Propaganda. Die Kunst der Public Relations, Edward L. Bernays
- Besserer Smalltalk, Patrick King
- Power. Die 48 Gesetze der Macht, Robert Greene
- Die 7 Wege zur Effektivität, Stephen Covey

