Problem: Angenommen, eine KI würde tatsächlich Bewusstsein erlangen – wie ließe sich belegen, dass es sich nicht um eine Simulation handelt? Sind die Tränen des Blade Runners Ausdruck von Trauer – oder von einer Software gesteuert, um dem menschlichen Gegenüber Trauer zu suggerieren? Niemand kann in das Innenleben des Computers schauen.

Er ist und bleibt eine Blackbox, egal auf welcher Entwicklungsstufe er sich befindet. Wir erleben ihn nur von außen. Nichts anderes gilt übrigens beim Mitmenschen, aber da hilft – wenn auch notdürftig – der Analogieschluss: Da ich ein Innenleben habe, wird auch der andere Mensch eines haben. Schließlich haben wir die gleichen Organfunktionen.

Dies auch einem Computer zu unterstellen, setzt eine Grundannahme voraus: Computer- und Gehirnfunktionen seien im Wesentlichen vergleichbar, denn beide würden auf Algorithmen beruhen – eine Spekulation, die mehr als strittig ist. Hinzu kommt, dass die Identität von Gehirn und Bewusstsein ebenfalls ein unbewiesenes Postulat darstellt. (…)

In Wahrheit haben Neuro- und Hirnforschung keine Ahnung vom Wesen des Bewusstseins. Mehr noch, es gibt in ihrer Disziplin nicht einmal Forschungsansätze dazu. Vor Jahren antwortete der US-Informatiker David Gelernter auf die Frage, warum er zusätzlich Judaistik (jüdische Religionsgeschichte) studiert habe: Weil die IT-Wissenschaft keine Erklärung für Geist und Bewusstsein habe, suche er danach in der religiösen Tradition.

Alle Versuche, digitales Bewusstsein nachzuweisen, gelten als gescheitert. Darunter der von Computer-Pionier Alan Turing 1950 entworfene – und nach ihm benannte – Turing-Test: Wenn man einen Dialog verfolgt, aber nicht unterscheiden kann, wer von beiden Mensch und wer Computer ist, sei der Beweis von der Ebenbürtigkeit, also vom Bewusstsein der KI, erbracht. Leider falsch: Selbst bei solchen Dialogen wäre ein – wenn auch extrem hohes – Simulationsniveau durch die KI nicht auszuschließen.

https://www.compact-online.de/wenn-roboter-traeumen-2/?cookie-state-change=1661023737404