Mal eben den Stecker ziehen

Wir werden die Krebsheilung nicht kriegen können ohne Technologien, die den Menschen auch zum Monster umformen können.

Und doch hat die KI die Medizin heute schon revolutioniert.

Metzner-Szigeth: Natürlich. Nehmen wir etwa OP-Roboter, die den Chirurgen bei komplexen Eingriffen unterstützen. Das stelle ich auch nicht in Frage. Mir geht es darum, dass wir die beiden Begriffe - KI und die Bewusstseins-Begabung - nicht in einen Topf werfen. Maschinen werden nie in der Lage sein, menschliches Bewusstsein zu erlangen. Weder Arztroboter, noch Maschinen, die für militärische Zwecke eingesetzt werden. Es gibt derzeit eine große Debatte darüber, ob Militärdrohnen autonom entscheiden können, wen sie töten und wann, oder ob immer noch ein Mensch in letzter Instanz irgendwo einen Knopf drücken muss.

Benedikter: Die Ächtung von selbstentscheidenden Waffen ist fast schon vollzogen. Darin sehe ich nicht das Problem. Wie Sie richtig anmerken, ist die mögliche Bewusstseins-Entwicklung von Technik offen. KI wird aber, laut Ray Kurzweil von Google, in rund 30 Jahren zur Selbstreferenzialität in der Lage sein.

Das heißt?

Benedikter: KI wird sich auf sich selbst beziehen können – wie es Tiere übrigens auch in der Lage sind. KI entwickelt dann Lern- und Antizipationsfähigkeit. Das heißt, ihr erster Instinkt ist der Selbsterhalt, darauf aufbauend antizipiert KI mögliche Zukünfte. Wenn Superintelligenz also antizipativ wirkt, muss sie sich als erstes fragen: Wie kann ich mich selbst erhalten?, und zweitens: Wer kann den Stecker ziehen? Nur der Mensch. Als logische Folge könnte sie sich gegen den Menschen wenden.

Metzner-Szigeth: Stop. Die Autonomie technischen Fortschritts ist eine essentialistische Idee. Sie suggeriert, dass sich der Fortschritt unabhängig von menschlichen Gestaltungsvorgaben vollzieht. Das betrifft auch die Diskussion um die Gefahren von KI. Es geht doch um die Logik der Bedrohung, die wir der Technik sozusagen einschreiben. Allein schon die Tatsache, dass wir Robotern ein menschliches Antlitz verleihen, sie also nach dem Abbild des Menschen erschaffen wollen, sollte uns Zweifel aufgeben. Ist es nicht eher so, dass die größte Gefahr für den Menschen nach wie vor der Mensch ist? Wir sollten uns also besser fragen, ob wir nicht bei uns selber den Stecker ziehen müssen.

Maschinen werden nie in der Lage sein, menschliches Bewusstsein zu erlangen.

Sie würden also auf den technischen Fortschritt verzichten?

Metzner-Szigeth: Nein. Der ist irreversibel und wie Herr Benedikter schon gesagt hat, weder gut noch böse. Wenn wir uns heute rückblickend fragen, war die Industrialisierung für den Menschen gut oder schlecht, so werden wir sagen, weder noch, sondern beides zugleich. Und genauso wird es in Zukunft auch sein. Es wird irreversible Entwicklungen geben. Und zukünftige Generationen werden sie dann als solche beurteilen müssen. Das lässt sich nicht vorwegnehmen und ist nicht schematisch beurteilbar, schon gar nicht aus unserer heutigen Sicht heraus.

Benedikter: Vorsicht. In der Zeit, von der sie reden, war die Industrialisierung draußen, das menschliche Bewusstsein drinnen. Wenn aber nun Mensch und Maschine zunehmend verschmelzen und sich damit auch das Menschenbild grundlegend verändert, tun wir gut daran, vorausblickend zu handeln. Nicht umsonst haben Elon Musk und Bill Gates, zwei Vorreiter in Sachen KI, Stiftungen gegründet, die der Frage nachgehen: Wie kann Technik so weiterentwickelt werden, dass sie einerseits immer intelligenter wird, andererseits menschenkonform bleibt? Im neuen Bozner NOI Techpark werden auch solche grundlegenden Diskussionen geführt werden müssen.

Metzner-Szigeth: Da stimme ich Ihnen voll und ganz zu.