Tut mir leid, Dave ...

[Ilka-Maria]

Ich erinnere mich an ein Märchen. Es stand im Buch der Brüder Grimm und hieß "Der süße Brei". Aber beinahe wäre es eine Horrorgeschichte geworden, wenn nicht im letzten Augenblick, als keine Hoffnung mehr zu sein schien, die richtige Zauberformel doch noch eine Katastrophe verhindert hätte.

Der Topf, der den Brei kochen sollte, wann immer man es von ihm verlangte, erwies sich als etwas, das wir heute "künstliche Intelligenz" nennen würden: Man brauchte ihm nur sagen, wann er produzieren und wann er damit wieder aufhören sollte. Da aber die Mutter des Mädchens, das den Topf nach Hause gebracht hatte, die magischen Worte nicht kannte, um das Kochen zu stoppen, behielt er die Kontrolle und produzierte weiter. Es nützte nichts, ihm einen Deckel aufzusetzen, der zu schwach gewesen wäre, die Masse aufzuhalten. Wie Lava aus einem pulsierenden Vulkan quoll der Brei über den Rand des Topfes und schloss alles ein, was ihm im Wege stand. Nichts und niemand konnte ihn zum Stillstand bringen, außer dem Mädchen, das aber nicht zugegen war.

Ein Motiv der Romantik? Auch Goethe hatte es in seiner Ballade vom Zauberlehrling verarbeitet, der in Abwesenheit seines Meisters Kräfte entfesselte, die er nicht beherrschen konnte. Hybris war es, die ihn zu seinem Experiment bewegte, ohne die Konsequenzen zu bedenken.

Jetzt hat dieses Motiv uns Deutsche, die die Epoche der Romantik bis in die technisierte und digitalisierte Moderne weitergeschleppt haben, in eine neue Debatte geführt: Sind wir in der Lage, die "KI" zu beherrschen, oder laufen wir Gefahr, dass wir zum willenlosen Objekt der "KI" werden? Welchen manipulativen Mächten könnten wir zum Spielball werden, wenn sie in kriminelle Hände gerät?

Gefälschte Texte, Bildmontagen, Stimmenimitation – das gab es schon immer, wenden Nutzer der diversen "KI"-Software beschwichtigend ein, die vor allem ihre Vorteile schätzen. Aber was ist mit den Menschen, denen "Fakes" vorgeführt werden und die sich davon zutiefst verunsichert fühlen? Sitzen Scholz und Putin mitten im Ukraine-Krieg wirklich im Café Einstein in Berlin? Hat Macron wirklich dafür plädiert, die Guillotine wieder auf der Place de la Concorde zu installieren, um die Gelbwesten hinrichten zu lassen?

Ein Märchen oder eine Ballade – die kann jeder verstehen; aber "KI" ist für Laien abstrakt: Im Märchen gibt es das Mädchen, das die rettende Zauberformel kennt; in der Ballade kommt der Meister rechtzeitig, um das Haus vor der Überflutung zu retten. Aber wo ist der Meister, wenn die "KI" aus dem Ruder läuft?

Was passiert, wenn – wie im Film "Odyssee im Weltraum" -, die Stimme der "KI" zu einer lebensrettenden Aktionsplanung sagt: "I'm sorry, Dave, I'm afraid I can't do that." Oder bei dem Versuch, eine Atombombenzündung zu verhindern: "I'm sorry, Dave, I'm afraid I must do that."