Ungarn mit H – über die Grenzen der KI

Der Schweizer Sprachwissenschaftler Daniel Perrin („Schreiben mit System“) hat vor kurzem in einem Interview auf die Grenzen von KI beim Erstellen von Texten hingewiesen. Ein Teilnehmer auf LinkedIn hat das Ganze daraufhin – vermutlich ohne das Interview erst einmal zu lesen – schnell als „schöne Betrachtung aus einer wissenschaftlich realitätsfernen Bubble“ verunglimpft. Da fragt man sich ja schon: Was geht in den Köpfen solcher Leute eigentlich vor? Oder geht da überhaupt noch was vor?

Jedenfalls hat Perrin natürlich Recht: KI hat ihre Grenzen. Und es ist wichtig, die zu kennen und zu benennen, um mit KI umgehen zu können. Das ist gar keine Negativ-Aussage, sondern eine Hilfestellung. Perrin sagt nämlich auch: „Ich bin begeistert von den Möglichkeiten des Copiloten, egal in welcher KI Umgebung. Ich nutze KI sehr oft, wenn es eilt, als Zulieferer für mich.“ Das ist also gar keine Frontal-Ablehnung, das ist intensives und kluges Beschäftigen mit dem Thema.

Ich selbst nutze auch KI, als Tool (das nämlich ist es, nicht weniger, aber auch nicht mehr), als Hilfe, als Sparringpartner. Weil wir „mit der Maschine deutlich stärker als vorher“ sind, wie Perrin es sagt. Aber auch im Wissen, dass es „einfach systemische Grenzen“ gibt.

Eine KI denkt grundsätzlich nicht

Die Grenzen bestehen an vielen Stellen, zum Beispiel bei der Authentizität, beim persönlichen Stil eines Textes und bei der Schönheit der Sprache (siehe hierzu übrigens das neue Buch von Roland Kaehlbrandt „Von der Schönheit der deutschen Sprache“). Erst recht erreichen wir die Grenzen ganz schnell bei der Frage der inhaltlichen Richtigkeit. Denn KI ist kein Lexikon und kein intelligentes Wesen, sondern ein Algorithmus, der auf Basis berechneter Wahrscheinlichkeiten Silben zu Wörtern formt. Was sie da am Ende zusammenbaut, ist der KI herzlich egal. Darüber denkt sie nicht nach, denn KI denkt grundsätzlich nicht.

Was aber rauskommen kann, wenn man nicht denkt, sondern nur algorithmiert, zeigt das folgende Beispiel. Eine Gruppe von Schülern spielt in der Pause Stadt-Land-Fluss. Da Los fiel gerade auf den Buchstaben H. Stadt? Hamburg. Fluss? Havel. Aber ein Land mit H? Die Jungs fragen die KI, und die spuckt als erstes Ungarn aus. Das ist natürlich falsch, wenn man das Spiel auf Deutsch spielt. Aber die KI spielt sehr amerikanisch, oder zumindest multilingual, und da ist Ungarn eben Hungary.

KI verbraucht zehnmal mehr Energie als die Suchmaschine

Diese Suche nach dem Land wäre übrigens eine gute Aufgabe für Suchmaschinen im Internet. Dafür sollte man keine KI bemühen. Denn erstens liefern die Suchmaschinen Treffer, die sich zumindest im Web finden (unabhängig davon, ob da Wahres steht), während die KI etwas zusammenzimmert, was nach Auswertung der Milliarden von Trainingsarten rein digital-semantisch wahrscheinlich ist, wofür es aber inhaltlich nicht zwingend eine nachvollziehbare Quelle gibt. Zweitens kostet eine KI-Anfrage ein Vielfaches an Energie gegenüber einer herkömmlichen Suchanfrage. „Wir arbeiten mit Tools, deren ökologischer Fußabdruck immens ist“, schrieb darum Ute Korinth, Vorstandsmitglied im Deutschen Journalisten-Verband DJV im September (Titel: „Künstlich intelligent, nachhaltig fatal?“).

Eine weitere Grenze findet KI in der Kunst der Sprache. Das ist genau der Punkt, auf den Daniel Perrin in seinem lesenswerten Interview hinweist. KI-Texte „haben eine polierte Oberfläche, aber keinen Kern. Ihnen fehlt der tiefere Zusammenhalt. Wenn KI-Texte lang sind, rutschen sie mit der Zeit ab. Das merkt man schon nach zwei, drei Sätzen, erst recht nach mehreren Seiten.“

Journalistische Beiträge hingegen leben aber von Absicht und Ziel des Autors, von Text-Gestaltung, Lebendigkeit und Abwechslung, von der Lust an Sprache und der Lust am Schreiben. „Wer die Maschine texten lässt, muss all das gekonnt in den Prompt übersetzen – und hinterher Absatz um Absatz überprüfen, was die KI aus dem Prompt gemacht hat.“ Das ist möglich, aber dann ist die Zeitersparnis natürlich dahin. Gute Texte werden auch weiterhin nur mit guten Textern entstehen. Oder anders gesagt: Gute Texter brauchen KI nicht zu fürchten. Sie müssen aber lernen, deren Möglichkeiten für ihre Arbeit zu nutzen.

Fit bleiben in Sprache, Recherche und Faktencheck

So gesehen ist der Link, mit dem die Redaktion das Interview online gestellt hat „daniel-perrin-kritisiert-ki-texte“ nicht richtig. Denn Perrin kritisiert die KI-Texte nicht. Ganz im Gegenteil: er sieht die Chancen und Möglichkeiten, weist aber eben auf Grenzen und Risiken hin.

„KI imitiert die Oberfläche menschlichen Sprachgebrauchs, und das sehr gekonnt. KI trainiert mit fast unendlich vielen Daten von Textoberflächen und errechnet daraus das durchschnittlich wahrscheinlichste nächste Wort. Und so entstehen diese Texte. Oberflächlich sind sie perfekt. Hinter der glatten Sprachoberfläche ist aber keine Handlungsabsicht und schon gar keine Verantwortungsübernahme für das Kommunikationsangebot.“

Das ist weder Bubble, noch realitätsfern, es ist ganz einfach wichtig darauf hinzuweisen. Ich selbst bin immer wieder erschrocken, wenn ich sehe, mit welcher Ahnungs- und Sorglosigkeit vielfach KI auch und vor allem in der Unternehmens-, Verbands- oder Hochschulkommunikation eingesetzt wird. Wir müssen KI gegenüber nicht per se skeptisch sein, sondern lernen wie wir damit umgehen und sie gut für die Kommunikation nutzen können. Sprachwissenschaftler Perrin rät daher auch: „Bleib fit im Sprachgebrauch, im Recherchieren, im Fact Checking und im Style Checking. Je besser die Maschine wird, desto besser musst du selbst sein, um die Leistung der Maschine einschätzen zu können, die für dich arbeitet.“

Selbst nachdenken – und zum Beispiel auch ein Interview erst einmal zu lesen, bevor man das gesamte flegelhafte Bashing darauf niederregnen lässt – das wäre ein guter Schritt. Als ich den Rat „Bleib fit…“ gelesen habe, kam mir unweigerlich das Zitat von Steve Jobs in den Sinn; der Rat, den er den frisch gekürten Stanford-Absolventen mit auf den Lebensweg gab: „Stay foolish, stay hungry“ (das übrigens dann wirklich mit H) – Neugierig bleiben, selbst herausfinden wollen, selbst machen wollen, das hält uns auch mental fit. So kann man auch Künstliche Intelligenz sinnvoll nutzen.