Angenommen, im Fernsehen läuft das TV-Duell zweier Bewerber um ein hohes politisches Amt. Die Kandidaten führen ihre Argumente ins Feld. Am Bildschirmrand wird noch während der Sendung eingeblendet, ob der Sprechende gerade die Wahrheit sagt oder sie eher verbiegt - und das voll automatisiert.

Die Grundlage für ein solches Tool ist jetzt an der Hochschule Darmstadt entwickelt worden. In einem Seminar zu Künstlicher Intelligenz (KI) am Campus Dieburg sollten die Studierenden sich praktische KI-Anwendungen überlegen. Der Dozent Rafael Bujotzek, der auch als Berater für IT-Projekte arbeitet, wollte weg von der grauen Theorie.

"Wie können wir die Welt verbessern?"

"Ich habe dann gefragt: Womit können wir die Welt verbessern?", erzählt Bujotzek. Herausgekommen seien sehr viele Ideen, von per KI entwickelten Geschäftsmodellen bis hin zu Rezepturen für Kosmetika. Der Student Simon Kirschner hatte den Einfall mit dem Live-Faktencheck für Talkshows oder TV-Debatten.

"Ich bin selbst sehr an Politik interessiert", sagt Kirschner. Die bisherigen Faktenchecks würden meist erst nach der Sendung veröffentlicht, wenn sich kaum noch jemand dafür interessiere. Zudem seien sie oft sehr dürftig. "Ich habe mir gedacht: Wir können heute so viel mit KI machen. Warum also nicht auch einen Live-Faktencheck?"

Erster Test mit "Markus Lanz"

Um das zu testen, luden Kirschner und Bujotzek zunächst eine Ausgabe der ZDF-Talkshow "Markus Lanz" herunter. Mithilfe einer Transkriptionssoftware wurde die komplette Sendung binnen Sekunden in Text umgewandelt. "Dass hier sogar die Namen stimmen und die Interpunktion, das ist schon unglaublich", schwärmt Bujotzek.

Anschließend ließ er ChatGPT den Inhalt analysieren. Dabei komme es sehr auf die Anweisung an, die man der KI gibt. "Das Prompting ist schon eine höhere Kunst", erklärt der Software-Experte. "Aber wenn man das ordentlich schreibt, reichen schon ein paar kurze Sätze, um das richtige Ergebnis zu bekommen."

KI unterscheidet Fehler von Rhetorik

Die KI habe Widersprüche und Fehler in den Aussagen der Talkshow-Gäste aufgezeigt. Ein Teilnehmer habe etwa im Zusammenhang mit einer städtischen Entwicklung versehentlich von 30 Jahrzehnten gesprochen. Die KI habe korrekterweise darauf hingewiesen, dass "drei Jahrzehnte" oder "30 Jahre" gemeint waren.

Das Programm habe aber auch die Formulierung "Als Jesus in der dritten Klasse war" als humorvolle Übertreibung des Moderators erkannt und nicht als Fake News bemängelt. "Insofern kann man sagen, dass selbst rhetorische Stilmittel von einer KI durchschaut werden", sagt Bujotzek.

Video-Schiedsrichter für Talkshows

Um das Ganze zum Live-Check weiterzuentwickeln, holte Bujotzek, selbst jahrelang als Journalist für den hr und das ZDF tätig, den promovierten Neurobiologen Marvin Weigand ins Boot. "Ich fand die Idee toll", sagt Weigand. "Das ist ja wie ein Video-Schiedsrichter für Talk-Shows."

Weigand führte verschiedene frei verfügbare Programme zusammen. Sie erfüllen jeweils unterschiedliche Anforderungen wie Spracherkennung, Sprecherzuordnung und Inhaltsanalyse. Getestet wurde das Live-Konzept dann anhand eines CNN-Interviews mit Nancy Pelosi von der Demokratischen Partei im Repräsentantenhaus der USA.

Live-Check noch sehr fehleranfällig

Gravierende Falschaussagen fand die KI diesmal nicht. "Generally accurate", also im allgemeinen zutreffend, seien Pelosis Statements. An der einen oder anderen Stelle geht die KI laut Bujotzek ins Detail, macht Vorschläge, wie die Aussagen der Politikerin noch passender wären.

"Der Live-Check ist noch sehr fehleranfällig", räumt Weigand ein. Der Grund dafür ist, dass bei der Transkription und Interpretation einzelner kurzer Abschnitte oder Sätze sich eher mal Irrtümer einschleichen, weil der Kontext der gesamten Sendung fehlt. "Aber es hat schon ganz gut funktioniert."

Vorerst nicht massentauglich

Anwenderfreundlich ist das Ganze noch nicht. Der Laie muss sich in dem Gewimmel aus Fenstern und Textzeilen schon zeigen lassen, wo genau die KI ihre Bemerkungen macht. Eine Nutzeroberfläche wäre notwendig. "Das war aber auch nicht unsere Hausaufgabe", wirft Bujotzek ein. Man habe aufgezeigt, dass das Prinzip funktioniere. "PoC", "Proof of Concept", nennt das der Fachmann.

Das eingangs dieses Artikels beschriebene Szenario eines Fernsehzuschauers, der per App oder Mediathek die Aussagen in einer TV-Sendung in Echtzeit auf deren Wahrheitsgehalt hin überprüft bekommt, ist also Zukunftsmusik. "Das war die Grundidee, aber so funktioniert es leider noch nicht", sagt Bujotzek.

Auf die feinen Widersprüche kommt es an

Einen potenziellen Nutzen des Konzepts sieht Bujotzek in der Unterstützung von Moderatoren und Redakteuren, ohne zu unterstellen, dass diese nicht in der Lage wären, Fake News auch ohne KI zu enttarnen. "Um eine eindeutige Lüge aufzudecken, brauche ich keine KI, das wäre mit Kanonen auf Spatzen geschossen." Die KI könne aber helfen, feine Widersprüche zu entdecken. Dazu nennt Bujotzek wiederum ein Beispiel aus der Lanz-Sendung.

Ein Kommunalpolitiker hatte nach Ansicht der KI die Wichtigkeit der Gewerbesteuer für die städtischen Finanzen überzogen dargestellt. "Mit so etwas kann man Politik machen", sagt Bujotzek. Das Programm habe aber darauf hingewiesen, dass es noch viele weitere Einnahmequellen für eine Kommune gebe. Ein Moderator könne in solch einem Fall den Gast unmittelbar damit konfrontieren.

Kirschner hatte die Idee als Erster

Das Rad haben Kirschner, Bujotzek und Weigand nicht komplett neu erfunden. Sie haben bereits vorhandene Komponenten zu einem möglicherweise nützlichen Tool zusammengeführt. Der Student zeigt sich denn auch überrascht, dass die Idee noch niemand vor ihm gehabt zu haben scheint. "Ich habe zu Hause noch mal recherchiert und festgestellt: So etwas gibt es scheinbar wirklich noch nicht."

Dass sie damit einen Nerv getroffen zu haben scheinen, merkte auch Bujotzek schnell. Nachdem das Projekt publik wurde, habe er viele Anfragen von Medienhäusern erhalten, die darüber berichten wollten. Dabei sei das vom Aufwand her keine große Sache gewesen.

Experte: "Keine Wahrheitsmaschine, aber nützliche Hilfe"

Der Datenjournalist und KI-Koordinator des hr, Jan Eggers, weiß um die Vorteile, aber auch um die Tücken eines solchen Tools. Denn was eine KI am Ende ausspuckt, hänge sehr stark vom Zufall ab. Zudem sei es schwierig, topaktuelle Informationen in die KI einfließen zu lassen.

"Ich kann also nicht erwarten, dass mir die KI alle Fragen beantwortet und für mich zwischen falsch und richtig entscheidet", sagt Eggers. Eine zuverlässige "Wahrheitsmaschine" werde es also in absehbarer Zeit nicht geben. Die KI könne aber helfen, Belege für einen Faktencheck schneller und besser zu finden.

"Anfang einer gigantischen Entwicklung"

Dass das Thema Künstliche Intelligenz immer mehr Bereiche des gesellschaftlichen Lebens berührt, mag kaum noch jemand abstreiten. Bujotzek billigt ihr ein gewaltiges Potenzial zu. "Wir sind am Anfang einer gigantischen Entwicklung", skizziert er seine Vorstellung von der nahen Zukunft. "In den nächsten fünf Jahren wird sich im Berufsleben, in unserem Alltag alles maßgeblich so ändern, dass es auf Künstliche Intelligenz ausgerichtet ist."