Blog Layout

Prompt-Tipp: Faktencheck mit KI

2. Mai 2024

Die Frage, die ich am häufigsten bei meinen KI-Schulungen und Vorträgen bekomme, ist: “Aber können wir den Informationen der KI trauen?”. Das ist eine gute Frage, denn in der Vergangenheit produzierte die KI immer wieder Falschinformationen, sogenannte Halluzinationen. Und auch wenn dies meiner Beobachtung nach in den vergangenen Monaten nachgelassen hat, ist die Gefahr immer noch da.


Gleichzeitig kann die KI uns im Medienalltag aber auch dabei helfen, Falschinformationen aufzudecken und Informationen zu korrigieren. Dies ist möglich mit einer Vielzahl von Informationen, z.B. Zitate, Statistiken, Fakten, usw. KI  hilft uns als Assistent dabei diese Informationen zu überprüfen.


Am Anfang jedes Einsatzes von KI steht ein guter Prompt. Ich wähle in diesem Fall diesen:


“Ich bin Journalist und arbeite mit Zitaten, Statistiken und Fakten. Teil meines Jobs ist es auch, Informationen auf ihre Richtigkeit zu überprüfen. Du bist mein Assistent dabei. Überprüfe die Informationen, die ich dir gebe. Dabei geht es darum zu überprüfen, ob die Informationen wirklich stimmen, und wenn ja, ob sie zu 100 Prozent deckungsgleich mit dem Original sind. Bitte gib mir zu jeder Information an, ob diese echt ist oder nicht. Dann gib ebenfalls an, ob diese zu 100 Prozent stimmt, oder leicht verändert wurde. Dann gib mir auch Quellen, die die Echtheit belegen.”


Nun habe ich mir einen eigenen kleinen Bot gebaut, dem ich jede beliebige Information geben kann. Ich starte mit einem Test zu Zitaten. Wurden folgende Zitate wirklich genau so von den entsprechenden Personen getätigt?


Als erstes nehme ich ein Zitat von Frank Beckenbauer und verändere dieses zum Test leicht.


Original:

"Ich bin immer noch am Überlegen, welche Sportart meine Mannschaft an diesem Abend ausgeübt hat. Fußball war's mit Sicherheit nicht."


Meine Version:

"Ich bin immer noch am Überlegen, welche Sportart mein Team an diesem Abend ausgeübt hat. Fußball war's mit Sicherheit nicht."


Ich gebe der KI nun folgenden Auftrag:


“Ist dieses Zitat von Frank Beckenbauer echt? ‘Ich bin immer noch am Überlegen, welche Sportart mein Team an diesem Abend ausgeübt hat. Fußball war's mit Sicherheit nicht.’”


Ich erhalte folgende richtige Antwort:


Ja, das Zitat ist echt und stammt von Franz Beckenbauer. Allerdings wurde es leicht verändert. Das korrekte Zitat lautet:

"Ich bin immer noch am Überlegen, welche Sportart meine Mannschaft an diesem Abend ausgeübt hat. Fußball war’s mit Sicherheit nicht."

Die Quellen bestätigen die Echtheit des Zitats. Es wurde nach einer Niederlage des FC Bayern München geäußert.


Nun teste ich es mit Statistiken bzw. Daten. Der Temperaturrekord in China liegt bei 52,2 Grad Celsius. Ich möchte der KI aber verklickern, dass dieser bei 53,3 Grad liegt. Mal schauen, ob der Fehler auffällt:


“Stimmt diese Information? Der Hitzerekord in China liegt bei 53,3 Grad Celsius.”


Die Antwort:


Die Information ist nicht korrekt. Der Hitzerekord in China liegt bei 52,2 Grad Celsius, nicht bei 53,3 Grad. Dieser Rekord wurde in der abgelegenen Gemeinde Sanbao im Nordwesten Chinas gemessenDer bisherige Höchstwert in der Volksrepublik wurde 2015 mit 50,3 Grad gemessen. Die Quellen bestätigen die Echtheit dieser Information.


Zuletzt frage ich noch Informationen bzw. Fakten ab. Schauspieler Elyas M’Barek lebt seit 2022 in New York. Der KI gebe ich allerdings die Information, dass es stattdessen London ist:


“Stimmt die folgende Information? Schauspieler Elyas M'Barek lebt seit 2022 in London.”


Die Antwort:


Die Information ist nicht korrekt. Schauspieler Elyas M’Barek lebt seit 2022 nicht in London, sondern in New York. Er zog kurz nach der Hochzeit mit seiner Frau Jessica in eine Wohnung im New Yorker Stadtteil Brooklyn. Die Quellen bestätigen die Echtheit dieser Information.


In diesen drei Fällen hat der Faktencheck also sehr gut funktioniert. Zugegeben - das waren keine besonders herausfordernden Daten und Informationen, dennoch zeigen sie, was mit KI möglich ist. Teste gerne einmal selbst, ob es auch bei dir klappt mit Informationen deiner täglichen journalistischen Arbeit.


Für den Test habe ich übrigens die kostenfreie Version von Microsoft Copilot genutzt. Warum? Zum einen hat Copilot meiner Meinung nach aktuell die beste Vernetzung zum Internet. Die ist nötig, um die Fakten und Informationen in Echtzeit mit Quellen im Internet abzugleichen. Ohne die Internetverbindung besteht die Gefahr neuer Halluzinationen, da jedes KI-Tool nicht mit tagesaktuellen Daten arbeitet.


Zum anderen gibt mir Copilot direkt zahlreiche Links zu Originalquellen, sodass ich die Infos direkt selbst noch einmal überprüfen kann.

Copilot ausprobieren
von Patrick Große 05 Juli, 2024
Heute möchte ich nochmal einen Exkurs in den Bereich der Bilderstellung wagen. Ein Bereich, der natürlich mit Vorsicht zu genießen ist, vor allem im Journalismus. Die Nutzung von KI-Bildern ist irreführend und sollte nur mit entsprechendem Transparenzhinweis in Medien genutzt werden. Auf der anderen Seite steht die Diskussion, ob KI-Kunst wirklich Kunst ist. Dennoch gibt es viele, die sich zuhause privat mit der Erstellung von KI-Bildern befassen. Das ist mittlerweile mit zahlreichen Tools möglich: Midjourney, ChatGPT-Plus oder der erweiterten Version von Copilot, die viele Medienunternehmen inzwischen nutzen. Wie ein perfekter Prompt zur Bilderstellung aussieht, haben vor uns vor einiger Zeit bereits angeschaut. Doch wer mit KI-Bildern bereits experimentiert hat, wird merken, ein und derselbe Prompt produzieren über die Zeit andere Ergebnisse. Der Stil eines Bildes lässt sich über einfaches Prompten kaum halten. Hier kommt der sogenannte Seed (dt. Samen) in Spiel. Jedes von KI erstellte Bild kommt nämlich einen Seed, also eine einzigartige Nummer, mit dem das System das Bild erkennt. Durch die Nennung des Seeds können auch weitere Bilder in der Zukunft wieder im gleichen Stil erstellt werden. Mein Beispiel-Prompt: “Du bist Zeichner für Kinderbücher. Bitte erstelle ein Bild von einem Hasen, der gemeinsam mit einem Bär, einer Eule und einer Schnecke im Wald wohnt. Das Bild sollte eine ansprechende Zeichnung sein, die in einem Buch für Kinder von 2-5 Jahren erscheint.” Das Ergebnis: 
von Patrick Große 05 Juli, 2024
In der Welt der Künstlichen Intelligenz gibt es derzeit heiße Diskussionen über die Grenze zwischen fairer Nutzung und Plagiat. Im Mittelpunkt steht Perplexity AI, ein Startup, das eine Suchmaschine mit einem Sprachmodell kombiniert, um detaillierte Antworten zu liefern. Anders als andere KI-Modelle trainiert Perplexity keine eigenen, sondern nutzt bestehende Modelle und sammelt Informationen aus dem Internet. Vorwürfe gegen Perplexity AI Im Juni 2023 wurde Perplexity vorgeworfen, unethisch zu handeln. Das Medium Forbes beschuldigte das Startup, einen seiner Artikel plagiiert zu haben, und Wired warf Perplexity vor, seine Website und andere unerlaubt zu scrapen. Diese Vorwürfe werfen ein Schlaglicht auf die komplexen rechtlichen und ethischen Fragen, die mit der Nutzung von KI im Journalismus verbunden sind. Das Problem mit dem Web-Scraping Wired berichtete, dass Perplexity das Robots Exclusion Protocol ignorierte, das Websites davor schützen soll, von Web-Crawlern durchforstet zu werden. Eine Untersuchung ergab, dass eine mit Perplexity verbundene IP-Adresse Inhalte von Websites sammelte, die für Bots gesperrt sind. Web-Scraping bedeutet, dass automatisierte Software das Internet durchforstet, um Informationen zu sammeln. Suchmaschinen wie Google tun dies, um Webseiten in Suchergebnissen anzuzeigen. Aber viele Verlage wollen nicht, dass ihre Inhalte für den Aufbau von KI-Datensätzen genutzt werden. Plagiat oder faire Nutzung? Wired und Forbes beschuldigten Perplexity auch des Plagiats. Wired stellte fest, dass der Perplexity-Chatbot einen ihrer Artikel fast wortwörtlich zusammenfasste. Forbes berichtete Ähnliches und kritisierte, dass Perplexity Inhalte von verschiedenen Nachrichtenquellen nutzte, ohne diese ausreichend zu kennzeichnen. Perplexity vergleicht seine Zusammenfassungen mit journalistischer Praxis, bei der Fakten aus verschiedenen Quellen genutzt werden. Zukunftsaussichten und Lösungen KI-Unternehmen wie OpenAI haben Vereinbarungen mit Nachrichtenverlagen getroffen, um deren Inhalte nutzen zu dürfen. Diese Abkommen ermöglichen den Verlagen, von der KI-generierten Nutzung ihrer Inhalte zu profitieren. Perplexity plant nun ähnliche Abkommen und möchte Verlagen durch Werbeeinnahmen einen Anteil zukommen lassen. Perplexity-CEO Aravind Srinivas erklärte, dass das Unternehmen die Quellen in Zukunft prominenter zitieren werde. Allerdings gebe es technische Herausforderungen, da KI-Modelle wie ChatGPT und Perplexity manchmal fehlerhafte oder erfundene Links generieren, was die Zuverlässigkeit der Zitate beeinträchtigen kann.
von Patrick Große 20 Juni, 2024
Der heutige "Prompt-Tipp" ist ein Erfahrungsbericht über meine Arbeit mit Künstlicher Intelligenz, der zur Abwechslung einmal keinen spezifischen Prompt für die journalistische Arbeit bietet. In der vergangenen Woche hatte ich die Gelegenheit, als "Mechaniker" an der KI-Werkstatt von MDR next in Leipzig teilzunehmen. An dieser Stelle noch einmal vielen Dank für die Einladung. Dort konnten Redakteur:innen vorbeikommen, um ihre konkreten KI-Herausforderungen zu besprechen und auszuprobieren. Zwei Kolleg:innen kamen mit dem Ziel, KI zu nutzen, um die verschiedenen Wahlprogramme zur kommenden Landtagswahl in Sachsen zu analysieren. Der MDR testet derzeit ein internes GPT-Tool, ähnlich wie der SWR, in einer ersten Testphase. Dieses Tool basiert auf den Fähigkeiten von ChatGPT-4. Es lag daher nahe, diese Herausforderung mit ChatGPT anzugehen. Unser Ansatz war folgender: Download der Parteiprogramme in einen lokalen Ordner und Benennung nach dem gleichen Schema, z.B. “Partei_Wahlprogramm_Sachsen”. Hochladen aller Wahlprogramme in das Interface von ChatGPT. Formulierung eines Basis-Prompts, um die Aufgabe an die KI zu definieren. Unser erster Basis-Prompt sah so aus: “Du bist Journalist und führst politische Faktenchecks und Analysen zu Wahlprogrammen für die kommende Landtagswahl im Bundesland Sachsen durch. Deine Aufgabe ist es, die Wahlprogramme der relevanten Parteien nach bestimmten Kriterien zu analysieren. Deine Aufgaben umfassen: Durchsuchen der Wahlprogramme nach den wichtigsten Punkten. Vergleich dieser Punkte mit den Wahlprogrammen anderer Parteien. Analyse nach vorgegebenen Themenkomplexen (z.B. Wirtschaft, Bildung, Umwelt). Auswertung nach bestimmten Kriterien (z.B. Umsetzbarkeit, Konkretheit). Wichtige Hinweise: Gib zu jeder analysierten Aussage die exakte Quelle mit Wahlprogramm und Seitenzahl an. Agiere neutral und faktengetreu, ohne eigene Interpretationen vorzunehmen. Ergebnisse: Erstelle eine tabellarische Übersicht mit allen relevanten Textstellen, einschließlich Seitenzahl und Wahlprogramm. Anbei findest du die verschiedenen Wahlprogramme. Bitte nutze ausschließlich diese Dokumente für deine Analyse.” Die KI startete anschließend sofort die Analyse und wählte dabei zufällige Themenfelder: Bildung Energie Familie und Demografie Wirtschaft Innere Sicherheit Das Tool erklärte nicht, warum es bestimmte Themenfelder wählte. Es wäre wertvoller gewesen, zunächst einen allgemeinen Überblick über alle Wahlprogramme zu erhalten. Während bei der ersten Partei die Seitenzahlen der Textstellen im Wahlprogramm zuverlässig angegeben wurden, erschien bei späteren Parteien lediglich ein "X" als Platzhalter für die Seitenzahl. 
Mehr anzeigen
Share by: