Blog Layout
Background: KI als Spiegelbild der Gesellschaft?
Sept. 28, 2023
Vielleicht ist es dir selbst schon einmal aufgefallen beim Experimentieren: Fragt man KI-Tools, vor allem Fototools wie Midjourney, nach Darstellungen von Menschen kommen bestimmte Eigenschaften übermäßig oft vor: männlich und weiß. Es gibt viele Beispiele, in denen Künstliche Intelligenz mit Vorurteilen oder diskriminierend antwortet. Wie ist das möglich?
Ursprung der Diskriminierung in KI
Die Diskriminierung in KI hat oft ihre Wurzeln in den Daten, mit denen die Algorithmen trainiert werden. Wenn ein Algorithmus mit voreingenommenen Daten trainiert wird, spiegelt er diese Vorurteile in seinen Ergebnissen wider. Ein prägnantes Beispiel hierfür ist ein Gesichtserkennungsalgorithmus. Wenn dieser Algorithmus hauptsächlich mit Bildern von weißen Gesichtern trainiert wird, könnte er Schwierigkeiten haben, Gesichter von Menschen anderer Ethnien korrekt zu erkennen. Das Problem wird dadurch verschärft, dass solche Vorurteile oft nicht absichtlich in die Algorithmen eingeführt werden. Sie entstehen vielmehr durch unausgewogene oder unvollständige Datensätze, die die Realität nicht korrekt abbilden.
Beispiele für Diskriminierung durch KI
Ein besonders besorgniserregendes Beispiel für Diskriminierung durch KI wurde im amerikanischen Gesundheitssystem festgestellt. Ein in US-Krankenhäusern eingesetzter Algorithmus zur Vorhersage des zusätzlichen medizinischen Bedarfs von Patient:innen zeigte eine klare Bevorzugung von weißen Patient:innen gegenüber schwarzen. Der Grund dafür war, dass der Algorithmus die vergangenen Gesundheitsausgaben der Patient:innen berücksichtigte, die wiederum mit der ethnischen Herkunft korreliert waren.
Amazon, ein weltweit führendes Technologieunternehmen, war ebenfalls von KI-Diskriminierung betroffen. Ein von Amazon entwickelter Algorithmus zur Bewertung von Bewerber:innen für technische Positionen zeigte eine klare Voreingenommenheit gegenüber Frauen. Dies war besonders problematisch, da der Algorithmus Bewerbungen von Frauen systematisch benachteiligte.
Wie KI die Vorurteile der Gesellschaft widerspiegelt
Es ist wichtig zu betonen, dass KI-Systeme nicht von Natur aus voreingenommen sind. Sie reflektieren lediglich die Vorurteile, die in den Daten vorhanden sind, mit denen sie trainiert wurden. In vielen Fällen sind diese Daten ein Spiegelbild der gesellschaftlichen Vorurteile. So können KI-Modelle, die auf Nachrichtenartikeln trainiert wurden, soziale Geschlechtervorurteile widerspiegeln. Ebenso können Daten, die in bestimmten geografischen Gebieten gesammelt wurden, zu einer Verzerrung in Kriminalitätsvorhersagemodellen führen.
Mögliche Lösungsansätze
- Um die Diskriminierung durch KI zu bekämpfen, müssen Algorithmen in realen Einstellungen getestet werden. Nur so kann sichergestellt werden, dass sie keine Vorurteile aufweisen.
- Ein weiterer Ansatz ist die Berücksichtigung von "kontrafaktischer Fairness". Dies bedeutet, dass ein Modell die gleichen Entscheidungen treffen sollte, unabhängig von sensiblen Merkmalen wie ethnischer Herkunft oder Geschlecht.
- Ein vielversprechender Ansatz zur Bekämpfung von KI-Diskriminierung ist die Einbindung von Menschen in den Entscheidungsprozess, das sogenannte "Human-in-the-Loop"-System. Hierbei greift ein Mensch ein, wenn die Maschine ein Problem nicht lösen kann. Dies führt zu einer kontinuierlichen Feedback-Schleife, durch die die KI ständig verbessert wird.
Während KI das Potenzial hat, viele Aspekte unseres Lebens zu verbessern, ist es unerlässlich, die ethischen Herausforderungen, die sie mit sich bringt, ernst zu nehmen. Nur durch eine sorgfältige Überprüfung und ständige Wachsamkeit können wir sicherstellen, dass KI-Systeme fair und unvoreingenommen sind.
In einer gemeinsamen Mitteilung haben OpenAI und News Corp eine mehrjährige globale Partnerschaft bekannt gegeben. Durch die Partnerschaft erhält OpenAI die Erlaubnis, Inhalte von News Corp in seinen Antworten auf Nutzerfragen anzuzeigen und seine Produkte zu verbessern. Das Ziel dieser Zusammenarbeit sei es, den Nutzer:innen fundierte Entscheidungen auf Basis zuverlässiger Informationen und Nachrichtenquellen zu ermöglichen. OpenAI wird Zugang zu aktuellen und archivierten Inhalten von News Corp's bedeutenden Publikationen wie The Wall Street Journal, Barron’s, MarketWatch, Investor’s Business Daily, The Times, The Sun, The Australian und vielen weiteren erhalten. Inhalte aus anderen Geschäftsfeldern von News Corp sind von der Vereinbarung ausgenommen. Neben der Bereitstellung von Inhalten wird News Corp auch seine journalistische Expertise einbringen, um sicherzustellen, dass die höchsten journalistischen Standards in den Angeboten von OpenAI präsent sind. Robert Thomson, CEO von News Corp, bezeichnete die Vereinbarung als historisch und betonte ihre Bedeutung für Wahrhaftigkeit, Tugend und Wert im digitalen Zeitalter. „Wir sind erfreut, in Sam Altman und seinem talentierten Team prinzipientreue Partner gefunden zu haben, die die kommerzielle und soziale Bedeutung von Journalist:innen und Journalismus verstehen. Diese wegweisende Übereinkunft markiert nicht das Ende, sondern den Beginn einer vielversprechenden Partnerschaft.“ Sam Altman, CEO von OpenAI, erklärte, dass die Partnerschaft ein stolzer Moment für Journalismus und Technologie sei. „Wir schätzen die führende Berichterstattung von News Corp und sind begeistert, unseren Nutzer:innen Zugang zu hochwertigem Journalismus zu verschaffen. Gemeinsam legen wir das Fundament für eine Zukunft, in der KI die Standards des Weltklasse-Journalismus respektiert, verbessert und aufrechterhält.“
Prompt Engineers für KI-Systeme waren im vergangenen Jahr stark nachgefragt. Teilweise wurden Gehälter bis über 300.000 Dollar im Jahr aufgerufen, um die Besten der Besten zu bekommen. Doch meine Message ist: Jeder kann Prompt Engineer sein. Wer schon länger meinem Newsletter folgt, kennt die Grundlagen des Prompting. Doch manchmal kann es dennoch passieren, dass man sich unsicher ist, wie ein Prompt am besten aussehen sollte. Nicht zu kurz, nicht zu lang. Nicht zu wenige Infos, nicht zu viele. Wie detailliert muss der Prompt also sein? Das ist eine Frage der Übung und des Ausprobierens. Doch auch die KI selbst kann uns helfen, die Anweisungen an sie bestmöglich zu formulieren. Zum Beispiel mit diesem Prompt: “Ich werde dir einen Prompt geben und dein Ziel wird es sein, diesen zu verbessern, indem du mir Fragen stellst. Sobald ich die Fragen beantwortet habe, schreibe den neuen Prompt und stelle mir neue Fragen. Okay?” Schritt für Schritt wollen wir uns den perfekten Prompt bzw. die Informationen, die die KI benötigt, erarbeiten. Ich starte mir diesem kurzen Prompt: “Fasse mir die unterschiedlichen Standpunkte beim Verbot von Verbrennermotoren in Europa zusammen.” Von der KI erhalte ich folgende Nachfragen: “Okay, um den Prompt detaillierter und spezifischer zu gestalten, habe ich einige Fragen: Möchtest du, dass der Fokus auf bestimmten Ländern in Europa liegt? Wenn ja, welche Länder interessieren dich besonders? Soll der Prompt die Standpunkte von politischen Parteien, Umweltorganisationen, Industrievertretern und der Bevölkerung beinhalten? Möchtest du historische Kontexte oder aktuelle Entwicklungen berücksichtigt haben? Gibt es bestimmte Quellen oder Arten von Quellen, die du bevorzugst, wie z. B. wissenschaftliche Studien, Nachrichtenartikel oder offizielle Stellungnahmen? Soll der Prompt auch mögliche Auswirkungen eines Verbots von Verbrennermotoren auf Wirtschaft, Umwelt und Gesellschaft ansprechen? Wie ausführlich soll die Zusammenfassung sein? Möchtest du eine kurze Übersicht oder eine detaillierte Analyse? Sobald ich deine Antworten habe, kann ich den Prompt verbessern.” Ich beantworte die Fragen so gut es geht: “1. Es soll ein grober Überblick über Europa sein, mit einem Fokus auf Deutschland. 2. Ja, das sind bereits gute Gruppen. 3. Ich möchte die aktuellen Situationen und Standpunkte kennen, historische Hintergründe können als Erklärung nützlich sein. 4. Ich bevorzuge seriöse Quellen, wie Studien, journalistische Texte und Stellungsnahmen. 5. Ja. 6. Ich möchte eine möglichst ausführliche Zusammenfassung.” Nun erhalte ich einen neuen Prompt von der KI: “Bitte fasse die unterschiedlichen Standpunkte zum Verbot von Verbrennermotoren in Europa zusammen, mit einem speziellen Fokus auf Deutschland. Berücksichtige dabei die Meinungen von politischen Parteien, Umweltorganisationen, Industrievertretern und der allgemeinen Bevölkerung. Achte besonders auf aktuelle Situationen und Standpunkte, und ziehe historische Hintergründe zur Erklärung hinzu, wo sie relevant sind. Nutze seriöse Quellen wie wissenschaftliche Studien, journalistische Artikel und offizielle Stellungnahmen. Diskutiere auch die möglichen Auswirkungen eines Verbots von Verbrennermotoren auf die Wirtschaft, Umwelt und Gesellschaft. Die Zusammenfassung sollte möglichst ausführlich sein.” Außerdem stellt die KI mir weitere Fragen, um den Prompt weiter zu verbessern: ”Gibt es spezifische politische Parteien oder Umweltorganisationen, deren Standpunkte besonders wichtig sind? Soll der Einfluss internationaler Akteure, wie der EU oder globaler Umweltabkommen, ebenfalls berücksichtigt werden? Gibt es besondere wirtschaftliche Sektoren oder gesellschaftliche Gruppen, deren Standpunkte du detaillierter beleuchtet haben möchtest? Möchtest du, dass spezifische Fallstudien oder Beispiele in die Analyse einfließen?” So geht das nun weiter, bis entweder die KI keine Verbesserungsmöglichkeiten mehr sieht, oder du zufrieden mit dem Prompt bist.
OpenAI hat am Montag sein neues Flaggschiff-Modell vorgestellt, das sie GPT-4o nennen – das „o“ steht für „omni“, was auf die Fähigkeit des Modells hinweist, Text, Sprache und Video zu verarbeiten. GPT-4o wird in den nächsten Wochen schrittweise in den Produkten des Unternehmens eingeführt. Laut OpenAI-CTO Mira Murati bietet GPT-4o eine Intelligenz auf dem Niveau des aktuellen Modells GPT-4, verbessert jedoch die Fähigkeiten von GPT-4 in mehreren Modalitäten und Medien. „GPT-4o kann in Sprache, Text und Bild logisch schlussfolgern“, sagte Murati während einer Live-Präsentation in den Büros von OpenAI in San Francisco. „Und das ist unglaublich wichtig, weil wir die Zukunft der Interaktion zwischen uns und Maschinen gestalten.“ Die Neuerungen von GPT-4o im Überblick GPT-4o verbessert das Erlebnis im KI-gestützten Chatbot ChatGPT erheblich. Die Plattform bot schon lange einen Sprachmodus, der die Antworten des Chatbots mittels eines Text-zu-Sprache-Modells transkribierte. GPT-4o verstärkt dies jedoch, indem es den Nutzer:innen ermöglicht, mit ChatGPT mehr wie mit einem Assistenten zu interagieren. Nutzer:innen können ChatGPT beispielsweise eine Frage stellen und ChatGPT während der Antwort unterbrechen. Das Modell liefert laut OpenAI „in Echtzeit“ Reaktionsfähigkeit und kann sogar auf Nuancen in der Stimme einer/s Nutzer:in reagieren, indem es Stimmen in „einer Reihe verschiedener emotionaler Stile“ (einschließlich Gesang) generiert. GPT-4o verbessert auch die visuellen Fähigkeiten von ChatGPT. Angesichts eines Live-Videos oder eines Desktop-Bildschirms kann ChatGPT jetzt schnell dazugehörige Fragen beantworten, von Themen wie „Was passiert in diesem Softwarecode?“ bis hin zu „Welche Marke zeigt das Hemd dieser Person?“. Diese Funktionen werden sich in Zukunft weiterentwickeln. Während GPT-4o heute ein Bild eines Menüs in einer anderen Sprache betrachten und übersetzen kann, könnte das Modell in Zukunft ChatGPT ermöglichen, beispielsweise ein Live-Sportspiel „anzusehen“ und die Regeln zu erklären. Auch das Übersetzen von rund 50 Sprachen ist in Echtzeit möglich. Ankündigungen bei Google Auf der Google I/O 2024 wurden zahlreiche neue KI-Produkte und -Dienste vorgestellt, die sich auf verschiedene Anwendungen und Bereiche erstrecken. Hier sind die Hauptneuerungen: Video-KI Veo: Diese KI kann Full-HD-Videos (1080p) generieren, die länger als eine Minute sind. Veo versteht Kameraeinstellungen und erzeugt konsistente und kohärente Videos. Erste Künstler können Veo über VideoFX testen. Project Astra: Google bündelt hier seine Arbeit an KI-Agenten, die die Welt verstehen, sich Dinge merken und handeln können. Diese Agenten basieren auf Gemini und sind für verschiedene Aufgaben spezialisiert. Sie sollen zukünftig über Smartphones oder Brillen zugänglich sein. Sie können sehen und hören und in Echzeit Fragen zur Umgebung beantworten, ähnlich wie der neue Sprachassistent von OpenAI. AI Overview: AI kommt noch stärker in die Google-Suche. Diese Funktion bietet automatisch generierte Zusammenfassungen oberhalb der Google Suchergebnisse an. Die Funktion kombiniert die Fähigkeiten des Gemini-Modells mit Googles Suchsystemen und soll bis Ende des Jahres aus der Testphase in den normalen Betrieb übergehen. Lyria: Eine generative Musik-KI, die künftig alle Musikdienste in der Music AI Sandbox zusammenführen wird. SynthID: Ein digitales Wasserzeichen, das in Bilder, Audio, Text und Video eingebettet werden kann. Visuelle Suche: Eine Erweiterung von Google Lens, bei der man Fragen zu einem Video stellen kann, indem man ein Element umkreist. Diese Funktion ist vergleichbar mit neuen Funktionen von OpenAIs ChatGPT, bei denen man über die Kamera und per Sprache interagieren kann. Insgesamt zeigt Google auf der I/O 2024 einen starken Fokus auf die Integration von KI in verschiedene Produkte und Dienste, um Nutzern effizientere und vielseitigere Werkzeuge zur Verfügung zu stellen. Verfügbarkeit und Zugänglichkeit GPT-4o ist ab sofort in der kostenlosen Stufe von ChatGPT und für Abonnent:innen der Premium-ChatGPT Plus- und Team-Pläne mit „5-fach höheren“ Nachrichtenlimits verfügbar. (OpenAI merkt an, dass ChatGPT automatisch auf GPT-3.5, ein älteres und weniger leistungsfähiges Modell, umschaltet, wenn Nutzer:innen das Nachrichtenlimit erreichen.) Das verbesserte ChatGPT-Spracherlebnis, das von GPT-4o unterstützt wird, wird in etwa einem Monat in der Alpha-Version für Plus-Nutzer:innen verfügbar sein. Viele Expert:innen argumentieren, dass OpenAI in dieser Woche das KI-Rennen gewonnen hat, denn die meisten vorgestellten Produkte von Google sollen erst im Laufe des Jahres verfügbar sein, während die neuen ChatGPT-Features bereits heute oder in den kommenden Wochen veröffentlicht werden. Relevanz für den Journalismus Für Journalist:innen bietet GPT-4o eine Reihe spannender Möglichkeiten. Die Fähigkeit, Sprach-, Text- und Bildinhalte nahtlos zu verarbeiten, kann die Recherchearbeit erheblich beschleunigen. Reporter:innen könnten beispielsweise Sprachaufnahmen direkt transkribieren und analysieren lassen, während sie gleichzeitig relevante Bilder interpretieren und beschreiben lassen. Die Multimodalität ermöglicht es auch, komplexe Geschichten, die verschiedene Medienformate umfassen, effizienter zu erstellen und zu überprüfen. Die verbesserte Sprachfunktion könnte zudem die Interaktion mit digitalen Assistenten revolutionieren, indem sie eine natürlichere und flüssigere Kommunikation ermöglicht. Dies kann besonders nützlich sein, um schnell Informationen zu sammeln, Fakten zu überprüfen oder Inhalte zu redigieren, während man unterwegs ist. Schließlich eröffnet die Multilingualität von GPT-4o neue Perspektiven für den internationalen Journalismus. Mit der Fähigkeit, in etwa 50 Sprachen effizient zu arbeiten, können Journalist:innen Inhalte in verschiedenen Sprachen schneller übersetzen und analysieren, was die Berichterstattung über globale Ereignisse erleichtert. Bemerkenswert ist, das OpenAI viele nützliche Funktionen bald allen Nutzer:innen zugänglich machen wird, also auch den Personen ohne Plus-Abonnement. Dann wird es für alle möglich sein, auf das Internet zuzugreifen, Daten zu analysieren und Grafiken zu erstellen oder Fotos und Dateien hochzuladen und zu analysieren. Außerdem wird OpenAI GPTs und den dazugehörigen Store für alle zugänglich machen. Sobald alle Funktionen zugänglich sind, werde ich hier einen Praxistext veröffentlichen. Mit dem Zugang zu GPTs für alle werde ich mich in Zukunft außerdem stärker mit GPTs für Journalist:innen beschäftigen.
