Regelbasierte, prädiktive und generative KI: Wie Bias im Journalismus entsteht und wie Redaktionen damit umgehen können

Wenn heute von „Künstlicher Intelligenz im Journalismus“ die Rede ist, klingt das, als handele es sich um eine einzige, klar umrissene Technologie. Hinter dem Sammelbegriff stecken jedoch mindestens drei unterschiedliche Systemtypen: regelbasierte Automatisierung, Prognosen auf Basis von maschinellem Lernen und generative KI (Sackl-Sharif et al., im Erscheinen). Sie haben verschiedene Stärken und, für Redaktionen wichtiger, verschiedene Fehlerquellen. Caswell (2024) zeigt das etwa für den Unterschied zwischen vorlagenbasierter Textautomatisierung und großen Sprachmodellen. Wer KI im Newsroom einsetzen möchte, sollte deshalb zuerst wissen, mit welchem Typ gearbeitet wird. Dieser bestimmt, welche Fehler und Bias-Formen zu erwarten sind und wo und wie nachgeprüft werden muss.

Wir ordnen das Feld nach diesen drei Typen und skizzieren ihre Funktionsweise an Beispielen aus dem österreichischen Journalismus. Im Zentrum steht die Frage: Wo steckt der Bias? Unter Bias verstehen wir, angelehnt an Gallegos et al. (2024), systematische Unterschiede in der Behandlung oder in den Ergebnissen zwischen sozialen Gruppen, die aus historischen und strukturellen Machtasymmetrien hervorgehen. Daneben behandeln wir systematische Fehler, die nicht entlang sozialer Gruppen verlaufen, etwa erfundene Zitate. Sie verlangen dieselbe Prüfung. Von Typ zu Typ lässt sich der Bias schwerer lokalisieren. Umso wichtiger werden zwei Aspekte, die keine Maschine ersetzen kann: Feminist AI Literacies (Klinger & Sackl-Sharif, 2026) und der Critical-Expert-in-the-Loop (Pollin, 2025). Beide diskutieren wir im letzten Abschnitt.

1. Regelbasierte Automatisierung: der sichtbare Bias

Regelbasierte Systeme lernen nicht. Menschen formulieren explizite Wenn-dann-Regeln und befüllen Vorlagen mit strukturierten Daten. Die Verarbeitung folgt vorab festgelegten Regeln (Dörr, 2016; Graefe, 2016): Gleiche Eingabedaten erzeugen denselben Text, und wer das System betreibt, kann nachvollziehen, warum ein Satz entstanden ist. Fachlich steht der Ansatz in der Tradition der symbolischen KI, die bis in die 1980er-Jahre das dominante Paradigma der KI-Forschung war (von Rueden et al., 2021). Nach heutigem Begriffsverständnis zählen solche Systeme meist nicht mehr zur KI. Die KI-Verordnung der EU nimmt Systeme, die ausschließlich von Menschen festgelegte Regeln ausführen, ausdrücklich aus ihrer Definition aus (Verordnung (EU) 2024/1689, Erwägungsgrund 12). Wir behandeln sie trotzdem als ersten Typ, weil sie im Newsroom neben den beiden anderen laufen, oft im selben System (siehe Abschnitt 2).

Im österreichischen Journalismus wird mit regelbasierten Systemen seit einigen Jahren gearbeitet. Anfang 2018 entwickelte das medialab der Austria Presse Agentur (APA) in einem fünftägigen Design Sprint den Prototyp „Egon“, der aus Spieldaten Berichte über regionale Fußballspiele formulierte (Schell, 2018). Seit der EU-Wahl 2019 erstellt die APA an Wahltagen für mehr als 2.000 österreichische Gemeinden binnen Minuten automatisierte Kurzberichte, die eine breitere regionale Berichterstattung ermöglichen sollen (APA, o. J.). In Newsforen und sozialen Medien begegnet uns derselbe Typ als einfacher Schlagwortfilter, also als Sperrliste, die Beschimpfungen oder Spam nach dem Muster „wenn Begriff, dann Löschung“ abfängt.

Wo steckt hier der Bias? Zum einen in den Schwellenwerten, die jemand bei der Entwicklung gesetzt hat. Ab welchem Abstand heißt ein Wahlergebnis „knapp“? Ab welchem Stimmenanteil wird eine Partei namentlich genannt, ab wann verschwindet sie unter „Sonstige“, und welche kleinen Parteien und Listen macht diese Schwelle unsichtbar? Welche Ligen und Ereignisse sind es überhaupt wert, automatisiert zu werden, und gehören Frauenligen dazu? Jede dieser Grenzen ist eine redaktionelle Wertentscheidung, die in den Code eingeschrieben wird, keine technische Notwendigkeit (vgl. Dörr & Hollnbuchner, 2017). Zum anderen lohnt ein Blick darauf, welche Fälle die Regeln überhaupt vorsehen. Egon konnte als Prototyp nur Siege mit den Ergebnissen 1:0, 2:0, 2:1 und 3:1 verarbeiten, ein Unentschieden kannte er nicht (Schell, 2018). Solche Lücken sind noch kein Bias im engeren Sinn, zeigen aber, wo er entsteht: in dem, was die Regeln nicht vorsehen.

Weil jede Regel nachlesbar ist, zumindest für die, die das System betreiben, lässt sich der Weg von den Eingangsdaten zum Text nachvollziehen. Fehler können trotzdem in den Daten liegen, in einer fehlenden oder fehlerhaften Regel oder im Zusammenspiel mehrerer Regeln, aber sie lassen sich gezielt suchen und beheben. Für standardisierte Routineberichte wie Wahlergebnisse, Börsenschlusskurse, Wetterdaten oder Sportresultate ist regelbasierte Automatisierung deshalb robust und gut überprüfbar. Befürworter:innen erwarten, dass sie Redaktionen von Routinearbeit entlastet und Zeit für Analyse und Recherche freimacht. Bei der Associated Press wurden so rund 20 Prozent der Zeit frei, die zuvor in Quartalsberichte von Unternehmen floss (Graefe, 2016). Die APA setzte mit Egon ausdrücklich anders an: Ziel sei nicht, die tägliche Produktion durch „Robotermeldungen“ zu erhöhen, sondern Lücken zu füllen, für die in den Redaktionen die Kapazität fehlt, etwa in der regionalen Berichterstattung. Ohne den Redakteur, heißt es dort, „ist und bleibt der Roboter dumm“ (Schell, 2018).

2. ML-basierte Prognosen: der geerbte Bias

Der zweite Typ kehrt das Prinzip um. Beim überwachten maschinellen Lernen leitet das System Muster aus vielen historischen, von Menschen bewerteten Beispielen ab. Anstelle einer festen Regel liefert es eine Schätzung: „Dieses Posting verstößt mit hoher Wahrscheinlichkeit gegen die Forenregeln“ oder „Dieser Artikel passt wahrscheinlich zu dieser Leserin“. Solche Systeme arbeiten prädiktiv: Sie schätzen einen unbekannten Wert auf Basis ihrer Trainingsdaten, sei es eine Kategorie (Klassifikation), eine Zahl (Regression) oder eine Reihung (Ranking) (Mohri et al., 2018).

Ein gutes Beispiel aus Österreich ist die Forenmoderation von derStandard.at, deren eingehende Beiträge zuerst automatisch vom „Foromat“ geprüft werden (STANDARD Verlagsgesellschaft, 2026). Der Foromat verbindet die ersten beiden Logiken. Die formale Vorprüfung, etwa ob ein Posting leer ist, folgt festen Regeln. Den ML-Kern bildet die inhaltliche Verstoßprüfung: Der Foromat lernt aus der manuellen Moderation, schätzt für jedes neue Posting, wie wahrscheinlich es gegen die Forenregeln verstößt, und wendet dabei, so die AGB, Regeln an, „die er im Laufe seines Betriebs erlernt hat und laufend anpasst“. Nach dieser automatisierten Prüfung werden rund 75 % der Beiträge binnen Sekunden freigeschaltet, die übrigen 25 % gelangen zur manuellen Kontrolle in eine Moderationsliste. Hinzu kommt eine Art „Karma“ pro Poster:in, das sich aus der bisherigen Postinggeschichte ergibt und beeinflusst, ob neue Beiträge automatisch freigeschaltet oder manuell geprüft werden. Der Foromat zeigt damit, dass reale journalistische Systeme selten einem reinen Typ entsprechen, sondern verschiedene Logiken kombinieren.

Wo steckt hier der Bias? Vor allem in den historischen Daten, die Sackl-Sharif et al. (im Erscheinen) als verzerrt, lückenhaft oder selektiv beschreiben. Im Journalismus stammen diese Daten insbesondere aus zwei Quellen: aus früheren redaktionellen Entscheidungen und aus dem früheren Verhalten der User:innen. Ein System, das aus alten Moderationsentscheidungen lernt, übernimmt auch deren Schieflagen. Für Systeme zur Erkennung beleidigender Sprache ist das gut untersucht. Sie stufen Texte in African American English (Sap et al., 2019; Davidson et al., 2019), Sätze mit Bezeichnungen für marginalisierte Gruppen (Hutchinson et al., 2020, und Prabhakaran et al., 2019, zitiert nach Bender et al., 2021, S. 615) und selbst Beiträge, die ein Schimpfwort nur zitieren, um es zurückzuweisen (Röttger et al., 2021), überdurchschnittlich oft als problematisch ein. Diese Befunde stammen überwiegend aus englischsprachigen Daten. Ähnlich funktionieren viele Empfehlungs- und Ranking-Systeme. Sie orientieren sich stark daran, was in der Vergangenheit viel geklickt wurde. Was damals viel Aufmerksamkeit bekam, gilt dann als „relevant“, während Themen und Autor:innen mit wenig Reichweite noch seltener ausgespielt werden. So kann ein Kreislauf entstehen, in dem Populäres immer populärer wird und das Unsichtbare der Vergangenheit auch künftig unsichtbar bleibt (Klimashevskaia et al., 2024).

Über die Forenmoderation hinaus reicht der prädiktive Typ tief in den Redaktionsalltag. Personalisierte Startseiten und „Für Sie empfohlen“-Module schätzen, welcher Beitrag eine Leserin am ehesten interessiert (Karimi et al., 2018; Fernandes et al., 2023). Prognosemodelle sagen voraus, welche Geschichte Reichweite bringt. Modelle, die Abo-Bereitschaft oder drohende Kündigungen vorhersagen, gelten in der Forschung als nächstes Anwendungsfeld (Fernandes et al., 2023). Auch die Spracherkennung, die Interviews transkribiert, beruht auf überwachtem Lernen, und auch sie erbt Schieflagen. In einer Studie von 2020 machten fünf kommerzielle Systeme bei Schwarzen Sprecher:innen in den USA im Schnitt fast doppelt so viele Wortfehler wie bei weißen. Die Autor:innen führen das auf Aussprache und Prosodie zurück, nicht auf Wortwahl oder Grammatik (Koenecke et al., 2020). Für österreichisches Gesprächsdeutsch zeigten Linke et al. (2025), dass Systeme ohne Anpassung an diese Daten weniger robust gegenüber Aussprachevariation sind. An neueren Systemen wie Whisper zeigt sich, dass sich die Typen überschneiden: Sie werden ebenfalls überwacht an Paaren aus Audio und Transkript trainiert, erzeugen den Text aber mit einem generativen Encoder-Decoder-Modell Token für Token (Radford et al., 2023) und können deshalb Sätze erfinden, die nie gesagt wurden. In einer Untersuchung mit englischsprachigen Aufnahmen von Menschen mit Aphasie und einer Kontrollgruppe enthielt rund ein Prozent der Transkriptionen kurzer, etwa satzlanger Ausschnitte solche erfundenen Passagen, gehäuft bei Sprecher:innen mit längeren Sprechpausen (Koenecke et al., 2024). Damit sind wir beim dritten Typ.

3. Generative KI: der verteilte Bias

Der dritte Typ steht derzeit im Zentrum der Debatte. Große Sprachmodelle berechnen für jede Stelle eine Wahrscheinlichkeitsverteilung über mögliche nächste Token und erzeugen Text, indem sie daraus Token für Token auswählen. Meist wird dabei nicht einfach das wahrscheinlichste Token genommen, sondern aus der Verteilung gezogen. Deshalb kann derselbe Prompt unterschiedliche Antworten liefern (Holtzman et al., 2020). Das Modell selbst schlägt keine gesicherten Fakten nach, sondern erzeugt Wortfolgen, die nach seinen Trainingsdaten wahrscheinlich sind: Sie klingen plausibel, müssen aber nicht stimmen (Bender et al., 2021). Anwendungen mit angeschlossener Websuche rufen zusätzlich Dokumente ab. Im Journalismus wird generative KI bereits für Entwürfe, Zusammenfassungen, Überschriften, Übersetzungen und Transkriptionen eingesetzt (Diakopoulos et al., 2024; Cools & Diakopoulos, 2026), einzelne Redaktionen betreiben auch Chatbots für ihr Publikum (Diakopoulos et al., 2024).

Bias kann an mehreren Stationen im Lebenszyklus eines Machine-Learning-Systems entstehen (Suresh & Guttag, 2021), bei großen Sprachmodellen ebenso (Gallegos et al., 2024). Die erste Station ist das Trainingskorpus, das das Pre-Training bestimmt. Da das Modell die Muster riesiger, kaum kuratierter Textmengen aus dem Internet übernimmt, reproduziert es die darin überrepräsentierten Sichtweisen und Stereotype. Die übliche automatische Filterung behebt das nicht und kann marginalisierte Stimmen sogar zusätzlich herausfiltern (Bender et al., 2021; Gallegos et al., 2024). In einem Assoziationstest an einem Embedding-Modell von OpenAI fanden UNESCO und IRCAI (2024), dass weibliche Namen stärker mit traditionellen Rollen wie „home“, „family“ und „children“ assoziiert wurden, männliche mit „business“, „executive“, „salary“ und „career“. Kotek et al. (2023) legten vier damals aktuellen Sprachmodellen mehrdeutige Sätze vor, in denen sich ein Pronomen auf zwei Berufe beziehen konnte. Die Modelle wählten drei- bis sechsmal häufiger den Beruf, der dem Geschlechterstereotyp des Pronomens entsprach, und übergingen die Mehrdeutigkeit in 95 % der Fälle. Wer mit generativer KI vorformuliert, bekommt so tendenziell die dominante Erzählung zurückgespiegelt.

Für den deutschsprachigen Journalismus ist relevant, dass solche Messungen sprachspezifisch sind. Gnadt et al. (2025) zeigen, dass sich für das Englische entwickelte Messverfahren nicht einfach auf das Deutsche übertragen lassen. Ihre Ergebnisse für acht mehrsprachige Modelle zeigen besondere Schwierigkeiten im Deutschen, darunter die mehrdeutige Lesart maskuliner Berufsbezeichnungen, die allgemein oder männlich gemeint sein können.

Die zweite Station ist das Post-Training. Beim „Reinforcement Learning from Human Feedback“ (Christiano et al., 2017) bewerten bezahlte Annotator:innen nach Vorgaben des Unternehmens, welche Antwort „besser“ ist. Bei InstructGPT von OpenAI waren das rund 40 Personen, die die Entwickler:innen selbst als „clearly not representative“ für die späteren Nutzer:innen bezeichnen (Ouyang et al., 2022). So gelangen unsichtbare, redaktionsähnliche Vorentscheidungen in das Modell. In den untersuchten Modellen milderte das Training mit menschlichem Feedback offene Stereotype ab, verdeckte blieben bestehen. Hofmann et al. (2024) zeigten das für rassistische Vorurteile gegenüber afroamerikanischem Englisch, und Bai et al. (2025) fanden auch in Modellen, die explizite Bias-Tests bestehen, weiterhin implizite Stereotype, unter anderem zu Geschlecht. Auch die Sycophancy, die Neigung, Nutzer:innen nach dem Mund zu reden, baute das Post-Training in einer Untersuchung nicht ab: Sie war schon in den vortrainierten Modellen angelegt, und mehr Training mit menschlichem Feedback beseitigte sie nicht (Perez et al., 2023). Menschliche Präferenzurteile können sie sogar begünstigen, weil Menschen Antworten, die ihre eigene Meinung bestätigen, tendenziell besser bewerten (Sharma et al., 2024). Für den Journalismus ist das heikel, denn ein solches System bestätigt tendenziell eher die in der Frage enthaltene Vermutung, als ihr zu widersprechen. Als Instrument der Faktenprüfung taugt es deshalb nur, wenn die Frage Widerspruch zulässt.

Die dritte Station ist die Nutzung. Hier spielen zunächst Prompt- und Context-Engineering eine Rolle. Wie stark die Rahmung einer Frage wirkt, zeigt ein Experiment: Schlägt die Nutzerin selbst eine falsche Antwort vor, sinkt die Genauigkeit messbar (Sharma et al., 2024). Zudem kann das Schreiben mit Sprachmodellen Texte verschiedener Autor:innen einander angleichen. Padmakumar und He (2024) fanden das für ein mit menschlichem Feedback trainiertes Modell (InstructGPT), nicht aber für das Basismodell GPT-3. In einem Experiment mit 118 Teilnehmenden aus Indien und den USA übernahmen die indischen Teilnehmenden durch KI-Schreibvorschläge westliche Schreibstile (Agarwal et al., 2025). Gerade dort, wo Journalismus gesellschaftliche Vielfalt abbilden soll, entsteht so ein Verlust. Für Redaktionen besonders riskant sind sogenannte Halluzinationen. Das Modell erzeugt flüssigen, selbstsicheren Text, der teils schlicht erfunden ist: Zitate, die nie gefallen sind, und Quellen, die es nicht gibt. In einer Untersuchung von 2023 waren 55 % der von GPT-3.5 und 18 % der von GPT-4 erzeugten Literaturangaben erfunden (Walters & Wilder, 2023). Das Modell kennzeichnet Erfundenes nicht als solches, und seine eigenen Sicherheitsangaben sind oft überzogen (Xiong et al., 2024). Statistische Verfahren können einen Teil davon erkennen, nämlich sogenannte Konfabulationen, bei denen die Antwort auf dieselbe Frage von Durchlauf zu Durchlauf zufällig wechselt (Farquhar et al., 2024). Verlässlich ausschließen können sie erfundene Angaben nicht. Ein erfundenes Zitat, das einer realen Person zugeschrieben wird, ist für eine Redaktion sachlich falsch, ethisch heikel und rechtlich riskant zugleich.

Bei langen Eingaben kommt eine weitere Fehlerquelle hinzu: Modelle nutzen die verfügbaren Informationen nicht immer zuverlässig. Laut Herstellerangaben verarbeiten aktuelle Modelle eine Million Token und mehr (Pichai & Hassabis, 2024; Anthropic, 2025), doch die beworbene Kapazität entspricht nicht unbedingt der tatsächlich nutzbaren Länge. In einem Benchmark von 2024 erreichte nur die Hälfte der getesteten Modelle, die 32.000 Token und mehr versprechen, bei einer Eingabelänge von 32.000 Token eine zufriedenstellende Leistung (Hsieh et al., 2024). Zudem werden Informationen aus der Mitte eines Texts oft schlechter genutzt als solche am Anfang oder Ende („Lost in the Middle“; Liu et al., 2024). Wer ein 200-Seiten-Dokument hochlädt und „Fass zusammen“ sagt, hat keine Garantie, dass das entscheidende Detail berücksichtigt wird.

4. Was daraus folgt: Feminist AI Literacies und der Critical-Expert-in-the-Loop

Die Quellen von Bias überschneiden sich über alle Typen hinweg, von der Datenerhebung über die Modellentwicklung bis zum Einsatz (Suresh & Guttag, 2021). Ihr Schwerpunkt liegt aber je nach Typ an anderer Stelle, und damit wandert auch die Stelle, an der vor allem geprüft werden muss. Beim Regelsystem sitzt der Bias etwa in den von Menschen festgelegten Schwellenwerten. Er ist sichtbar und benennbar. Bei prädiktiven Systemen liegt er vor allem in den historischen Daten, die das System nachahmt und fortschreibt, daneben in der Entscheidung, was es vorhersagen und optimieren soll. Er ist geerbt und schwerer zu greifen. Bei der generativen KI verteilt er sich auf das Trainingskorpus, das menschliche Feedback und die Nutzung. Für den Journalismus bedeutet das: Das regelbasierte System kann Sonderfälle übersehen, das prädiktive System die Aufmerksamkeits- und Repräsentationsmuster der Vergangenheit fortschreiben und das generative System Stereotype reproduzieren, die Annahmen der Fragenden bestätigen oder plausibel klingende Fakten erfinden. Sprachlich überzeugende Ausgaben können Fehler dabei schwer erkennbar machen. In einem Essay vom Mai haben wir diese Dynamik asymmetrische Verstärkung genannt: Die Ausgaben werden mächtiger, die Fähigkeit, sie zu prüfen, ist ungleich verteilt (Pollin et al., 2026). Daraus ergibt sich die Frage für die Praxis: Wer prüft mit welchem Wissen an welcher Stelle?

Die gängige Antwort heißt „Human-in-the-Loop“: Systeme, die maschinelles Lernen mit dem Kontextwissen menschlicher Expert:innen verbinden (Natarajan et al., 2025). Für den Newsroom reicht es jedoch nicht, dass Menschen oder auch Fachleute irgendwo in dieser Schleife sitzen. Pollin (2025) setzt dagegen den Critical-Expert-in-the-Loop. Er argumentiert, dass Sprachmodelle ihre eigenen Ausgaben nicht verstehen, aber zur nachträglichen Überprüfung fähig sind, und dass es deshalb eine doppelte Reflexionsschleife aus menschlicher Prüfung und maschineller Selbstkritik braucht. Die maschinelle Selbstkritik ergänzt die menschliche Prüfung, sie ersetzt sie nicht (siehe Abschnitt 3). Ob eine Antwort stimmt oder erfunden ist, kann am Ende nur beurteilen, wer den Gegenstand fachlich beherrscht. Im Journalismus ist das die Redakteurin, die erkennt, dass dieses Zitat nie gefallen ist, dass diese Studie nicht existiert oder dass im automatisierten Wahlbericht eine Gemeinde fehlt. Zu dieser Prüfung gehört zweierlei: zu fragen, ob eine Angabe unabhängig verifizierbar ist, und zu prüfen, ob die eigene Frage dem Modell überhaupt Raum zum Widerspruch lässt. Denn Modelle, die mit menschlichen Präferenzurteilen trainiert wurden, neigen dazu, eher zu bestätigen als zu widersprechen (Sharma et al., 2024; Pollin, 2025). Wir gehen einen Schritt weiter: Diese Fachperson sollte nicht erst am Ende der Kette begutachten, was passiert, sondern schon zu Beginn mitentscheiden, welches Werkzeug für welche Aufgabe taugt. Entscheidungshoheit und Verantwortung bleiben während des gesamten Workflows bei ihr.

Damit Fachkräfte diese Rolle ausfüllen können, brauchen sie AI Literacy. Long und Magerko (2020) verstehen darunter Kompetenzen, mit denen Menschen KI-Technologien kritisch bewerten, wirksam mit KI kommunizieren und zusammenarbeiten sowie KI als Werkzeug nutzen können. Für den Journalismus plädieren Deuze und Beckett (2022) dafür, solche Kompetenzen zu entwickeln, auch weil in der Branche ein großes Wissensdefizit zu KI besteht. Macht- und Geschlechterverhältnisse stehen in diesen Definitionen nicht im Zentrum. Für den Journalismus ist das ein Kernproblem, denn seine Aufgabe ist die faire Darstellung einer ungleichen Gesellschaft. Klinger und Sackl-Sharif (2026) ergänzen AI Literacy um eine feministische Perspektive: Feminist AI Literacies sind diversitäts- und machtsensible, intersektionale und Bias-erkennende Fähigkeiten und Fertigkeiten im Umgang mit generativen KI-Tools. Für Redaktionen bedeutet das, nicht nur zu fragen, ob ein KI-Text stimmt, sondern auch, welche Perspektiven ausgelassen und welche gesellschaftlichen Muster reproduziert werden. Eine solche Kompetenz sollte nicht die individuelle Verantwortung einzelner Journalist:innen sein, sondern eine Aufgabe der Organisation, die Zeit, Ressourcen und verbindliche Nutzungsrichtlinien erfordert. Dazu gehört eine Infrastruktur, die festhält, welches System mit welcher Anfrage welchen Text erzeugt hat und wer ihn geprüft hat. Wir nennen das epistemische Infrastruktur: Sie hält die Kette von der veröffentlichten Aussage zurück zu ihrer Quelle nachvollziehbar, auch wenn das Innere der Systeme unzugänglich bleibt (Pollin et al., 2026).

Am Ende steht eine Unterscheidung, die zum Kern des Journalismus gehört: die zwischen Fakt und Fiktion. Generative KI zieht diese Grenze nicht selbst, und keiner der drei Systemtypen erkennt von sich aus, wessen Perspektive in seinen Ergebnissen fehlt. Beides bleibt Aufgabe von Menschen mit Fachwissen und einer macht- und geschlechterbewussten Haltung, und von Redaktionen, die ihnen dafür Zeit und Strukturen geben.

Quellenverzeichnis

Agarwal, D., Naaman, M., & Vashistha, A. (2025). AI suggestions homogenize writing toward Western styles and diminish cultural nuances. In Proceedings of the 2025 CHI Conference on Human Factors in Computing Systems (CHI ’25). Association for Computing Machinery. https://doi.org/10.48550/arXiv.2409.11360

Anthropic. (2025, 12. August). Claude Sonnet 4 now supports 1M tokens of context. https://claude.com/blog/1m-context

APA – Austria Presse Agentur. (o. J.). Wahlen. https://apa.at/loesung/wahlen/

Bai, X., Wang, A., Sucholutsky, I., & Griffiths, T. L. (2025). Explicitly unbiased large language models still form biased associations. Proceedings of the National Academy of Sciences, 122(8), e2416228122. https://doi.org/10.1073/pnas.2416228122

Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? In Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’21) (S. 610–623). Association for Computing Machinery. https://doi.org/10.1145/3442188.3445922

Caswell, D. (2024). Audiences, automation, and AI: From structured news to language models. AI Magazine, 45(2), 174–186. https://doi.org/10.1002/aaai.12168

Christiano, P. F., Leike, J., Brown, T. B., Martic, M., Legg, S., & Amodei, D. (2017). Deep reinforcement learning from human preferences. Advances in Neural Information Processing Systems, 30. https://arxiv.org/abs/1706.03741

Cools, H., & Diakopoulos, N. (2026). Uses of generative AI in the newsroom: Mapping journalists’ perceptions of perils and possibilities. Journalism Practice, 20(3), 878–896. https://doi.org/10.1080/17512786.2024.2394558

Davidson, T., Bhattacharya, D., & Weber, I. (2019). Racial bias in hate speech and abusive language detection datasets. In Proceedings of the Third Workshop on Abusive Language Online (S. 25–35). Association for Computational Linguistics. https://doi.org/10.18653/v1/W19-3504

Deuze, M., & Beckett, C. (2022). Imagination, algorithms and news: Developing AI literacy for journalism. Digital Journalism, 10(10), 1913–1918. https://doi.org/10.1080/21670811.2022.2119152

Diakopoulos, N., Cools, H., Li, C., Helberger, N., Kung, E., & Rinehart, A. (2024). Generative AI in journalism: The evolution of newswork and ethics in a generative information ecosystem [Report]. Associated Press. https://doi.org/10.13140/RG.2.2.31540.05765

Dörr, K. N. (2016). Mapping the field of algorithmic journalism. Digital Journalism, 4(6), 700–722. https://doi.org/10.1080/21670811.2015.1096748

Dörr, K. N., & Hollnbuchner, K. (2017). Ethical challenges of algorithmic journalism. Digital Journalism, 5(4), 404–419. https://doi.org/10.1080/21670811.2016.1167612

Europäisches Parlament & Rat der Europäischen Union. (2024). Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Verordnung über künstliche Intelligenz). Amtsblatt der Europäischen Union, L 2024/1689. http://data.europa.eu/eli/reg/2024/1689/oj

Farquhar, S., Kossen, J., Kuhn, L., & Gal, Y. (2024). Detecting hallucinations in large language models using semantic entropy. Nature, 630(8017), 625–630. https://doi.org/10.1038/s41586-024-07421-0

Fernandes, E., Moro, S., & Cortez, P. (2023). Data science, machine learning and big data in digital journalism: A survey of state-of-the-art, challenges and opportunities. Expert Systems with Applications, 221, 119795. https://doi.org/10.1016/j.eswa.2023.119795

Gallegos, I. O., Rossi, R. A., Barrow, J., Tanjim, M. M., Kim, S., Dernoncourt, F., Yu, T., Zhang, R., & Ahmed, N. K. (2024). Bias and fairness in large language models: A survey. Computational Linguistics, 50(3), 1097–1179. https://doi.org/10.1162/coli_a_00524

Gnadt, K., Thulke, D., Kopeinik, S., & Schlüter, R. (2025). Exploring gender bias in large language models: An in-depth dive into the German language. In Proceedings of the 6th Workshop on Gender Bias in Natural Language Processing (GeBNLP) (S. 427–450). Association for Computational Linguistics. https://doi.org/10.18653/v1/2025.gebnlp-1.37

Graefe, A. (2016). Guide to automated journalism. Tow Center for Digital Journalism, Columbia University. https://doi.org/10.7916/D80G3XDJ

Hofmann, V., Kalluri, P. R., Jurafsky, D., & King, S. (2024). AI generates covertly racist decisions about people based on their dialect. Nature, 633(8028), 147–154. https://doi.org/10.1038/s41586-024-07856-5

Holtzman, A., Buys, J., Du, L., Forbes, M., & Choi, Y. (2020). The curious case of neural text degeneration. In International Conference on Learning Representations (ICLR 2020). https://doi.org/10.48550/arXiv.1904.09751

Hsieh, C.-P., Sun, S., Kriman, S., Acharya, S., Rekesh, D., Jia, F., Zhang, Y., & Ginsburg, B. (2024). RULER: What’s the real context size of your long-context language models? In Conference on Language Modeling (COLM 2024). https://doi.org/10.48550/arXiv.2404.06654

Karimi, M., Jannach, D., & Jugovac, M. (2018). News recommender systems – Survey and roads ahead. Information Processing & Management, 54(6), 1203–1227. https://doi.org/10.1016/j.ipm.2018.04.008

Klimashevskaia, A., Jannach, D., Elahi, M., & Trattner, C. (2024). A survey on popularity bias in recommender systems. User Modeling and User-Adapted Interaction, 34(5), 1777–1834. https://doi.org/10.1007/s11257-024-09406-0

Klinger, S., & Sackl-Sharif, S. (2026, 26. Februar). Feminist AI Literacies. In S. Klinger, J. Jahn, L. Mittischek, C. Pollin, S. Sackl-Sharif, C. Steiner, S. Richter, & A. Schäfer, Orientierungsleitfaden – Diversitätssensibler Umgang mit Künstlicher Intelligenz. Feministische AI Literacies und diversitätssensibles Prompting in der Sozialen Arbeit. https://digitalesozialearbeit.github.io/orientierungsleitfaden

Koenecke, A., Choi, A. S. G., Mei, K. X., Schellmann, H., & Sloane, M. (2024). Careless Whisper: Speech-to-text hallucination harms. In Proceedings of the 2024 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’24) (S. 1672–1681). Association for Computing Machinery. https://doi.org/10.1145/3630106.3658996

Koenecke, A., Nam, A., Lake, E., Nudell, J., Quartey, M., Mengesha, Z., Toups, C., Rickford, J. R., Jurafsky, D., & Goel, S. (2020). Racial disparities in automated speech recognition. Proceedings of the National Academy of Sciences, 117(14), 7684–7689. https://doi.org/10.1073/pnas.1915768117

Kotek, H., Dockum, R., & Sun, D. Q. (2023). Gender bias and stereotypes in large language models. In Proceedings of the ACM Collective Intelligence Conference (CI ’23) (S. 12–24). Association for Computing Machinery. https://doi.org/10.1145/3582269.3615599

Linke, J., Geiger, B. C., Kubin, G., & Schuppler, B. (2025). What’s so complex about conversational speech? A comparison of HMM-based and transformer-based ASR architectures. Computer Speech & Language, 90, 101738. https://doi.org/10.1016/j.csl.2024.101738

Liu, N. F., Lin, K., Hewitt, J., Paranjape, A., Bevilacqua, M., Petroni, F., & Liang, P. (2024). Lost in the middle: How language models use long contexts. Transactions of the Association for Computational Linguistics, 12, 157–173. https://doi.org/10.1162/tacl_a_00638

Long, D., & Magerko, B. (2020). What is AI literacy? Competencies and design considerations. In Proceedings of the 2020 CHI Conference on Human Factors in Computing Systems (CHI ’20) (S. 1–16). Association for Computing Machinery. https://doi.org/10.1145/3313831.3376727

Mohri, M., Rostamizadeh, A., & Talwalkar, A. (2018). Foundations of machine learning (2. Aufl.). MIT Press. https://cs.nyu.edu/~mohri/mlbook/

Natarajan, S., Mathur, S., Sidheekh, S., Stammer, W., & Kersting, K. (2025). Human-in-the-loop or AI-in-the-loop? Automate or collaborate? Proceedings of the AAAI Conference on Artificial Intelligence, 39(27), 28594–28600. https://doi.org/10.1609/aaai.v39i27.35083

Ouyang, L., Wu, J., Jiang, X., Almeida, D., Wainwright, C. L., Mishkin, P., Zhang, C., Agarwal, S., Slama, K., Ray, A., Schulman, J., Hilton, J., Kelton, F., Miller, L., Simens, M., Askell, A., Welinder, P., Christiano, P., Leike, J., & Lowe, R. (2022). Training language models to follow instructions with human feedback. Advances in Neural Information Processing Systems, 35, 27730–27744. https://arxiv.org/abs/2203.02155

Padmakumar, V., & He, H. (2024). Does writing with language models reduce content diversity? In The Twelfth International Conference on Learning Representations (ICLR 2024). https://doi.org/10.48550/arXiv.2309.05196

Perez, E., Ringer, S., Lukošiūtė, K., Nguyen, K., Chen, E., Heiner, S., Pettit, C., Olsson, C., Kundu, S., Kadavath, S., Jones, A., Chen, A., Mann, B., Israel, B., Seethor, B., McKinnon, C., Olah, C., Yan, D., Amodei, D., … Kaplan, J. (2023). Discovering language model behaviors with model-written evaluations. In Findings of the Association for Computational Linguistics: ACL 2023 (S. 13387–13434). Association for Computational Linguistics. https://doi.org/10.18653/v1/2023.findings-acl.847

Pichai, S., & Hassabis, D. (2024, 15. Februar). Our next-generation model: Gemini 1.5. Google. https://blog.google/technology/ai/google-gemini-next-generation-model-february-2024/

Pollin, C. (2025). Promptotyping mit Claude Sonnet 4. Vibe-Coding erfordert den Critical-Expert-in-the-Loop. Digital Humanities Craft. https://dhcraft.org/excellence/blog/Critical-Vibing-Claude-4/

Pollin, C., Sackl-Sharif, S., Klinger, S., & Steiner, C. (2026, 12. Mai). Asymmetric amplifications and epistemic infrastructures. How LLMs and AI agents are changing computer-based scholarly work and journalism. Digital Humanities Craft. https://dhcraft.org/excellence/blog/Asymmetric-Amplifications-Epistemic-Infrastructures/

Radford, A., Kim, J. W., Xu, T., Brockman, G., McLeavey, C., & Sutskever, I. (2023). Robust speech recognition via large-scale weak supervision. In Proceedings of the 40th International Conference on Machine Learning (Proceedings of Machine Learning Research, Bd. 202, S. 28492–28518). PMLR. https://proceedings.mlr.press/v202/radford23a.html

Röttger, P., Vidgen, B., Nguyen, D., Waseem, Z., Margetts, H., & Pierrehumbert, J. (2021). HateCheck: Functional tests for hate speech detection models. In Proceedings of the 59th Annual Meeting of the Association for Computational Linguistics and the 11th International Joint Conference on Natural Language Processing (Bd. 1, S. 41–58). Association for Computational Linguistics. https://doi.org/10.18653/v1/2021.acl-long.4

Sackl-Sharif, S., Klinger, S., Pollin, C., & Steiner, C. (im Erscheinen). Zur ambivalenten Nutzung von Künstlicher Intelligenz in der Kinder- und Jugendarbeit aus einer geschlechter- und diversitätsreflektierenden Perspektive. In J. Weber et al. (Hrsg.), Soziale Arbeit und Digitalität. Entwicklungen einer digitalisierten Praxis. Beltz Juventa.

Sap, M., Card, D., Gabriel, S., Choi, Y., & Smith, N. A. (2019). The risk of racial bias in hate speech detection. In Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics (S. 1668–1678). Association for Computational Linguistics. https://doi.org/10.18653/v1/P19-1163

Schell, K. (2018, 12. Februar). Egon, der Fußballroboter. Austria Presse Agentur. https://apa.at/blog/egon-der-fussballroboter/

Sharma, M., Tong, M., Korbak, T., Duvenaud, D., Askell, A., Bowman, S. R., Cheng, N., Durmus, E., Hatfield-Dodds, Z., Johnston, S. R., Kravec, S., Maxwell, T., McCandlish, S., Ndousse, K., Rausch, O., Schiefer, N., Yan, D., Zhang, M., & Perez, E. (2024). Towards understanding sycophancy in language models. In The Twelfth International Conference on Learning Representations (ICLR 2024). https://doi.org/10.48550/arXiv.2310.13548

STANDARD Verlagsgesellschaft m. b. H. (2026, 13. April). Allgemeine Geschäftsbedingungen, Abschnitt II.2.A: Forum – Moderation und Maßnahmen. https://about.derstandard.at/wp-content/uploads/2026/08/Allgemeine-Geschaftsbedingungen_2026-13-04.pdf

Suresh, H., & Guttag, J. (2021). A framework for understanding sources of harm throughout the machine learning life cycle. In Equity and Access in Algorithms, Mechanisms, and Optimization (EAAMO ’21), Artikel 17 (S. 1–9). Association for Computing Machinery. https://doi.org/10.1145/3465416.3483305

UNESCO & IRCAI. (2024). Challenging systematic prejudices: An investigation into bias against women and girls in large language models (CI/DIT/2024/GP/01). UNESCO. https://ircai.org/wp-content/uploads/2024/03/IRCAI_UNESCO_Report_Challenging_Systematic_Prejudices_web_March2024.pdf

von Rueden, L., Mayer, S., Beckh, K., Georgiev, B., Giesselbach, S., Heese, R., Kirsch, B., Pfrommer, J., Pick, A., Ramamurthy, R., Walczak, M., Garcke, J., Bauckhage, C., & Schuecker, J. (2021). Informed machine learning: A taxonomy and survey of integrating prior knowledge into learning systems. IEEE Transactions on Knowledge and Data Engineering. Vorab online veröffentlicht. https://doi.org/10.1109/TKDE.2021.3079836

Walters, W. H., & Wilder, E. I. (2023). Fabrication and errors in the bibliographic citations generated by ChatGPT. Scientific Reports, 13, 14045. https://doi.org/10.1038/s41598-023-41032-5

Xiong, M., Hu, Z., Lu, X., Li, Y., Fu, J., He, J., & Hooi, B. (2024). Can LLMs express their uncertainty? An empirical evaluation of confidence elicitation in LLMs. In The Twelfth International Conference on Learning Representations (ICLR 2024). https://doi.org/10.48550/arXiv.2306.13063