PABeLA

PABeLA steht für Prüflabor zur automatisierten Bewertung LLM-basierter KI-Systeme und deren Auswirkungen auf Journalismus und Meinungsbildung.

Das Projekt befasst sich mit großen Sprachmodelle oder „LLMs": KI-basierte Dienste wie Chat-GPT und Google Gemini, die in einem Dialog mit den Nutzerinnen und Nutzern stehen. Aufgrund der Komplexität und Dynamik dieser selbstlernenden Systeme ist es kaum möglich, ihre Funktionsweise im Detail nachzuvollziehen. PABeLA soll eine Art Prüfstand für die systematische Auswertung der Antworten KI-basierter Dienste entwickeln.

Das Vorgängerprojekt „PABeLA-I“ hat sich in der Projektlaufzeit der Frage angenommen, wie Prüfmechanismen für diese Art von Diensten konzeptionell gestaltet und technisch implementiert werden können. So konnte innerhalb der Projektlaufzeit nicht nur ein umfassender Prüfkriterienkatalog zur Einhaltung geltender Gesetze und Normen für diese Art von Diensten geschaffen werden, sondern einige besonders relevante Kriterien, z. B. im Bereich der Erkennung von Diskriminierung, bereits in funktionsfähige Tests überführt und so die Plausibilität und Praxistauglichkeit des Ansatzes validiert werden.

„PABeLA-II“ soll ein Instrument schaffen, das sowohl Medienaufsicht als auch Medienpolitik langfristig befähigt, Transparenz-, Vielfalt- und Manipulationsrisiken methodisch belastbar einzuschätzen. Dies ist nicht nur für die Sicherung von Meinungs- und Vielfaltssicherung zentral, sondern auch für den Schutz der Bürger:innen vor gezielter KI-basierter Desinformation, etwa durch Deepfakes oder algorithmisch verzerrte Inhalte.

Auswirkungen und Konsequenzen für unsere demokratische Gesellschaft durch die Transformation, die Künstliche Intelligenz mit sich bringen kann, sind noch wenig erforscht. Genau diesen praxisnahen Ansatz verfolgt das Projekt von DFKI und LMS und leistet damit einen wichtigen Beitrag für den KI-Standort Saarland.

KI-Angebote wie ChatGPT ersetzen zunehmend andere Medienquellen und werden zu der bevorzugten bzw. einzigen Informationsquelle. Deshalb ist die Technik und die Organisation hinter dem KI-Angebot wesentlich für Meinungsvielfalt und Informationsfreiheit. Der Nutzung von Quellen und Trainingsdaten kommt dabei eine besondere Rolle zu.

PABeLA-II entwickelt Kriterien für die Überprüfung journalistischer Quellen auf Ausgewogenheit, mit dem Ziel, Informationsfreiheit und journalistische Vielfalt sicherzustellen. Die kritische Prüfung der von KI-Diensten gemachten Angaben zu Quellen ist ein Instrument, um Desinformation vorzubeugen und Rechtskonformität sicherzustellen – nicht nur im medialen Kontext, sondern auch für Verwaltungsaufgaben. PABeLA-II leistet hier Vorarbeit für die Erkennung irreführender oder erfundener Quellen. Herausforderungen sind der Aufbau eines repräsentativen Testdatensatzes und die Entwicklung eines Verfahrens zur systematischen Auswertung anhand zuvor entwickelter Metriken.

Das Forschungsprojekt läuft bis April 2027. Die Ergebnisse sollen in der Praxis der Medienregulierung nutzbar sein.

^{AUCH INTERESSANT...}

MarKIeR

Die Regelungen des Medienstaatsvertrags (MStV) stellen die Landesmedienanstalten vor neue, vielfältige Aufgaben im Bereich der Medienintermediäre. Daher führt das DFKI zusammen mit der LMS eine Machbarkeitsstudie zum Einsatz von KI-Werkzeugen für die Unterstützung der Landesmedienanstalten zur Verifizierung der gesetzeskonformen Umsetzung der Transparenzvorgaben des Medienstaatsvertrages durch Medienintermediäre durch.