Generative KI verändert grundlegend, wie Informationen erstellt, verbreitet und wahrgenommen werden. Während diese Technologien neue kreative und kommunikative Möglichkeiten eröffnen, senken sie zugleich die Hürden für die Produktion skalierbarer, zielgerichteter und überzeugender Desinformation. Ein Verständnis dieser Dynamiken ist entscheidend, um demokratische Prozesse, öffentliche Diskurse und gesellschaftliches Vertrauen zu schützen.

Der Workshop untersucht, wie KI die Desinformation Killchain neu gestaltet – von Aufklärung und Botschaftsdesign über automatisierte Inhaltserzeugung bis hin zu Verbreitung und kontinuierlicher Anpassung. Im Fokus stehen technische Mechanismen, soziotechnische Dynamiken und adversarielle Strategien, die generative Modelle nutzen, um synthetische Texte, Bilder, Audio und Video in bislang unerreichter Qualität und Menge zu erzeugen. Die Domäne umfasst Informatik, Sicherheitsforschung, HCI, Ethik, Social Computing und Politik.

Eingeladen sind Beiträge, die Desinformationsprozesse analysieren, verstehen helfen und regeln, KI-generierte Manipulation erkennen oder abschwächen, adversarielle Fähigkeiten modellieren oder defensive Maßnahmen evaluieren. Erwünscht sind empirische Studien, Systementwürfe, methodische Ansätze, Fallanalysen oder konzeptionelle Modelle, die das Verständnis automatisierter Desinformationsprozesse vertiefen.

Workshopchairs:

• Prof. Dr. Habil Marc-Oliver Pahl
• Dr. Michael Jülich