Innovation, Illusion, Imitation – die generative KI als eierlegende Wollmilchsau?

Prof. Dr. Ahmad-Reza Sadeghi

Leiter des System Security Lab an der TU Darmstadt

Die neuesten Entwicklungen in generativer KI haben bemerkenswerte Fortschritte erzielt. Heute lassen sich digitale Inhalte wie Texte, Audios, Bilder und Videos in kürzester Zeit und mit beeindruckender Realitätsnähe erzeugen. Diese Möglichkeiten eröffnen große Chancen, bringen jedoch zugleich erhebliche Herausforderungen und Bedrohungen mit sich: Die sog. Deepfakes gefährden das Vertrauen in digitale Medien, und Urheberrechtsverletzungen bedrohen die Rechte von Autor:innen und Künstler:innen, deren Werke ohne Zustimmung für das Training solcher Systeme genutzt werden.

Dieser Vortrag gibt einen Überblick über die Problematik und die aktuelle Forschung zur Eindämmung der Risiken. Dabei wird insbesondere auf die Mechanismen zum Schutz digitaler Bilder eingegangen sowie auf die Angriffe, die versuchen, diese Schutzmaßnahmen zu umgehen.

Schließlich stellt sich die grundlegende Frage, wie wir als Gesellschaft mit dem fortschreitenden Wettrüsten zwischen Angriffen und Verteidigungen umgehen und ob, wie und mit welchen Mitteln wir einen Kompromiss zwischen Innovation, Illusion und Imitation finden können.

Diese Veranstaltung wird in Kooperation mit dem Kulturmanagement des Odenwaldkreises angeboten.

Foto: TU Darmstadt