Wenn Wahrheit manipulierbar wird: Deepfakes und ihre Folgen für Informationssicherheit

Fake News und Desinformation - ein historischer Abriss mit Implikationen auf die Informationssicherheit

Prof. Dr. Daniel Loebenberger ׀ Fraunhofer AISEC / OTH Amberg-Weiden

Von historischen Anfängen der KI bis zu modernen Deep Fakes: Der Vortrag zeigt, wie Bild-, Sprach- und Textsynthese Desinformation skalierbar machen -- und welche konkreten Risiken daraus für Informationssicherheit, Vertrauen und demokratische Prozesse entstehen.

“Wenn Information beliebig generierbar wird, wird Vertrauen zur knappsten Ressource. Informationssicherheit muss daher über Technik hinausgehen und den gesellschaftlichen Kontext von Wahrheit, Manipulation und digitaler Resilienz systematisch adressieren.”

Ist das echt oder kann das weg?

Tim Appelt ׀ Landesamt für Sicherheit in der Informationstechnik

Immer öfter sieht man Inhalte und denkt: Ist das echt oder kann das weg? Während in der Vergangenheit viele dieser Inhalte noch erkennbar waren, verwischt heute der Übergang zwischen schädlichen Inhalten und der Realität. Was bedeutet das für unsere Sicherheit, und wie können wir uns trotzdem schützen?

“Künstliche Intelligenz hat viele Auswirkungen auf die IT‑Sicherheit. Angriffe werden schneller und Social‑Engineering/Phishing nehmen stark zu. Erste Studien zeigen: Heute sind 80 % der Phishing‑Mails KI‑generiert und diese Mails sind 4–5× erfolgreicher.”