Extremismus und Manipulation

Junge Menschen informieren sich vor allem auf Social Media über das aktuelle Weltgeschehen. Die massive Präsenz von Falschinformationen, häufig in Kombination mit (extrem) rechten Inhalten auf jugendaffinen Social-Media-Plattformen wie TikTok, stellt Jugendliche vor große Herausforderungen, Informationen korrekt zu bewerten und einzuordnen. Laut JIM-Studie 2023 wurden 42 Prozent der befragten Jugendlichen online bereits mit extremen politischen Ansichten und 40 Prozent mit Verschwörungserzählungen konfrontiert. Besonders rechtspopulistische Akteur:innen nutzen die Reichweitenstärke von Social Media, um ihre rassistischen und antidemokratischen Narrative zu verbreiten. Zunehmend werden KI-generierte Deepfakes eingesetzt, um zu emotionalisieren, extreme Positionen zu befeuern und demokratische Werte zu bedrohen.

Kompetenzförderung

In Deutschland koordiniert "klicksafe" den Safer Internet Day und will dazu beitragen, die Informations- und Medienkompetenz zu fördern. Ziel ist es, im Sinne einer kritisch-reflexiven Urteilsfähigkeit und faktenbasierten Meinungsbildung, eine respektvolle und mündige Diskursfähigkeit zu stärken. Eine wichtige Säule der Suchtprävention auch in diesem Zusammenhang ist die Stärkung von sozialen Kompetenzen, Selbstreflexion, die Auseinandersetzung mit Risikokompetenz und die Fähigkeit, informierte Entscheidungen zu treffen.

Deepfakes können verunsichern, indem angebliche Bedrohungen, Falschinformationen und vereinfachte Lösungen Ängste auslösen. Das kann sich auf politische Themen beziehen, aber auch z.B. auf Schönheitsideale von Schlankheit, Sportlichkeit und Makellosigkeit. Unrealistische Angebote zu Ernährung und Nahrungsergänzungsmitteln, Make up und anderen Beauty-Produkten, Trainingsmethoden und -kleidung können auf junge Menschen einen enormen Druck ausüben – gerade in einer Lebensphase, in der sich der Körper verändert und das Gehirn sich in einer sensiblen Entwicklungsphase befindet.

Maßnahmen der Suchtprävention können einerseits aufklären, informieren und Gesprächsanlässe in einem geschützten Rahmen anbieten. Sie können darüber hinaus zur Entwicklung einer kritischen Haltung beitragen:

• Selbstwert und Selbstwirksamkeit stärken
• Fähigkeiten zur Selbstregulation vermitteln
• Gefühle und Bedürfnisse wahrnehmen und benennen
• schwierige Lebenssituationen meistern ohne Rückgriff auf psychoaktive Substanzen wie Alkohol, Tabak, Nikotin oder Glücksspiele, Games usw.
• Schönheitsideale in Frage stellen
• Politische/extremistische Inhalte überprüfen
• Veränderungsbereitschaft anregen
• Wissenschaftlich gesicherte Auswirkungen und Risiken von Substanzen und süchtigen Verhaltensweisen vermitteln.

Was ist überhaupt ein Deepfake?

Ein Deepfake ist eine mittels Künstlicher Intelligenz (KI) erzeugte oder manipulierte Aufnahme. Sie erweckt den Anschein, eine reale Person sage oder tue etwas, das in Wirklichkeit jedoch nie stattgefunden hat. Der Begriff setzt sich aus "Deep Learning" (einer Methode des maschinellen Lernens) und "Fake" (Fälschung) zusammen. Es kann sich dabei um verschiedene Medien handeln: Videos, Bilder und Audiodateien. Typische Anwendungen sind das Austauschen von Gesichtern in Videos (Face Swapping), das Verändern von Gesichtsausdrücken oder Lippenbewegungen (Face Reenactment) sowie das Erzeugen komplett neuer, realistisch wirkender Gesichter (Face Synthesis).

Deepfakes werden in der Regel von Menschen erstellt, die gezielt KI-Technologien einsetzen, um manipulierte Inhalte zu erzeugen. Das Internet selbst generiert keine Deepfakes automatisch; es dient vielmehr als Plattform zur Verbreitung solcher Inhalte. Zur Erstellung von Deepfakes greifen die Bearbeitungsprogramme auf große Bild- und Tonmaterialsammlungen zurück, analysieren diese und erstellen daraus die neuen, falschen Inhalte. Deepfakes sind für das bloße Auge nur noch sehr schwer zu erkennen und stellen deshalb eine immer größere Gefahr da. Falschinformationen werden so schneller geglaubt und im Netz geteilt.

Deepfakes werden in verschiedenen Bereichen eingesetzt, sowohl positiv als auch negativ. In der Unterhaltungsindustrie können sie beispielsweise für Spezialeffekte in Filmen genutzt werden. Allerdings bergen sie auch Risiken, insbesondere wenn sie zur Verbreitung von Desinformation, für Identitätsbetrug oder zur Erstellung nicht autorisierter pornografischer Inhalte verwendet werden.

Um sich vor den potenziellen Gefahren von Deepfakes zu schützen, ist es wichtig, Medieninhalte kritisch zu hinterfragen und auf Anzeichen für Manipulationen zu achten. Dazu gehören Unstimmigkeiten in der Mimik, unscharfe Gesichtskonturen oder asynchrone Lippenbewegungen. Zudem können technische Hilfsmittel und Programme zur Erkennung von Deepfakes beitragen.

Deepfake kann von Bildbearbeitung abgegrenzt werden

Bildbearbeitung bezieht sich auf die Anpassung oder Verbesserung von Bildern mit Tools wie Photoshop, Lightroom oder Apps wie Instagram. Typische Änderungen sind Helligkeit, Kontrast, Farben, Hautglättung oder das Hinzufügen von Filtern.

Ziel: das Bild ästhetisch ansprechender zu machen, aber die grundlegende Identität oder Authentizität des Bildes bleibt erhalten.

Beispiel: Entfernen eines Pickels, Anpassen der Beleuchtung oder Hinzufügen eines Filters.

Das Bearbeiten eines Selfies oder Porträts für Social Media fällt unter Bildbearbeitung, solange es keine Täuschung beabsichtigt, die deine Identität oder Realität verändert. Deepfakes hingegen sind gezielt für realistisch wirkende, oft täuschende Manipulationen entwickelt.

In Teil 2 der Artikelserie geht es um zwei neue Präventionsangebote, die die hier genannten Bereiche aufgreifen: die Methodentasche "Body & Mind – Trainingszirkel" der Landeskampagne "Sucht hat immer eine Geschichte" sowie die Übertragung des Angebotes "InstaVention" auf das Thema "exzessive Mediennutzung".

In Teil 3 wird das Phänomen "Kauf- und Shopping-Störung" beleuchtet im Zusammenhang mit den Marketingstrategien eines "limbischen Kapitalismus".

Quellen

https://regina-stoiber.com/2022/08/14/identitaetsbetrug-deepfake-einfach-erklaert/?utm_source=chatgpt.com

https://www.bsi.bund.de/DE/Themen/Unternehmen-und-Organisationen/Informationen-und-Empfehlungen/Kuenstliche-Intelligenz/Deepfakes/deepfakes_node.html?utm_source=chatgpt.com

https://www.bundesregierung.de/breg-de/aktuelles/was-sind-deep-fakes-2230226?utm_source=chatgpt.com

https://www.lpb-bw.de/fake-news?utm_source=chatgpt.com

https://www.klicksafe.de/desinformation-und-meinung/deepfakes

https://youtu.be/15zJvCITFdI