Lieber richtig Fake?
Künstliche Intelligenz dringt zunehmend in unseren Alltag ein, sie hilft uns, Texte zu erstellen, wir manipulieren spielend leicht Fotos mit ihrer Hilfe und kaschieren Wissenslücken. Zunehmend wird uns bewusst, dass damit ein mächtiges Werkzeug erschaffen wurde, um dessen Kontrolle wir uns durchaus Sorgen machen sollten. Währenddessen machen sich auf Social Media KI-generierte Influencer*innen breit.
Imma ist gar nicht echt - imma.gram auf Instagram
Lu do Magalu (7.1 Millionen Follower*innen auf Instagram), Lil Miquela (2.5 Millionen) und Imma (bescheidene 388.000) haben nicht nur gemeinsam, dass sie eine große Fangemeinde hinter sich versammeln sondern auch, dass sie außerhalb der digitalen Welt kein Leben haben. Diese drei und etliche andere sind die Kreation von Firmen, die sich auf KI und virtuelle 3D-Technologien spezialisiert haben. Das Erstaunliche daran ist, dass ihre Profile sich auf den ersten Blick gar nicht so sehr von denen anderer, realer Influencerinnen unterscheiden, die dank Bildbearbeitung und gekonnter Inszenierung bisweilen auch wie KI-generiert wirken. Fragt sich nur, was die Follower*innen daran finden, dem Nicht-Leben einer Nicht-Person zu folgen?
Pflegeleicht und einträglich
Zum einen deuten die Kommentare unter den Beiträgen darauf hin, dass durchaus nicht jeder durchschaut, es hier mit KI zu tun zu haben. Zwar wird darauf in den Angaben zur Bio meistens hingewiesen, aber die werden auch nicht unbedingt besser gelesen als AGBs. Zum anderen scheint es für viele von der gefakten Authentizität der ‚echten‘ Influencer*innen zum authentischen Fake ihre KI-generierten Kolleg*innen kein großer Schritt mehr zu sein. Echter Fake eben.
In einigen Hinsichten bringen die KI-Influencer*innen sogar Vorteile mit sich: Sie zicken nicht rum, haben niemals einen bad-hair oder bad-mood-day, werden nicht älter und sind überhaupt in jeder Hinsicht ziemlich pflegeleicht. Sie kommen also ohne das lästige Fehlbare von Menschen aus. Kein Wunder, dass einige von ihnen mittlerweile hoch dotierte Werbe-Ikonen sind, die gelegentlich sogar mit anderen Stars gemeinsam auftreten. Damit füllen sie die Konten ihrer Entwickler*innen ganz beträchtlich.
Deepfakes können Gesellschaften erschüttern
KI-Influencer*innen sind die aktuelle Spitze eines Eisberges oder besser einer Lawine. Es ist schon länger ohne allzu viel Aufwand und technisches Wissen möglich, bestehendes Bild- oder Videomaterial zu manipulieren, per Face-Swaping, also dem Austauschen von Gesichtern oder/und mit Hilfe von Voice-Swaping. Neben lustigen Einfällen wie den Papst in eine dicke weiße Daunenjacke zu stecken oder Merkel und Obama am Strand herumtollen zu lassen, gibt es zunehmend Versuche, politisches und gesellschaftliches Geschehen gezielt zu beeinflussen.
Sogenannte Deepfakes, also ultrarealistisch wirkende, aber manipulierte Bilder und Videos sind oft kaum als solche zu erkennen. Noch gibt es gelegentlich Unschärfen und Fehler wie den falschen Lichteinfall oder unnatürlich wirkende Hände, aber es ist sehr wahrscheinlich, dass sich diese Fehler immer weiter reduzieren werden. Je schwerer diese Deepfakes zu erkennen sind, umso größer ist ihre potenziell manipulative Macht. Mit ihrer Hilfe kann eine Gesellschaft (gezielt) mit Desinformation geflutet werden. Die Folgen sind momentan kaum absehbar.
Das grundlegende Problem liegt darin, dass dadurch prinzipiell die Überzeugung abgetragen wird, einer Wahrheit oder Realität verpflichtet zu sein. Ob diese Wahrheit religiös bzw. metaphysisch oder wissenschaftlich verankert ist, spielt dabei erst einmal keine Rolle. Wichtig ist, dass es etwas gibt, auf das sich die Beteiligten als echt, wahr oder real verständigen. Fotos und Videos galten lange als Nachweis einer solchen Realität. Das Erleben, dass Bilder und Videos manipuliert oder frei kreiert werden können, schürt ein grundsätzliches Misstrauen und löst die Rückbindung an ein gemeinsames Konzept von Realität auf.
Bullshit überall
KI-generierte Inhalte sind nicht die einzige Herausforderung für eine Gesellschaft und deren Aushandlungsprozesse, was wahr oder real ist. Während digital erstellte Inhalte unsere Sicht auf die Welt im engeren Sinne verschieben, machen sich andere daran, die Grenzen des Sagbaren kontinuierlich auszuweiten. Auch hier ist das grundlegende Prinzip, den Boden eines gemeinsamen Konsenses zu verlassen und sich einer Rückkopplung an Erkenntnisse und Realitätskonzepte konsequent zu verweigern bzw. Realität schlicht zu ignorieren. Dabei kann es um die Leugnung des Klimawandels gehen oder die Annahme, Reptiloiden regierten im geheimen die Menschheit. Solche blinden Flecken oder „alternativen Erklärungen“ muten absurd an und sollten sich eigentlich leicht aus dem Weg räumen lassen. Das ist aber keineswegs der Fall.
Diese Absurditäten lassen sich mit Harry G. Frankfurt auch als Bullshit bezeichnen. Bullshit zeichnet sich dadurch aus, dass er gegenüber der Frage, wie die Dinge wirklich sind, absolut gleichgültig ist. Es handelt sich also nicht um Lügen, denn eine Lüge setzt immerhin voraus, dass es um wahr oder falsch geht. Die Lüge orientiert sich damit an der Wahrheit. Bullshit ist dagegen einfach eine Behauptung in der Welt der totalen Beliebigkeit. Donald Trump ist der Prototyp das Bullshiters, der seine eigene Realität und sein Ego durchsetzen will.
Erosion der Realität
Auch wenn harmlose KI-generierte Influencer*innen und Donald Trump auf den ersten Blick nicht allzu viel verbindet, sind es doch zwei Phänomene, die zeigen, dass unser Konzept einer Realität fundamental in Frage gestellt wird. Bullshit und Fake werden in vielen Fällen als wahr oder real wahrgenommen und haben damit auch reale Konsequenzen. Unsere digitalen Kommunikationsstrukturen übernehmen dabei eine Verstärkerfunktion, indem sie die Reichweite von Fake und Bullshit potenziell endlos erweitern.
Wir stehen damit vor einigen Herausforderungen. Zum einen geht es darum, unsere Kompetenzen, Fake und Bullshit als solche zu erkennen, zu verbessern. Es ist nicht prinzipiell ein Problem, KI-generierten Influencer*innen zu folgen. Aber das Wissen darum, dass es sich hier nicht um fehlbare Menschen mit wechselndem Aussehen handelt, schützt davor, sich zu vergleichen. Wirklich fundamental wird es aber dann, wenn es darum geht, Deepfakes zu entlarven, die darauf abzielen, die gesellschaftlich Realität zu verschieben. Dasselbe gilt für jede Art von Bullshit.
Während die Kennzeichnungspflicht von KI-generierten Inhalten die Wirkung von Deepfakes abmildern kann, ist eine ähnliche Kennzeichnung von Bullshit wohl eher unrealistisch. Damit sind wir wieder an dem Punkt, dass es unumgänglich ist, uns mit Medienkompetenz zu wappnen. Auch wenn es mühsam ist, zu entlarven und zu versuchen, die Dinge wieder an ein – wie auch immer verankertes – Realitätsempfinden zurückzubinden, sollten wir uns dieser Mühe unterziehen angesichts dessen, was auf dem Spiel steht.
