Virtuelle Influencer:innen und ihre Wirkung auf Jugendliche
Ein Interview mit JUUUPORT-Scout Pascal
Virtuelle Influencer:innen gewinnen auf Plattformen wie Instagram und TikTok zunehmend an Bedeutung. Bekannte Beispiele wie Lil Miquela oder Noonoouri erreichen Millionen Follower:innen und kooperieren mit internationalen Marken. Entwickelt werden sie mithilfe Künstlicher Intelligenz – gezielt, um Trends zu setzen, Produkte zu bewerben oder ein bestimmtes Weltbild zu verbreiten.
Damit rücken auch Fragen nach Jugendschutz und der Kennzeichnungspflicht von KI-Inhalten stärker in den Fokus: Wie beeinflussen solche fiktiven Figuren die Wahrnehmung von Schönheitsidealen? Erkennen Jugendliche, dass es sich nicht um echte Menschen handelt? Und welche Risiken entstehen, wenn virtuelle Avatare für Werbung oder Desinformation genutzt werden?
Über diese Fragen haben wir mit Pascal, Scout bei JUUUPORT, gesprochen. Er berichtet, warum er andere junge Menschen bei Problemen im Netz unterstützt, welche Online-Gefahren aktuell besonders präsent sind – und wie er die wachsende Rolle virtueller Influencer:innen einschätzt.
Pascal, du bist JUUUPORT-Scout und hilfst anderen jungen Leuten bei Problemen im Netz. Wie bist du zu diesem Ehrenamt gekommen?
Ich bin durch eine Instagram-Werbung auf JUUUPORT aufmerksam geworden und wusste: Hier könnte ich etwas bewirken und Menschen helfen.
Was motiviert dich, dich regelmäßig ehrenamtlich zu engagieren?
Wir bei JUUUPORT bezeichnen unsere Beratungsstelle als „Erste Hilfe im Netz“. Durch unser Peer-to-Peer-Prinzip und die Vertraulichkeit und Anonymität, konsultieren uns die Ratsuchenden meist als erste Person, mit der Sie über ihre Probleme reden. Wir geben dann Tipps, was sie in der akuten Phase tun können und an wen sie sich dann für weitere Schritte wenden können, z.B. an eine Vertrauensperson oder Fachberatungsstellen. Wir haben damit die Möglichkeit, Betroffene schon im ersten Moment aufzufangen und sie in die richtige Richtung zu weisen. Damit zeigen wir: Du bist nicht allein. Und: Du bist nicht schuld. Das ist schon ein wichtiger erster Schritt, um die Situation der Betroffenen zu verbessern. Denn oft trauen sie sich zunächst nicht, mit Personen in ihrem Umfeld über ihre Probleme zu sprechen – z.B. aus Angst, Scham, Schuldgefühlen oder der Sorge, Handyverbot zu bekommen. Dass wir diese Lücke schließen können, finde ich schön.
Gibt es ein Erlebnis aus deiner Scout-Tätigkeit, das dich besonders berührt oder beeindruckt hat?
Wir Scouts freuen uns immer sehr, wenn sich eine ratsuchende Person nach einer erfolgreichen Beratung mit einer Dankesnachricht an uns wendet. Das ist natürlich etwas Tolles, wenn man als Scout dann Schwarz auf Weiß bestätigt bekommt, dass die Arbeit geholfen hat.
Welche Online-Probleme begegnen dir in der Beratung am häufigsten?
Derzeit haben wir ein großes Problem mit einer leider weit verbreiteten Betrugsmasche: Die Betroffenen werden auf Social-Media-Plattformen wie Instagram oder TikTok von einem fremden Account angeschrieben. Meist sind es Jungs oder junge Männer, die denken, mit einer attraktiven jungen Frau zu chatten. Doch dabei handelt es sich fast immer um Fake-Profile. Nach einer gewissen Zeit bittet die fremde Person um ein Nacktbild von der betroffenen Person. Ist dieses gesendet, wird der oder die Betroffene damit erpresst. Meist sind die Täter:innen dabei nur auf Geld aus, wirklich veröffentlicht werden die Bilder selten. Trotzdem macht die Erpressung den Betroffenen natürlich große Angst und sie haben einen starken Handlungsdruck. Diese Masche nennt man Sextortion und macht aktuell rund ein Drittel aller Anfragen bei JUUUPORT aus.
Welche Rolle spielt Künstliche Intelligenz (z. B. Chatbots, Deepfakes, KI-generierte Inhalte) inzwischen in den Problemen, mit denen sich Jugendliche an euch wenden?
In der Beratung gab es in letzter Zeit auch Fälle, bei denen die betroffenen Personen gar kein echtes Nacktbild versendet haben. Stattdessen haben die Täter:innen ein ganz normales Profilbild genommen und daraus ein Fake-Nacktbild erstellt. Das geht mit KI mittlerweile leider sehr leicht. Klar ist, dass sich Gefahren wie Erpressung oder Cybermobbing durch KI noch verschärfen. Auch die Verbreitung von Fake News und Hass im Netz bekommen so eine ganz neue Dimension. Deshalb hat JUUUPORT auch ein neues Projekt ins Leben gerufen: JUUUKI! – Jugendliche mit KI für Demokratie. Hier wird KI genutzt, um über Chancen und Risiken dieser aufzuklären.
Was würdest du dir von Schulen, Eltern oder der Politik wünschen, um junge Menschen besser auf die Risiken des Netzes vorzubereiten?
In meinen Augen ist es keine Lösung, Jugendlichen Social Media oder die Nutzung des Internets generell zu verbieten. Zum einen finden Jugendliche sicher auch Möglichkeiten Social Media und andere Apps heimlich zu nutzen. Zum anderen könnte man damit genau das Gegenteil bewirken: Wie soll jemand, dem Social Media verboten ist, dann plötzlich wissen, wie man kritisch und verantwortungsvoll damit umgeht? Ich bin daher davon überzeugt, dass es für Jugendliche wichtig ist, Erfahrung zu sammeln, die aber natürlich auch von Eltern und Schule dem Alter entsprechend begleitet werden sollte. Und dafür müssen die Erwachsenen – bevor sie beratend auftreten können – den Umgang mit verschiedenen Online-Anwendungen und Social-Media-Plattformen natürlich auch selbst beherrschen. Das heißt: Eltern sollten sich selbst aktiv mit den Apps auseinandersetzen, die ihre Kinder nutzen wollen und dürfen, um sie dann – wie ein:e Fahrlehrer:in auf dem Beifahrersitz – bei den Erfahrungen im Netz zu begleiten und zu beraten. Dazu kann es bei den ersten Erfahrungen sinnvoll sein, sich tatsächlich mit dem Kind gemeinsam hinzusetzen und alles zu erklären. Später sollte man als Eltern dann mehr als Berater:innen auftreten, nach dem Motto: „Wenn dir was komisch vorkommt, zeig es mir. Ich bin für dich da.“ Ein vertrauensvolles und zugewandtes Verhältnis ist dafür essenziell. Auch Schulen können und sollten die Medienkompetenz von Kindern und Jugendlichen unterstützen. In meiner Schule haben wir uns z.B. mal Bilder angeschaut und jede:r sollte raten, welches Bild echt und welches KI-generiert ist. Ich habe davon sehr profitiert, da mir diese Übung zeigte, wie schwierig es schon jetzt ist, Fake-Bilder von echten Bildern zu unterscheiden und was das für bestimmte Themen im Netz bedeutet. Von der Politik ist es daher wichtig, Medienkompetenzvermittlung fest im Unterricht zu verankern und generell zu fördern.
In den sozialen Netzwerken tauchen immer mehr Virtuelle Influencer:innen auf. Bemerkt ihr in eurer Arbeit bereits, dass Jugendliche mit ihnen in Kontakt kommen?
Ich persönlich habe davon noch nicht wirklich etwas bemerkt, weder privat noch als JUUUPORT-Scout. In den letzten Wochen habe ich allerdings mitbekommen, dass Fans von einzelnen echten Influencer:innen KI-generierte Fake-Podcasts erzeugen um die Influencer:innen selbst ein bisschen zu „trollen“. Also, durch KI bekommen bestimmte Themen auf jeden Fall eine neue Dimension. Und ich weiß, dass es mittlerweile auch einige sehr erfolgreiche Virtuelle Influencer:innen gibt, denen sehr viele junge Leute folgen.
Erkennen junge Menschen deiner Erfahrung nach, dass diese Influencer:innen nicht echt sind?
Ich bin erschrocken, wie echt manche Virtuellen Influencer:innen mittlerweile aussehen. Die meisten hätte ich vermutlich nicht als unecht erkannt. Das geht bestimmt auch vielen anderen jungen Leuten so. Und wir wissen im Alltag eigentlich nicht, wie gut wir KI-generierte Inhalte erkennen können, denn das, was wir nicht erkennen, registrieren wir ja nicht als unecht.
Und wenn sie es nicht erkennen: Was ist die Gefahr dabei?
Eine KI ist ein Computer, der mit bestimmten Absichten programmiert wurde, und keine Moral hat (sofern sie nicht antrainiert wurde). Ich sehe KI-Influencer:innen deshalb eher kritisch. Ich bin ein Fan von Menschen mit Kopf und Herz und nicht von Maschinen, die mir eine nichtexistierende makellose Welt zeigen. Viele der erfolgreichen Virtuellen Influencer:innen vermitteln ja auch völlig unrealistische und eigentlich auch schon längst überholte Schönheitsideale. Sie haben die perfekte Figur, sind super cool, tragen die krassesten Klamotten und können an jeden Ort der Welt reisen. Aber natürlich ist das eine Scheinwelt, die trotzdem eine Wirkung auf junge Menschen hat, erst recht, wenn nicht gleich ersichtlich ist, dass diese Wesen nicht echt sind. Und natürlich spielen auch Themen wie Desinformation und Manipulation eine Rolle. Virtuelle Influencer:innen können täglich viele Posts veröffentlichen, was echte Influencer:innen gar nicht schaffen würden. So kann Meinungsmache, Extremismus, Hass und Hetze sehr schnell und weit verbreitet werden.
Wie transparent sollten Plattformen kennzeichnen, dass es sich um KI-Avatare handelt? Würde eine klare Kennzeichnung helfen?
Sehr transparent! Eine Kennzeichnung von KI-generierten Inhalten ist für mich keine Option, sondern unbedingt notwendig. Nur wer weiß, dass es sich bei dem Beitrag um künstliche Inhalte handelt, kann diese auch dementsprechend für sich einstufen und die möglichen Risiken beachten.
Was würdest du jungen Menschen raten, die sich von den perfekten, digitalen Vorbildern unter Druck gesetzt fühlen?
Orientiert euch daran, was ihr in der echten Welt „face to face“ seht, nicht was euch online präsentiert wird.
Wenn du einen Wunsch frei hättest: Was müsste sich in der Social-Media-Welt ändern, damit sie ein sichererer Ort für Jugendliche wird?
Ein Wunsch ist eng bemessen. Ich denke, mit Blick auf KI sind die wichtigsten Faktoren eine konsequente Kennzeichnungspflicht von KI-Inhalten und eine Reglementierung wie KI eingesetzt werden darf. Und ganz generell würde ich mir wünschen, dass es bessere Kontrollen und Strafverfolgung im Netz gibt. Denn es passiert so Vieles, das nicht richtig ist – oft unbemerkt und ungestraft. Das müssen wir ändern.
Du willst mehr über Künstliche Intelligenz erfahren?
Mit dem Projekt JUUU-KI! – Jugendliche mit KI für Demokratie, das vom Bundesfamilienministerium im Rahmen des Bundesprogramms „Demokratie leben!“ gefördert wird, reagiert JUUUPORT auf die wachsende Bedeutung von Künstlicher Intelligenz. Jugendliche können hier alles rund um KI, Deepfakes & Co. lernen – von Chancen bis zu Risiken – und bekommen konkrete Tipps, wie sie Fake-Inhalte erkennen und sicher mit KI-Tools umgehen.