Leichte Sprache
Kontrast

Das musst Du über Künstliche Intelligenz wissen

erstellt am
KI

Was ist KI?

Derzeit gibt es keine einheitliche Definition von Künstlicher Intelligenz (KI). Grundsätzlich geht es darum, Computer in die Lage zu versetzen, menschliche Fähigkeiten wie logisches Denken, Lernen oder Kreativität nachzuahmen.

Die sogenannte Generative KI kann eigene Inhalte erzeugen. Die Software hat also gelernt, bestimmte Muster in Sprache oder Kunst zu erkennen und selbstständig Neues zu erzeugen. Dadurch kann die KI zum Beispiel Schreib-, Kunst- oder Sprechstile nachmachen.

Verschiedene Formen von KI

Folgende Formen von generativer KI kann man unterscheiden:

  • Sprachmodelle: Sie können Sprache in Form von Text verarbeiten.
  • Visuelle Modelle: Sie können Bilder oder Videos verarbeiten.
  • Audio-Modelle: Sie können Musik- oder Sprachaufnahmen verarbeiten.

Es ist auch möglich, diese Modelle zu kombinieren, indem die KI z. B. die Informationen eines Bildes in einen Text umwandelt. Und andersrum geht es auch: Die KI kann aus einer Textbeschreibung ein Bild erstellen.

Tabelle mit Beispielen für KI-Tools

Beispiele bekannter KI-Tools

Hier stellen wir Dir ein paar der aktuell bekanntesten KI-Tools vor:

  • ChatGPT kann mithilfe von Stichworten, Beispielsätzen oder Fragen umfangreiche Texte erstellen.
  • character.ai kann Charaktere (z.B. berühmte Persönlichkeiten) sprachlich nachahmen.
  • DALL.E kann aus einer einfachen Textbeschreibung Bilder erstellen.
  • Stable Diffusion kann durch einen Textbefehl neue Bilder erstellen oder vorhandene verändern.
  • ElevenLabs ermöglicht die Umwandlung eines Textes in gesprochene Sprache. Dabei kann aus verschiedenen Stimmen und Sprachen ausgewählt werden. Gegen Bezahlung kann auch eine Stimme einer realen Person in eine KI-Stimme umgewandelt werden.
  • Uberduck.AI kann ebenfalls Text in Sprache umwandeln. Die Stimmen verschiedener Musiker:innen, Stars oder Comicfiguren können ausgewählt werden. Auch eine reale Stimme kann in eine KI-Stimme umgewandelt werden.
  • Mindverse kannrecherchieren, brainstormen sowie Bilder und Texte erstellen.

Welche Gefahren gibt es bei Künstlicher Intelligenz?

Täglich kommen neue KI-Produkte auf den Markt. Diese werden ohne spezielle Prüfung und Erkenntnisse über potenzielle Risiken veröffentlicht. Jede:r kann die Angebote nutzen – meistens reicht eine einfache Registrierung aus. Auch Kindern und Jugendlichen stehen die Anwendungen offen.

Große Unternehmen wie Google, Microsoft und Meta arbeiten an der Einbindung von KI-Systeme in ihre Angebote. Das heißt, KI wird bei Suchmaschinen, E-Mail-Anwendungen, Bildern oder auch Textdokumenten eingesetzt werden. Auch für YouTube wird an einer KI gearbeitet. Social-Media-Anbieter wie Snapchat haben KI bereits eingesetzt, andere haben es zumindest angekündigt. Auch der Bereich der Games wird sich durch den Einsatz von KI verändern. Spielegrafiken werden realistischer, personalisierte Spielfiguren können erstellt werden, und Spielfiguren können echte Gespräche mit Gamer:innen führen.

Klar ist also, dass KI in den meisten Bereichen des Internets eingesetzt werden wird – und damit werden auch Kinder und Jugendliche ihnen begegnen.

rotes Ausrufezeichen

Welche Risiken bestehen für Kinder und Jugendliche durch den Einsatz von KI?

Kinder und Jugendliche wurden bei der rasanten Entwicklung von KI-Tools nicht ausreichend berücksichtigt. Durch die vielfältigen Einsatzmöglichkeiten werden verschiedene Risiken insbesondere für junge Menschen bestehen. Jugendschutz.net benennt folgende Probleme für generative KI:

  • Das Alter der User:innen wird von keiner KI berücksichtigt. Eine altersgerechte Nutzung ist also nicht wirklich gegeben.
  • Manche Sprachmodelle sind nicht eindeutig als KI erkennbar. Junge Menschen könnten so das Gefühl haben, mit einem echten Menschen zu sprechen. Gleichzeitig vertrauen sie nicht mehr so sehr in die Kommunikation mit echten Menschen, weil sie nicht sicher sind, ob nicht vielleicht doch eine KI im Einsatz ist.
  • Jede:r kann Bilder nach eigenen Vorstellungen erstellen. So können auch riskante oder gefährliche Inhalte, z. B. Gewalttaten oder Extremismus, verbreitet werden.
  • Durch die fehlerhafte Auswahl von Trainingsdaten kann die KI Kindern und Jugendlichen falsche Informationen liefern. KI kann auch ganz bewusst genutzt werden, um Fake News zu verbreiten.
  • Durch Generative KI können Internetnutzer:innen vortäuschen, jemand anderes zu sein. Cybergrooming (Anbahnungsversuche Erwachsener zu Kindern in sexueller Absicht) kann so noch schwerer erkennbar sein.
  • Pornografische Bilder oder Deep-Fakes können durch KI erstellt werden.
  • Durch den Einsatz einer Voice-Simulation können neue Betrugsmaschen entstehen. So können z.B. Anrufe mit der Stimme von Verwandten oder Freund:innen getätigt werden, die dann um Geld bitten.

Künstliche Intelligenz und Cybermobbing

  • Cybermobbing geschieht unter anderem oft, weil sich die Täter:innen im Netz anonym fühlen. Dieses Gefühl kann durch KI verstärkt werden, da man beispielsweise mit computergenerierten Personen auftreten kann. Zudem können großflächige „Angriffe“ mit künstlicher Intelligenz automatisiert gestartet und die Reichweite verstärkt werden.
  • Dadurch, dass Bilder und Videos durch KI gefälscht werden können (z.B. die Veränderung von Gesichtern und Stimmen) können junge Menschen verstärkt von Cybermobbing betroffen sein
  • ChatGPT kann auf jede Eingabe reagieren und bietet keinen speziellen Schutz für junge Nutzer:innen. Zwar haben einige Anbieter:innen Einschränkungen eingerichtet, um die Erstellung von Hassrede und anderen beleidigenden Inhalten möglichst gering zu halten, jedoch ist es immer noch möglich, dass ChatGPT solche Inhalte trotzdem erstellt.
Ein Schloss auf der Hand

Künstliche Intelligenz und Datenschutz

  • Datenschutz wird bei KI-gestützten Produkten und Diensten nicht besonders großgeschrieben. Sie sammeln oft große Mengen personenbezogener Daten und erschweren Nutzer:innen die Kontrolle darüber, was mit ihren Daten passiert.
  • Kinder und Jugendliche sollten sich bewusst sein, dass ihre Daten gesammelt und möglicherweise weiterverwendet werden können, da ChatGPT aus den Eingaben der Nutzer:innen lernt. Als Regel sollte deshalb festgelegt werden, dass Heranwachsende keine sensiblen oder persönlichen Daten in den Chat eingeben, von denen sie nicht wollen, dass andere Menschen sie in die Finger bekommen könnten.
  • Vorsicht beim Teilen der erstellten Texte – laut dem Urheberrecht gibt es ein Recht am eigenen Werk, aber wie dies bei KI-Texten gehandhabt wird, ist eine komplizierte Angelegenheit. Es gibt keine eindeutige Rechtsprechung darüber, ob solche Schriftstücke als eigenständiges Werk gelten und ob das Urheberrecht daran bei den EntwicklerInnen, bei den BenutzerInnen oder den UrheberInnen der genutzten Daten liegt.
  • Hausaufgaben mit Hilfe von ChatGPT zu erstellen und diese dann als eigene Lösungen abgeben, ist eine Form von Betrug.

Welche Chancen bietet Künstliche Intelligenz?

Mit dem Einsatz von Künstlicher Intelligenz gehen nicht nur Gefahren einher: Durch KI können Kinder und Jugendliche in manchen Bereichen besser geschützt werden:

  • Seit einigen Jahren wird KI dafür eingesetzt, sexualisierte Gewalt im Netz zu bekämpfen. So werden entsprechende Inhalte automatisch erkannt und an Ermittlungsbehörden gemeldet.
  • KI ist in der Lage, die Altersangaben in Online-Diensten, die Kinder und Jugendliche nutzen, zu überprüfen und sie damit vor nicht altersgerechten Inhalten zu schützen.
  • In Form von helfenden und warnenden Chat-Bots kann KI zu einem sichereren Online-Erlebnis beitragen. Beispielsweise kann die Begegnung mit gefährlichen Inhalten oder der Austausch mit unbekannten bzw. riskanten Kontakten verhindert werden.
  • Bisher werden KI-Systeme jedoch noch zu wenig für die Sicherheit von Kindern und Jugendlichen eingesetzt.
  • Generative KI kann als Werkzeug zur Förderung von kreativen Fähigkeiten und Medienkompetenz dienen.
  • KI kann zur Aufklärung über mögliche Gefahren eingesetzt werden. Dadurch kann eine kritische Mediennutzung unterstützt werden und Jugendliche für einen reflektierten Umgang mit der Technologie sensibilisieren.
  • Erste Projekte beschäftigen sich zum Beispiel damit, wie KI im Schulalltag von Minderjährigen sinnvoll eingesetzt werden kann.
Zwei Sprechblasen

Hilfe und Beratung zu Künstlicher Intelligenz

KI und Online-Beratung

Eine wichtige Frage, die wir uns mit Blick auf den Einsatz von KI stellen, betrifft die Online-Beratung: Welche Auswirkungen wird KI auf diesen Bereich haben? Brauchen wir irgendwann überhaupt noch echte Menschen, die andere beraten? Wo liegen Vor- und Nachteile des einen und anderen?

Darüber haben wir mit unserer Scoutin Melli gesprochen. Schau Dir gern mal das Interview an. Sie studiert Psychologie und engagiert sich nebenbei in der Online-Beratung von JUUUPORT.

Hilfe und Tipps

Hast Du Fragen zu KI? Bei uns beraten Dich noch echte Menschen! 😊

Wende Dich einfach an unsere Scouts.

Zur Beratung

Beratung
Über uns
Spenden