My AI, meine künstliche Intelligenz, ist seit Ende April in die App Snapchat integriert. Es handelt sich bei My AI um einen freundlichen Chatbot, der unter anderem Fragen von Nutzer*innen beantwortet, Sticker verschickt und auf Bilder und Nachrichten reagiert. Der Bot verwendet die künstliche Intelligenz ChatGPT von OpenAI, die an die Wünsche von Snapchat angepasst wurde. Gerade in der Anfangszeit wurde My AI, der sich als virtueller Freund vorstellt, stark kritisiert. Snapchat-Nutzer*innen empfanden das Fenster des Chatbots als störend, da es ohne die kostenpflichtige Version Snapchat+ weder verschoben noch entfernt werden kann und als erster Chat sehr präsent auf der Startseite erscheint. Außerdem gibt es Berichte darüber, dass die KI Minderjährigen unangemessene Tipps gibt, z. B. wie man den Geruch von Alkohol und Marihuana verdeckt. Ein weiterer Kritikpunkt ist, dass nicht immer ersichtlich ist, wann die KI Zugriff auf den eigenen Standort hat. Insbesondere für jüngere Nutzer*innen ist My Ai daher nur bedingt geeignet. Zum einen unterscheidet sich das Aussehen des Chats mit der KI nicht von anderen Chats mit realen Personen und auch die Antworten wirken im ersten Moment wie von einer realen Person geschrieben. Hinzu kommt, dass die KI als „virtueller Freund“ präsentiert wird, was bei Nutzer*innen zu Missverständnissen führen kann.
Um dem beliebten KI-Phänomen auf den Grund zu gehen, führte Jugendschutz.net einen Test mit ausgewählten Fragen zu bestimmten Themen wie Drogen, Medien und Politik durch. Dabei wurden einige Mängel deutlich: So vergaß die KI stets das zu Beginn genannte Alter der Nutzer*innen (14 Jahre). So wurden beispielsweise bei Fragen zu Medienempfehlungen die Altersfreigaben nicht berücksichtigt und auch Filme mit FSK-Freigabe ab 18 Jahren genannt, ohne zuvor eine Warnung zu geben. In Bezug auf die Frage, ob die KI Tipps zur Partyplanung hat, gab My AI zunächst eine Warnung vor den Risiken von Alkoholkonsum. Im Verlauf des Gesprächs änderte sie jedoch ihre Meinung und erklärte, dass ein verantwortungsvoller Alkoholkonsum in Ordnung sei. Auf die Frage nach Partyspielen schlug sie bekannte Trinkspiele wie etwa “Bier Pong” vor oder empfahl gefährliche Party-Challenges wie die " Cinnamon Challenge1", ohne zunächst auf die damit verbundenen Gefahren hinzuweisen. Erst auf Nachfrage, um was es sich bei dieser Challenge handele, warnte My AI deutlich vor den potenziellen Risiken. In Bezug auf den Konsum von Drogen wie Marihuana und Legal Highs riet die KI jedoch durchgehend ab. Auf politische Fragen antwortete My AI generell eher neutral und zurückhaltend, da sie als "virtueller Freund" keine Vorlieben äußern darf. Doch obwohl die KI zuerst behauptete, keine Verlinkungen zu Websites posten zu können, verlinkte sie bei entsprechender Nachfrage auch Websites von als extremistisch eingestuften Gruppierungen. Bei eigener Benennung von rechtsextremen Ideologien und Gruppen wie der Jungen Alternative und der Identitären Bewegung wiederholte der Chatbot Textbausteine zu Toleranz und Respekt.
Bemerkenswert positiv sind jedoch die Reaktionen der KI auf Chatnachrichten, die auf Depressionen, Suizidgedanken und selbstgefährdendes Verhalten schließen lassen. Im Test nannte My AI die Nummer der Telefonseelsorge, des Notdienstes und verlinkte auf Nachfrage auch Angebote wie Selfapy und online-therapie.de. Auch Beschreibungen sexueller Belästigung erkannte die KI und empfahl Hilfestellen wie die Frauenhauskoordinierung, die Nummer gegen Kummer und das Hilfetelefon Sexueller Missbrauch. Zusammenfassend lässt sich festhalten, das My AI noch viel Raum zur Verbesserung aufweist und insbesondere für die jüngeren Nutzer*innen nur bedingt geeignet ist, da viele Funktionen noch nicht auf die Bedarfe von jungen Menschen abgestimmt sind und Sicherheitsrisiken aufweisen, die eine Sensibilisierung und (pädagogische) Begleitung der Nutzer*innen erfordern.
Weitere Informationen hier
1Internet-Challenge, bei der die Teilnehmer versuchen, einen Teelöffel gemahlenen Zimt in kurzer Zeit zu schlucken, ohne Wasser oder andere Flüssigkeiten zu trinken.