KI-Chatbots sind zu einem wichtigen Teil unseres Lebens geworden, seit sie vor mehr als drei Jahren auf der Bildfläche erschienen sind. Deutsche Kinder und Jugendliche verlassen sich häufig auf die digitalen Helfer: Wie die JIM (Jugend, Information, Medien)-Studie belegt, wächst der Anteil der jungen KI-Nutzer stetig. Insbesondere bei Hausaufgaben greifen viele auf die praktischen und scheinbar allwissenden digitalen Helfer zurück. Viele Eltern sorgen sich nun, dass KI-Technologien einen zu großen Anteil am Leben ihrer Kinder haben könnten.

Dies mag zwar eine leichte Überreaktion sein, aber aufgrund der häufigen Nutzung dieser Technologie durch Kinder und Jugendliche entstehen berechtigte Bedenken in Bezug auf Sicherheit, Datenschutz und Psychologie. Als Elternteil können Sie nicht davon ausgehen, dass alle Plattformanbieter über wirksame, kindgerechte Sicherheitsvorkehrungen verfügen. Selbst wenn es Schutzmaßnahmen gibt, erfolgt die Durchsetzung nicht unbedingt einheitlich, und die Technologie selbst entwickelt sich schneller weiter als die Politik.

Was sind die Risiken?

Unsere Kinder nutzen generative KI (GenAI) auf unterschiedliche Weise. Einige schätzen ihre Hilfe bei den Hausaufgaben. Andere behandeln den Chatbot vielleicht wie einen digitalen Begleiter, fragen ihn um Rat und vertrauen auf seine Antworten wie auf einen engen Freund. Es gibt mehrere offensichtliche Risiken, die damit verbunden sind.

Das erste ist psychologischer und sozialer Natur. Kinder machen eine unglaubliche Phase der emotionalen und kognitiven Entwicklung durch, die sie in vielerlei Hinsicht verletzlich macht. Sie könnten sich auf Kosten der Bildung echter Freundschaften mit Klassenkameraden auf KI-Begleiter verlassen, was die soziale Isolation noch verstärkt. Und da Chatbots so programmiert sind, dass sie ihren Nutzern gefallen, können sie Ausgaben liefern, die die Schwierigkeiten junger Menschen verstärken - wie Essstörungen, Selbstverletzung und/oder sogar Selbstmordgedanken. Es besteht die Gefahr, dass Ihr Kind Zeit mit der KI verbringt und somit nicht nur menschliche Freundschaften verdrängt, sondern auch Zeit, die es mit Hausaufgaben oder mit der Familie verbringen sollte.

Zudem kann es sein, dass ein GenAI-Chatbot Ihrem Kind den Zugriff auf ungeeignete Inhalte erlaubt. Die wichtigsten Anbieter verfügen zwar über Schutzmechanismen, die Links zu unangemessenen oder gefährlichen Inhalten einschränken sollen, doch sind diese nicht immer wirksam. In einigen Fällen können sie diese internen Sicherheitsmaßnahmen außer Kraft setzen, um z. B. erotische oder gewalttätige Inhalte zu verbreiten. Technisch versierte Kinder sind mitunter in der Lage, bestehende Sicherheitsmechanismen zu umgehen.

Halluzinationen sind ein weiteres Problem. Für Unternehmen kann dies ein erhebliches Reputations- und Haftungsrisiko darstellen. Jugendliche können solche Falschinformationen  dazu verleiten, unkluge Entscheidungen in medizinischen oder sozialen Angelegenheiten zu treffen.

Schließlich darf nicht vergessen werden, dass Chatbots auch ein potenzielles Risiko für den Datenschutz darstellen. Wenn Ihr Kind sensible persönliche und finanzielle Informationen in eine Eingabeaufforderung eingibt, werden diese vom Anbieter gespeichert. In diesem Fall könnten sie theoretisch von einem Dritten (z. B. einem Lieferanten/Partner) eingesehen, von einem Cyberkriminellen gehackt oder an einen anderen Nutzer weitergegeben werden. Genauso wie Sie nicht wollen, dass Ihr Kind zu viel in den sozialen Medien preisgibt, ist es am besten, wenn es so wenig wie möglich mit einem Chatbot teilt.

Einige Warnsignale, auf die man achten sollte

Die KI-Plattformen sind sich dieser Risiken sicher bewusst und unternehmen Schritte, um sie zu mindern. Zumindest bis zu einem gewissen Grad. Je nachdem, welchen Chatbot Kinder benutzen, kann es sein, dass es kaum eine Altersüberprüfung oder Inhaltsmoderation gibt. Es liegt also in der Verantwortung der Eltern, über die Aktivitäten ihrer Kinder bescheid zu wissen und gegebenenfalls einzugreifen.

Zunächst einmal gibt es einige Anzeichen dafür, dass Ihre Kinder eine ungesunde Beziehung zu KI haben könnten:

  • Sie ziehen sich von außerschulischen Aktivitäten mit Freunden und Familie zurück
  • Sie werden ängstlich, wenn sie nicht auf ihren Chatbot zugreifen können, und versuchen möglicherweise, Anzeichen einer übermäßigen Nutzung zu verbergen
  • Sie sprechen über den Chatbot, als wäre er eine echte Person
  • Sie wiederholen Ihnen gegenüber offensichtliche Fehlinformationen als "Tatsache"
  • Sie fragen ihre KI nach ernsten Problemen, wie z. B. psychischen Problemen

Zeit zum Reden

In vielen Rechtsordnungen sind KI-Chatbots auf Nutzer über 13 Jahre beschränkt. Aber angesichts der lückenhaften Durchsetzung müssen Eltern die Dinge vielleicht selbst in die Hand nehmen. Gespräche sind wichtiger als Kontrollen allein. Die besten Ergebnisse erzielen Sie, wenn Sie technische Kontrollen mit Aufklärung und Ratschlägen kombinieren, die auf offene und nicht konfrontative Weise erteilt werden.

Ob in der Schule, zu Hause oder im Kindergarten- Ihre Kinder haben jede Minute ihres wachen Lebens Erwachsene, die ihnen sagen, was sie tun sollen. Versuchen Sie also, Ihre Gespräche über künstliche Intelligenz als Dialog zu gestalten, bei dem sie sich wohl fühlen: Kinder sollten  ihre Erfahrungen mitteilen können, ohne Angst vor Bestrafung haben zu müssen. Erläutern Sie die Gefahren einer übermäßigen Nutzung, von Halluzinationen, der gemeinsamen Nutzung von Daten und der Gefahr, die aus übermäßigem Vertrauen in die KI entsteht. Helfen Sie ihnen zu verstehen, dass KI-Bots keine echten Menschen sind, die denken können. Bringen Sie Ihren Kindern bei, kritisch zu denken, KI-Ausgaben immer auf Fakten zu prüfen und niemals ein Gespräch mit den Eltern durch eine Sitzung mit einer Maschine zu ersetzen.

Kombinieren Sie diese Aufklärungsarbeit gegebenenfalls mit einer Richtlinie zur Begrenzung der KI-Nutzung (so wie Sie auch die Nutzung sozialer Medien oder die Bildschirmzeit im Allgemeinen begrenzen würden) und beschränken Sie die Nutzung auf altersgerechte Plattformen. Schalten Sie die Kindersicherung in den von ihnen genutzten Apps ein, um die Nutzung zu überwachen und das Risiko zu minimieren. Erinnern Sie Ihre Kinder daran, niemals persönlich identifizierbare Informationen (PII) an KI weiterzugeben, und passen Sie ihre Datenschutzeinstellungen an, um das Risiko unbeabsichtigter Lecks zu verringern.

Unsere Kinder brauchen Menschen im Zentrum ihrer Gefühlswelt. KI kann ein nützliches Werkzeug für viele Dinge sein. Aber bis Ihre Kinder eine gesunde Beziehung zu ihr entwickeln, sollte ihre Nutzung sorgfältig überwacht werden. Und sie sollte niemals den menschlichen Kontakt ersetzen.