KI sorgt in so unterschiedlichen Bereichen wie dem Gesundheitswesen und dem Marketing für Umwälzungen. Nun ist das Bildungswesen an der Reihe. Regierungen erkennen darin eine Chance, Kosten zu sparen und die Lernergebnisse der Schüler zu verbessern. Schulen prüfen derzeit den Einsatz von Tools, die Aufgaben individuell an die einzelnen Schüler anpassen können. Eltern sehen darin eine Chance, die Bildung ihrer Kinder zu verbessern, ohne die Kosten für Privatunterricht auf sich nehmen zu müssen. Doch wie bei allem, was mit KI zu tun hat, gibt es sowohl Vorteile als auch Risiken.

Übermäßige Abhängigkeit und kognitive Trägheit werden oft als Bedenken der Eltern angeführt. Doch es können auch Sicherheits- und Datenschutzprobleme auftreten, insbesondere wenn man einen hochgelobten Chatbot nutzt. Eltern sollten die Grenzen der maschinellen Intelligenz verstehen.

Der Markt für KI-Nachhilfetools wächst rasant

Der Markt für KI-Nachhilfetools boomt. Einer Schätzung zufolge soll er zwischen 2025 und 2033 von rund 2 Mrd. US-Dollar auf über 17,7 Mrd. US-Dollar anwachsen. Die britische Regierung hat bereits EdTech- und KI-Unternehmen dazu aufgefordert, Tools für den Unterricht zu entwickeln. Sie geht davon aus, dass bis zu 450.000 benachteiligte Schüler davon profitieren könnten, und erklärt, KI könne Familien helfen, die sich keine Privatlehrer leisten können. In den USA variiert die Situation von Bezirk zu Bezirk, doch die Entwicklung verläuft im Großen und Ganzen ähnlich: KI- und Technologieunternehmen führen spezialisierte Tools für Schüler und Lehrer ein.

Der Markt reift schnell heran. Heute gibt es verschiedene Arten von KI-Nachhilfetools. Tatsächlich wird der Begriff „KI-Nachhilfetool“ für eine bemerkenswert breite Palette von Produkten verwendet. Einige sind kaum mehr als Allzweck-Chatbots mit einem Bildungslabel, während andere strukturierte Lernsysteme sind, die auf einem Lehrplan aufbauen.

Am unteren Ende des Marktes befinden sich einfache Chatbots und KI-Assistenten. Sie sind zwar in der Lage, allgemeine Fragen zusammenzufassen und zu beantworten, bieten darüber hinaus jedoch keinen nennenswerten Mehrwert. Tatsächlich kann es vorkommen, dass sie Fragen lediglich im Namen ihrer Nutzer beantworten. Eine ausgefeiltere Option wäre ein speziell für den Unterricht entwickelter Chatbot. Diese sind so programmiert, dass sie Fragen nicht direkt beantworten, sondern stattdessen „sokratisch orientiertes“ Tutoring anbieten.

Noch weiter fortgeschritten sind Intelligente Tutorensysteme (ITS), die einen von Menschen entworfenen, festgelegten Lehrplan anbieten. Sie unterstützen den Lernprozess, indem sie Hinweise geben, wenn Schüler sich bei einer Antwort unsicher sind, und machen es praktisch unmöglich, dass unangemessene Inhalte auftauchen.

Funktionieren KI-Tutoren überhaupt?

Es ist noch nicht abschließend geklärt, ob all dies funktioniert. Die Erkenntnisse sind stellenweise vielversprechend, scheinen jedoch die pauschalen Behauptungen nicht zu stützen, dass KI-Tutoren das Lernen in jedem Umfeld verbessern werden. Manchmal verschlimmert die Technologie die Situation möglicherweise sogar. In einer aktuellen Studie aus Großbritannien gaben zwei Drittel der Lehrkräfte an, bereits einen Rückgang der Schreib- und Problemlösungsfähigkeiten bei den Schülern aufgrund des KI-Einsatzes beobachtet zu haben. Eine andere Studie stellt „eine signifikante negative Korrelation zwischen der häufigen Nutzung von KI-Tools und den Fähigkeiten zum kritischen Denken“ fest. Darin wird angemerkt, dass der Einsatz von KI beim Nachhilfeunterricht für Kinder „unbeabsichtigt das Engagement der Nutzer für tiefgehende, reflektierende Denkprozesse verringern könnte“.

Dies ist eines der größten Entwicklungsrisiken, die mit der Förderung der Nutzung von KI-Tools durch Kinder verbunden sind. Wenn die KI zu schnell eine Antwort liefert oder den Lernprozess für den Lernenden zumindest zu sehr vereinfacht, könnte sich bei ihm eine kognitive Trägheit entwickeln, die langfristig schädlich ist.

Es gibt weitere potenzielle psychosoziale Risiken. Kinder könnten am Ende zu viel Vertrauen in ihre selbstbewusst klingenden KI-Tutoren setzen und leichter als Erwachsene auf Halluzinationen hereinfallen. Sie könnten sich sogar auf sie als Quasi-Freunde verlassen, was emotionale Bindungen zu ihren Gleichaltrigen beeinträchtigen könnte. KI ist zudem in vielerlei Hinsicht ein schlechter Lehrer. Sie mag zwar die „Antwort“ auf eine Frage kennen, ist aber nicht in der Lage, mit einem Kind umzugehen, das von der Lernerfahrung frustriert ist. Die Empathie und die sozialen Kompetenzen eines menschlichen Lehrers sind für eine Maschine sehr schwer, wenn nicht gar unmöglich nachzuahmen.

Eine relevante Frage ist daher, wie das Tool das Kind zum Mitmachen motiviert. Fordert es das Kind auf, seine Gedankengänge darzulegen, sich an einer Aufgabe zu versuchen und auf Feedback zu reagieren? Oder sorgt es dafür, dass die Hausaufgaben schneller erledigt werden, während es im Hintergrund den Großteil des Denkens übernimmt?

Sicherheits- und Datenschutzrisiken

Doch damit nicht genug. Für Nutzer von frei zugänglichen Chatbots und ähnlichen Tools besteht das Risiko, dass Gespräche in altersunangemessene Chats abgleiten. Ein KI-Tutor könnte zudem weit mehr als nur die Antworten eines Kindes erfassen. Je nach Produkt könnte er Eingabeaufforderungen, Schulaufgaben, Leistungsdaten, Interessen, Kontoinformationen, Gerätekennungen und Sprachaufzeichnungen speichern. Alles, was mit dem Modell geteilt wird, könnte zu Trainingszwecken verwendet und möglicherweise an andere Nutzer weitergegeben werden. Außerdem könnte es an Werbetreibende und andere Dritte gelangen.

Dies stellt nicht nur ein Datenschutzrisiko dar, sondern könnte sich zu einem vollwertigen Sicherheitsproblem entwickeln, wenn der Modellanbieter oder einer dieser vertrauenswürdigen Dritten, die über die Daten Ihres Kindes verfügen, Opfer eines Datenlecks wird. Handelt es sich um ein sprachgesteuertes Tool, verfügt der Anbieter über biometrische Daten Ihres Kindes, die äußerst wertvoll wären, wenn Hacker sie mit dessen Identität in Verbindung bringen könnten.

Daraus ergeben sich für Eltern mehrere Fragen, darunter:

  • Ist das Kind alt genug, um den Dienst gemäß den Nutzungsbedingungen zu nutzen?
  • Welche Informationen werden erfasst, warum und wie lange?
  • Werden die Gespräche zum Trainieren oder Verbessern von KI-Modellen verwendet?
  • Können Eltern auf die Daten ihres Kindes zugreifen und diese löschen?
  • Welche Dienstleister oder andere Stellen erhalten die Daten?
  • Wird im Produkt Werbung angezeigt oder werden Daten zur Profilerstellung verwendet?

Schließlich besteht das Risiko der Prompt-Injektion. Dies geschieht, wenn KI-Tools dazu verleitet werden, ihre Sicherheitsvorkehrungen zu ignorieren und nicht vertrauenswürdige Inhalte anzuzeigen. Ihr Kind könnte versiert genug sein, dies zu tun und Zugang zu altersunangemessenem Material zu erhalten. Oder ein Hacker versteckt Anweisungen in legitimen Webseiten, sodass die KI, wenn sie mit dieser Seite interagiert, auf eine Phishing-Seite weitergeleitet wird oder eine andere böswillige Aktion ausführt.

Einige Vorsichtsmaßnahmen für Eltern

Für Eltern gibt es viel zu bedenken. Wenn Sie Ihre Kinder gerne mit einem KI-Tool arbeiten lassen möchten, das beim Nachhilfeunterricht hilft, sollten Sie zunächst den Unterschied zwischen einem einfachen „Co-Piloten“ und einem speziellen ITS verstehen. Sie sollten nach Tools suchen, die den Lernprozess Ihres Kindes begleiten, anstatt nur einfache Antworten zu liefern.

Beachten Sie außerdem:

  • Tools, die den Datenschutzbestimmungen (z. B. COPPA, CCPA, DSGVO) entsprechen, d. h., die die Daten Ihres Kindes nicht an die zugrunde liegende KI-Engine weitergeben.
  • Entscheiden Sie sich für ein Tool, das von der Schule Ihres Kindes zugelassen ist oder durch pädagogische Erkenntnisse gestützt wird.
  • Lesen Sie die Datenschutzhinweise, insbesondere die Abschnitte zu Modelltraining, Datenspeicherung, Werbung und Drittanbietern.
  • Nutzen Sie das Tool gemeinsam mit Ihrem Kind. So gut KI auch sein mag, Ihr Kind wird wahrscheinlich mehr davon profitieren, wenn es gemeinsam mit einem Menschen lernt.
  • Bringen Sie Ihren Kindern bei, niemals persönliche Informationen an die KI weiterzugeben, und zeigen Sie ihnen, wie sie „Halluzinationen“ erkennen können. Das wird ihnen später im Leben beim Umgang mit KI zugutekommen.
  • Sprechen Sie mit Ihren Kindern darüber, wie sie zur KI stehen, und stellen Sie sicher, dass sie verstehen, dass diese weder Gefühle noch Emotionen empfinden kann.
  • Erklären Sie, dass der Tutor auch dann sicher klingen kann, wenn er falsch liegt. Wichtige Antworten sollten mit Lehrern oder anhand von Lehrbüchern oder anderen zuverlässigen Quellen überprüft werden.
  • Aktivieren Sie gegebenenfalls altersgerechte Einstellungen, sofern verfügbar.
  • Begrenzen Sie die tägliche „KI-Zeit“ genauso wie die Bildschirmzeit.
  • Überprüfen Sie den Verlauf der Eingabeaufforderungen Ihres Kindes, um sicherzustellen, dass es das Tool korrekt und sicher nutzt.

Die Technologie entwickelt sich rasant weiter, ständig kommen neue Angebote auf den Markt. Wenn Sie also KI-Nachhilfeprogramme ausprobieren möchten, sollten Sie sich unbedingt über die aktuellen Angebote auf dem Laufenden halten. Und denken Sie daran, dass sie möglicherweise kein Ersatz für gutes, altbewährtes Offline-Lernen sind.