L’IA bouleverse des secteurs aussi divers que la santé et le marketing. C’est désormais au tour de l’éducation. Les gouvernements y voient une occasion de réduire les coûts et d’améliorer les résultats des élèves. Les établissements scolaires explorent des outils capables d’adapter les exercices à chaque élève, tandis que les parents y voient une possibilité d’améliorer l’éducation de leurs enfants sans avoir à supporter le coût de cours particuliers. Mais, comme pour tout ce qui touche à l’IA, ces outils présentent à la fois des avantages et des risques.

La dépendance excessive et la paresse cognitive sont souvent citées parmi les préoccupations des parents. Mais des problèmes de sécurité et de confidentialité peuvent également se poser, en particulier si l’outil utilisé n’est guère plus qu’un chatbot amélioré. Les parents doivent comprendre les limites de l’intelligence artificielle.

Le marché des tuteurs IA connaît une croissance rapide

Le marché des outils de tutorat par IA est en plein essor. Selon une estimation, il devrait passer d’environ 2 milliards de dollars à plus de 17,7 milliards entre 2025 et 2033. Le gouvernement britannique a déjà invité les entreprises spécialisées dans les technologies éducatives et l’IA à concevoir des outils destinés aux salles de classe. Il estime que jusqu’à 450 000 élèves défavorisés pourraient en bénéficier, affirmant que l’IA pourrait aider les familles qui n’ont pas les moyens de payer des cours particuliers.

Le marché gagne rapidement en maturité. Il existe aujourd’hui différents types de tuteurs IA disponibles à l’achat et à l’utilisation. De fait, l’expression « tuteur IA » recouvre une gamme étonnamment vaste de produits. Certains ne sont guère plus que des chatbots généralistes auxquels on a apposé une étiquette éducative, tandis que d’autres sont de véritables systèmes d’apprentissage structurés autour d’un programme pédagogique.

À l’entrée de gamme, on trouve de simples chatbots et assistants IA. Ils peuvent être capables de résumer des contenus et de répondre à des questions générales, mais n’apportent pas nécessairement beaucoup plus que cela. En réalité, ils risquent même de finir par répondre aux questions à la place de leurs utilisateurs. Une solution plus sophistiquée consiste à utiliser un chatbot spécialement conçu pour l’enseignement. Ces outils sont programmés pour ne pas donner directement les réponses, mais plutôt afin de proposer un tutorat fondé sur la « méthode socratique ».

Plus avancés encore, les systèmes de tutorat intelligents (ITS, pour Intelligent Tutoring Systems) proposent un programme prédéfini conçu par des humains. Ils structurent progressivement l’apprentissage en fournissant des indices lorsque les élèves hésitent sur une réponse, tout en rendant pratiquement impossible l’affichage de contenus inappropriés.

Les tuteurs IA sont-ils vraiment efficaces ?

Il est encore trop tôt pour déterminer si tout cela fonctionne réellement. Les données disponibles sont encourageantes à certains égards, mais elles ne semblent pas étayer l’idée selon laquelle les tuteurs IA amélioreraient l’apprentissage dans tous les contextes. Dans certains cas, la technologie pourrait même aggraver les choses. Dans une récente étude menée au Royaume-Uni, deux tiers des enseignants ont déclaré avoir déjà constaté une dégradation des capacités rédactionnelles et de résolution de problèmes chez les élèves en raison de l’utilisation de l’IA. Une autre étude relève « une corrélation négative significative entre l’utilisation fréquente d’outils d’IA et les capacités de réflexion critique ». Elle souligne que l’utilisation de l’IA pour le tutorat des enfants « peut involontairement réduire l’implication des utilisateurs dans des processus de réflexion approfondie et réflexive ».

Il s’agit de l’un des principaux risques pour le développement, associés au fait d’encourager les enfants à utiliser des outils d’IA. Si l’IA donne une réponse trop rapidement, ou si elle rend tout simplement le processus trop facile pour l’élève, celui-ci risque de développer une forme de paresse cognitive qui pourrait lui être préjudiciable à long terme.

Il existe également d’autres risques potentiels sur le plan psychosocial. Les enfants peuvent finir par accorder une confiance excessive à leurs tuteurs IA, dont les réponses sont formulées avec assurance, et être plus susceptibles que les adultes de se laisser tromper par leurs hallucinations. Ils pourraient même en venir à les considérer comme des quasi-amis, ce qui risquerait de freiner le développement de liens affectifs avec les autres enfants de leur âge. À bien des égards, l’IA est également un piètre enseignant. Elle peut connaître la « réponse » à une question, mais être incapable d’accompagner un enfant frustré par son apprentissage. L’empathie et les qualités relationnelles d’un enseignant humain sont très difficiles - voire impossibles - à reproduire pour une machine.

Une question essentielle consiste donc à se demander comment l’outil incite l’enfant à s’investir dans son apprentissage. Lui demande-t-il d’expliquer son raisonnement, de tenter de résoudre un problème et de tenir compte des commentaires reçus ? Ou lui permet-il simplement de terminer ses devoirs plus rapidement, tout en effectuant discrètement l’essentiel du travail de réflexion à sa place ?

Risques liés à la sécurité et à la confidentialité

Ce n’est pas tout. Pour les utilisateurs de chatbots sans paramétrage de restrictions, il existe un risque que les conversations dérivent vers des sujets inadaptés à l’âge de l’enfant. Un tuteur IA peut également collecter bien plus que les réponses d’un enfant. Selon le produit, il peut conserver les prompts, les travaux scolaires, les données sur les résultats, les centres d’intérêt, les informations de compte, les identifiants des appareils et les enregistrements vocaux. Tout ce qui est partagé avec le modèle peut être utilisé à des fins d’entraînement et éventuellement divulgué à d’autres utilisateurs. Ces données peuvent également être partagées avec des annonceurs et d’autres tiers.

Cela ne constitue pas seulement un risque pour la confidentialité : le problème peut se transformer en véritable menace pour la sécurité si le fournisseur du modèle, ou l’un des tiers de confiance détenant les données de votre enfant, subit une violation de données. S’il s’agit d’un outil à commande vocale, le fournisseur disposera de données biométriques de votre enfant, qui pourraient être particulièrement précieuses pour des pirates s’ils parvenaient à les associer à son identité.

Les parents doivent donc se poser plusieurs questions, notamment :

  • L’enfant est-il suffisamment âgé pour utiliser le service conformément à ses conditions d’utilisation ?
  • Quelles informations sont collectées, dans quel but et pendant combien de temps ?
  • Les conversations sont-elles utilisées pour entraîner ou améliorer les modèles d’IA ?
  • Un parent peut-il accéder aux informations de son enfant et les supprimer ?
  • Quels prestataires de services ou autres organismes reçoivent ces données ?
  • Le produit affiche-t-il des publicités ou utilise-t-il les données à des fins de profilage ?

Enfin, il existe un risque d’injection de prompts. Cette technique consiste à tromper les outils d’IA afin qu’ils ignorent leurs garde-fous de sécurité et affichent du contenu non fiable. Votre enfant peut être suffisamment à l’aise avec la technologie pour y parvenir lui-même, ce qui lui permettrait d’accéder à des contenus inadaptés à son âge. Un pirate peut également dissimuler des instructions dans des pages web légitimes afin que, lorsque l’IA interagit avec l’une de ces pages, elle redirige l’enfant vers un site de phishing ou effectue une autre action malveillante.

Quelques précautions à prendre pour les parents

Les parents ont donc de nombreux éléments à prendre en compte. Si vous souhaitez que vos enfants utilisent un outil d’IA pour bénéficier d’un soutien scolaire personnalisé, commencez par bien comprendre la différence entre un simple copilote et un système de tutorat intelligent (ITS) dédié. Privilégiez les outils qui accompagnent votre enfant dans son apprentissage plutôt que ceux qui se contentent de lui fournir des réponses.

Pensez également à :

  • Privilégier les outils conformes aux réglementations sur la protection des données (notamment le RGPD), afin que les données de votre enfant ne soient pas partagées avec le moteur d’IA sous-jacent.
  • Choisir un outil approuvé par l’établissement scolaire de votre enfant ou dont l’efficacité repose sur des données probantes dans le domaine de l’éducation.
  • Lire attentivement les informations relatives à la confidentialité, en particulier les sections concernant l’entraînement des modèles, la conservation des données, la publicité et les prestataires tiers.
  • Utiliser l’outil avec votre enfant. Aussi performante soit-elle, l’IA ne remplace pas l’accompagnement humain, dont votre enfant tirera probablement davantage profit.
  • Apprendre à vos enfants à ne jamais communiquer d’informations personnelles à l’IA et à repérer les hallucinations. Ces réflexes leur seront précieux lorsqu’ils utiliseront l’IA plus tard dans leur vie.
  • Discuter avec vos enfants pour savoir ce qu’ils pensent de l’IA et vous assurer qu’ils comprennent qu’elle n’est pas capable d’éprouver ni d’exprimer réellement des émotions.
  • Leur expliquer que le tuteur peut sembler sûr de lui tout en se trompant. Les réponses importantes doivent être vérifiées auprès des enseignants, dans les manuels scolaires ou à l’aide d’autres sources fiables.
  • Activer les paramètres adaptés à l’âge de l’enfant, lorsqu’ils sont disponibles.
  • Limiter le « temps consacré à l’IA » chaque jour, comme vous le feriez pour le temps d’écran classique.
  • Consulter l’historique des prompts de votre enfant afin de vous assurer qu’il utilise l’outil correctement et en toute sécurité.

La technologie évolue à un rythme soutenu et de nouvelles solutions arrivent constamment sur le marché. Si vous souhaitez essayer les tuteurs IA, veillez donc à vous tenir au courant des solutions disponibles. Et gardez à l’esprit qu’ils ne remplacent pas nécessairement les bonnes vieilles méthodes d’apprentissage hors ligne.