La IA está transformando sectores tan diversos como la salud y el marketing. Ahora le toca el turno a la educación. Los gobiernos ven en ello una oportunidad para reducir costos y mejorar los resultados. Las escuelas exploran herramientas capaces de adaptar ejercicios a cada estudiante, mientras que los padres perciben una oportunidad para mejorar la educación de sus hijos e hijas sin el gasto que supone contratar tutores particulares. Pero, como ocurre con todo lo relacionado con la IA, existen tanto beneficios como riesgos.

La dependencia excesiva y la pereza cognitiva suelen citarse como preocupaciones, pero también puede haber problemas de seguridad y privacidad, especialmente si se utiliza un chatbot sofisticado. Se hace necesario conocer las limitaciones de la inteligencia artificial.

El mercado de los tutores de IA está crece rápidamente

El mercado de las herramientas de tutoría basadas en IA está en pleno auge. Según una estimación, pasará de alrededor de USD 2.000 millones a más de USD 17.700 millones entre 2025 y 2033. El gobierno británico ya ha invitado a empresas de tecnología educativa (edtech) y de IA a diseñar herramientas para las aulas. Afirma que hasta 450.000 estudiantes desfavorecidos podrían beneficiarse, señalando que la IA podría ayudar a familias que no pueden costear tutores particulares. En Estados Unidos, la situación varía según el distrito, pero la tendencia general es similar, con empresas de IA y tecnología introduciendo herramientas especializadas para estudiantes y docentes.

El mercado está evolucionando rápidamente. Hoy se pueden encontrar diversos tipos de herramientas de tutoría con IA para comprar y utilizar. De hecho, el término “tutor de IA” se aplica a una gama sorprendentemente amplia de productos. Algunos son poco más que chatbots de propósito general con una etiqueta educativa, mientras que otros son sistemas de aprendizaje estructurados basados en un plan de estudios.

En el nivel más básico del mercado se encuentran los chatbots simples y asistentes de IA. Pueden resumir información y responder preguntas generales, pero no necesariamente ofrecen mucho más valor que eso. De hecho, pueden terminar respondiendo las preguntas en lugar de sus usuarios. Una opción más sofisticada es un chatbot diseñado específicamente para la enseñanza. Estos están programados para no responder preguntas de forma directa, sino ofrecer tutoría basada en el método socrático.

Más avanzados aún son los Sistemas Inteligentes de Tutoría (ITS, por sus siglas en inglés), que ofrecen un plan de estudios prediseñado. Estos sistemas apoyan el aprendizaje proporcionando pistas cuando los estudiantes no están seguros de una respuesta y hacen que sea prácticamente imposible mostrar contenido inapropiado.

¿Funcionan realmente los tutores de IA?

Todavía no existe un consenso definitivo sobre si todo esto funciona. La evidencia es alentadora en algunos casos, pero no parece respaldar las afirmaciones generales de que los tutores de IA mejorarán el aprendizaje en cualquier contexto. En ocasiones, la tecnología incluso podría estar empeorando las cosas. En un estudio reciente realizado en Reino Unido, dos tercios de los docentes afirmaron haber observado una disminución en las habilidades de redacción y resolución de problemas de los estudiantes debido al uso de IA. Otro estudio identifica “una correlación negativa significativa entre el uso frecuente de herramientas de IA y las capacidades de pensamiento crítico”. También señala que el uso de IA para tutoría “puede disminuir inadvertidamente la participación de los usuarios en procesos de pensamiento profundo y reflexivo”.

Aún no hay un veredicto definitivo sobre si todo esto funciona. Los datos son alentadores en algunos casos, pero no parecen respaldar las afirmaciones generales de que los tutores de IA mejorarán el aprendizaje en todos los entornos. A veces, la tecnología puede estar empeorando las cosas. En un estudio reciente realizado en el Reino Unido, dos tercios de los profesores afirmaron que ya habían observado un deterioro de las habilidades de redacción y resolución de problemas entre los alumnos debido al uso de la IA. Otro estudio identifica «una correlación negativa significativa entre el uso frecuente de herramientas de IA y las capacidades de pensamiento crítico». Se señala que el uso de la IA para dar clases particulares a los niños «puede reducir inadvertidamente la participación de los usuarios en procesos de pensamiento profundos y reflexivos».

Este es uno de los mayores riesgos para el desarrollo asociados con fomentar el uso de herramientas de IA por parte de los niños y niñas. Si la IA proporciona respuestas demasiado rápido, o al menos hace que el proceso sea demasiado fácil para el estudiante, este podría desarrollar una pereza cognitiva perjudicial a largo plazo.

También existen otros riesgos psicosociales potenciales: que depositen demasiada confianza en tutores de IA que suenan seguros de sí mismos puede hacer que crean con mayor facilidad en las alucinaciones de la IA. Incluso podrían llegar a depender de ellos como si fueran amigos, lo que podría afectar el desarrollo de vínculos emocionales con sus pares. Además, la IA es un mal docente en muchos aspectos: puede conocer la “respuesta” a una pregunta, pero carecer de la capacidad para manejar las frustraciones en el proceso de aprendizaje. La empatía y las habilidades interpersonales de un docente humano son muy difíciles, si no imposibles, de imitar para una máquina.

Por ello, una pregunta importante es cómo la herramienta incluye al humano en el aprendizaje. ¿Le pide que muestre su razonamiento, intente resolver un problema y responda a la retroalimentación? ¿O simplemente hace que completar la tarea sea más rápido mientras realiza en silencio la mayor parte del trabajo intelectual?

Riesgos de seguridad y privacidad

Hay más aspectos a considerar. Para quienes utilizan chatbots sin restricciones y herramientas similares, existe el riesgo de que las conversaciones deriven hacia temas inapropiados para la edad. Un tutor de IA también puede recopilar mucho más que las respuestas y, dependiendo del producto, podría conservar instrucciones, tareas escolares, datos de desempeño, intereses, información de la cuenta, identificadores del dispositivo y grabaciones de voz. Todo lo compartido con el modelo podría utilizarse para fines de entrenamiento y posiblemente ser expuesto a otros usuarios. Además, podría compartirse con anunciantes y otros terceros.

Esto no solo representa un riesgo para la privacidad; podría convertirse en un problema de seguridad grave si el proveedor del modelo o alguno de esos terceros de confianza que almacenan los datos sufre una brecha de seguridad. Si se trata de una herramienta activada por voz, el proveedor tendrá datos biométricos que son especialmente valiosos si ciberdelincuentes logra vincularlos con una identidad.

Esto plantea varias preguntas para los padres:

  • El niño tiene la edad suficiente para utilizar el servicio según sus términos de uso?
  • ¿Qué información se recopila, por qué y durante cuánto tiempo?
  • ¿Las conversaciones se utilizan para entrenar o mejorar modelos de IA?
  • ¿Puede un padre acceder a la información de su hijo y eliminarla?
  • ¿Qué proveedores de servicios u otras entidades reciben esos datos?
  • ¿El producto muestra publicidad o utiliza los datos para elaborar perfiles?

Por último, existe el riesgo de la inyección de prompts (prompt injection). Esto ocurre cuando se engaña a las herramientas de IA para que ignoren sus mecanismos de seguridad y muestren contenido no confiable. Su hijo o hija podría adquirir los conocimientos necesarios para hacerlo y acceder así a material inapropiado para su edad. O bien, un ciberdelincuente podría ocultar instrucciones en páginas web legítimas para que, cuando la IA interactúe con ellas, dirija al usuario a un sitio de phishing o realice alguna otra acción maliciosa.

Algunas precauciones para padres y madres

Los padres y las madres tienen mucho en qué pensar. Primeramente, qué diferencias hay entre un simple compañero de IA y un Sistema Inteligente de Tutoría (ITS). Lo ideal es buscar herramientas que guíen el proceso de aprendizaje en lugar de limitarse a proporcionar respuestas.

También conviene considerar lo siguiente:

  • Herramientas que cumplan con normativas de protección de datos (por ejemplo, COPPA, CCPA o GDPR), lo que significa que no compartirán los datos de su hijo con el motor de IA subyacente.
  • Optar por una herramienta aprobada por la escuela de su hijo o respaldada por evidencia educativa.
  • Leer la información sobre privacidad, especialmente las secciones relacionadas con el entrenamiento de modelos, la retención de datos, la publicidad y los proveedores externos.
  • Utilizar la herramienta junto con su hijo. Por buena que sea la IA, probablemente aprenderá más si estudia acompañado por una persona.
  • Enseñar a los niños a no compartir nunca información personal con la IA y a identificar las alucinaciones. Esto les será útil cuando utilicen IA en etapas posteriores de su vida.
  • Hablar con sus hijos para conocer cómo se sienten respecto a la IA y asegurarse de que comprendan que no tiene capacidad para sentir emociones.
  • Explicar que el tutor puede sonar seguro de sí mismo incluso cuando está equivocado. Las respuestas importantes deberían verificarse con docentes, libros de texto u otras fuentes confiables.
  • Activar cualquier configuración adecuada para la edad, si está disponible.
  • Limitar el “tiempo de IA” diario, igual que se hace con el tiempo frente a pantallas.
  • Revisar el historial de prompts de su hijo para asegurarse de que utiliza la herramienta de forma correcta y segura.

La tecnología está madurando a gran velocidad y constantemente aparecen nuevas opciones en el mercado. Por eso, si le interesa probar tutores de IA, asegúrese de mantenerse al tanto de las alternativas disponibles. Y recuerde que pueden no ser un sustituto del aprendizaje tradicional fuera de línea.