La semana pasada, OpenAI lanzó ChatGPT for Teens, una versión del chatbot dirigida a usuarios de entre 13 y 17 años, con protecciones de seguridad adicionales, controles parentales y funciones pensadas para el aprendizaje. La idea es permitir que los jóvenes usen la IA para estudiar, crear y desarrollar habilidades, pero dentro de una experiencia adaptada a su edad.

La novedad también busca fomentar hábitos digitales más saludables y ofrece a los padres nuevos controles sobre ciertas configuraciones de uso. La violencia gráfica, las autolesiones, los comportamientos peligrosos, la imagen corporal y el contenido sexual se encuentran entre los temas que ahora reciben un nivel de protección específico.

Según OpenAI, el desarrollo de esta experiencia se basó en cuatro compromisos: poner la seguridad de los adolescentes en primer lugar, fomentar el apoyo en el mundo real, tratar a los adolescentes como adolescentes y ser transparente sobre cómo deben comportarse los sistemas.

Qué medidas de seguridad incorpora ChatGPT for Teens?

El objetivo de ChatGPT for Teens es reducir la exposición a contenidos e interacciones considerados inapropiados para este grupo etario. Las protecciones cubren situaciones relacionadas con autolesiones, violencia gráfica, desafíos peligrosos, contenido sexual o romántico y cuestiones vinculadas con la imagen corporal, además de límites adicionales para interacciones que puedan fomentar comportamientos de riesgo.

La propia OpenAI reconoce que ningún sistema de IA es perfecto. Por eso, la estrategia combina mecanismos tecnológicos, configuraciones específicas para menores de edad y la participación de padres o tutores.

Lectura relacionada: Niños, niñas y chatbots: ¿a qué riesgos se debe prestar atención?

Cómo funciona el control parental en la herramienta?

Otro aspecto importante de la herramienta son los controles parentales: los padres y tutores pueden vincular su propia cuenta con la de un adolescente y ajustar configuraciones como el modo de estudio, los horarios de silencio y otras opciones de seguridad.

En situaciones consideradas de alto riesgo, el sistema incluso puede enviar una notificación a los responsables.

Sin embargo, el acceso de los padres es limitado: no pueden leer las conversaciones de los adolescentes. Según OpenAI, el objetivo no es convertir ChatGPT en una herramienta de vigilancia, sino brindar a los responsables medios para configurar la experiencia y establecer límites de uso.

ChatGPT for Teens apuesta por funiones de aprendizaje

La educación es otra de las grandes apuestas del lanzamiento. En lugar de simplemente ofrecer respuestas listas para usar, ChatGPT for Teens intenta estimular la comprensión de los contenidos.

El principal ejemplo es el Modo Estudio, que utiliza preguntas orientadoras, explicaciones y apoyo paso a paso para ayudar al adolescente a comprender un tema y desarrollar su propio razonamiento.

También hay recordatorios para las tareas escolares: cuando el sistema detecta que un adolescente está intentando obtener únicamente una respuesta directa, puede redirigir la conversación al Modo Estudio.

Las llamadas Horas de Estudio permiten definir períodos durante los cuales las nuevas conversaciones que cumplan los requisitos comiencen automáticamente en este modo, lo que ayuda a incorporar la herramienta a la rutina escolar.

Lectura relacionada: Qué tan seguros son los tutores de IA para menores?

Antropomorfización: cuando la IA empieza a parecer una persona

La discusión sobre la seguridad de los adolescentes ante la IA va más allá de bloquear contenido inapropiado. Uno de los desafíos centrales es la antropomorfización: la tendencia a atribuir características humanas, emociones y vínculos afectivos a un sistema tecnológico.

Para los adolescentes, esto adquiere una relevancia particular, ya que ChatGPT no funciona únicamente como una herramienta de búsqueda o apoyo al estudio, sino también como un interlocutor disponible en cualquier momento.

De ahí surge una preocupación más difícil de resolver mediante filtros de contenido: ¿hasta qué punto un adolescente puede desarrollar una relación de dependencia emocional con la IA o atribuirle características que simplemente no posee?

Hacer que una IA sea más segura para este público no consiste solo en filtrar temas sensibles; también implica definir límites sobre cómo el sistema interactúa con los adolescentes y dejar en claro que no sustituye las relaciones, la orientación ni el apoyo en el mundo real.

¿Es segura la IA para los adolescentes?

ChatGPT for Teens intenta responder una pregunta que probablemente cobrará cada vez más relevancia: cómo permitir que los adolescentes aprovechen los beneficios de la IA sin aumentar su exposición a riesgos digitales.

Los controles parentales, las salvaguardas específicas, los recursos educativos y los límites de interacción forman parte de este esfuerzo, pero ninguno de ellos resuelve el problema por sí solo.

"Medidas de protección más sólidas para los adolescentes que usan ChatGPT u otros chatbots son un paso necesario, especialmente ante el creciente uso de la IA para aprender, comunicarse y buscar información", afirma Mario Micucci, Security Researcher de ESET Latinoamérica. Para nuestro especialista, la seguridad y la privacidad deben incorporarse desde el diseño y evolucionar al mismo ritmo que la tecnología. Considerarlas una parte esencial de los productos, y no un complemento, será decisivo para generar confianza entre jóvenes, familias y escuelas.

La tecnología sigue evolucionando y es probable que surjan nuevos riesgos a medida que la IA ocupe más espacio en la rutina de niños, niñas y adolescentes.

Por eso, la pregunta relevante ya no es si los jóvenes deben utilizar inteligencia artificial, sino cómo hacerlo de forma segura y consciente. ChatGPT for Teens es un paso en esa dirección, aunque el debate sobre cómo preparar a esta generación para convivir con la IA, sin perder de vista sus límites y riesgos, apenas está comenzando.