OpenAI ha presentado una versión de su chatbot, ChatGPT Teen, diseñada para menores de 18 años, con el objetivo de protegerlos de contenidos sensibles y fomentar su aprendizaje. Esta versión se activa automáticamente cuando el sistema detecta la edad del usuario, ofreciendo más protección contra temas como la autolesión, el suicidio, el sexo y las relaciones románticas. Además, ChatGPT Teen incluye funciones que ayudan a los adolescentes con sus tareas escolares sin proporcionarles directamente las respuestas.
Para determinar la edad del usuario, ChatGPT utilizará un sistema de predicción de edad que analiza diversos indicadores de la cuenta, tales como los temas de las conversaciones, las horas de uso y la frecuencia de acceso. Si el sistema determina que el usuario es menor, se activará automáticamente la experiencia adaptada para adolescentes. OpenAI reconoce que ningún sistema es perfecto y que la predicción puede fallar.
En cuanto a la privacidad, René Serral, experto en ciberseguridad y profesor de la Universitat Politècnica de Catalunya, explica que la empresa ya dispone de información derivada del uso de ChatGPT y las conversaciones anteriores, por lo que la novedad radica en que estos datos pueden intervenir explícitamente en la predicción de la edad. OpenAI también contempla la opción de acreditar la edad mediante la presentación de un documento de identidad o una fotografía estilo selfie, con la promesa de eliminar esta información en un plazo de siete días.
Azucena Vázquez, doctora en Educación y Tecnologías Digitales por la UOC, señala que la clave es determinar qué grado de intrusión estamos dispuestos a aceptar para proteger a los menores y quién debe establecer ese límite. En el caso de la Unión Europea, el sistema de predicción y verificación de edad debe adaptarse al marco regulatorio definido por el Reglamento de Inteligencia Artificial (AI Act) y el Reglamento General de Protección de Datos (RGPD).
Las medidas tomadas por OpenAI para proteger a los usuarios adolescentes plantean preguntas sobre la efectividad de estas estrategias y cómo equilibrar la protección con la privacidad y la autonomía del aprendizaje. La adopción de ChatGPT Teen en el ámbito educativo y su impacto en la vida de los adolescentes es un tema que requiere un seguimiento continuo y un diálogo abierto entre expertos, instituciones y familias.
Etiquetas: Tecnología, ChatGPT, OpenAI, Chatbot, Privacidad, Educación, Tecnología · OpenAI, ChatGPT y Anthropic, Tecnología · OpenAI
About the Author
