Por El Latino Newsroom
La empresa desarrolladora de inteligencia artificial OpenAI anunció el lanzamiento de una experiencia diseñada de forma específica para adolescentes en su plataforma ChatGPT. La iniciativa busca integrar filtros de seguridad adicionales e instrumentos de supervisión para usuarios menores de edad, en un contexto marcado por un creciente escrutinio legal y social sobre el impacto de estas herramientas tecnológicas en la juventud.
La propuesta consolida un paquete de medidas que la firma tecnológica ha comenzado a implementar para mitigar riesgos en la interacción con usuarios jóvenes. Entre las funciones incorporadas destacan los recordatorios de pausa automáticos cuando el sistema detecta un uso continuo de 90 minutos en un periodo de tres horas. Asimismo, la plataforma incluye la opción de configurar «horas de silencio» para restringir el acceso en horarios determinados, así como la activación predeterminada del «modo de estudio» durante los períodos dedicados a labores académicas.
La compañía confirmó que las nuevas configuraciones se aplicarán de manera automática a las cuentas que registren a usuarios menores de 18 años. Adicionalmente, se emplearán modelos de inteligencia artificial para estimar la edad de los usuarios y activar estos filtros de manera preventiva, independientemente de los datos ingresados en el perfil de registro.
Controles parentales y moderación de contenidos
La actualización introduce además restricciones enfocadas en la interacción emocional del chatbot, limitando la capacidad del sistema para expresar sentimientos personales hacia los usuarios. De igual forma, el sistema desplegará advertencias antes de que los menores intenten compartir imágenes de carácter privado o sensible.
Estas herramientas complementan los mecanismos de supervisión parental previamente introducidos por la empresa, los cuales permiten a los padres de familia gestionar el historial de conversaciones y recibir alertas ante eventuales situaciones de crisis. En las próximas semanas, la compañía tiene previsto añadir notificaciones específicas relacionadas con la detección de conductas asociadas a trastornos de la conducta alimentaria.
Desde la dirección del área de Juventud y Familias de la empresa se ha destacado que este proyecto busca ofrecer un entorno enfocado en el aprendizaje, manteniendo un equilibrio entre las capacidades creativas de la plataforma y la implementación de salvaguardas adaptadas al desarrollo de los menores.
Aumento del escrutinio legal y antecedentes regulatorios
El lanzamiento de este paquete de protección ocurre en un escenario de creciente presión por parte de familiares y autoridades judiciales. Diversos procesos legales han señalado que interacciones inadecuadas con la plataforma habrían contribuido a situaciones de riesgo, incidentes de autolesión o eventos violentos que involucran a menores de edad en distintas jurisdicciones.
Organizaciones de análisis sobre el consumo digital señalan que una proporción significativa de adolescentes utiliza herramientas de inteligencia artificial generativa a diario, situando a ChatGPT como una de las opciones de mayor adopción dentro de este grupo demográfico.
Ante los cuestionamientos presentados en instancias judiciales, la empresa ha reiterado que mantiene un desarrollo continuo de sus protocolos de seguridad para responder a los desafíos que plantea el uso de la tecnología por parte de las nuevas generaciones.
»Nuestra labor de seguridad nunca termina, es un esfuerzo continuo para asegurarnos de que los adolescentes reciban el apoyo que necesitan». — Lauren Jonas, directora de Juventud y Familias de OpenAI.
»Cualquiera de estos casos es demasiado para nosotros y requiere revisiones permanentes». — Lauren Jonas, vocera del área de desarrollo de OpenAI.
