OpenAI anunció nuevas herramientas de control parental para ChatGPT, con el objetivo de proteger a los adolescentes que usan la popular inteligencia artificial. La decisión llega luego de que se reportaran casos trágicos donde jóvenes se quitaron la vida tras interactuar con el chatbot, lo que encendió las alarmas sobre el impacto emocional que puede tener esta tecnología.
A partir de ahora, los padres podrán vincular sus cuentas con las de sus hijos adolescentes para activar protecciones automáticas. Estas incluyen filtros que reducen contenido gráfico, temas sexuales o violentos, desafíos virales peligrosos y conversaciones relacionadas con estándares de belleza extremos. La idea es ofrecer una experiencia más “apropiada para su edad”.
Además, se podrá:
1. Establecer horarios en los que el adolescente no podrá usar ChatGPT (por ejemplo, durante la noche).
2. Desactivar funciones como el modo de voz o la generación de imágenes.
3. Impedir que las conversaciones se usen para entrenar futuros modelos de Inteligencia Artificial.
4. Limitar la capacidad de guardar memoria de las interacciones previas.
5. Alertas para padres en casos de emergencia.
Una de las funciones más sensibles será un sistema de notificaciones que alertará a los padres si la Inteligencia Artificial detecta que el adolescente podría estar en peligro, como en casos de pensamientos autolesivos. Un equipo especializado revisará estos casos antes de enviar avisos por correo, SMS o notificación en la app.
OpenAI reconoce que el sistema no es perfecto y que podría haber falsos positivos, pero afirma que “es mejor alertar y prevenir, que quedarse en silencio”.
Con esta actualización, OpenAI busca marcar una diferencia en la forma en que los jóvenes interactúan con la Inteligencia Artificial, promoviendo un uso más seguro, responsable y supervisado por sus familias.