OpenAI y Meta anunciaron nuevas medidas para mejorar la respuesta de sus chatbots ante usuarios adolescentes que expresan angustia emocional o pensamientos suicidas. La decisión surge tras un estudio que reveló respuestas inconsistentes de varios chatbots a consultas sobre suicidio.
OpenAI, creador de ChatGPT, dijo que está preparando el lanzamiento de nuevos controles que permitirán a los padres vincular sus cuentas a la cuenta de su adolescente.
Los padres pueden elegir qué funciones desactivar y “recibir notificaciones cuando el sistema detecta que su adolescente está en un momento de angustia aguda”, algo que se implementará a partir de este otoño, según una publicación en su blog.
Independientemente de la edad del usuario, la empresa dice que sus chatbots redirigirán las conversaciones más angustiantes a modelos de Inteligencia Artificial más capacitados que puedan proporcionar una mejor respuesta.
El anuncio se produce una semana después de que los padres de Adam Raine, de 16 años, demandaron a OpenAI y a su director general Sam Altman, alegando que ChatGPT guio al joven de California en la planificación y ejecución de su suicidio a principios de este año.
Meta, la empresa matriz de Instagram, Facebook y WhatsApp, también dijo que ahora está bloqueando a sus chatbots para que no hablen con adolescentes sobre autolesiones, suicidio, trastornos alimentarios y conversaciones románticas inapropiadas.
Expertos señalan que estas medidas son positivas, pero insuficientes sin estándares de seguridad independientes.