OpenAI anunció el 30 de octubre que limitará la información sobre armas que ChatGPT entrega a usuarios menores de 18 años, incluso cuando la pregunta parezca inofensiva. La medida forma parte de un paquete de salvaguardas contra la violencia real, que la empresa empezará a aplicar en las próximas semanas.
Según la publicación oficial de la compañía, la versión de ChatGPT para adolescentes restringirá la información práctica sobre armas y sistemas de seguridad que pueda usarse para facilitar actos violentos. El límite rige aunque no haya señales de intención violenta en la conversación.
Las políticas de OpenAI ya prohibían ayudar a cualquier persona a planear o ejecutar actos de violencia, y limitaban la ayuda a adolescentes para conseguir armas. La nueva regla amplía esa protección a datos prácticos que antes no estaban cubiertos.
Los adolescentes podrán seguir usando ChatGPT para prevenir o desescalar la violencia, buscar apoyo y contactar a un adulto de confianza, precisó la empresa.
Cómo decidirá ChatGPT quién es menor de edad
OpenAI dijo que reforzó su sistema de predicción de edad, lanzado el año pasado. El sistema analiza varias señales, como los patrones de comportamiento, para estimar si un usuario es menor de 18 años, y traslada a los adolescentes a la experiencia con más protecciones.
Quien sea clasificado como menor por error podrá confirmar que es adulto con un trámite rápido a través de Persona, el socio de verificación de edad de la empresa. Así se le retirarán las protecciones adicionales.
La compañía agregó que busca aplicar los límites más estrictos también cuando prevea que una persona es menor, aunque sus conversaciones no muestren intención violenta.
Cambios que alcanzan a todos los usuarios
Para todos los usuarios, sin importar la edad ni el motivo de la consulta, ChatGPT dará menos detalle sobre ataques masivos del pasado. Eso incluye las armas y el equipo utilizados, cómo se obtuvieron y las comparaciones de magnitud del daño que puedan aumentar la notoriedad del atacante.
OpenAI aclaró que los usuarios podrán seguir pidiendo ayuda para entender esos hechos, el impacto en las víctimas y las señales de alerta que permiten prevenir nuevos casos.
Además, cuando una conversación muestre que alguien está obsesionado con la violencia o con causar un daño grave a otra persona, ChatGPT podrá cerrar el chat de forma automática. Si ocurre varias veces, la empresa podrá pausar la cuenta de manera temporal.
Con el control parental, los padres vinculan su cuenta a la de sus hijos. En julio, OpenAI amplió las alertas para avisarles si la cuenta del adolescente era desactivada por violar las normas sobre violencia. Ahora trabaja en notificarles también cuando la cuenta se pause por hablar de forma reiterada de violencia.
La empresa informó que realizó más de 200 denuncias a las autoridades en el tercer trimestre de 2026 por amenazas inminentes de violencia, y afirmó que esos avisos ayudaron a frustrar planes violentos.
El anuncio llega, según Reuters, en medio del escrutinio creciente a las empresas de IA por los riesgos de los chatbots para los jóvenes. La agencia recordó que este mes la organización sin fines de lucro Common Sense Media halló que la versión para adolescentes de ChatGPT avisaba a los padres tarde o nunca cuando las cuentas registraban conversaciones sobre suicidio, autolesiones o trastornos alimentarios.
OpenAI publicará su primer informe de seguridad comunitaria a principios de 2027, con datos del segundo semestre de 2026, y lo actualizará cada seis meses.
Fuente: infobae.com
