Sam Altman advirtió que la próxima generación de inteligencia artificial puede plantear riesgos que gobiernos, empresas y usuarios todavía no comprenden por completo.
El director ejecutivo de OpenAI sostuvo que los modelos avanzados podrían descubrir vulnerabilidades fuera de los esquemas habituales de ciberseguridad, lo que obligaría a revisar la protección de redes, equipos e infraestructuras. Su mensaje apunta a una preparación insuficiente frente a capacidades técnicas cada vez más amplias.
Esta advertencia importa porque la IA ya interviene en atención al cliente, programación, análisis de datos y producción de contenidos. Altman cree que el próximo salto no se reducirá a respuestas más rápidas o precisas.
Su preocupación se centra en modelos capaces de encontrar fallos inesperados en programas, chips, servidores y sistemas conectados, antes de que especialistas humanos identifiquen esas debilidades y puedan diseñar defensas adecuadas para contenerlas con rapidez.
Altman advierte falta de preparación
En sus declaraciones, el responsable de OpenAI cuestionó la reacción institucional ante la llegada de modelos con mayor autonomía. “No encuentro una palabra lo bastante dramática para describir el problema que se nos viene encima”, afirmó.
También sostuvo que líderes, países y personas no han asumido la dimensión del desafío. Para Altman, la discusión pública suele quedarse en funciones visibles, mientras las amenazas futuras reciben menos atención.
Los sandboxes podrían perder eficacia
Los sandboxes son entornos aislados que permiten probar programas sin afectar sistemas externos. Se usan para limitar daños y observar comportamientos antes de una implementación mayor. Altman advirtió que esas barreras pueden servir solo mientras los modelos no alcancen capacidades superiores.
Cuando una IA consiga identificar rutas que no forman parte de las amenazas conocidas, la contención podría perder efectividad. El riesgo consiste en descubrir escapes.
Fallos de hardware fuera del modelo
El ejecutivo señaló que los sistemas futuros podrían hallar “fallos increíbles” fuera de los cálculos habituales de seguridad. La preocupación incluye vulnerabilidades de software, aunque también problemas en componentes físicos como chips, servidores y redes.
Una herramienta capaz de detectar errores que nadie había previsto cambiaría la lógica de protección. No bastaría con corregir una aplicación; sería necesario revisar arquitecturas enteras y crear defensas.
ChatGPT y la responsabilidad de decidir
Altman relacionó estos riesgos con las reglas que determinan cómo responde ChatGPT. En una entrevista con The Tucker Carlson Show, admitió que esa responsabilidad afecta su descanso. “No he dormido bien ni una sola noche”, afirmó. OpenAI consulta a especialistas en ética y filosofía moral, pero él reconoció que la decisión final permanece dentro de la empresa. Cada límite influye en millones de conversaciones.
Las respuestas también reflejan criterios humanos
El funcionamiento de un modelo no depende únicamente de su capacidad técnica. También responde a criterios sobre qué debe explicar, rechazar o advertir. Altman considera que los dilemas pequeños pueden tener efectos amplios.
El tono de una respuesta, la cantidad de información o la forma de negar una petición pueden afectar educación, salud e investigación. Una regla útil para evitar daños puede limitar peticiones legítimas.
El control exigirá acuerdos y supervisión
La advertencia de Altman plantea preguntas sobre quién define los límites de una inteligencia artificial avanzada. Empresas, gobiernos y organismos públicos deberán decidir cómo evaluar riesgos, qué pruebas exigir y qué mecanismos de supervisión aplicar.
El debate incluye transparencia, responsabilidad y cooperación internacional. Ninguna organización puede anticipar sola todas las consecuencias de modelos capaces de actuar sobre sistemas complejos y conectados a escala mundial.
El planteamiento no afirma que cada avance conducirá a un incidente, pero insiste en que la prevención debe llegar antes que las amenazas sean reales. Capacitar especialistas, reforzar infraestructuras y actualizar leyes puede reducir la exposición a fallos desconocidos. Las defensas también necesitarán inteligencia artificial para analizar señales y responder con rapidez. La cuestión central será si esa preparación avanza al mismo ritmo tecnológico.
Fuente: infobae.com
