Nvidia presentó Open Agent Safety Platform, una plataforma abierta de seguridad diseñada para controlar qué pueden hacer los agentes de inteligencia artificial y detenerlos incluso cuando el propio modelo intenta sobrepasar los límites establecidos.La iniciativa llega en un momento en que estos sistemas ganan autonomía para navegar por internet, ejecutar código, consultar bases de datos y utilizar herramientas sin supervisión humana paso a paso, aunque también han mostrado la capacidad de buscar caminos inesperados cuando encuentran una restricción.Una serie de incidentes precedió al anuncioLa propuesta de Nvidia surge después de una sucesión de episodios registrados durante evaluaciones de seguridad de agentes desarrollados por algunos de los principales laboratorios de inteligencia artificial. OpenAI, Anthropic y otras compañías investigaron casos en los…
Fuente: Infobae — Tecnología — ver publicación original.
Fuente: infobae.com
