#NVIDIAAgentSafety
About NVIDIAAgentSafety
NVIDIA launched its Open Agent Safety Platform on Sept 28, combining OpenShell to restrict agent access to files, networks and tools with Sentry, a separate hardware-based monitoring and containment layer. Backed by Anthropic and other partners, it arrives as agents gain autonomy and enterprise access. As AI agents enter core workflows, can software controls and hardware-level monitoring become standard infrastructure, extending AI spending beyond compute, networking and storage into security?
Populares
Más recientes
NVIDIAAgentSafety Publicaciones populares
¡Muy bien! NVIDIA está reuniendo a más de 100 socios para abordar las fallas de seguridad de los agentes que amenazan con ralentizar el desarrollo de la IA. Sin embargo, curiosamente, especialmente falta OpenAI.
Tras la brecha de Hugging Face de OpenAI y los incidentes de pruebas de Anthropic, su Plataforma de Seguridad de Agentes Abiertos combina los controles de acceso de OpenShell con la monitorización y aplicación de Sentry en hardware separado, diseñado para mantenerse fuera del alcance del agente.
Una mejor contención podría permitir a los investigadores probar modelos más sólidos y a las empresas desplegar agentes más útiles. Esa es una forma concreta de que la ingeniería de seguridad apoye la aceleración.
Anthropic, Microsoft y Hugging Face están entre los socios nombrados. OpenAI está ausente de la oferta anunciada. Dadas sus propias fallas de contención, me gustaría saber por qué. En fin, ¡enhorabuena NVIDIA!
Jensen Huang
Hoy, con más de 100 socios industriales, hemos presentado la Plataforma de Seguridad de Agentes Abiertos NVIDIA, reuniendo OpenShell y Sentry.
La inteligencia artificial es una tecnología extraordinaria que impulsará el descubrimiento, la productividad, la seguridad, la salud y la prosperidad para las generaciones venideras.
Pero su promesa completa solo puede cumplirse cuando la gente tenga confianza en que la IA se está construyendo para ser segura y desplegada con sabiduría y responsabilidad.
Esto es más grande que un solo producto. Es el comienzo de un ecosistema abierto para construir la capa de confianza de los sistemas de agentes seguros.
Juntos, estamos construyendo las bases de la economía de la IA.
La confianza y la innovación no están en conflicto. La seguridad es cómo se gana la confianza. Debemos construir no solo la IA más capaz, sino también la más confiable, para que esta tecnología extraordinaria pueda cumplir su enorme promesa para el mundo.
🚨JUST IN: Nvidia $NVDA está lanzando un sistema de seguridad con IA diseñado para DETENER que los agentes entren en otros sistemas.
La Plataforma de Seguridad de Agentes Abiertos "controla a qué pueden acceder los agentes de IA en tiempo real y puede desactivarlos cuando incumplen las normas", informa Bloomberg
El sistema incluye dos herramientas de seguridad de código abierto que pueden ejecutarse en hardware de Nvidia.
El vicepresidente Justin Boitano dice que el sistema "podría haber detenido" la reciente brecha de Hugging Face por parte de los modelos de IA de OpenAI.
Boitano añadió que puede "poner en cuarentena a un agente sospechoso en milisegundos."
El monitoreo por cadena de pensamiento, fundamentalmente, implica leer las notas que una IA escribe para sí misma y comprobar qué contiene esas notas.
Esto funciona en absoluto: las IAs solo se entrenan para obtener buenos resultados, no notas atractivas, lo que significa que sus notas son cosas extrañas que logran la tarea.
Y, por supuesto, a medida que los modelos se vuelven más inteligentes, necesitan menos notas para obtener los mismos resultados; pueden hacer más trabajo en su cabeza.
🔥 OKX lanza los X-Perps antes de la IPO!
OKX ha anunciado X-Perps para Anthropic y OpenAI, que otorga a los usuarios elegibles del EEE acceso a contratos comerciales perpetuos vinculados a estas empresas privadas antes de cualquier cotización pública.
🛡️ OKX Shield amplía la seguridad
Los usuarios europeos elegibles pueden recibir hasta 500.000 € en protección contra toma de control de cuentas, dependiendo del nivel VIP y los requisitos de seguridad.
⚡ Más X-Perps añadidos
OKX listó recientemente METUSD, ARUSD y COREUSD, tras FLOCKUSD, MINAUSD y CASHCATUSD. $BTC #FedHike
La carrera de la IA ya no es solo una carrera de GPU.
Anthropic ha comprometido 11.600 millones de dólares a Akamai durante siete años para infraestructura en la nube que soporta cargas de trabajo de CPU.
Eso te dice algo importante:
La IA necesita todo un ecosistema — CPUs, GPUs, memoria, redes y centros de datos.
La historia de la infraestructura puede ser más grande que los propios modelos de IA.
#Anthropic #AI #Akamai #Tech #Crypto
