#NVIDIAAgentSafety
About NVIDIAAgentSafety
NVIDIA launched its Open Agent Safety Platform on Sept 28, combining OpenShell to restrict agent access to files, networks and tools with Sentry, a separate hardware-based monitoring and containment layer. Backed by Anthropic and other partners, it arrives as agents gain autonomy and enterprise access. As AI agents enter core workflows, can software controls and hardware-level monitoring become standard infrastructure, extending AI spending beyond compute, networking and storage into security?
Populares
Mais recentes
NVIDIAAgentSafety Publicações populares
Muito bem! A NVIDIA está reunindo mais de 100 parceiros para enfrentar falhas de segurança dos agentes que ameaçam retardar o desenvolvimento da IA. No entanto, curiosamente, especialmente a OpenAI está ausente.
Após a violação do Hugging Face da OpenAI e os incidentes de testes da Anthropic, sua Plataforma de Segurança de Agentes Abertos combina os controles de acesso do OpenShell com o monitoramento e aplicação da Sentry em hardware separado, projetado para ficar fora do alcance do agente.
Uma contenção melhor poderia permitir que pesquisadores testem modelos mais fortes e as empresas utilizem agentes mais úteis. Essa é uma forma concreta de a engenharia de segurança apoiar a aceleração.
Anthropic, Microsoft e Hugging Face estão entre os parceiros nomeados. A OpenAI está ausente da linha anunciada. Dadas suas próprias falhas de contenção, gostaria de saber o motivo. enfim, parabéns NVIDIA!
Jensen Huang
Hoje, com mais de 100 parceiros da indústria, apresentamos a Plataforma de Segurança de Agentes Abertos NVIDIA, reunindo OpenShell e Sentry.
A inteligência artificial é uma tecnologia extraordinária que avançará a descoberta, a produtividade, a segurança, a saúde e a prosperidade pelas próximas gerações.
Mas sua promessa total só pode ser realizada quando as pessoas tiverem confiança de que a IA está sendo construída para ser segura e implantada com sabedoria e responsabilidade.
Isso é maior do que um único produto. É o início de um ecossistema aberto para construir a camada de confiança para sistemas de agentes seguros.
Juntos, estamos construindo a base da economia da IA.
Confiança e inovação não estão em conflito. Segurança é como a confiança é conquistada. Devemos construir não apenas a IA mais capaz, mas a IA mais confiável, para que essa tecnologia extraordinária possa realizar sua enorme promessa para o mundo.
🚨RECENTEMENTE: A Nvidia $NVDA está lançando um sistema de segurança por IA projetado para IMPEDIR agentes de invadirem outros sistemas.
A Plataforma de Segurança de Agentes Abertos "controla o que os agentes de IA podem acessar em tempo real e pode desligá-los quando quebram as regras", informa a Bloomberg
O sistema inclui duas ferramentas de segurança de código aberto que podem ser executadas em hardware da Nvidia.
O vice-presidente Justin Boitano diz que o sistema "poderia ter impedido" a recente violação do Hugging Face pelos modelos de IA da OpenAI.
Boitano acrescentou que pode "colocar um agente suspeito em quarentena em milissegundos."
O monitoramento por cadeia de pensamento, fundamentalmente, envolve ler as anotações que uma IA escreve para si mesma e verificar o que há nessas anotações.
Isso funciona de jeito nenhum - IAs são treinadas apenas para ter bons resultados, não notas bonitas, o que significa que suas anotações são aquelas coisas estranhas que realizam a tarefa.
E, claro, à medida que os modelos ficam mais inteligentes, eles precisam de menos anotações para obter os mesmos resultados; eles podem fazer mais do trabalho mentalmente.
A corrida da IA não é mais só uma corrida de GPU.
A Anthropic comprometeu US$ 11,6 bilhões ao longo de sete anos com a Akamai para infraestrutura em nuvem que suporta cargas de trabalho de CPU.
Isso te diz algo importante:
A IA precisa de um ecossistema inteiro — CPUs, GPUs, memória, redes e data centers.
A história da infraestrutura pode ser maior do que os próprios modelos de IA.
#Anthropic #AI #Akamai #Tech #Crypto
🔥 OKX lança o pré-IPO X-Perps!
A OKX anunciou o X-Perps para Anthropic e OpenAI, dando aos usuários elegíveis do EEA acesso a contratos perpétuos comerciais vinculados a essas empresas privadas antes de qualquer listagem pública.
🛡️ OKX Shield expande a segurança
Usuários europeus elegíveis podem receber até €500.000 em proteção contra tomada de conta, dependendo do nível VIP e dos requisitos de segurança.
⚡ Mais X-Perps adicionados
Recentemente, o OKX listou METUSD, ARUSD e COREUSD, após FLOCKUSD, MINAUSD e CASHCATUSD. $BTC #FedHike
