#NVIDIAAgentSafety
About NVIDIAAgentSafety
NVIDIA launched its Open Agent Safety Platform on Sept 28, combining OpenShell to restrict agent access to files, networks and tools with Sentry, a separate hardware-based monitoring and containment layer. Backed by Anthropic and other partners, it arrives as agents gain autonomy and enterprise access. As AI agents enter core workflows, can software controls and hardware-level monitoring become standard infrastructure, extending AI spending beyond compute, networking and storage into security?
Populares
Mais recentes
NVIDIAAgentSafety Publicações populares
Muito bom! A NVIDIA está a reunir mais de 100 parceiros para enfrentar as falhas de segurança dos agentes que ameaçam atrasar o desenvolvimento da IA. No entanto, estranhamente, especialmente a OpenAI está ausente.
Após a violação da Hugging Face pela OpenAI e os incidentes de testes da Anthropic, a sua Plataforma de Segurança de Agentes Abertos combina os controlos de acesso do OpenShell com a monitorização e aplicação do Sentry em hardware separado, concebido para permanecer fora do alcance do agente.
Um melhor confinamento poderia permitir aos investigadores testar modelos mais robustos e às empresas implementar agentes mais úteis. Essa é uma forma concreta de a engenharia de segurança apoiar a aceleração.
A Anthropic, a Microsoft e a Hugging Face estão entre os parceiros nomeados. A OpenAI está ausente da lista anunciada. Dadas as suas próprias falhas de confinamento, gostaria de saber porquê. De qualquer forma, parabéns NVIDIA!
Jensen Huang
Hoje, com mais de 100 parceiros da indústria, apresentámos a Plataforma de Segurança NVIDIA Open Agent, que reúne o OpenShell e o Sentry.
A inteligência artificial é uma tecnologia extraordinária que irá impulsionar a descoberta, a produtividade, a segurança, a saúde e a prosperidade para as gerações futuras.
Mas a sua promessa completa só pode ser realizada quando as pessoas têm confiança de que a IA está a ser construída para ser segura e implementada com sabedoria e responsabilidade.
Isto é maior do que um único produto. É o início de um ecossistema aberto para construir a camada de confiança para sistemas de agentes seguros.
Juntos, estamos a construir a base da economia da IA.
Confiança e inovação não estão em conflito. A segurança é como a confiança se conquista. Devemos construir não só a IA mais capaz, mas a IA mais confiável, para que esta tecnologia extraordinária possa cumprir a sua enorme promessa para o mundo.
🚨ÚLTIMA HORA: A Nvidia $NVDA está a lançar um sistema de segurança de AI concebido para IMPEDIR agentes de invadirem outros sistemas.
A Plataforma de Segurança Open Agent “controla o que os agentes de AI podem aceder em tempo real e pode desligá-los quando violam as regras,” relata a Bloomberg
O sistema inclui duas ferramentas de segurança open-source que podem ser executadas em hardware Nvidia.
O VP Justin Boitano diz que o sistema "poderia ter impedido" a recente violação da Hugging Face pelos modelos de AI da OpenAI.
Boitano acrescentou que pode “quarantinar um agente suspeito em milissegundos.”
O monitoramento do Chain-of-thought, fundamentalmente, envolve ler as notas que uma IA escreve para si mesma e verificar o que está nessas notas.
Isto funciona porque as IAs são treinadas apenas para obter bons resultados, não para ter notas bem apresentadas, o que significa que as suas notas são quaisquer coisas estranhas que consigam realizar a tarefa.
E, claro, à medida que os modelos ficam mais inteligentes, precisam de menos notas para obter os mesmos resultados; podem fazer mais do trabalho na sua cabeça.
A corrida da AI já não é apenas uma corrida de GPUs.
A Anthropic comprometeu 11,6 mil milhões de dólares ao longo de sete anos à Akamai para infraestrutura cloud que suporta cargas de trabalho em CPU.
Isto diz-lhe algo importante:
A AI precisa de um ecossistema completo — CPUs, GPUs, memória, redes e centros de dados.
A história da infraestrutura pode ser maior do que os próprios modelos de AI.
#Anthropic #AI #Akamai #Tech #Crypto
🔥 OKX lança Pre-IPO X-Perps!
OKX anunciou X-Perps para Anthropic e OpenAI, dando aos utilizadores elegíveis do EEE acesso para negociar contratos perpétuos ligados a estas empresas privadas antes de qualquer oferta pública.
🛡️ OKX Shield expande a segurança
Utilizadores europeus elegíveis podem receber até €500,000 em proteção contra tomada de conta da conta, dependendo do nível VIP e dos requisitos de segurança.
⚡ Mais X-Perps adicionados
OKX listou recentemente METUSD, ARUSD e COREUSD, seguindo FLOCKUSD, MINAUSD e CASHCATUSD. $BTC #FedHike
