#NVIDIAAgentSafety
About NVIDIAAgentSafety
NVIDIA launched its Open Agent Safety Platform on Sept 28, combining OpenShell to restrict agent access to files, networks and tools with Sentry, a separate hardware-based monitoring and containment layer. Backed by Anthropic and other partners, it arrives as agents gain autonomy and enterprise access. As AI agents enter core workflows, can software controls and hardware-level monitoring become standard infrastructure, extending AI spending beyond compute, networking and storage into security?
Populært
Siste
NVIDIAAgentSafety Populære innlegg
Veldig bra! NVIDIA samler over 100 partnere for å takle agent-sikkerhetssvikt som truer med å bremse AI-utviklingen. Men, merkelig nok, spesielt OpenAI mangler.
Etter OpenAIs Hugging Face-brudd og Anthropics testhendelser, kombinerer deres Open Agent Safety Platform OpenShells tilgangskontroller med Sentrys overvåking og håndheving på separat maskinvare, designet for å holde seg utenfor agentens rekkevidde.
Bedre inneslutning kan la forskere teste sterkere modeller og selskaper distribuere mer nyttige agenter. Det er en konkret måte for sikkerhetsingeniørkunst å støtte akselerasjon på.
Anthropic, Microsoft og Hugging Face er blant de navngitte partnerne. OpenAI er fraværende fra den annonserte listen. Gitt deres egne inneslutningssvikt, vil jeg gjerne vite hvorfor. Uansett, Kudos NVIDIA!
Jensen Huang
I dag, med over 100 industripartnere, introduserte vi NVIDIA Open Agent Safety Platform, som samler OpenShell og Sentry.
Kunstig intelligens er en ekstraordinær teknologi som vil fremme oppdagelse, produktivitet, sikkerhet, helse og velstand for generasjoner som kommer.
Men dens fulle potensial kan bare realiseres når folk har tillit til at AI bygges for å være trygg og tas i bruk med visdom og ansvar.
Dette er større enn et enkelt produkt. Det er begynnelsen på et åpent økosystem for å bygge tillitslaget for sikre agent-systemer.
Sammen bygger vi grunnlaget for AI-økonomien.
Tillitt og innovasjon er ikke i konflikt. Sikkerhet er hvordan tillit oppnås. Vi må bygge ikke bare den mest kapable AI, men den mest pålitelige AI, slik at denne ekstraordinære teknologien kan realisere sitt enorme potensial for verden.
🚨NØYAKTIG: Nvidia $NVDA lanserer et AI-sikkerhetssystem designet for å STOPPE agenter fra å bryte seg inn i andre systemer.
Open Agent Safety Platform "kontrollerer hva AI-agenter kan få tilgang til i sanntid og kan stenge dem ned når de bryter reglene," rapporterer Bloomberg
Systemet inkluderer to åpen kildekode-sikkerhetsverktøy som kan kjøres på Nvidia-maskinvare.
Visepresident Justin Boitano sier at systemet "kunne ha stoppet" det nylige Hugging Face-bruddet av OpenAIs AI-modeller.
Boitano la til at det kan "isolere en mistenkelig agent på millisekunder."
Chain-of-thought-overvåking innebærer i bunn og grunn å lese notatene som en AI skriver til seg selv, og sjekke hva som står i disse notatene.
Dette fungerer i det hele tatt – AI-er er kun trent til å oppnå gode resultater, ikke til å lage pene notater, noe som betyr at notatene deres kan være de merkelige tingene som oppnår oppgaven.
Og selvfølgelig, etter hvert som modellene blir smartere, trenger de færre notater for å oppnå de samme resultatene; de kan gjøre mer av arbeidet i hodet sitt.
🔥 OKX lanserer Pre-IPO X-Perps!
OKX har kunngjort X-Perps for Anthropic og OpenAI, som gir kvalifiserte EØS-brukere tilgang til å handle evigvarende kontrakter knyttet til disse private selskapene før noen offentlig notering.
🛡️ OKX Shield utvider sikkerheten
Kvalifiserte europeiske brukere kan motta opptil €500 000 i kontoovertakelsesbeskyttelse, avhengig av VIP-nivå og sikkerhetskrav.
⚡ Flere X-Perps lagt til
OKX noterte nylig METUSD, ARUSD og COREUSD, etter FLOCKUSD, MINAUSD og CASHCATUSD. $BTC #FedHike
