#NVIDIAAgentSafety
About NVIDIAAgentSafety
NVIDIA launched its Open Agent Safety Platform on Sept 28, combining OpenShell to restrict agent access to files, networks and tools with Sentry, a separate hardware-based monitoring and containment layer. Backed by Anthropic and other partners, it arrives as agents gain autonomy and enterprise access. As AI agents enter core workflows, can software controls and hardware-level monitoring become standard infrastructure, extending AI spending beyond compute, networking and storage into security?
Veelbesproken
Laatste
NVIDIAAgentSafety Populaire berichten
Heel goed! NVIDIA brengt meer dan 100 partners samen om de beveiligingsfouten van agenten aan te pakken die de ontwikkeling van AI dreigen te vertragen. Vreemd genoeg ontbreekt vooral OpenAI.
Na de inbreuk bij OpenAI’s Hugging Face en de testincidenten bij Anthropic, combineert het Open Agent Safety Platform van OpenAI de toegangscontroles van OpenShell met de monitoring en handhaving van Sentry op aparte hardware, ontworpen om buiten het bereik van de agent te blijven.
Betere beheersing zou onderzoekers in staat kunnen stellen sterkere modellen te testen en bedrijven nuttigere agenten te implementeren. Dat is een concrete manier waarop veiligheidsengineering de versnelling kan ondersteunen.
Anthropic, Microsoft en Hugging Face behoren tot de genoemde partners. OpenAI ontbreekt in de aangekondigde line-up. Gezien hun eigen beheersingsfouten, zou ik graag willen weten waarom. Hoe dan ook, hulde aan NVIDIA!
Jensen Huang
Vandaag hebben we, samen met meer dan 100 partners uit de industrie, het NVIDIA Open Agent Safety Platform geïntroduceerd, waarin OpenShell en Sentry worden samengebracht.
Kunstmatige intelligentie is een buitengewone technologie die ontdekkingen, productiviteit, veiligheid, gezondheid en welvaart voor generaties zal bevorderen.
Maar de volledige belofte ervan kan alleen worden waargemaakt als mensen erop vertrouwen dat AI veilig wordt ontwikkeld en met wijsheid en verantwoordelijkheid wordt ingezet.
Dit is groter dan een enkel product. Het is het begin van een open ecosysteem om de vertrouwenslaag voor veilige agentensystemen te bouwen.
Samen leggen we de basis voor de AI-economie.
Vertrouwen en innovatie staan niet tegenover elkaar. Veiligheid is hoe vertrouwen wordt verdiend. We moeten niet alleen de meest capabele AI bouwen, maar ook de meest vertrouwde AI, zodat deze buitengewone technologie haar enorme belofte voor de wereld kan waarmaken.
🚨NET BINNEN: Nvidia $NVDA lanceert een AI-veiligheidssysteem dat is ontworpen om te VOORKOMEN dat agenten in andere systemen inbreken.
Het Open Agent Safety Platform "controleert waar AI-agenten realtime toegang toe hebben en kan ze uitschakelen wanneer ze de regels overtreden," meldt Bloomberg.
Het systeem bevat twee open-source beveiligingstools die op Nvidia-hardware kunnen draaien.
VP Justin Boitano zegt dat het systeem de recente Hugging Face-inbraak door de AI-modellen van OpenAI "had kunnen stoppen."
Boitano voegde eraan toe dat het een verdachte agent "in milliseconden kan isoleren."
Chain-of-thought monitoring houdt in wezen in dat je de aantekeningen leest die een AI voor zichzelf maakt, en controleert wat er in die aantekeningen staat.
Dit werkt überhaupt - AI's zijn alleen getraind om goede resultaten te leveren, niet om er nette aantekeningen bij te maken, wat betekent dat hun aantekeningen de vreemde dingen zijn die de taak volbrengen.
En natuurlijk, naarmate modellen slimmer worden, hebben ze minder aantekeningen nodig om dezelfde resultaten te behalen; ze kunnen meer van het werk in hun hoofd doen.
🔥 OKX lanceert Pre-IPO X-Perps!
OKX heeft X-Perps aangekondigd voor Anthropic en OpenAI, waardoor in aanmerking komende EER-gebruikers toegang krijgen tot het verhandelen van perpetual contracts gekoppeld aan deze private bedrijven vóór een eventuele beursgang.
🛡️ OKX Shield breidt beveiliging uit
In aanmerking komende Europese gebruikers kunnen tot €500.000 aan bescherming tegen account-overname ontvangen, afhankelijk van het VIP-niveau en de beveiligingseisen.
⚡ Meer X-Perps toegevoegd
OKX heeft recent METUSD, ARUSD en COREUSD genoteerd, na FLOCKUSD, MINAUSD en CASHCATUSD. $BTC #FedHike
