#NVIDIAAgentSafety
About NVIDIAAgentSafety
NVIDIA launched its Open Agent Safety Platform on Sept 28, combining OpenShell to restrict agent access to files, networks and tools with Sentry, a separate hardware-based monitoring and containment layer. Backed by Anthropic and other partners, it arrives as agents gain autonomy and enterprise access. As AI agents enter core workflows, can software controls and hardware-level monitoring become standard infrastructure, extending AI spending beyond compute, networking and storage into security?
Populaire
Récents
NVIDIAAgentSafety Publications populaires
Épinglé
OpenAI arrête à nouveau l'entraînement｜Rewire News Morning Brief
La formation des modèles de pointe est de nouveau suspendue, mais le shopping AI a déjà intégré le paiement dans la boîte de dialogue. Les contrôles de sécurité, l'achat de puces et l'expansion commerciale progressent à des rythmes différents.
1｜OpenAI suspend à nouveau la formation, un cadre commun est nécessaire pour les contrôles de sécurité
OpenAI a de nouveau suspendu la formation de son dernier modèle, indiquant qu'elle reprendra après avoir renforcé les mesures de protection. Axios ra
Très bien ! NVIDIA réunit plus de 100 partenaires pour s'attaquer aux failles de sécurité des agents qui menacent de ralentir le développement de l'IA. Cependant, de manière étrange, OpenAI est particulièrement absent.
Après la faille de sécurité de Hugging Face chez OpenAI et les incidents de test chez Anthropic, sa plateforme Open Agent Safety combine les contrôles d'accès d'OpenShell avec la surveillance et l'application de Sentry sur un matériel séparé, conçu pour rester hors de portée de l'agent.
Une meilleure confinement pourrait permettre aux chercheurs de tester des modèles plus puissants et aux entreprises de déployer des agents plus utiles. C'est une manière concrète pour l'ingénierie de la sécurité de soutenir l'accélération.
Anthropic, Microsoft et Hugging Face font partie des partenaires nommés. OpenAI est absent de la liste annoncée. Étant donné ses propres échecs de confinement, j'aimerais savoir pourquoi. Quoi qu'il en soit, bravo NVIDIA !
Jensen Huang
Aujourd'hui, avec plus de 100 partenaires industriels, nous avons présenté la NVIDIA Open Agent Safety Platform, réunissant OpenShell et Sentry.
L'intelligence artificielle est une technologie extraordinaire qui fera progresser la découverte, la productivité, la sécurité, la santé et la prospérité pour les générations à venir.
Mais sa pleine promesse ne peut être réalisée que lorsque les gens ont confiance que l'IA est conçue pour être sûre et déployée avec sagesse et responsabilité.
C'est plus qu'un simple produit. C'est le début d'un écosystème ouvert pour construire la couche de confiance des systèmes d'agents sûrs.
Ensemble, nous construisons les fondations de l'économie de l'IA.
La confiance et l'innovation ne sont pas en conflit. La sécurité est la manière dont la confiance se gagne. Nous devons construire non seulement l'IA la plus performante, mais aussi l'IA la plus fiable, afin que cette technologie extraordinaire puisse réaliser son immense promesse pour le monde.
🚨JUST IN : Nvidia $NVDA lance un système de sécurité IA conçu pour EMPÊCHER les agents de s'introduire dans d'autres systèmes.
La plateforme Open Agent Safety « contrôle ce à quoi les agents IA peuvent accéder en temps réel et peut les arrêter lorsqu'ils enfreignent les règles », rapporte Bloomberg.
Le système comprend deux outils de sécurité open source qui peuvent être exécutés sur le matériel Nvidia.
Le vice-président Justin Boitano déclare que le système « aurait pu arrêter » la récente violation de Hugging Face par les modèles IA d'OpenAI.
Boitano a ajouté qu'il peut « mettre en quarantaine un agent suspect en millisecondes ».
La surveillance de la chaîne de pensée consiste fondamentalement à lire les notes qu'une IA s'écrit à elle-même, et à vérifier ce qu'il y a dans ces notes.
Cela fonctionne du tout - les IA sont uniquement entraînées pour obtenir de bons résultats, pas pour avoir des notes bien présentées, ce qui signifie que leurs notes sont toutes sortes de choses étranges qui accomplissent la tâche.
Et, bien sûr, à mesure que les modèles deviennent plus intelligents, ils ont besoin de moins de notes pour obtenir les mêmes résultats ; ils peuvent faire plus de travail dans leur tête.
🔥 OKX lance les X-Perps Pre-IPO !
OKX a annoncé les X-Perps pour Anthropic et OpenAI, offrant aux utilisateurs éligibles de l'EEE la possibilité de négocier des contrats perpétuels liés à ces entreprises privées avant toute introduction en bourse.
🛡️ OKX Shield renforce la sécurité
Les utilisateurs européens éligibles peuvent bénéficier d'une protection contre la prise de contrôle de compte allant jusqu'à 500 000 €, selon le niveau VIP et les exigences de sécurité.
⚡ Plus de X-Perps ajoutés
OKX a récemment listé METUSD, ARUSD et COREUSD, après FLOCKUSD, MINAUSD et CASHCATUSD. $BTC #FedHike
Exclusif : Anthropic prévoit d'avertir les investisseurs potentiels lors de son introduction en bourse que l'IA avancée pourrait représenter des « risques catastrophiques ou existentiels pour l'humanité », un avertissement extraordinaire de la part d'une entreprise cherchant à tirer profit de cette même technologie
