#NVIDIAAgentSafety
About NVIDIAAgentSafety
NVIDIA launched its Open Agent Safety Platform on Sept 28, combining OpenShell to restrict agent access to files, networks and tools with Sentry, a separate hardware-based monitoring and containment layer. Backed by Anthropic and other partners, it arrives as agents gain autonomy and enterprise access. As AI agents enter core workflows, can software controls and hardware-level monitoring become standard infrastructure, extending AI spending beyond compute, networking and storage into security?
Популярное
Последние
NVIDIAAgentSafety Популярные публикации
Очень хорошо! NVIDIA объединяет более 100 партнёров для решения проблем с безопасностью агентов, которые могут замедлить развитие ИИ. Однако, что странно, особенно отсутствует OpenAI.
После взлома Hugging Face и инцидентов с тестированием Anthropic, их Платформа безопасности открытых агентов сочетает в себе контроль доступа OpenShell с мониторингом и обеспечением Sentry на отдельном оборудовании, разработанном так, чтобы оставаться вне досягаемости агента.
Лучшее ограничение могло бы позволить исследователям тестировать более мощные модели, а компаниям — внедрять более полезных агентов. Это конкретный способ, которым инженерия безопасности может поддержать ускорение.
Anthropic, Microsoft и Hugging Face входят в число названных партнёров. OpenAI отсутствует в объявленном списке. Учитывая собственные проблемы с ограничением, мне хотелось бы узнать почему. В любом случае, респект NVIDIA!
Jensen Huang
Сегодня, объединив более 100 партнеров из отрасли, мы представили NVIDIA Open Agent Safety Platform, объединяющую OpenShell и Sentry.
Искусственный интеллект — это выдающаяся технология, которая будет способствовать открытиям, повышению производительности, безопасности, здравоохранению и процветанию для будущих поколений.
Но весь её потенциал может быть реализован только тогда, когда люди будут уверены, что ИИ создается с учетом безопасности и внедряется с мудростью и ответственностью.
Это не просто продукт. Это начало открытой экосистемы для создания слоя доверия к безопасным агентным системам.
Вместе мы закладываем основу экономики ИИ.
Доверие и инновации не противоречат друг другу. Безопасность — это то, как завоевывается доверие. Мы должны создавать не только самый мощный ИИ, но и самый надежный, чтобы эта выдающаяся технология могла реализовать свой огромный потенциал для мира.
🚨СРОЧНО: Nvidia $NVDA запускает систему безопасности AI, предназначенную для ПРЕДОТВРАЩЕНИЯ проникновения агентов в другие системы.
Платформа Open Agent Safety «контролирует, к чему AI-агенты могут получить доступ в реальном времени, и может отключать их при нарушении правил», сообщает Bloomberg.
Система включает два инструмента безопасности с открытым исходным кодом, которые можно запускать на оборудовании Nvidia.
Вице-президент Джастин Бойтано говорит, что система "могла бы остановить" недавнее нарушение Hugging Face моделями AI от OpenAI.
Бойтано добавил, что она может «карантинить подозрительного агента за миллисекунды.»
Мониторинг цепочки рассуждений, по сути, заключается в чтении заметок, которые ИИ пишет сам себе, и проверке того, что в этих заметках.
Это работает — ИИ обучены добиваться хороших результатов, а не красивых заметок, что означает, что их заметки — это любые странные вещи, которые помогают выполнить задачу.
И, конечно, по мере того как модели становятся умнее, им нужно меньше заметок, чтобы получить те же результаты; они могут выполнять больше работы в своей голове.
Гонка в области AI уже не сводится только к гонке GPU.
Anthropic вложила 11,6 млрд долларов за семь лет в Akamai для облачной инфраструктуры, поддерживающей CPU-нагрузки.
Это говорит о важном:
AI требует целую экосистему — CPU, GPU, память, сети и дата-центры.
История инфраструктуры может быть важнее самих AI-моделей.
#Anthropic #AI #Akamai #Tech #Crypto
🔥 OKX запускает Pre-IPO X-Perps!
OKX объявила о запуске X-Perps для Anthropic и OpenAI, предоставляя правообладателям из ЕЭЗ доступ к торговле бессрочными контрактами, связанными с этими частными компаниями, до их публичного размещения.
🛡️ OKX Shield расширяет безопасность
Правообладатели из Европы могут получить защиту от захвата аккаунта до €500,000, в зависимости от VIP-уровня и требований безопасности.
⚡ Добавлено больше X-Perps
OKX недавно добавила METUSD, ARUSD и COREUSD, после FLOCKUSD, MINAUSD и CASHCATUSD. $BTC #FedHike
