#NVIDIAAgentSafety
About NVIDIAAgentSafety
NVIDIA launched its Open Agent Safety Platform on Sept 28, combining OpenShell to restrict agent access to files, networks and tools with Sentry, a separate hardware-based monitoring and containment layer. Backed by Anthropic and other partners, it arrives as agents gain autonomy and enterprise access. As AI agents enter core workflows, can software controls and hardware-level monitoring become standard infrastructure, extending AI spending beyond compute, networking and storage into security?
Nổi bật
Mới nhất
NVIDIAAgentSafety Bài đăng phổ biến
Rất tốt! NVIDIA đang tập hợp hơn 100 đối tác để giải quyết các lỗi bảo mật của agent có thể làm chậm sự phát triển của AI. Tuy nhiên, điều kỳ lạ là đặc biệt OpenAI lại vắng mặt.
Sau vụ vi phạm của OpenAI với Hugging Face và các sự cố thử nghiệm của Anthropic, Nền tảng An toàn Agent Mở của họ kết hợp các kiểm soát truy cập của OpenShell với việc giám sát và thực thi của Sentry trên phần cứng riêng biệt, được thiết kế để nằm ngoài tầm với của agent.
Việc kiểm soát tốt hơn có thể cho phép các nhà nghiên cứu thử nghiệm các mô hình mạnh hơn và các công ty triển khai các agent hữu ích hơn. Đó là một cách cụ thể để kỹ thuật an toàn hỗ trợ tăng tốc.
Anthropic, Microsoft và Hugging Face là những đối tác được nêu tên. OpenAI không có trong danh sách công bố. Với những thất bại trong kiểm soát của chính mình, tôi muốn biết lý do tại sao. Dù sao thì, khen ngợi NVIDIA!
Jensen Huang
Hôm nay, với hơn 100 đối tác trong ngành, chúng tôi đã giới thiệu Nền tảng An toàn Đại lý Mở NVIDIA, kết hợp OpenShell và Sentry.
Trí tuệ nhân tạo là công nghệ phi thường sẽ thúc đẩy khám phá, năng suất, an ninh, sức khỏe và thịnh vượng cho các thế hệ tương lai.
Nhưng lời hứa đầy đủ của nó chỉ có thể được thực hiện khi mọi người tin tưởng rằng AI được xây dựng để an toàn và được triển khai với sự khôn ngoan và trách nhiệm.
Điều này lớn hơn một sản phẩm đơn lẻ. Đây là sự khởi đầu của một hệ sinh thái mở để xây dựng lớp niềm tin cho các hệ thống đại lý an toàn.
Cùng nhau, chúng ta đang xây dựng nền tảng của nền kinh tế AI.
Niềm tin và đổi mới không mâu thuẫn với nhau. An toàn là cách để giành được niềm tin. Chúng ta phải xây dựng không chỉ AI có khả năng nhất, mà còn là AI được tin cậy nhất, để công nghệ phi thường này có thể hiện thực hóa lời hứa to lớn của nó cho thế giới.
🚨VỪA MỚI: Nvidia $NVDA đang ra mắt một hệ thống an toàn AI được thiết kế để NGĂN chặn các tác nhân xâm nhập vào các hệ thống khác.
Nền tảng An toàn Tác nhân Mở "kiểm soát những gì các tác nhân AI có thể truy cập trong thời gian thực và có thể tắt chúng khi vi phạm quy tắc," theo báo cáo của Bloomberg
Hệ thống bao gồm hai công cụ bảo mật mã nguồn mở có thể chạy trên phần cứng Nvidia.
Phó Chủ tịch Justin Boitano cho biết hệ thống "có thể đã ngăn chặn" vụ vi phạm gần đây của Hugging Face bởi các mô hình AI của OpenAI.
Boitano bổ sung rằng nó có thể “cách ly một tác nhân đáng ngờ trong vài mili giây.”
Giám sát Chain-of-thought, về cơ bản, liên quan đến việc đọc các ghi chú mà AI tự viết cho chính nó, và kiểm tra những gì có trong các ghi chú đó.
Điều này hoạt động - AI chỉ được huấn luyện để có kết quả tốt, không phải để có các ghi chú đẹp mắt, điều này có nghĩa là các ghi chú của chúng là những thứ kỳ lạ nào đó giúp hoàn thành nhiệm vụ.
Và, tất nhiên, khi các mô hình trở nên thông minh hơn, chúng cần ít ghi chú hơn để đạt được cùng kết quả; chúng có thể làm nhiều việc hơn trong đầu.
🔥 OKX ra mắt Pre-IPO X-Perps!
OKX đã công bố X-Perps cho Anthropic và OpenAI, cho phép người dùng đủ điều kiện tại EEA truy cập giao dịch hợp đồng vĩnh viễn liên kết với các công ty tư nhân này trước bất kỳ đợt niêm yết công khai nào.
🛡️ OKX Shield mở rộng bảo mật
Người dùng châu Âu đủ điều kiện có thể nhận được bảo vệ chiếm đoạt tài khoản lên đến €500,000, tùy thuộc vào cấp VIP và yêu cầu bảo mật.
⚡ Thêm nhiều X-Perps được bổ sung
OKX gần đây đã niêm yết METUSD, ARUSD và COREUSD, sau FLOCKUSD, MINAUSD và CASHCATUSD. $BTC #FedHike
