#NVIDIAAgentSafety
About NVIDIAAgentSafety
NVIDIA launched its Open Agent Safety Platform on Sept 28, combining OpenShell to restrict agent access to files, networks and tools with Sentry, a separate hardware-based monitoring and containment layer. Backed by Anthropic and other partners, it arrives as agents gain autonomy and enterprise access. As AI agents enter core workflows, can software controls and hardware-level monitoring become standard infrastructure, extending AI spending beyond compute, networking and storage into security?
Populer
Terbaru
NVIDIAAgentSafety Postingan populer
Disematkan
OpenAI berhenti melatih lagi｜Rewire Berita Pagi
Pelatihan model mutakhir kembali dihentikan, tetapi belanja AI sudah memindahkan proses pembayaran ke dalam kotak dialog. Pemeriksaan keamanan, pengadaan chip, dan ekspansi bisnis berjalan dengan kecepatan berbeda.
1｜OpenAI kembali menghentikan pelatihan, pemeriksaan keamanan memerlukan standar bersama
OpenAI kembali menghentikan pelatihan model terbaru, menyatakan akan melanjutkan setelah menambahkan langkah perlindungan. Axios melaporkan, laboratorium terkemuka sedang memeriksa puluhan rib
Sangat bagus! NVIDIA mengumpulkan lebih dari 100 mitra untuk mengatasi kegagalan keamanan agen yang mengancam memperlambat pengembangan AI. Namun, anehnya terutama OpenAI tidak hadir.
Setelah pelanggaran Hugging Face oleh OpenAI dan insiden pengujian Anthropic, Platform Keamanan Agen Terbuka mereka menggabungkan kontrol akses OpenShell dengan pemantauan dan penegakan Sentry pada perangkat keras terpisah, yang dirancang agar tetap di luar jangkauan agen.
Penahanan yang lebih baik dapat memungkinkan peneliti menguji model yang lebih kuat dan perusahaan menerapkan agen yang lebih berguna. Itu adalah cara konkret bagi rekayasa keamanan untuk mendukung percepatan.
Anthropic, Microsoft, dan Hugging Face termasuk di antara mitra yang disebutkan. OpenAI tidak hadir dalam daftar yang diumumkan. Mengingat kegagalan penahanan mereka sendiri, saya ingin tahu alasannya. Bagaimanapun, salut untuk NVIDIA!
Jensen Huang
Hari ini, dengan lebih dari 100 mitra industri, kami memperkenalkan NVIDIA Open Agent Safety Platform, yang menggabungkan OpenShell dan Sentry.
Kecerdasan buatan adalah teknologi luar biasa yang akan mendorong penemuan, produktivitas, keamanan, kesehatan, dan kemakmuran untuk generasi yang akan datang.
Namun janji penuhnya hanya dapat terwujud ketika orang-orang yakin bahwa AI dibangun untuk aman dan diterapkan dengan kebijaksanaan serta tanggung jawab.
Ini lebih besar dari sekadar produk tunggal. Ini adalah awal dari ekosistem terbuka untuk membangun lapisan kepercayaan bagi sistem agen yang aman.
Bersama-sama, kami membangun fondasi ekonomi AI.
Kepercayaan dan inovasi tidak saling bertentangan. Keamanan adalah cara kepercayaan diperoleh. Kita harus membangun tidak hanya AI yang paling cakap, tetapi juga AI yang paling dipercaya, sehingga teknologi luar biasa ini dapat mewujudkan janji besarnya untuk dunia.
🚨BARU SAJA: Nvidia $NVDA meluncurkan sistem keamanan AI yang dirancang untuk MENGHENTIKAN agen agar tidak membobol sistem lain.
Platform Keamanan Agen Terbuka "mengontrol apa yang dapat diakses oleh agen AI secara real time dan dapat mematikannya saat mereka melanggar aturan," lapor Bloomberg
Sistem ini mencakup dua alat keamanan sumber terbuka yang dapat dijalankan pada perangkat keras Nvidia.
Wakil Presiden Justin Boitano mengatakan sistem ini "bisa saja menghentikan" pelanggaran Hugging Face baru-baru ini oleh model AI OpenAI.
Boitano menambahkan bahwa sistem ini dapat “mengkarantina agen yang mencurigakan dalam hitungan milidetik.”
Pemantauan Chain-of-thought, pada dasarnya, melibatkan membaca catatan yang ditulis AI untuk dirinya sendiri, dan memeriksa apa yang ada dalam catatan tersebut.
Ini berhasil sama sekali - AI hanya dilatih untuk menghasilkan hasil yang baik, bukan catatan yang terlihat bagus, yang berarti catatan mereka adalah apa pun hal aneh yang mencapai tugas tersebut.
Dan, tentu saja, seiring model menjadi lebih pintar, mereka membutuhkan lebih sedikit catatan untuk mendapatkan hasil yang sama; mereka bisa melakukan lebih banyak pekerjaan di dalam kepala mereka.
🔥 OKX meluncurkan X-Perps Pra-IPO!
OKX telah mengumumkan X-Perps untuk Anthropic dan OpenAI, memberikan akses kepada pengguna EEA yang memenuhi syarat untuk memperdagangkan kontrak abadi yang terkait dengan perusahaan swasta ini sebelum pencatatan publik.
🛡️ OKX Shield memperluas keamanan
Pengguna Eropa yang memenuhi syarat dapat menerima perlindungan pengambilalihan akun hingga €500.000, tergantung pada tingkat VIP dan persyaratan keamanan.
⚡ Lebih banyak X-Perps ditambahkan
OKX baru-baru ini mencantumkan METUSD, ARUSD, dan COREUSD, setelah FLOCKUSD, MINAUSD, dan CASHCATUSD. $BTC #FedHike
