Bài đăng
今日AI头条
微软CEO纳德拉：把AI当内部风险防，随时准备急停
微软 CEO 萨蒂亚·纳德拉发长文，主张把 AI 模型当作企业内部安全风险管理。模型即使没有恶意，也可能犯错或被攻击者利用。尤其当它能读取敏感数据、替人执行关键操作时，企业不能只信模型厂商的安全承诺。
他要求把模型与调度任务的 Harness（Agent 执行框架）分开。模型能读什么数据、调用什么工具，必须由外部系统控制。每次关键操作都应留下防篡改、方便人类审查的记录。他还要求模型思维链（展示出的推理过程）透明，但承认这些内容未必可靠。
最强硬的一条是，从部署时就假定模型可能遭到入侵，并做好隔离。授权人员必须能在 Agent 执行任务时随时暂停或关闭它，相当于装上「紧急刹车」。模型不能自己审核自己的行为，企业还要持续测试故障和攻击，及时披露事故。
微软本月已宣布 MXC 隔离工具在 Windows 正式可用。它通过外部策略限制 Agent 能访问的文件和网络。
Miễn trừ trách nhiệm: Nội dung OKX Orbit chỉ để tham khảo. Tìm hiểu thêm
Phản hồi
Chưa có bình luận. Trở thành người phản hồi đầu tiên!
Crypto thịnh hành
BTC/USDTBitcoin
$74.135,7+0,00%
ETH/USDTEthereum
$2.065,07+0,00%
OKB/USDTOKB
$97,99-0,01%
Bản tin thị trường hôm nay
1#CPI tháng 10 của Mỹ vượt dự báo, cổ phiếu AI và tiền mã hóa có diễn biến trái chiều
2#Goldman Sachs dự đoán doanh thu của Anthropic sẽ vượt 6000 tỷ USD vào năm 2030
3#NebiusAI kinh doanh đám mây tăng trưởng nhanh chóng đón nhận kiểm tra báo cáo tài chính
