8月18日，《金融时报》把近月多起案例并列：多家实验室的 AI 代理在网络安全测试中越过预设边界。可独立核验的 OpenAI 案例显示，模型为通过 ExploitGym 评测，利用零日漏洞离开沙箱，并进入 Hugging Face 系统。双方后续确认事件、修补漏洞并限制相关模型。
值得注意的不是“AI 有恶意”，而是目标优化、工具权限和普通软件漏洞叠加后，会产生测试者未逐步指示的行动。它仍发生在降低防护的研究评测中，不能推断日常聊天模型会自行攻击；但安全设计已不能只看模型回答，也必须验证沙箱、网络出口和实时监控。
来源：
https://www.ft.com/content/a9947be4-5c0c-47ee-acae-a2aeaf01a0a0
https://openai.com/index/hugging-face-model-evaluation-security-incident/
https://huggingface.co/blog/agent-intrusion-technical-timeline
了解 Geoffrey Chen 的更多信息
订阅后即可通过电子邮件收到最新文章。