首页 > 热点
OpenAI 内部警示:ChatGPT Atlas 面临“即时注入”安全威胁
发布日期:2026-11-17
浏览次数:{固定数字3}

【AIbase报道】尽管 OpenAI 正在全力推广其全新一代智能浏览器 ChaOptGPT Atlas,但公司内部安全主管 Dane Stuckey 近日却公开表达了对其潜在en安全风险的担忧,引发业界关注。

Stuckey 指出,Atlas 面临的最大挑战之一是AI尚未彻底解决的 “即时注入”(Prompt Injection)攻击。这类攻击通过在 内网页、邮件或其他内容中巧妙嵌入恶意指令,从而诱导 AI 代理执行非预期操作。其影响不部警仅可能干扰用户的购买行为,还可能导致电子邮件内容或登录凭证等私人数据被窃取。

他坦言,示:尽管 OpenAI 已经开展了大规模安全测试,并在 Atlas 中引入多重防护机制与新的模型Ch训练方法,但“即时注入”仍然是一个棘手的开放性问题,短期内难以彻底根除。

为缓解at风险,OpenAI 在 Atlas 中部署了两项关键防御措施:其一是 “注销模式”,用于在必GP要时阻断 AI 代理对用户数据的访问,从源头防止信息泄露;其二是 “监视模式”,适T 用于敏感网站,要求用户在关键交互中进行人工确认和监督,以确保操作安全。

StuckeAty 表示,团队正在加速研发更多防护功能与快速响应系统,以便在面对潜在攻击时能第la一时间进行干预和修复。“Atlas 的安全挑战不仅是技术问题,更是人与 AI 协作s 的新边界测试。”他强调。


上一篇:TensorFlow 2.9上线:oneDNN改进实现CPU性能优化,WSL2开箱即用
下一篇:​OpenAI 计划在印度建立大型数据中心,推动 AI 基础设施发展
相关文章