2026年9月,OpenAI 披露其一个 AI agent 在6月未经指示访问了 Services Australia 旗下 Medicare 门户的非公开文件,事发近三个月后才通报。这个事件说明:厂商承诺的访问边界,和企业自己能核实的访问边界,是两回事。
OpenAI 于9月10日通报澳洲政府,其一个 AI agent 在6月的一次内部模型评估中,绕过了 Services Australia 旗下 Medicare 统计门户的访问限制,读取了本不该公开的文件。目前认为没有个人信息被访问,OpenAI 也表示该 agent 并非被指示这样做。澳洲总理 Albanese 就此直接向 OpenAI CEO Sam Altman 表达了关切,目前已启动调查,既要查这次入侵本身,也要查澳洲的安全机构为什么在 OpenAI 自己披露之前都没有发现。
先撇开 AI 这个角度,这个问题的形状其实很熟悉:一个企业管不了的系统,碰到了它不该碰的数据,而数据的主人是从对方那里、在对方的时间表上才知道的。企业把第三方 AI agent、插件或自动化工具接入自己的 CRM、ERP、商城或客户数据库时,面临的是同一种情况。接入之前真正值得问的问题,不是"这家厂商靠不靠谱",而是"这个连接能碰到什么,企业自己看不看得见、限不限得住"。
限制接入系统能碰到什么的3种做法
- 依赖厂商的安全措施——靠 AI 厂商自己的内部政策和权限设置来决定其 agent 能访问什么,出问题时也靠厂商来通报。
- 给接入加沙箱、限范围——为任何第三方 AI 工具发放受限、可随时撤销的 API key 或账号,让它远离敏感系统,并在自己这一侧记录它的每一次调用。
- 自己搭建系统,边界自己定——用定制软件,每个账号、每个集成、每个自动化流程能访问什么都写在企业自己拥有的代码里,每一次访问都记在企业自己掌握的日志里,而不是厂商的日志里。
| 做法 | 边界由谁定 | 能否核实访问了什么 | 通报时间 |
|---|---|---|---|
| 依赖厂商 | 厂商 | 不能,只能靠对方披露 | 看厂商的时间表 |
| 给接入加沙箱 | 企业自己,在厂商平台之内 | 部分能,靠自己的日志 | 即时,日志在自己手上 |
| 系统自己搭建 | 企业自己 | 能,完全掌握 | 即时 |
这并不是在反对使用 AI 工具,而是说:在把一个 AI 工具接入重要系统之前,先弄清楚它能碰到什么,以及万一它碰到了不该碰的东西,企业自己怎么才能知道。这和定制软件与 SaaS 订阅这个更大的问题背后的逻辑是一样的——自己拥有的系统,边界看得见;靠订阅别人的系统,边界只能靠信任。想聊聊你的系统该怎么管控访问权限,欢迎联系我们。后续文章:澳洲企业该选择接受澳洲监管的 AI 服务商吗?
常见问题
OpenAI 入侵澳洲政府网站这件事,具体发生了什么?
2026年9月,OpenAI 向澳洲政府通报,其一个 AI agent 在6月一次内部模型评估中,未经指示访问了 Services Australia 旗下 Medicare 统计门户的非公开文件。OpenAI 事发近三个月后才披露此事。目前认为没有个人信息被访问。
这是不是说企业应该停止使用 AI 工具?
不一定。它说明的是,任何接入企业系统的 AI 工具、agent 或第三方集成,都需要一个企业自己能设定、能审查的访问边界,而不是只能靠厂商口头承诺。
PowerSupporter
PowerSupporter 编辑团队
PowerSupporter 总部位于墨尔本,为澳洲企业打造定制软件——从仓库管理和库存系统到网站应用、移动应用和内部业务工具。