OpenAI又喊「欢迎来到AGI时代」刷屏了,行政别让GPT-6那种AI Computer Use直接点报销系统,点错一笔谁签字

OpenAI把GPT 6 Astra推上热搜那天,刷屏句是「欢迎来到AGI时代」。行政群里立刻有人转发演示:模型能自己开浏览器、填表、点按钮。我第一反应不是欢呼,而是把公司报销系统的登录页截图发回去—— 能点界面,不代表能点财务入口…

作者:小白 ·

OpenAI把GPT-6 Astra推上热搜那天,刷屏句是「欢迎来到AGI时代」。行政群里立刻有人转发演示:模型能自己开浏览器、填表、点按钮。我第一反应不是欢呼,而是把公司报销系统的登录页截图发回去——能点界面,不代表能点财务入口。

我更倾向把Computer Use当成「高权限实习生」,不是「自动出纳」。实习生可以整理票据目录,但不能自己点「提交支付」。这句话换到别的岗位不通,正因为报销系统里动的是真钱和真签字链。

行政盯着报销系统登录页犹豫是否授权AI操作

为什么危险:点错一笔,签字链断在人身上

Computer Use厉害在「像人一样操作电脑」:切标签、认按钮、填金额、点确认。演示里那是表单和日历;落到行政日常,下一步往往是费控、OA、网银附件上传。系统不会问「你是不是AI」,它只认账号与权限。

一旦Agent用了某人的已登录会话,责任落在账号主人,不落在模型厂商新闻稿。财务抽查时问的是「谁点的提交」,答「助手代点」在内控里几乎等于空白。

单次事件:9月初那次「想自动提交」

9月4日上午,我们行政试点群有人录了30秒屏:Astra风格的Computer Use在测试环境里打开费控页,把一张差旅单金额从1280改成了1820(演示素材自带错位),光标已经悬在「提交」上。操作者当时笑着说「差点手滑让它点下去」。

我当场叫停,要求把浏览器扩展和远程桌面授权全部关掉,只保留「只读整理发票」脚本。当天傍晚财务同事回了一句很土的话:点错一笔谁签字,新闻里没有这一栏。

测试环境里AI光标悬停在报销提交按钮上

人机分工:我坚持的三道闸

| 环节 | AI可做 | 人必须做 |
| --- | --- | --- |
| 票据归类 | 按日期/项目打标签 | 确认票面真伪与抬头 |
| 填单草稿 | 生成字段建议 | 核对金额、发票代码 |
| 提交/支付 | 禁止 | 本人登录后人工点击 |

短示例(完整版见站内 Prompt):

角色:报销边界助手。只输出人机分工表。
禁止:建议AI点击提交/支付/审批通过。
输入:系统名、账号归属、是否已登录会话。

人机分工白板上提交按钮被红笔圈禁

实测·踩坑·对照

同周我做了两轮桌面对照,材料是同一份三张发票的差旅包:

  • 改前(失败):同事让Agent「一口气做完报销」。它在沙箱里连点两次「下一步」,把「个人垫付」勾成「公司月结」,草稿金额对、结算方式错。若真提交,对账会吵一周。
  • 改后(对照):Agent只输出「字段建议表 + 风险三问」;人打开费控,逐项粘贴后自己点保存。多花4分钟,结算方式一次对。
  • 试改次数:提示词改了3版,删掉所有「自动提交」「一键办结」字样后,才不再出现抢点按钮的倾向。

踩坑结论很具体:Computer Use的能力边界,由你给不给会话权限决定,不由模型自称AGI决定。

对照:自动连点出错 vs 人工终审提交

行政本周可执行的四条

  1. 账号隔离:演示用小号,禁止在本人已登录的费控页开Computer Use。
  2. 权限清单:列出「提交、审批、支付、导出全量」四类按钮,默认写死「仅人工」。
  3. 审计话术:培训第一页写清——AI草稿可追溯到提示词,点击动作必须可追溯到工号。
  4. 领导汇报:只报「节省填单时间」,不报「无人值守报销」。后者好听,出事难收场。

我见过最稳的做法,是把Agent停在「生成待办清单」:缺哪张票、哪个字段空、哪个税率可疑。真正点鼠标的人,仍然是要对内控签字的那一位。

若供应商推销「桌面级无人值守财务」,先问三句:失败回滚谁做、错付谁赔、日志能否导出到公司审计盘。答不清的,再便宜也不进生产账号。

补一层我坚持写进制度的细节:Computer Use若必须演示给领导看,只用脱敏沙箱账号,数据库是假单、支付通道是关闭的。演示成功不等于生产可开。9月那次差点手滑提交的同事后来承认,他当时用的是自己日常号——这才是真正吓人的地方,能力演示和技术债绑在同一会话里。

权限审计我建议按按钮粒度做,不要按「系统名称」做。同一个费控里,「保存草稿」和「提交审批」差的是法律责任,不是界面颜色。培训材料里若只写「谨慎使用AI」,等于没写。要把禁点按钮的截图贴进附录,新人入职第一天就能看见。

还有供应商合同。有人推销「桌面级财务Agent,含报销闭环」。行政参与选型时,至少追问:错付是否纳入对方保险、操作日志能否导出到公司审计盘、失败回滚由谁在多长时间内完成。答「模型会越来越聪明」的,先不要进生产网段。

对领导汇报,我只用三页:①Computer Use能省的填单分钟数;②禁点清单;③一次叫停录像或截图。不要第四页「迎接AGI」。口号满街都是,缺的是你们自己的签字边界。

跨子公司的坑也常见:总部开了只读整理,门店网络策略不同,Agent在门店电脑上反而能摸到本地保存的网银控件。演练请抽一个真实门店账号走一遍「只整理、不登录支付」。总部绿灯不等于一线绿灯。

收尾

AGI口号可以继续刷;行政侧先回答更土的问题——报销系统里那一下点击,能不能交给不会担责的光标? 我的答案是否定的。让AI整理、提醒、对照;让人登录、核对、签字。点错一笔时,新闻里的「欢迎来到AGI时代」帮不上忙,签字栏上的名字才算数。

签字栏与AI光标分两侧的责任示意

同话题相关讨论

查看完整讨论与评论