AI

当 AI 更新您的库存时,日志是信任的基础

发布于 · 阅读约 6 分钟

如今,让 AI 助手做真正的库存工作已经很平常了:「面粉的订单刚到,加 25 kg」「把那两个裂了的罐子标记为损坏」「把所有叫『罐』的物品改名为『罐装』」。借助 Model Context Protocol(MCP)服务器,Claude、Grok、OpenAI 和 Gemini 等助手可以直接完成这些更改,而不只是提出建议。

这带来了很大的便利,也引出一个合理的问题:当库存发生变化时,您怎么知道是人做的还是 AI 做的,以及 AI 做得对不对?答案不是让 AI 远离您的库存,而是确保您的日志把 AI 的更改当作一等公民来对待:有记录、有标记、易撤销。

Package Pal 在昏暗的仓库里对着笔记本电脑,屏幕上方飘着聊天气泡。
AI 很乐意在晚上 11 点干活。日志确保早班的人知道它做了什么。

值得托付给 AI 的日志的五个特性

1. AI 的每一次更改都归属于某个人

AI 助手不应该是一个匿名的超级用户。它应当以连接它的那个人的身份行事,拥有那个人的权限,仅此而已。这样每一次更改都有一个人类负责人:如果 Sam 让助手为一笔订单收货,日志上写的就是 Sam,因为 Sam 要对自己提出的要求负责。

2. AI 的每一次更改都标记为 AI

光有归属还不够。您还希望一眼就能看出,按下按钮的是 Sam 本人,还是 Sam 的助手。行上清晰的「AI 助手」标记,让您可以把 AI 的工作放在一起审查,发现规律(「它总是选错面粉」),并逐步而不是一下子建立信任。

3. AI 和其他人走同一份日志

最糟糕的做法是让某个集成直接写入数据库而跳过历史记录。如果 AI 的路径是一扇侧门,日志就会恰好在最新、最陌生的参与者工作的地方留下一个窟窿。AI 做出的更改应当进入与手动更改相同的物品历史、相同的公司更改列表和相同的导出。

4. 访问有范围限制,且可以撤销

每个连接都应当限定于一家公司,在连接列表中可见,并且一键即可移除。日志告诉您发生了什么;范围限制决定了可能发生什么;撤销让您能够叫停。

5. 错误可以撤销

AI 偶尔会非常自信地做错事。一个值得信赖的系统会让纠错成本很低:错误的调整用一次更正来修复(同样会被记录),意外的改名会在历史中显示旧值,被删除的物品可以连同其历史一起恢复。如果撤销 AI 的错误比犯下它还难,人们就会停止使用 AI,或者更糟,停止检查它。

AI 真正会犯的错误

在库存工作中,AI 的错误很少稀奇古怪。它们就是新同事会犯的那些疏忽,只是来得更快:

  • 名称相近的错误物品。您同时存有高筋面粉和低筋面粉,它却只说「面粉」。好的工具会拒绝瞎猜,并询问是哪一种,但无论如何,日志都是您的最后防线。
  • 单位混淆。物品按千克追踪,您的意思是 25 袋,它却加了 25。数量始终与单位绑定,会让这种情况少得多;显示单位的日志则让它很容易被发现。
  • 做了两遍。出了点小故障后重试的对话,可能会把同一笔收货再执行一次。两行相隔一分钟、内容完全相同的 AI 记录,在日志里一眼就能看到,也很容易撤销。

一套简单的检查习惯

您不需要盯着每一次更改。一套轻量的例行做法就够了,尤其是在最初几周:

  1. 在 AI 完成一批工作之后,打开公司的更改历史,按「AI 助手」筛选,快速浏览它生成的记录。
  2. 核对数量和单位,对照的是您提出的要求,而不是看起来是否合理。
  3. 每周一次,导出更改历史,看看 AI 那一列。如果连续几周都没有问题,就可以放心交给它更多工作。
  4. 每隔一段时间,查看您已授权的 AI 连接列表,断开那些不再使用的连接。敞开的门越少,意外就越少。

信任来自可见性

在库房里把 AI 用得最好的团队,既不是盲目信任它的团队,也不是一刀切禁用它的团队,而是能够准确看到它做了什么的团队,因此信任是一行一行赢得的。一份为 AI 更改加上标记、为每一处更改署上一个人的名字、并让它们易于撤销的日志,才能把「AI 改了点东西」从一种担忧变成一项日常工作。

在 Simple Inventory 中,每个连接到内置 MCP 服务器的 AI 都以授权它的那个人的身份行事,仅限于一家公司,并且可以在「AI / MCP 访问」部分点击断开连接来移除。它做出的每一次更改都与其他人的更改进入同一份历史,标记为「AI 助手」,编辑会保留修改前后的值,已删除的物品也可以恢复。查看审计记录功能。


限时免费开始使用