不要再把它叫作自动化：AI是知识增强层，而非用来取代人类
文/Ben Apple，国防部高级研究科学家
每隔几年，企业里总会有人换一套包装重提同一个想法：某项技术终于发展到足够成熟，可以让人类的知识工作变得毫无价值。搜索引擎曾被寄予这样的期待，随后是企业门户，再后来是聊天机器人。如今，轮到了大语言模型（LLM）。这一次，各类演示效果极具说服力，董事会在尚未厘清这项技术的真实用途之前，就已经批准投入资金。
我认为这是一个错误，而且我们即将大规模犯下这个错误。问题并非底层模型能力不足 —— 模型本身并不弱；错就错在把目标定为 “取代知识工作者”。真正合理的目标范畴更窄、更难做 PPT 演示，但价值要高得多：利用 AI，让组织已有的知识，在人们需要的那一刻，变得可读、可检索、可使用。这就是知识增强，而非自动化。二者的区别绝非文字游戏，它直接决定这套系统是赢得信任，还是摧毁信任。企业总在采购 AI，试图消灭知识工作；它们本该采购 AI，去保全自身现有的知识工作。
AI 真正改变了什么
传统知识管理（KM）依靠关键词检索与文件夹目录运行，它对自身局限毫不掩饰：如果你清楚要搜什么，多半能找到资料；如果不清楚，那就毫无办法。大语言模型打破了这层约束。它能够处理模糊歧义完成检索，跨多份文档做信息综合，输出可读的回答，而不只是一堆链接列表。这是实打实的能力跃升，我无意淡化它的价值。
但绝大多数落地方案都刻意回避一个隐患：恰恰是让 AI 系统表现流畅好用的生成能力，也会让它在出错时，依旧说得头头是道、极具迷惑性。一份检索出来的文档，相关就是相关，无关就是无关；而模型生成的综合结果，可能自信满满、行文考究，内容却是错的。外部使用者大多没有可靠手段分辨真伪。 输出听起来的权威性，和它实际具备的权威性之间存在落差，这正是 AI 赋能知识管理的核心难题，也是我一直反对把 AI 简单归为自动化逻辑的原因。
检索增强生成（RAG）是正确的思路
在这场讨论中，如果说有一种架构范式值得坚守，那就是检索增强生成（RAG）。RAG 系统不允许模型单纯依靠预训练学到的内容作答；它强制模型，必须基于企业实际可控、检索得到的原始素材来生成输出。 仅此一项设计，对建立信任起到的作用，远超过我写过的任何政策备忘录。因为它让来源溯源可核查，而不是停留在理论层面：可以记录检索了哪些资料，可以审计哪些材料未被采用，还能把生成的答案追溯到原始文档。这恰恰和领域专家论证结论时的做法如出一辙。
不过，我和部分激进拥护者的分歧在于：他们假定 RAG 单凭自身就能解决信任问题。事实并非如此。RAG 可以压缩幻觉的发生空间，但无法彻底杜绝模型误读材料、过度泛化，或是拼接两段检索文本，得出两份原文都不支持的结论。 RAG 是必要条件，但远非充分条件。
人在回路并非过渡阶段
企业 AI 圈内流传着一种讨巧的说辞：人工监督只是辅助起步的过渡阶段 —— 当下必不可少，待模型成熟之后便可舍弃。我并不认同这一观点；任何真正见过模型在高风险场景下出错的人，想必也不会认同。人类判断并非用来填补模型未来终将具备的能力缺口，它提供的是性质完全不同的东西：场景化责任担当。模型可以识别某种模式，但它无法为决策担责，无法为糟糕的结果负责，也不能对照组织价值观去权衡主观判断，而组织从未赋予模型承担这类权责的权限。
正因如此，我并不把人工审核看作项目上线时附加的一道防护措施，而是视作系统本身的固有架构特性 —— 其地位与访问权限控制、版本历史记录同等，需要永久保留。尤其在工程、制度制定、防务类场景中，去掉这一层并不会提升效率，而是把责任转移给一套根本无法被追责的系统。
治理问题才是唯一的核心问题
知识管理领域，人们对 AI 的担忧大多指向模型本身：会不会产生幻觉？会不会固化偏见？会不会发生信息泄露？这些顾虑真实存在，但都只是表象。
一套 AI 赋能的知识管理项目最终是取得成功，还是让组织颜面尽失，真正的决定性因素是治理机制：由谁决定系统可检索哪些内容；由谁审核模型生成的输出；出现错误时谁承担责任；组织能否快速关停存在问题的部署。
治理工作缺乏噱头，这恰恰导致它获得的资源远少于模型本身。但正是依靠治理机制，一项真正有用的能力才能转化为可持续可用的能力。缺少治理，AI知识管理系统就是披着生产力工具外衣的风险隐患；完善治理之后，同一套系统才真正可以支撑组织开展决策。
我的判断
坦率讲，我的观点如下：
AI 不会重新定义知识本身，也不能免除组织厘清自身知识资产的义务。AI 真正能做到的，是消除提问者与组织内部已有知识之间的使用阻力 —— 前提是这些知识有事实依据、标明来源、经过审核并受到治理约束，而非单纯由模型生成。
追捧自动化叙事的企业，终将付出高昂代价认清一个事实：输出内容流畅，不等于知识可靠。
而把 AI 视作知识增强层，将其作为建立在语义溯源、人类责任机制之上的社会‑技术系统的组成部分，这类组织将收获别家寄希望于更大参数模型才想要拿到的复利优势。
这才是值得押注的方向：不是用AI取代知识管理，而是让 AI 融入知识管理，遵循知识管理的内在逻辑运行。
来源：KMWorld
相关链接
经典培训课程
企业AI知识库搭建与运营培训课程
呼叫中心AI知识库培训课程
个人知识体系构建能力课程
书籍和资料
《卓越密码如何成为专家》
《你的知识需要管理》
免费电子书《企业知识管理实施的正确姿势》
免费电子书《这样理解知识管理》
