从工具到智能体，AI角色的跃迁引发了关于“可控性”与“可信度”的深层讨论。本文聚焦智能体的实际表现与行业预期之间的落差，剖析其技术瓶颈、应用误区与未来演化路径。
一夜爆红的Manus智能体，在130天后遭遇群嘲；企业级AI部署因一个提示注入漏洞，导致私人数据泄露；多智能体系统故障率高达86.7%；“95% 的 AI 智能体在生产环境中部署时都失败了。”在硅谷近期的一个由 EntreConnect（一个企业家、投资者社区）组织的圆桌论坛中，有位嘉宾给出了这样一个数字。再结合基于我在珠三角地区企业交流中获取的反馈而完成的上一篇文章中探讨的 “多数 CIO 主导的 AI 项目效果不理想” 这一核心问题……
这些频频出现的AI失败案例，让不少人开始质疑：智能体真的就是不靠谱吗？甚至觉得AI就是不靠谱的……
智能体的“不靠谱”时刻2025年，AI智能体领域经历了从热捧到质疑的过山车。3月，名为Manus的AI智能体凭借一段“自主完成任务”的演示视频一夜爆红，发布一周内吸引了200万用户预约，内测码甚至被炒至10万元。
然而，仅仅130天后，当第一批用户真正体验产品时，幻想破灭了。
人们发现这款号称全能的智能体底层技术完全依赖大模型API拼接，只能执行少数标准化任务，面对复杂场景常常束手无策。更让人失望的是，它的定价竟高达19-199美元/月，与实际效果严重不符。
安全领域的表现更令人担忧。英国《经济学人》报道揭示了AI系统的“致命三重奏”——当外部内容接触、私人数据访问和外部通信三者同时存在时，AI天真的顺从性会演变成严重的安全漏洞。
例如，你只是让AI总结一份文档，但如果文档中被植入恶意指令，AI可能会乖乖地将你的私人文件发送到黑客邮箱。
而今年5月，GitHub Model Context Protocol（MCP）服务器的漏洞更是让攻击者可以通过AI代理获取私人信息。正如全球IT和信息安全主管Archie Jackson所言：“提示注入——一种简单的语言技巧，仍然可以攻破系统，无论AI多么先进。”
多智能体系统的情况也不容乐观。加州大学伯克利分校的研究团队发现，多智能体系统在处理实际问题时故障率可高达86.7%。他们确定了14种独特的故障模式，并将其归纳为三大类：规范和系统设计故障、智能体间错位、任务验证和终止。
是什么让智能体变得“不靠谱”？1. 技术层面的根本缺陷大型语言模型本质上是下一个词的预测机器，而非真理的化身。它们的目标是生成合理的文本，而非提供绝对准确的信息。这种训练目标与用户期望之间的错位，是智能体产生“幻觉”或胡编乱造的根源。说白话就是，大语言模型的输出是基于概率统计的，它是根据你的输入、知识库及预测最大期望值输出答案的。用户误以为AI“知道”，其实它只是“猜得准”。
2. 系统架构的局限性当前大多数AI智能体仅仅是“大模型的一层皮”，它们调用GPT-4或Claude等第三方大模型API，加上一个定制的前端界面，就自称是智能体了。这种模式开发门槛低，但也意味着同质化严重、护城河稀薄。
3. 盲目追求通用性许多失败的AI智能体产品试图打造“万能助手”，结果既无法超越通用大模型，又难以在具体场景中真正落地。它们强行整合RPA、爬虫、数据分析工具，导致系统臃肿，无法真正适应复杂任务。
4.数据质量与上下文缺失：知识库是“垃圾堆”智能体的表现高度依赖其知识库的质量。然而，很多产品接入的是未经清洗的公开数据、过期文档或内部零散资料，导致回答基于错误、片面甚至矛盾的信息。此外，缺乏有效的上下文管理机制，使得智能体在多轮对话中“失忆”，前后矛盾，用户体验极差。
5.缺乏反馈与纠错机制：错了也没人管靠谱的系统需要持续迭代和纠错，但许多智能体上线后缺乏用户反馈闭环，错误回答无法被标记、追踪或修正。更严重的是，一些产品没有“自我怀疑”能力，即使输出明显荒谬的内容，也自信满满地“一本正经胡说八道”，让用户陷入误导。其实这也和现在的大模型规则有关，官方是鼓励AI回答的，即使是它确实不会的：答对加分，答错不加分，没有“我不知道”的答案输出。
6.过度营销与用户预期失衡：吹得越高，摔得越惨一些智能体产品在宣传中夸大能力，声称“替代人类”“100%准确”“无所不能”，导致用户预期严重偏离现实。当用户发现AI连基本事实都搞错时，信任瞬间崩塌。预期管理失败，是智能体“人设翻车”的重要推手。
那些靠谱的智能体做对了什么？在一片“哀鸿遍野”中，仍有像GenSpark、Salesforce这样的企业逆势增长，不仅活了下来，还跑通了可持续的商业模式。它们的成功经验或许能为我们解答智能体究竟该如何变得靠谱。
1.小而美优于大而全与盲目追求通用智能不同，一些成功的AI智能体公司选择在垂直领域深耕。GenSpark原本做AI搜索，但发现该领域已被巨头垄断后，果断转型AI智能体，聚焦办公自动化、数据分析和文件管理等企业刚需场景。
结果，他们的智能体在金融领域帮助客户将投资研究报告撰写时间从3天缩短至8小时；在学术机构中，文献综述效率提升了50%。
2.架构创新取代简单提示工程研究人员开始超越简单的提示工程，探索更可靠的智能体架构。一项名为Chimera的神经-符号-因果架构，整合了LLM战略家、经过正式验证的符号约束引擎和用于反事实推理的因果推理模块。
在长达52周的模拟环境中，仅使用LLM的智能体遭遇了灾难性失败（在量优化场景中总计损失99万美元），而Chimera则 consistently实现了最高回报（在一些情况下高达220万美元）。
3.多智能体辩论框架提升事实性为了应对AI的“胡编乱造”，研究人员开发了MAD-Fact——一个基于辩论的多智能体验证系统，专门评估大语言模型的长篇事实性。这种方法通过多个智能体的辩论来验证内容的真实性，显著提高了事实准确性。
4.科学的验证流程加州大学伯克利分校的研究团队针对多智能体系统的故障问题，提出了战术策略和结构策略两种解决方案。
战术策略涉及针对特定故障模式的直接修改，如改进提示、智能体网络的拓扑结构和对话管理；结构策略则是影响整个系统的更全面方法：强验证、增强型通信协议、不确定性量化以及内存和状态管理。
智能体的未来：从“不靠谱”到“靠谱”的路径那么，智能体到底靠不靠谱？答案是：取决于如何设计和应用。
当前AI智能体正经历一场残酷的洗牌，预计到2027年，约40%的AI智能体项目可能因成本失控或商业模式不清晰而被淘汰。而那些能够存活并茁壮成长的智能体，往往遵循以下原则：
1.聚焦垂直场景，解决具体问题企业客户不只为智能体的概念买单，而是为可量化、可审计、可省钱的解决方案买单。Salesforce的Agentforce能在上线一年内吸引5000家机构部署、实现10亿美元年化收入，关键就在于兼具可解释和按需付费两个特性。
2.构建科学架构，不依赖单一提示工程研究表明，架构设计而非提示工程决定了自主智能体在生产环境中的可靠性。单纯的LLM智能体无论提示多么精巧，都难以避免灾难性失败，而神经-符号-因果等混合架构则显示出更强的鲁棒性。
3.拥抱不确定性，设计容错机制具有概率性结果的AI或许能教会软件工程师采取类似物理工程师的思维方式——在设计时考虑公差、误差率和安全系数，过度构建结构以应对最坏的情况，而非假设一切都会按预期运行。
4.建立连续验证机制对于关键任务，智能体系统应具备持续自我验证的能力。类似Chain of Verification（CoVe）的方法，让AI先撰写回答，再规划验证问题，最后根据验证结果重写文本，这种自我修正过程能显著降低错误率。
5.缺乏统一平台与标准，业务与技术对齐当前许多企业内部，AI建设常陷入“各自为政”的困局。市场部开发一个智能体，技术部又自研一套，重复投入、资源分散。各部门工具不一、标准各异，导致系统难以打通，数据无法共享，协同效率大打折扣。
更深层的问题，是业务与技术的目标难以对齐——业务侧追求快速上线、体验优先，而技术侧强调架构稳健、安全第一。这种认知差异使得项目推进缓慢，AI应用难以规模化落地。
若缺乏统一的平台与标准，企业的AI战略将始终停留在试点阶段，无法形成整体效能。重复建设持续消耗资源，而系统孤岛与部门分歧更会阻碍AI价值的全面释放。
因此，必须加快建设企业级AI平台与统一标准。例如企业级的Dify、Higent（企业级的扣子）、Kymo、N8N、RAGFlow等企业级智能体开发和管理平台，通过构建“AI中台”，实现智能体、数据、场景的集中管理和规范开发，既响应业务对敏捷的需求，也保障技术治理的可持续性，最终实现AI从“可堪一用”到“指数赋能”的规模化提升。
Kymo的企业级AI全栈能力
结语:智能体是一个过程智能体并非注定不靠谱，但它们也绝非万能。当前的“不靠谱”现象，很大程度上是技术早期发展的阵痛，是期望与现实的差距，也是资本炒作与真实价值的调整过程。
随着技术逐渐成熟，应用场景更加明确，架构设计更加科学，智能体正从“什么都懂但什么都不精”的“万事通”，向“在特定领域高度可靠”的“专家”转变。
对于从业者来说，放弃对通用智能体的幻想，聚焦垂直场景，构建科学架构，设计验证机制，才是让智能体从“不靠谱”走向“靠谱”的康庄大道。
智能体的使命，在于成为人类的得力助手，而不是资本游戏中的空中楼阁。任何不想只是昙花一现的技术，唯有脚踏实地、聚焦场景、创造价值，才能真正走出困局。
所以，回到最初的问题——智能体真的就是不靠谱吗？答案不在技术本身，而在我们如何塑造它。
本文由 @观花客 原创发布于人人都是产品经理。未经作者许可，禁止转载
题图来自Unsplash，基于CC0协议
久联优配提示：文章来自网络，不代表本站观点。
