
大多数用于搜索信息的人工智能代理都存在过度搜索的习惯——提取上下文、交叉验证来源,以及进行远远超出实际意义的搜索。Databricks 决定解决这个问题,最终推出了一款名为 KARL 的全新Databricks 人工智能代理,它能够精准地判断何时应该停止搜索。
要点总结
- Databricks 开发了 KARL,这是一个检索增强型生成代理,它会在收集到足够的信息后学习停止自己的搜索。
- KARL 的精度与Claude Opus 4.6相当,但成本降低了 33%,延迟降低了 47%。
- 该代理程序运行在Agent Bricks内部,Agent Bricks 是 Databricks 于 2026 年 9 月推出的一个平台,用于自动优化、特定领域的 AI 代理程序。
- 自发布以来,Agent Bricks 上已经构建了超过 10 万个代理。
- Databricks 将自身定位为基础架构模型的基础设施提供商,而不是基础架构模型公司本身。
Databricks推出KARL AI代理以优化搜索效率
KARL 是 Databricks 针对一个困扰检索增强型生成系统多年的难题提出的解决方案:大多数 AI 代理不知道何时停止搜索。传统系统会不断提取上下文信息,直到达到令牌限制或超时,从而在几乎没有价值的信息上浪费计算资源和时间。KARL 经过专门训练,可以避免这种陷阱,一旦确定已收集到足够信息以准确回答问题,就会停止搜索。
KARL 如何学会停止搜索
KARL 的核心理念是,低效搜索本质上是一个时机问题。KARL 并非默认地不断检索更多上下文信息,而是利用强化学习来检测何时继续检索信息不再能提升答案质量。一旦达到这个阈值,它就会停止搜索,而不是出于习惯或谨慎而继续搜索。
KARL性能背后的技术创新
Databricks 将这种强化学习方法与一种名为上下文压缩的技术相结合,该技术允许智能体在决定是否需要更多信息之前,对已检索到的信息进行压缩。这两种机制——判断何时信息足够以及压缩已有信息——共同构成了 KARL 效率提升的核心。
与 Claude Opus 4.6 相比,性能和成本优势显著
据Databricks称,KARL在检索和推理任务上的准确率与Claude Opus 4.6相当,但成本却降低了33% ,延迟也降低了47%。这种以极低的成本和延迟实现前沿级准确率的组合,正是该智能体的核心优势,也正是它使这款Databricks AI智能体区别于其他仅依靠功能取胜的RAG工具。
对于运行大量AI 驱动查询的企业而言,延迟和成本会迅速累积。将响应时间缩短近一半,同时降低三分之一的成本,这绝非微不足道的改进——它改变了大规模部署代理在财务上是否可持续的计算方式。这很可能是 Databricks 如此大力推广这一策略的真正原因:企业买家更关心的是系统每天的运行成本,而不是基准测试的炫耀资本。
Agent Bricks平台及生态系统背景
KARL 并非独立运行的工具,而是隶属于一个名为Agent Bricks 的更广泛框架。Databricks 于 2026 年 9 月推出了 Agent Bricks,这是一个用于构建自动优化、特定领域代理的平台。Agent Bricks 的核心理念是,企业无需手动调整部署的每个模型——该平台会自动调整代理行为,以适应以简单语言定义的任务类型。
平台功能和治理
Agent Bricks 支持包括 Claude 和 GPT 变体在内的主流模型提供商,并通过 Databricks 的 Unity Catalog 进行管理。Databricks 还为其 AI 搜索产品添加了重排序功能——该功能会在将初始检索到的文档批次传递给语言模型之前,对其相关性进行重新评分。据 Databricks 称,这一重排序步骤已使企业基准测试的准确率提高了约 15 个百分点。
自发布以来的采用率指标
自 Agent Bricks 于 2026 年 9 月推出以来,该平台上已构建了超过 10 万个代理。这一规模表明,企业正逐渐将代理部署视为标准基础设施,而非实验性的附属项目——这一转变对于人工智能搜索优化技术能否在早期采用者之外的各行各业快速普及至关重要。
Databricks 表示,并行思考和多层学习模型(LLM)设计等专门技术已将某些任务类型的准确率从约32%提升至 90% 以上。这是一个显著的飞跃,也表明了为何将多个优化层(强化学习、上下文压缩、重排序和多模型协调)结合起来,而非依赖单一技巧,才是真正提升性能的关键所在。
Databricks的企业人工智能商业模式和定位
KARL 和 Agent Bricks 所揭示的 Databricks 更广泛的战略意义,或许比任何单一的基准数据都更为重要。Databricks 并非试图构建或销售基础模型来与 Anthropic 或 OpenAI 直接竞争。相反,该公司销售的是使这些基础模型能够在企业级规模下可用、经济高效且易于使用的基础设施。
这种区别至关重要。Databricks 以低于 Claude Opus 4.6 三分之一的成本,实现了与其相同的准确率,从而在企业级人工智能市场中占据了中间位置——其价值不在于模型本身,而在于如何高效地部署、管理和扩展模型,使其在整个组织内得到有效利用。随着越来越多的公司开始权衡运行人工智能代理的总成本,而不仅仅是其原始性能,这种以基础设施为先导的方法可能会成为一种竞争优势,比单一的基准测试分数更难复制。
常问问题
KARL人工智能代理的主要创新点是什么?
KARL 使用强化学习来学习何时停止检索上下文,从而避免冗余处理并提高效率。
KARL 的性能与 Claude Opus 4.6 相比如何?
KARL 的精度与 Claude Opus 4.6 相当,但成本降低了33% ,延迟降低了 47%。
Agent Bricks平台是什么?
Agent Bricks 是 Databricks 于 2026 年 9 月推出的一个平台,用于构建自动优化的、特定领域的 AI 代理,并通过 Unity Catalog 支持主要模型和治理。
Databricks是否直接销售基础模型?
不,Databricks 出售的是支持扩展和使用基础模型的基础设施,而不是模型本身。
本文由人工智能辅助生成,并经编辑团队审核。