Databricks AI智能體KARL在成本降低33%的同時媲美Claude Opus 4.6

  |  

大多數用於搜索信息的人工智能代理都存在過度搜索的習慣——提取上下文、交叉驗證來源,以及進行遠遠超出實際意義的搜索。Databricks 決定解決這個問題,最終推出了一款名爲 KARL 的全新Databricks 人工智能代理,它能夠精準地判斷何時應該停止搜索。

要點總結

  • Databricks 開發了 KARL,這是一個檢索增強型生成代理,它會在收集到足夠的信息後學習停止自己的搜索。
  • KARL 的精度與Claude Opus 4.6相當,但成本降低了 33%,延遲降低了 47%。
  • 該代理程序運行在Agent Bricks內部,Agent Bricks 是 Databricks 於 2026 年 9 月推出的一個平臺,用於自動優化、特定領域的 AI 代理程序。
  • 自發布以來,Agent Bricks 上已經構建了超過 10 萬個代理。
  • Databricks 將自身定位爲基礎架構模型的基礎設施提供商,而不是基礎架構模型公司本身。

Databricks推出KARL AI代理以優化搜索效率

KARL 是 Databricks 針對一個困擾檢索增強型生成系統多年的難題提出的解決方案:大多數 AI 代理不知道何時停止搜索。傳統系統會不斷提取上下文信息,直到達到令牌限制或超時,從而在幾乎沒有價值的信息上浪費計算資源和時間。KARL 經過專門訓練,可以避免這種陷阱,一旦確定已收集到足夠信息以準確回答問題,就會停止搜索。

KARL 如何學會停止搜索

KARL 的核心理念是,低效搜索本質上是一個時機問題。KARL 並非默認地不斷檢索更多上下文信息,而是利用強化學習來檢測何時繼續檢索信息不再能提升答案質量。一旦達到這個閾值,它就會停止搜索,而不是出於習慣或謹慎而繼續搜索。

KARL性能背後的技術創新

Databricks 將這種強化學習方法與一種名爲上下文壓縮的技術相結合,該技術允許智能體在決定是否需要更多信息之前,對已檢索到的信息進行壓縮。這兩種機制——判斷何時信息足夠以及壓縮已有信息——共同構成了 KARL 效率提升的核心。

與 Claude Opus 4.6 相比,性能和成本優勢顯著

據Databricks稱,KARL在檢索和推理任務上的準確率與Claude Opus 4.6相當,但成本卻降低了33% ,延遲也降低了47%。這種以極低的成本和延遲實現前沿級準確率的組合,正是該智能體的核心優勢,也正是它使這款Databricks AI智能體區別於其他僅依靠功能取勝的RAG工具。

對於運行大量AI 驅動查詢的企業而言,延遲和成本會迅速累積。將響應時間縮短近一半,同時降低三分之一的成本,這絕非微不足道的改進——它改變了大規模部署代理在財務上是否可持續的計算方式。這很可能是 Databricks 如此大力推廣這一策略的真正原因:企業買家更關心的是系統每天的運行成本,而不是基準測試的炫耀資本。

Agent Bricks平臺及生態系統背景

KARL 並非獨立運行的工具,而是隸屬於一個名爲Agent Bricks 的更廣泛框架。Databricks 於 2026 年 9 月推出了 Agent Bricks,這是一個用於構建自動優化、特定領域代理的平臺。Agent Bricks 的核心理念是,企業無需手動調整部署的每個模型——該平臺會自動調整代理行爲,以適應以簡單語言定義的任務類型。

平臺功能和治理

Agent Bricks 支持包括 Claude 和 GPT 變體在內的主流模型提供商,並通過 Databricks 的 Unity Catalog 進行管理。Databricks 還爲其 AI 搜索產品添加了重排序功能——該功能會在將初始檢索到的文檔批次傳遞給語言模型之前,對其相關性進行重新評分。據 Databricks 稱,這一重排序步驟已使企業基準測試的準確率提高了約 15 個百分點。

自發布以來的採用率指標

自 Agent Bricks 於 2026 年 9 月推出以來,該平臺上已構建了超過 10 萬個代理。這一規模表明,企業正逐漸將代理部署視爲標準基礎設施,而非實驗性的附屬項目——這一轉變對於人工智能搜索優化技術能否在早期採用者之外的各行各業快速普及至關重要。

Databricks 表示,並行思考和多層學習模型(LLM)設計等專門技術已將某些任務類型的準確率從約32%提升至 90% 以上。這是一個顯著的飛躍,也表明了爲何將多個優化層(強化學習、上下文壓縮、重排序和多模型協調)結合起來,而非依賴單一技巧,纔是真正提升性能的關鍵所在。

Databricks的企業人工智能商業模式和定位

KARL 和 Agent Bricks 所揭示的 Databricks 更廣泛的戰略意義,或許比任何單一的基準數據都更爲重要。Databricks 並非試圖構建或銷售基礎模型來與 Anthropic 或 OpenAI 直接競爭。相反,該公司銷售的是使這些基礎模型能夠在企業級規模下可用、經濟高效且易於使用的基礎設施。

這種區別至關重要。Databricks 以低於 Claude Opus 4.6 三分之一的成本,實現了與其相同的準確率,從而在企業級人工智能市場中佔據了中間位置——其價值不在於模型本身,而在於如何高效地部署、管理和擴展模型,使其在整個組織內得到有效利用。隨着越來越多的公司開始權衡運行人工智能代理的總成本,而不僅僅是其原始性能,這種以基礎設施爲先導的方法可能會成爲一種競爭優勢,比單一的基準測試分數更難複製。

常問問題

KARL人工智能代理的主要創新點是什麼?

KARL 使用強化學習來學習何時停止檢索上下文,從而避免冗餘處理並提高效率。

KARL 的性能與 Claude Opus 4.6 相比如何?

KARL 的精度與 Claude Opus 4.6 相當,但成本降低了33% ,延遲降低了 47%。

Agent Bricks平臺是什麼?

Agent Bricks 是 Databricks 於 2026 年 9 月推出的一個平臺,用於構建自動優化的、特定領域的 AI 代理,並通過 Unity Catalog 支持主要模型和治理。

Databricks是否直接銷售基礎模型?

不,Databricks 出售的是支持擴展和使用基礎模型的基礎設施,而不是模型本身。

本文由人工智能輔助生成,並經編輯團隊審覈。

推薦閱讀