Databricks 推出 ai_decide:面向受治理数据的快速决策 AI 函数
Databricks 发布 AI 函数 ai_decide,可在受治理数据上以亚秒级速度返回结构化决策,用于模型路由、文档处理与智能体评估等场景,目前处于 Beta 阶段。
核心事实
Databricks 在其官方博客发布名为 ai_decide 的新 AI 函数。据该博客介绍,ai_decide 是 Databricks 原生的 AI Function,接收非结构化文本,针对一个或多个问题返回结构化决策,形式包括概率值、从命名条件中选择的选项,或有序量表上的评分。该函数可在 SQL 中调用以批量处理数据,也可通过 REST API 用于实时应用与智能体。博客称其目前处于 Beta 阶段,并提到该函数由决策模型驱动,文中点名 TypeSafe AI 的 Jev,且对已使用 TypeSafe AI API 的团队保持兼容。
背景与影响
Databricks 在博客中表示,许多团队把大语言模型用于并不需要复杂推理与文本生成的任务,例如判断工单类别、决定文档是否需要人工复核、或选择由哪个模型处理某条提示词。这类高频、结构化的判断在大规模场景下会带来额外的延迟与成本。ai_decide 的定位正是针对此类场景:博客称其针对决策而非文本生成做了优化,因此在类似任务上延迟与成本低于大语言模型。文中列举的用例包括:用一条 SQL 查询为客户评论打上问题类型与退货意向标签;判断提示词的推理难度并据此路由到相应模型;作为评审判断 AI 生成答案是否符合退款政策;以及用于实时应用中的下一步动作决策,博客称其团队用 Databricks Apps 搭建了一个由 ai_decide 驱动的贪吃蛇演示。
限制与来源
上述性能与成本表述均来自 Databricks 官方博客,本站未做独立验证,也未获得可核实的基准数据。ai_decide 目前为 Beta 版本,其可用范围、调用方式、配额与计费方式可能随版本调整,具体以 Databricks 官网当前信息为准。博客同时提到,除托管函数外,还存在开放权重的决策模型生态,可在 Databricks 上以 SQL 方式自行部署运行。本文信息来源于 Databricks 博客文章《Introducing ai_decide: make fast decisions on your governed data》。