人工智能前沿技术解读 · 按栏目浏览全部文章

寻想集团-超级人工智能有限公司全部文章

你的技术前沿之旅,从这里开始

工具调用是如何被实现的

模型不直接执行动作,而是产出一段结构化的调用意图,由外部系统真正执行。

深色桌面上的机械键盘与一块微微发光的接口文档屏幕,炭黑配色并带一处黄色点缀光。
外部工具调用链路示意。

一、模型输出的是意图

函数调用的基本做法是把可用工具的名称、参数与用途描述提供给模型,模型返回工具名与参数。执行由宿主程序完成,再把结果作为新一轮输入交回模型。这条边界让模型不必、也不应直接持有执行权限。

二、工具描述质量决定调用质量

参数命名、描述清晰度与示例会显著影响调用是否正确。描述含糊、职责相近的工具更容易被误选。工具数量多时还需要先做检索缩小候选集。

三、失败与重试要显式处理

参数校验失败、返回为空、超时都需要不同处理。把这些情况统一成一次错误回传,模型往往无法区分该重试还是换方法。

四、权限边界要显式

模型产出的调用只是意图,真正的执行必须经过权限校验。写操作与只读操作应当使用不同的凭据,并保留可审计的调用记录。

五、可核对的来源

Toolformer: Language Models Can Teach Themselves to Use Tools,arXiv:2302.04761。

ReAct: Synergizing Reasoning and Acting in Language Models,arXiv:2210.03629。

六、适用边界

权限与沙箱策略属于系统设计范畴,需要结合实际部署环境确定。