你的技术前沿之旅,从这里开始
工具调用是如何被实现的
模型不直接执行动作,而是产出一段结构化的调用意图,由外部系统真正执行。

一、模型输出的是意图
函数调用的基本做法是把可用工具的名称、参数与用途描述提供给模型,模型返回工具名与参数。执行由宿主程序完成,再把结果作为新一轮输入交回模型。这条边界让模型不必、也不应直接持有执行权限。
二、工具描述质量决定调用质量
参数命名、描述清晰度与示例会显著影响调用是否正确。描述含糊、职责相近的工具更容易被误选。工具数量多时还需要先做检索缩小候选集。
三、失败与重试要显式处理
参数校验失败、返回为空、超时都需要不同处理。把这些情况统一成一次错误回传,模型往往无法区分该重试还是换方法。
四、权限边界要显式
模型产出的调用只是意图,真正的执行必须经过权限校验。写操作与只读操作应当使用不同的凭据,并保留可审计的调用记录。
五、可核对的来源
Toolformer: Language Models Can Teach Themselves to Use Tools,arXiv:2302.04761。
ReAct: Synergizing Reasoning and Acting in Language Models,arXiv:2210.03629。
六、适用边界
权限与沙箱策略属于系统设计范畴,需要结合实际部署环境确定。