给个人站加一个 AI 助手:把知识库和 17 个工具接进对话里
2 tok/s 的本地模型跑不动自主 Agent,所以做成工具路由器:模型只选工具,确定性计算交给代码。这篇记录 17 个工具、SSE 流式、五个坑(哈希被编造、工具名混淆、重复调用、嵌套 JSON、nginx 60 秒掐断)和线上实测。
共 1 篇 · 返回博客首页
2 tok/s 的本地模型跑不动自主 Agent,所以做成工具路由器:模型只选工具,确定性计算交给代码。这篇记录 17 个工具、SSE 流式、五个坑(哈希被编造、工具名混淆、重复调用、嵌套 JSON、nginx 60 秒掐断)和线上实测。