当前位置: 首页 > news >正文

SpringAI系列 - ToolCalling篇(二) - 如何设置应用侧工具参数ToolContext(有坑)

目录

    • 一、引言
    • 二、集成ToolContext示例
      • 步骤1: 在`@Tool`标注的工具方法中集成`ToolConext`参数
      • 步骤2:`ChatClient`运行时动态设置`ToolContext`参数
    • 三、填坑

一、引言

在使用AI大模型的工具调用机制时,工具参数都是由大模型解析用户输入上下文获取的,由大模型提供参数给本地工具调用。对于那些涉密数据(access_token、app_secret等)、租户标识(tenant_id等)、用户身份(user_id等)又或者无法根据用户输入上下文获取到的参数,Spring AI 支持通过 ToolContext API 传递额外的应用侧(客户端)参数给工具调用,如此应用侧在执行工具调用的过程中,便可获取到应用侧传递的上下文参数,同时又可获取到AI大模型传递的工具参数。

在这里插入图片描述

相较于原Tool Calling调用流程,使用Tool Context机制后的流程主要变化在第1步第3步

  • 第1步: 除了提供

相关文章:

  • 【操作幂等和数据一致性】保障业务在MySQL和COS对象存储的一致
  • 大白话实战Gateway
  • 如何优化企业网络架构以提高性能和安全性?
  • Mac 清理缓存,提高内存空间
  • VTK 距离可视化 PolyDataDistance DistancePolyDataFilter
  • 使用 FFmpeg 剪辑视频指南
  • 分布式光纤声波振动技术在钻井泄漏检测中的应用
  • 【UCB CS 61B SP24】Lecture 4 - Lists 2: SLLists学习笔记
  • 在PyCharm中运行Jupyter Notebook的.ipynb文件及其pycharm软件的基础使用
  • 前端循环全解析:JS/ES/TS 循环写法与实战示例
  • windows解压多个文件夹内的zip文件脚本
  • 计算机三级网络技术知识汇总【4】
  • 1005 K 次取反后最大化的数组和(贪心)
  • Electron通过ffi-napi调用dll导出接口
  • MacOS安装Emacs
  • 【Mermaid图表渲染错误分析与解决方案之关键字错误】
  • 读书笔记:要点提炼《基于大模型的RAG应用开发与优化——构建企业级LLM应用》(严灿平)
  • 计算机科学与技术
  • GPT2 模型训练
  • 本地文件共享——HFS
  • 谷歌一季度利润增超四成:云业务利润率上升,宏观环境可能影响广告业务
  • 外卖口水战四天,京东美团市值合计蒸发超千亿港元
  • 专访倪军:人要有终身学习能力,一张文凭无法像以往支撑那么多年
  • 《哪吒之魔童降世》电影版权方诉《仙侠神域》游戏运营方侵权案开庭
  • 广东东莞调整普通住宅价格标准:一类镇街上浮300余元/平方米
  • 俄外长拉夫罗夫将出席金砖国家外长会