当前位置: 首页 > news >正文

SpringAI 学习笔记

   随着AI的发展,我们的编程也发生了改变,那么AI给我们带来了哪些改变和提升呢?本文就Spring AI框架引入大模型来看一下基于SpringAI框架下的大模型开发。

一、大模型部署

   首先,我们看一下国内的大模型的部署,这里使用的是阿里云百炼:

Ollama下载ollama并安装: Ollama 

运行:

此时,一个Deepseek的本地大模型就部署完成,我们测试一下:

二、大模型调用

使用Postmain调用:

                                   三、SpringAI

3.1 对话机器人

3.1.1创建spring boot项目,并导入以下依赖:

<dependencies><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-web</artifactId></dependency><dependency><groupId>org.springframework.ai</groupId><artifactId>spring-ai-ollama-spring-boot-starter</artifactId></dependency><dependency><groupId>com.mysql</groupId><artifactId>mysql-connector-j</artifactId><scope>runtime</scope></dependency><dependency><groupId>org.projectlombok</groupId><artifactId>lombok</artifactId><version>1.18.22</version></dependency><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-test</artifactId><scope>test</scope></dependency>
</dependencies>

注意:上面的lombok推荐使用手动配置,不要使用spring boot创建时自带的(有问题)

3.1.2 配置文件
spring:application:name: ollama-aiai:ollama:
#      base-url: http://localhost:11434chat:model: deepseek-r1:1.5b
3.1.3 配置类
package com.song.ollama.config;import org.springframework.ai.chat.client.ChatClient;
import org.springframework.ai.ollama.OllamaChatModel;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;/*** @author TonySong* @date 2025/4/11 0011* @time 17:32*/
@Configuration
public class CommonConfig {@Beanpublic ChatClient chatClient(OllamaChatModel ollamaChatModel) {return ChatClient.builder(ollamaChatModel).build();}
}
3.1.4 控制器
package com.song.ollama.controller;import lombok.RequiredArgsConstructor;
import org.springframework.ai.chat.client.ChatClient;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;/*** @author TonySong* @date 2025/4/11 0011* @time 17:39*/
@RestController
@RequestMapping("/ai")
@RequiredArgsConstructor//启用带参构造完成创建
public class ChatController {private final ChatClient chatClient;//    public ChatController(ChatClient chatClient) {
//        this.chatClient = chatClient;
//    }@RequestMapping("/chat") public String chat(@RequestParam(value = "message",defaultValue = "你是谁") String message) {return chatClient.prompt().user(message).call().content();}
}

测试并检查输出结果:

以上的输出需要等待一会儿(阻塞式),修改代码为非阻塞(Stram)调用:

@RequestMapping("/chat")
public Flux<String> chat(@RequestParam(value = "message",defaultValue = "你是谁") String message) {return chatClient.prompt().user(message).stream().content();
}

我们可以看到输出结果是乱码,修改代码:

@RequestMapping(value = "/chat",produces = "text/html;charset=utf-8")
public Flux<String> chat(@RequestParam(value = "message",defaultValue = "你是谁") String message) {return chatClient.prompt().user(message).stream().content();
}
3.1.5 会话日志

修改配置类:

@Configuration
public class CommonConfig {@Beanpublic ChatClient chatClient(OllamaChatModel ollamaChatModel) {return ChatClient.builder(ollamaChatModel).defaultAdvisors(new SimpleLoggerAdvisor()) //新增简单日志.build();}
}

修改配置文件,新增日志相关:

logging:level:org.springframework.ai.chat.client.advisor: debugcom.song.ollama: debug

此时,我们看控制台输出:

3.1.6 会话记忆

在配置类中,新增如下代码:

@Bean
public ChatMemory chatMemory() {return new InMemoryChatMemory(); 
}
@Bean
public ChatClient chatClient(OllamaChatModel ollamaChatModel,ChatMemory chatMemory) {return ChatClient.builder(ollamaChatModel).defaultAdvisors(new SimpleLoggerAdvisor(),new MessageChatMemoryAdvisor(chatMemory)).build();
}
3.1.7 会话历史

新增接口:

public interface ChatHistoryRepository {/*** 保存会话记录* @param type* @param charId*/void save(String type,String charId);/*** 获取会话记录* @param type* @return*/List<String> getChatIds(String type);
}

接口实现:

package com.song.ollama.repository;import org.springframework.stereotype.Component;import java.util.ArrayList;
import java.util.HashMap;
import java.util.List;
import java.util.Map;/*** @author TonySong* @date 2025/4/12 0012* @time 10:35*/
@Component
public class InMemoryChatRepository implements ChatHistoryRepository{private final Map<String,List<String>> chatHistory= new HashMap<>();@Overridepublic void save(String type, String charId) {
//        if(!chatHistory.containsKey(type)){
//            chatHistory.put(charId,new ArrayList<>());
//        }
//        List<String> charIds = chatHistory.get(type);List<String> charIds = chatHistory.computeIfAbsent(type, k -> new ArrayList<>());if(charIds.contains(charId)){return;}charIds.add(charId);}@Overridepublic List<String> getChatIds(String type) {
//        List<String> list = chatHistory.get(type);
//        return list==null? List.of():list;return chatHistory.getOrDefault(type,List.of());}
}

修改会话实现:

package com.song.ollama.controller;import com.song.ollama.repository.ChatHistoryRepository;
import lombok.RequiredArgsConstructor;
import org.springframework.ai.chat.client.ChatClient;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;
import reactor.core.publisher.Flux;/*** @author TonySong* @date 2025/4/11 0011* @time 17:39*/
@RestController
@RequestMapping("/ai")
@RequiredArgsConstructor//启用带参构造完成创建
public class ChatController {private final ChatClient chatClient;private final ChatHistoryRepository  chatHistoryRepository;@RequestMapping(value = "/chat",produces = "text/html;charset=utf-8")public Flux<String> chat(@RequestParam(value = "message",defaultValue = "你是谁") String message) {//1、保存会话chatHistoryRepository.save("chat",message);//2、获取会话return chatClient.prompt().user(message).stream().content();}
}

相关文章:

  • 斐波那契数列计算:数据结构与算法视角
  • 【MySQL】初识数据库
  • HDFS入门】HDFS安全与权限管理解析:从认证到加密的完整指南
  • TypeScript 从入门到精通:完整教程与实战应用(一)
  • git 出现 port 443 Connection timed out
  • AIGC产品如何平衡用户体验与内容安全?
  • 通过 Zotero 的样式编辑器(Style Editor)自定义文献引用和参考文献列表的格式
  • pdfjs库使用记录1
  • 2026《数据结构》考研复习笔记三(C++高级教程)
  • 【“星瑞” O6 评测】—NPU 部署 face parser 模型
  • Windows .NET Core 应用程序部署到 IIS 解决首次访问加载慢的问题
  • 基于DeepSeek的考研暑假日志分析
  • Transformer 架构 - 解码器 (Transformer Architecture - Decoder)
  • 【前端HTML生成二维码——MQ】
  • Web3区块链网络中数据隐私安全性探讨
  • 重构未来智能:Anthropic 解码Agent设计哲学三重奏
  • 【Pandas】pandas DataFrame isin
  • 4.17-4.18学习总结 多线程
  • 从零开始物理引擎(六)- 重构完成与MVP理解
  • 济南通过首个备案生活服务大模型,打造行业新标杆
  • 释新闻|印度宣布“掐断”巴基斯坦水源,对两国意味着什么?
  • 最大规模的陈逸飞大展启幕:回望他,回望一个时代
  • 交通枢纽、产业升级,上海松江新城有这些发展密码
  • 专访倪军:人要有终身学习能力,一张文凭无法像以往支撑那么多年
  • 王沪宁会见越共中央委员、越南祖国阵线中央副主席兼秘书长阮氏秋荷
  • 给印度立“人设”:万斯访印祭出美国关税战新招,但效果存疑