Solon AI 正试发布（支持 java8+，RAG，MCP）

Solon AI 正试发布了（版号，随 Solon v3.3.1）。历时小半年。

1、简介

Solon AI 是一个 Java AI（智能体） 全场景应用开发框架，提供有丰富的接口能力。主要支持的的智能体开发场景有：Chat；RAG；MCP；AiFlow。

其中 ChatModel 是 Solon AI 的核心模型接口（其它暂略），通过方言的方式（ChatDialect）可适配各种环境（或平台）提供的大语言模型。

2、历时回顾

3、体验展示

• ChatModel

public void call(ChatModel chatModel) throws IOException {
    chatModel.prompt("hello").call();
}

public void stream(ChatModel chatModel) throws IOException {
    chatModel.prompt("hello").stream();
}

public void toolCall(ChatModel chatModel) throws IOException {
    chatModel.prompt("今天杭州的天气情况？")
        .options(o -> o.toolsAdd(new WeatherTools())
        .call();
}

public void session(ChatModel chatModel) throws IOException {
    ChatSession chatSession = new ChatSessionDefault("session-1"); 
    
    chatSession.addMessage(ChatMessage.ofUser("今天杭州的天气情况？")); 
    
    chatModel.prompt(chatSession)
        .options(o -> o.toolsAdd(new WeatherTools())
        .stream();
}

• RAG

public void init(ChatModel chatModel, RepositoryStorable repository) throws IOException {
    PdfLoader loader = new PdfLoader(new File("lzsite.pdf")).additionalMetadata("file", "lzsite.pdf");

    List<Document> documents = new SplitterPipeline() 
                    .next(new RegexTextSplitter("\n\n"))
                    .next(new TokenSizeTextSplitter(500))
                    .split(loader.load());

    repository.insert(documents);
}

public void search(ChatModel chatModel, RepositoryStorable repository) throws IOException {
    String query = "良渚遗址公司有哪些景点？"
    
    //知识库检索
    List<Document> context = repository.search(message);
    
    //消息增强
    ChatMessage message = ChatMessage.augment(query, context)
    
    chatModel.prompt(message).call();
}

• MCP-server

@McpServerEndpoint(sseEndpoint = "/mcp/sse")
public class McpServerTool {
    @ToolMapping(description = "查询天气预报")
    public String getWeather(@Param(description = "城市位置") String location) {
        return "晴，14度";
    }

    @ResourceMapping(uri = "config://app-version", description = "获取应用版本号", mimeType = "text/config")
    public String getAppVersion() {
        return "v3.2.0";
    }
    
    @ResourceMapping(uri = "db://users/{user_id}/email", description = "根据用户ID查询邮箱")
    public String getEmail(@Param(description = "用户Id") String user_id) {
        return user_id + "@example.com";
    }

    @PromptMapping(description = "生成关于某个主题的提问")
    public Collection<ChatMessage> askQuestion(@Param(description = "主题") String topic) {
        return Arrays.asList(ChatMessage.ofUser("请解释一下'" + topic + "'的概念？"));
    }
}

• MCP-client

public void client(ChatModel chatModel){
    McpClientProvider clientProvider = McpClientProvider.builder()
                .apiUrl("http://localhost:8080/mcp/sse")
                .build();
                
    String rst = clientProvider.callToolAsText("getWeather", Map.of("location", "杭州"))
                               .getContent();
                               
                               
    chatModel.prompt("杭州今天的天气怎么样？")
                .options(options -> { options.toolsAdd(clientProvider))
                .call();
}

• AiFlow

id: helloworld
layout:
  - task: "@VarInput"
    meta:
      message: "你好"
  - task: "@ChatModel"
    meta:
      chatConfig: # "@type": "org.noear.solon.ai.chat.ChatConfig"
        provider: "ollama"
        model: "qwen2.5:1.5b"
        apiUrl: "http://127.0.0.1:11434/api/chat"
  - task: "@ConsoleOutput"

# flowEngine.eval("helloworld");

4、最近更新日志

• 新增 solon-ai-flow 插件
• 新增 solon-ai-load-ddl 插件
• 添加 solon-ai-core ChatMessage:ofUser(media) 方法
• 添加 solon-ai-core ChatSession:addMessage(ChatPrompt) 方法
• 添加 solon-ai-core ChatSession:addMessage(Collection) 方法
• 添加 solon-ai-core RerankingConfig,RerankingModel toString 方法
• 添加 solon-ai-core 模型的网络代理支持（支持简单配置，和复杂构建）
• 添加 solon-ai-mcp 客户端的网络代理简单配置支持
• 添加 solon-ai-mcp messageEndpoint 端点配置支持（应对特殊需求，一般自动更好）
• 添加 solon-ai-mcp ToolMapping,ResourceMapping 注解方法对 Produces 注解的支持（用它可指定结果转换处理）
• 添加 solon-ai-mcp ToolCallResultConverter:matched 方法
• 添加 solon-ai-mcp 资源模板的响应适配
• 添加 solon-ai-mcp McpClientProvider:getResourceTemplates 方法
• 添加 solon-ai-mcp 检查原语是否存在的方法（hasTool, hasPrompt, hasResource）
• 添加 solon-ai-mcp 提示语支持 UserMessage 拆解成多条 mcp 内容（如果，同时有媒体和文本的话）
• 优化 solon-ai-core tool 空参数时的不同大模型兼容性
• 优化 solon-ai-core ChatSession 的作用，为限数提供支持
• 优化 solon-ai-core MethodFunctionTool 移除对 Mapping 注解的支持（语意更清楚，之前 MethodToolProvider 已经移除，这个落了）
• 优化 solon-ai-core EmbeddingRequest，ImageRequest，RerankingRequest 当 resp.getError() 非 null 时，直接出抛异常
• 优化 solon-ai-mcp 取消 MethodFunctionResource 对反回类型的限制（增加了 resultConverter 转换处理）
• 优化 solon-ai-mcp McpServerEndpointProvider 支持零添加原语，postStart 后，可添加原语
• 修复 solon-ai ChatRequestDefault:stream 请求 r1 时，可能会产生两次 tink 消息发射