有了 Spring AI ，Java 開發AI應用也就簡單多了

作者：王二蛋 2024-11-26 07:33:09

Spring AI解決了AI集成的核心難題：即無縫連接企業數據、API與AI模型，同時也簡化了Java 開發人員對AI應用的編程復雜度，還提供檢索增強生成 (RAG)、函數調用等關鍵功能。

前言

Spring 官方自從發布了 Spring AI，AI 界的門檻兒算是被徹底踹飛了！為什么？因為這就意味著整天只會 CRUD 的 Javaer 們也能開發AI應用了，而且簡單到讓你懷疑人生。那么本文就基于 Spring AI Alibaba 開發一個簡單的 AI 對話應用。

效果展示

Spring AI 實現的AI對話

實現步驟

基于 Spring AI Alibaba 實現這樣一個AI對話非常簡單，只需要幾行代碼就可以完成。可以跟著下面的步驟操作：

創建一個 SpringBoot 項目

Spring AI Alibaba 提供了 SpringBoot starter。所以，第一步就是創建一個SpringBoot項目引入依賴以及配置。

pom.xml文件添加spring-ai-alibaba-starter依賴

<dependencies>
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-web</artifactId>
    </dependency>
    <dependency>
        <groupId>com.alibaba.cloud.ai</groupId>
        <artifactId>spring-ai-alibaba-starter</artifactId>
        <version>1.0.0-M3.1</version>
    </dependency>
</dependencies>

application.yml添加；

server:
  port: 8080

spring:
  application:
    name: spring-ai-alibaba-chat
  ai:
    dashscope:
      api-key: xxxx

配置中的api-key是阿里云百煉大模型平臺的憑證，AI的實現最終會調用該模型。

api-key 申請

這里有兩個事項需要注意：

Spring AI Alibaba 基于 Spring Boot 3.x 開發，所以JDK 版本要求為 17 及以上。
spring-ai 相關依賴包還沒有發布到中央倉庫，本地 Maven 倉庫要添加以下配置。

<repositories>
  <repository>
    <id>spring-milestones</id>
    <name>Spring Milestones</name>
    <url>https://repo.spring.io/milestone</url>
    <snapshots>
      <enabled>false</enabled>
    </snapshots>
  </repository>
</repositories>

編寫與大模型交互的 Controller

項目創建成功之后，只需要寫一個Controller就可以實現與AI對話，代碼如下：

@RestController
@RequestMapping("/ai")
public class AIChatController {

    private final ChatClient chatClient;
    
    public AIChatController(ChatClient.Builder builder) {
        this.chatClient = builder
                .build();
    }


    @GetMapping("/chat")
    public String chat(String message) {
        return this.chatClient.prompt()
                .user(message)
                .call()
                .content();
    }
}

代碼中的ChatClient類似于應用程序開發中的服務層，只不過這里由spring-ai-alibaba-starter自動初始化了實例，可以直接提供 AI 服務，最終會調用百煉大模型。

此時就可以啟動應用，通過瀏覽器訪問localhost:8080/ai/chat?message= 進行對話。

編寫通過頁面進行對話的 html

為了直觀的展示效果，簡單實現一個前端和接口交互，通過頁面進行AI對話。

<!DOCTYPE html>
<html>
<head>
    <meta charset="UTF-8">
    <script src="js/marked.min.js"></script>
    <title></title>
    <style>
        body {
            background-color: #f8f9fa;
            font-family: Arial, sans-serif;
        }

        .container {
            margin: 50px auto;
            width: 800px;
            background-color: #fff;
            padding: 20px;
            border-radius: 5px;
            box-shadow: 0 2px 5px rgba(0, 0, 0, 0.1);
        }

        h1 {
            text-align: center;
            margin-bottom: 30px;
        }

        label {
            display: block;
            margin-bottom: 10px;
            color: #333;
        }

        input[type="text"] {
            width: 85%;
            padding: 10px;
            border: 1px solid #ccc;
            border-radius: 3px;
        }

        input[type="submit"] {
            background-color: #2ecc71;
            color: #fff;
            border: none;
            padding: 10px 20px;
            border-radius: 3px;
            cursor: pointer;
            width: 10%;
        }

        .chat-box {
            width: 100%;
            height: 500px;
            padding: 10px;
            border: 1px solid #ccc;
            border-radius: 3px;
            overflow-y: scroll;
        }

        .message {
            margin-bottom: 10px;
            padding: 10px;
            background-color: #f1f1f1;
            border-radius: 3px;
        }

        .user-message {
            background-color: #2ecc71;
            color: #fff;
        }

        .bot-message {
            background-color: #e6aa6b;
            color: #fff;
        }

        .loader {
            text-align: center;
        }

        .loader::after {
            content: "";
            display: inline-block;
            width: 20px;
            height: 20px;
            border-radius: 50%;
            border: 2px solid #ccc;
            border-top-color: #2ecc71;
            animation: spin 1s infinite linear;
        }

        @keyframes spin {
            to {
                transform: rotate(360deg);
            }
        }
    </style>
</head>
<body>
<div class="container">
    <h1>AI 對話</h1>
    <form id="form" style="width: 47%;position: absolute;bottom: 150px;margin-left:15px">
        <input type="text" id="message" name="message" placeholder="輸入你的問題">
        <input type="submit" value="發送">
    </form>
    <br>
    <div id="loader" class="loader" style="display: none;"></div>
    <div id="chat-box" class="chat-box"></div>
</div>

<script>
    var loader = document.getElementById("loader");

    document.getElementById("form").addEventListener("submit", function(event) {
        event.preventDefault();

        var messageInput = document.getElementById("message");
        var message = messageInput.value;
        messageInput.value = "";

        var chatBox = document.getElementById("chat-box");

        var userMessage = document.createElement("div");
        userMessage.className = "message";
        userMessage.textContent = "我: " + message;
        chatBox.appendChild(userMessage);
        chatBox.scrollTop = chatBox.scrollHeight;

        loader.style.display = "block";

        var xhr = new XMLHttpRequest();
        xhr.open("GET", "http://localhost:8080/ai/chat?message=" + encodeURIComponent(message), true);
        xhr.onreadystatechange = function() {
            if (xhr.readyState === 4) {
                loader.style.display = "none";

                if (xhr.status === 200) {
                    var response = xhr.responseText;

                    var botMessage = document.createElement("div");
                    botMessage.className = "message bot-message";

                    var botMessageText = document.createElement("span");
                    botMessageText.className = "message-text";
                    botMessage.appendChild(botMessageText);
                    botMessageText.innerHTML = marked.marked(response);

                    chatBox.appendChild(botMessage);
                    chatBox.scrollTop = chatBox.scrollHeight;
                } else if (xhr.status === 400) {
                    var error = JSON.parse(xhr.responseText);

                    var errorMessage = document.createElement("div");
                    errorMessage.className = "message bot-message";
                    errorMessage.textContent = "Bot: " + error.message;
                    chatBox.appendChild(errorMessage);
                    chatBox.scrollTop = chatBox.scrollHeight;
                } else {
                    var errorMessage = document.createElement("div");
                    errorMessage.className = "message bot-message";
                    errorMessage.textContent = "Bot: Failed to connect to the backend service. Please make sure the backend service is running.";
                    chatBox.appendChild(errorMessage);
                    chatBox.scrollTop = chatBox.scrollHeight;
                }
            }
        };

        xhr.onloadstart = function() {
            loader.style.display = "block";
        };

        xhr.onloadend = function() {
            loader.style.display = "none";
        };

        xhr.send();
    });
</script>
</body>
</html>

js 引入的 marked.min.js 可以去GitHub或者聯系我獲取。

至此，就實現了文中開頭的AI對話效果。

需要了解的基本知識

上面的示例其實就是一個SpringBoot項目，對于Javaer肯定不陌生。而對于沒有人工智能相關背景的人來說，如果想要基于 Spring AI 開發一個AI應用產品，還是需要了解一些基本概念的。

AI 模型：AI 模型是旨在處理和生成信息的算法，通常模仿人類的認知功能。我們現在基本上聽到的大模型都屬于生成式AI模型，例如ChatGPT、文心一言、通義千問、混元、豆包等。
Prompt：提示詞作為生成式大模型的輸入，可以指導模型生成特定的輸出。如果搭建過智能體就會知道，創建一個智能體首先要設置一些提示詞。
Token：token作為 AI 模型工作原理的基石，輸入時，模型將單詞轉換為token，輸出時，將token轉換回單詞。在現在的AI模型背景下，token就相當于金錢，一次調用的費用就越高。
模型的認知：一個模型的誕生需要在海量的訓練集中進行學習，所以它的認知中沒有未來的知識。如果想讓模型對現有知識產生認知，有微調、檢索增強生成 (RAG)、函數調用這幾種方式。

對于本文示例中來說，每一次的對話就是模型的一次token輸入和輸出。

實現有記憶的對話

如果運行了上面的示例，并且進行了幾輪對話，會發現大模型并不會理解上下文，也無法實現連貫的對話。

就如上面所說的“模型的認知”，大模型不會記錄對話，所以不會產生上下文關聯。例如我接下來的問答中，并沒有按照我的提問生成“冒險的”故事，只是“冒險的”進行了說明。

Spring AI 實現的AI對話

那如何讓大模型能夠追蹤、理解并利用先前對話上下文的能力？

spring-ai 支持基于chat memory的對話記憶。在上面的代碼中，只需要在構建chatClient時添加兩行代碼。

private ChatMemory chatMemory = new InMemoryChatMemory();                                            
                                                                                                     
public AIChatController(ChatClient.Builder builder) {                                                
    this.chatClient = builder                                                                        
            .defaultAdvisors(new MessageChatMemoryAdvisor(chatMemory, UUID.randomUUID().toString(), 10))
            .build();                                                                                
}

UUID 會作為此次對話的唯一標識，ChatMemory會將之前的對話內容記錄下來，每次對模型的輸入就是歷史的對話記錄，最終實現對話記憶。

這種做法最終會影響使用大模型的成本，就如上面所說，輸入和輸出都會影響總token數量，而token就相當于金錢。

總結

Spring AI解決了AI集成的核心難題：即無縫連接企業數據、API與AI模型，同時也簡化了Java 開發人員對AI應用的編程復雜度，還提供檢索增強生成 (RAG)、函數調用等關鍵功能。對于Java 開發人員來講，通過 Spring AI 可以探索更多的 AI 應用場景。

責任編輯：武曉燕來源： Hi程序員

Spring AI 集成