Spring AI，作為行業(yè)領導者，通過其強大、靈活的API和先進的功能，為各種行業(yè)提供了顛覆性的解決方案。在本專題中，我們將深入探討Spring AI在各領域的應用示例，每個案例都將展示Spring AI如何滿足特定需求，實現(xiàn)目標，并將這些LESSONS LEARNED擴展到更廣泛的應用。希望這個專題能對你有所啟發(fā)，更深入地理解和利用Spring AI的無限可能。

Spring框架在軟件開發(fā)領域已經(jīng)有超過20年的歷史，自Spring Boot 1.0版本發(fā)布以來已有10年。現(xiàn)在，無人會質(zhì)疑，Spring創(chuàng)造了一種獨特的風格，使開發(fā)者從重復任務中解放出來，專注于提供業(yè)務價值。隨著時間的推移，Spring的技術深度不斷增強，涵蓋了廣泛的開發(fā)領域和技術。另一方面，隨著更多的專用解決方案得到嘗試，概念的驗證被創(chuàng)建，并最終在項目的保護下得到推廣，其技術廣度不斷擴大。

Spring AI 項目就是一個實例，根據(jù)其參考文檔，該項目旨在簡化當生成式人工智能層需要被引入應用時的開發(fā)過程。開發(fā)者再次從重復任務中解放出來，可以直接通過簡單的接口與預先訓練的模型（包含實際處理算法）進行交互。

通過直接或者通過 Spring AI 以編程方式與生成式預訓練的轉(zhuǎn)換器（GPTs）交互，用戶（開發(fā)者）不需要擁有廣泛的機器學習知識。但作為一名工程師，我強烈認為，即使這些開發(fā)者工具可以方便快捷地使用并產(chǎn)生結(jié)果，我建議我們需要克制自己，警覺觀察，嘗試首先理解基本概念。此外，通過遵循這條路徑，產(chǎn)出的結(jié)果可能會更有價值。

目的

本文介紹了如何將 Spring AI 集成到Spring Boot應用，與OpenAI進行編程交互。我們假定prompt設計一般來說是一種最先進的活動。因此，在實驗過程中使用的prompt非常有教導性，但應用性不大。此處的重點是通訊接口，即 Spring AI API。

實施前

首先要明確自身使用GPT解決方案的理由，除了希望提供更好的質(zhì)量，節(jié)省時間和降低成本。

生成式人工智能據(jù)說擅長執(zhí)行大量耗時的任務，速度更快，效率更高，生成結(jié)果。此外，如果這些結(jié)果進一步經(jīng)過經(jīng)驗豐富且智慧的人類驗證，獲得有用結(jié)果的可能性會增加。

接下來，應抵制立即跳入實施的誘惑，至少要花一些時間熟悉一下一般概念。對生成式人工智能概念的深入探索遠遠超出了本文的范圍。然而，出現(xiàn)在交互中的“主要角色”在下面簡要概述。

舞臺 - 生成式人工智能是人工智能的一部分
輸入 - 提供的數(shù)據(jù)（輸入）
輸出 - 計算結(jié)果（輸出）
大型語言模型（LLM）- 根據(jù)解釋的輸入產(chǎn)生輸出的微調(diào)算法
提示詞- 一種最先進的接口，通過它將輸入傳入模型
提示詞模板 - 允許構(gòu)造結(jié)構(gòu)化參數(shù)化提示的組件
令牌 - 算法在內(nèi)部將輸入轉(zhuǎn)換為令牌，然后使用這些令牌來編譯結(jié)果，并最終從中構(gòu)造輸出
模型的環(huán)境窗口 - 模型限制每次調(diào)用的令牌數(shù)量的閾值（通常，使用的令牌越多，操作就越昂貴）

最后，可以開始實施，但隨著實施的進行，建議回顧和優(yōu)化前兩個步驟。

提示詞

在本次練習中，我們請求如下：

Write {count = three} reasons why people in {location = Romania} should consider a {job = software architect} job. 
These reasons need to be short, so they fit on a poster. 
For instance, "{job} jobs are rewarding."

上面內(nèi)容代表了提示詞模板。按照建議，應作為提示詞的一部分提供清晰的主題，清晰的任務含義以及額外的有用信息，以提高結(jié)果的準確性。

提示詞包含三個參數(shù)

count - 希望作為輸出的原因數(shù)量
job - 感興趣的領域或工作
location - 工作申請者所在的國家，城鎮(zhèn)，地區(qū)等

概念驗證

在這篇文章中，簡單的概念驗證目標如下：

將 Spring AI 集成到Spring Boot應用程序并使用它
允許客戶端通過應用程序與 Open AI 進行通信
客戶端向應用程序發(fā)出參數(shù)化的HTTP請求
應用程序使用一個提示詞來創(chuàng)建輸入，發(fā)送給 Open AI 并獲取輸出
應用程序?qū)㈨憫l(fā)送給客戶端

圖片

項目設置

Java 21
Maven 3.9.2
Spring Boot – v. 3.2.2
Spring AI – v. 0.8.0-SNAPSHOT (仍在開發(fā)，實驗性)

代碼實現(xiàn)

Spring AI 集成

通常，這是一個基本步驟，不一定值得一提。然而，因為 Spring AI 目前以快照形式發(fā)布，為了能夠集成 Open AI 自動配置依賴，你需要添加一個引用到 Spring 快照倉庫。

<repositories>
    <repository>
        <id>spring-milestones</id>
        <name>Spring Milestones</name>
        <url>https://repo.spring.io/milestone</url>
        <snapshots>
            <enabled>false</enabled>
        </snapshots>
    </repository>
    <repository>
        <id>spring-snapshots</id>
        <name>Spring Snapshots</name>
        <url>https://repo.spring.io/snapshot</url>
        <releases>
            <enabled>false</enabled>
        </releases>
    </repository>
</repositories>

下一步是添加 spring-ai-openai-spring-boot-starter Maven 依賴項。

<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-openai-spring-boot-starter</artifactId>
    <version>0.8.0-SNAPSHOT</version>
</dependency>

Open AI ChatClient 現(xiàn)在是應用程序類路徑的一部分。它是用來向 Open AI 發(fā)送輸入并獲取輸出的組件。

為了能夠連接到AI模型，需要在 application.properties 文件中設置 spring.ai.openai.api-key 屬性。

spring.ai.openai.api-key = api-key-value

它的值代表了用戶的有效API密鑰，用戶將通過此密鑰進行通信。通過訪問[資源2]，可以注冊或登錄并生成一個。

客戶端 - Spring Boot應用程序通信

概念驗證的第一部分是客戶端應用程序（例如瀏覽器，curl等）與開發(fā)的應用程序之間的通信。這是通過一個 REST 控制器實現(xiàn)的，可以通過HTTP GET請求訪問。

URL路徑是 /job-reasons，還有之前在定義提示時概述的三個參數(shù)，這將導致如下格式：

/job-reasons?count={count}&job={job}&locatinotallow={location}

和相應的控制器：

@RestController
public class OpenAiController {
 
    @GetMapping("/job-reasons")
    public ResponseEntity<String> jobReasons(@RequestParam(value = "count", required = false, defaultValue = "3") int count,
                                             @RequestParam("job") String job,
                                             @RequestParam("location") String location) {
        return ResponseEntity.ok().build();
    }
}

由于來自 Open AI 的響應將是一個字符串，因此控制器返回一個封裝了字符串的ResponseEntity。如果我們運行應用程序并發(fā)出請求，當前響應體部分沒有返回任何內(nèi)容。

客戶端 - Open AI 通信

Spring AI 目前主要關注處理語言并產(chǎn)生語言或數(shù)字的AI模型。在前一類別中， Open AI 模型的例子包括GPT4-openai或GPT3.5-openai。

為了與這些AI模型（實際上是指 Open AI 算法）進行交互， Spring AI 提供了一個統(tǒng)一的接口。

ChatClient接口目前支持文本輸入和輸出，并具有簡單的契約。

@FunctionalInterface
public interface ChatClient extends ModelClient<Prompt, ChatResponse> {
    default String call(String message) {
        Prompt prompt = new Prompt(new UserMessage(message));
        return call(prompt).getResult().getOutput().getContent();
    }
 
    ChatResponse call(Prompt prompt);
}

確實如此，功能接口的實際方法通常是被使用的方法。

在我們的概念驗證中，這正是我們所需要的，一種調(diào)用 Open AI 并發(fā)送目標參數(shù)化 Prompt 作為參數(shù)的方式。我們定義了以下的OpenAiService，在其中注入了一個 ChatClient 的實例。

@Service
public class OpenAiService {
 
    private final ChatClient client;
 
    public OpenAiService(OpenAiChatClient aiClient) {
        this.client = aiClient;
    }
     
    public String jobReasons(int count, String domain, String location) {
        final String promptText = """
                Write {count} reasons why people in {location} should consider a {job} job.
                These reasons need to be short, so they fit on a poster.
                For instance, "{job} jobs are rewarding."
                """;
 
        final PromptTemplate promptTemplate = new PromptTemplate(promptText);
        promptTemplate.add("count", count);
        promptTemplate.add("job", domain);
        promptTemplate.add("location", location);
 
        ChatResponse response = client.call(promptTemplate.create());
        return response.getResult().getOutput().getContent();
    }
}

如果應用程序正在運行，那么可以從瀏覽器執(zhí)行以下請求：

http://localhost:8080/gen-ai/job-reasons?count=3&job=software%20architect&locatinotallow=Romania

這下面的結(jié)果被檢索出來的結(jié)果：

利潤豐裕的職業(yè)：軟件架構(gòu)師的工作提供了有競爭力的薪酬和出色的增長機會，確保在羅馬尼亞的財務穩(wěn)定和成功。
熱門職業(yè)：隨著技術需求的持續(xù)增長，軟件架構(gòu)師在羅馬尼亞和全世界都備受追捧，提供了豐富的就業(yè)前景和就業(yè)保障。
創(chuàng)造性問題解決：軟件架構(gòu)師在設計和開發(fā)創(chuàng)新軟件解決方案中扮演著至關重要的角色，使他們可以釋放他們的創(chuàng)造力，并對各種行業(yè)產(chǎn)生重大影響。

這就是我們所期望的——一個簡易的接口，通過它，可以要求 Open AI GPT模型寫出一些原因，解釋為何在特定地點的特定工作具有吸引力。

調(diào)整和觀察

到目前為止，開發(fā)的簡單概念驗證主要使用了默認的配置。

ChatClient實例可以通過各種屬性根據(jù)所需需要來配置。雖然這超出了本文的范圍，但在這里舉兩個例子。

spring.ai.openai.chat.options.model 指定要使用的AI模型。默認為'gpt-35-turbo'，但'gpt-4'和'gpt-4-32k'指定的是最新版本。雖然這些版本都是可用的，但你可能無法使用按使用量付費的計劃來訪問這些版本，但 Open AI 網(wǎng)站上有更多的信息可以幫助你了解如何適應它。

另一個值得一提的屬性是 spring.ai.openai.chat.options.temperature。根據(jù)參考文檔，采樣溫度控制了“回應的創(chuàng)新性”。據(jù)說，較高的值會讓輸出“更隨機”，而較低的值會“更專注和決定性”。默認值為0.8，如果我們將其降低到0.3，重啟應用并再次使用相同的請求參數(shù)詢問，下面的結(jié)果將被檢索出來。

有利可圖的職業(yè)機會：羅馬尼亞的軟件架構(gòu)師工作提供有競爭力的薪水和極好的成長前景，對于尋求財務穩(wěn)定和職業(yè)發(fā)展的個人來說，這是一個吸引人的職業(yè)選擇。
具有挑戰(zhàn)性和智能刺激的工作：作為一名軟件架構(gòu)師，你將負責設計和實現(xiàn)復雜的軟件系統(tǒng)，解決復雜的技術問題，并與有才華的團隊合作。這個角色提供了持續(xù)的學習機會和在尖端技術上工作的機會。
高需求和工作保障：隨著對技術和數(shù)字化轉(zhuǎn)型的依賴增加，各行各業(yè)對熟練軟件架構(gòu)師的需求在上升。選擇在羅馬尼亞的軟件架構(gòu)師工作確保了工作安全和廣泛的就業(yè)選擇，無論是在本地還是國際上。

可以看出，這種情況下的輸出更具描述性。

最后一個考慮因素是與獲取的輸出的結(jié)構(gòu)相關的。擁有將實際接收的有效載荷映射到Java對象（例如，類或記錄）的能力將非常方便。截至目前，表示形式是文本形式，實現(xiàn)也是如此。輸出解析器可能實現(xiàn)這一點，類似于Spring JDBC的映射結(jié)構(gòu)。

在這個概念驗證中，我們使用了一個BeanOutputParser，它允許直接將結(jié)果反序列化到Java記錄中，如下所示：

public record JobReasons(String job,
                         String location,
                         List<String> reasons) {
}

通過將 {format} 作為提示文本的一部分，并將其作為指示提供給 AI 模型。

OpenAiService 方法變?yōu)椋?/span>

public JobReasons formattedJobReasons(int count, String job, String location) {
    final String promptText = """
            Write {count} reasons why people in {location} should consider a {job} job.
            These reasons need to be short, so they fit on a poster.
            For instance, "{job} jobs are rewarding."
            {format}
            """;
 
    BeanOutputParser<JobReasons> outputParser = new BeanOutputParser<>(JobReasons.class);
 
    final PromptTemplate promptTemplate = new PromptTemplate(promptText);
    promptTemplate.add("count", count);
    promptTemplate.add("job", job);
    promptTemplate.add("location", location);
 
    promptTemplate.add("format", outputParser.getFormat());
    promptTemplate.setOutputParser(outputParser);
 
    final Prompt prompt = promptTemplate.create();
 
    ChatResponse response = client.call(prompt);
    return outputParser.parse(response.getResult().getOutput().getContent());
}

再次調(diào)用時，輸出如下：

{
    "job":"software architect",
    "location":"Romania",
    "reasons":[
        "High demand",
        "Competitive salary",
        "Opportunities for growth"
    ]
}

格式符合預期，但解釋的原因似乎較少，這意味著需要進行額外的調(diào)整以達到更好的可用性。然而，從概念驗證的角度來看，這是可接受的，因為焦點是形式。

結(jié)論

提示設計是任務的重要部分 - 提示越清晰，輸入越好，輸出的質(zhì)量也就越高。

使用 Spring AI 與各種聊天模型進行集成非常簡單 - 本篇文章展示了一個 Open AI 的集成。

然而，對于 Gen AI 或者幾乎任何技術來說，首先至少要熟悉基本概念是非常重要的。然后，嘗試理解如何進行通訊的魔法，最后再開始編寫“生產(chǎn)”代碼。

最后但同樣重要的是，建議進一步探索 Spring AI API，以了解實現(xiàn)并隨著其不斷發(fā)展和改進保持最新狀態(tài)。