Gunakan Spring Boot dan Spring AI untuk membina aplikasi kecerdasan buatan generatif

Sebagai peneraju industri, Spring+AI menyediakan penyelesaian terkemuka untuk pelbagai industri melalui API yang berkuasa, fleksibel dan fungsi lanjutannya. Dalam topik ini, kami akan menyelidiki contoh aplikasi Spring+AI dalam pelbagai bidang Setiap kes akan menunjukkan cara Spring+AI memenuhi keperluan khusus, mencapai matlamat dan memperluaskan PELAJARAN ini kepada rangkaian aplikasi yang lebih luas. Saya harap topik ini dapat memberi inspirasi kepada anda untuk memahami dan menggunakan kemungkinan Spring+AI yang tidak terhingga dengan lebih mendalam.

Rangka kerja Spring telah berada dalam bidang pembangunan perisian selama lebih daripada 20 tahun, dan sudah 10 tahun sejak versi Spring Boot 1.0 dikeluarkan. Kini, tiada siapa yang boleh mempertikaikan bahawa Spring telah mencipta gaya unik yang membebaskan pembangun daripada tugasan berulang dan memfokuskan pada menyampaikan nilai perniagaan. Dari masa ke masa, kedalaman teknikal Spring terus meningkat, meliputi pelbagai bidang pembangunan dan teknologi. Sebaliknya, keluasan teknikalnya terus berkembang apabila lebih banyak penyelesaian khusus dicuba, bukti konsep dicipta, dan akhirnya dipromosikan di bawah payung projek.

Projek Spring + AI ialah contoh yang, menurut dokumentasi rujukannya, bertujuan untuk memudahkan proses pembangunan apabila keperluan untuk lapisan kecerdasan buatan generatif diperkenalkan ke dalam aplikasi. Pembangun sekali lagi dibebaskan daripada tugasan berulang dan boleh berinteraksi secara langsung dengan model pra-latihan (termasuk algoritma pemprosesan sebenar) melalui antara muka yang mudah.

Dengan berinteraksi dengan transformer pralatihan generatif (GPT) secara langsung melalui AI Spring secara pemprograman, pengguna (pembangun) tidak perlu mempunyai pengetahuan pembelajaran mesin yang meluas. Tetapi sebagai seorang jurutera, saya amat merasakan bahawa walaupun alat pembangun ini boleh digunakan dengan mudah dan cepat serta menghasilkan hasil, saya mencadangkan agar kita perlu menahan diri dan berwaspada dalam cuba memahami konsep asas terlebih dahulu. Tambahan pula, dengan mengikuti laluan ini, output mungkin lebih berharga.

Tujuan

Artikel ini memperkenalkan cara menyepadukan Spring AI ke dalam aplikasi Spring Boot dan berinteraksi secara pemrograman dengan OpenAI. Kami menganggap bahawa reka bentuk secara amnya adalah aktiviti terkini. Oleh itu, gesaan yang digunakan semasa percubaan adalah instruktif tetapi tidak begitu sesuai. Tumpuan di sini adalah pada antara muka komunikasi, Spring AI API.

Sebelum pelaksanaan

Pertama sekali, anda mesti menjelaskan sebab anda menggunakan penyelesaian GPT, selain berharap dapat memberikan kualiti yang lebih baik, menjimatkan masa dan mengurangkan kos.

Pengeluaran AI dikatakan pandai melaksanakan sejumlah besar tugas yang memakan masa, menjana hasil dengan lebih pantas dan cekap. Tambahan pula, kemungkinan memperoleh hasil yang berguna meningkat jika keputusan ini disahkan selanjutnya oleh manusia yang berpengalaman dan bijak.

Seterusnya, tahan godaan untuk melompat terus ke dalam pelaksanaan dan sekurang-kurangnya luangkan sedikit masa untuk membiasakan diri dengan konsep umum. Penerokaan mendalam tentang konsep kecerdasan buatan generatif adalah di luar skop artikel ini. Walau bagaimanapun, "pelakon utama" yang hadir dalam interaksi diterangkan secara ringkas di bawah.

Peringkat - AI Generatif ialah sebahagian daripada kecerdasan buatan
Input - data yang disediakan (input)
Output - hasil pengiraan (output)
Model Bahasa Besar (LLM) - algoritma diperhalusi yang menghasilkan output berdasarkan input yang ditafsirkan
Kata gesaan - antara muka tercanggih yang melaluinya input dihantar ke dalam model
Templat perkataan gesaan - komponen yang membenarkan pembinaan gesaan berparameter berstruktur
Token - algoritma secara dalaman menukar input kepada token dan kemudian gunakan token ini untuk menyusun keputusan dan akhirnya membina output daripada
Tetingkap persekitaran model - ambang di mana model mengehadkan bilangan token setiap panggilan (biasanya, lebih banyak token digunakan, lebih mahal operasi)

Akhirnya, pelaksanaan boleh dimulakan, tetapi semasa pelaksanaan diteruskan, adalah disyorkan untuk menyemak dan mengoptimumkan dua langkah pertama.

Kata Gesaan

Dalam latihan ini, kami meminta perkara berikut:

Write {count = three} reasons why people in {location = Romania} should consider a {job = software architect} job. These reasons need to be short, so they fit on a poster. For instance, "{job} jobs are rewarding."

上面内容代表了提示词模板。按照建议，应作为提示词的一部分提供清晰的主题，清晰的任务含义以及额外的有用信息，以提高结果的准确性。

提示词包含三个参数

count - 希望作为输出的原因数量
job - 感兴趣的领域或工作
location - 工作申请者所在的国家，城镇，地区等

概念验证

在这篇文章中，简单的概念验证目标如下：

将 Spring AI 集成到Spring Boot应用程序并使用它
允许客户端通过应用程序与 Open AI 进行通信
客户端向应用程序发出参数化的HTTP请求
应用程序使用一个提示词来创建输入，发送给 Open AI 并获取输出
应用程序将响应发送给客户端

图片

项目设置

Java 21
Maven 3.9.2
Spring Boot – v. 3.2.2
Spring AI – v. 0.8.0-SNAPSHOT (仍在开发，实验性)

代码实现

Spring AI 集成

通常，这是一个基本步骤，不一定值得一提。然而，因为 Spring AI 目前以快照形式发布，为了能够集成 Open AI 自动配置依赖，你需要添加一个引用到 Spring 快照仓库。

<repositories><repository><id>spring-milestones</id><name>Spring Milestones</name><url>https://repo.spring.io/milestone</url><snapshots><enabled>false</enabled></snapshots></repository><repository><id>spring-snapshots</id><name>Spring Snapshots</name><url>https://repo.spring.io/snapshot</url><releases><enabled>false</enabled></releases></repository></repositories>

下一步是添加 spring-ai-openai-spring-boot-starter Maven 依赖项。

<dependency><groupId>org.springframework.ai</groupId><artifactId>spring-ai-openai-spring-boot-starter</artifactId><version>0.8.0-SNAPSHOT</version></dependency>

Open AI ChatClient 现在是应用程序类路径的一部分。它是用来向 Open AI 发送输入并获取输出的组件。

为了能够连接到AI模型，需要在 application.properties 文件中设置 spring.ai.openai.api-key 属性。

spring.ai.openai.api-key = api-key-value

它的值代表了用户的有效API密钥，用户将通过此密钥进行通信。通过访问[资源2]，可以注册或登录并生成一个。

客户端 - Spring Boot应用程序通信

概念验证的第一部分是客户端应用程序（例如浏览器，curl等）与开发的应用程序之间的通信。这是通过一个 REST 控制器实现的，可以通过HTTP GET请求访问。

URL路径是 /job-reasons，还有之前在定义提示时概述的三个参数，这将导致如下格式：

/job-reasons?count={count}&job={job}&locatinotallow={location}

和相应的控制器：

@RestControllerpublic class OpenAiController { @GetMapping("/job-reasons")public ResponseEntity<String> jobReasons(@RequestParam(value = "count", required = false, defaultValue = "3") int count, @RequestParam("job") String job, @RequestParam("location") String location) {return ResponseEntity.ok().build();}}

由于来自 Open AI 的响应将是一个字符串，因此控制器返回一个封装了字符串的ResponseEntity。如果我们运行应用程序并发出请求，当前响应体部分没有返回任何内容。

客户端 - Open AI 通信

Spring AI 目前主要关注处理语言并产生语言或数字的AI模型。在前一类别中， Open AI 模型的例子包括GPT4-openai或GPT3.5-openai。

为了与这些AI模型（实际上是指 Open AI 算法）进行交互， Spring AI 提供了一个统一的接口。

ChatClient接口目前支持文本输入和输出，并具有简单的契约。

@FunctionalInterfacepublic interface ChatClient extends ModelClient<Prompt, ChatResponse> {default String call(String message) {Prompt prompt = new Prompt(new UserMessage(message));return call(prompt).getResult().getOutput().getContent();} ChatResponse call(Prompt prompt);}

确实如此，功能接口的实际方法通常是被使用的方法。

在我们的概念验证中，这正是我们所需要的，一种调用 Open AI 并发送目标参数化 Prompt 作为参数的方式。我们定义了以下的OpenAiService，在其中注入了一个 ChatClient 的实例。

@Servicepublic class OpenAiService { private final ChatClient client; public OpenAiService(OpenAiChatClient aiClient) {this.client = aiClient;} public String jobReasons(int count, String domain, String location) {final String promptText = """Write {count} reasons why people in {location} should consider a {job} job.These reasons need to be short, so they fit on a poster.For instance, "{job} jobs are rewarding.""""; final PromptTemplate promptTemplate = new PromptTemplate(promptText);promptTemplate.add("count", count);promptTemplate.add("job", domain);promptTemplate.add("location", location); ChatResponse response = client.call(promptTemplate.create());return response.getResult().getOutput().getContent();}}

如果应用程序正在运行，那么可以从浏览器执行以下请求：

http://localhost:8080/gen-ai/job-reasons?count=3&job=software%20architect&locatinotallow=Romania

这下面的结果被检索出来的结果：

利润丰裕的职业：软件架构师的工作提供了有竞争力的薪酬和出色的增长机会，确保在罗马尼亚的财务稳定和成功。
热门职业：随着技术需求的持续增长，软件架构师在罗马尼亚和全世界都备受追捧，提供了丰富的就业前景和就业保障。
创造性问题解决：软件架构师在设计和开发创新软件解决方案中扮演着至关重要的角色，使他们可以释放他们的创造力，并对各种行业产生重大影响。

这就是我们所期望的——一个简易的接口，通过它，可以要求 Open AI GPT模型写出一些原因，解释为何在特定地点的特定工作具有吸引力。

调整和观察

到目前为止，开发的简单概念验证主要使用了默认的配置。

ChatClient实例可以通过各种属性根据所需需要来配置。虽然这超出了本文的范围，但在这里举两个例子。

spring.ai.openai.chat.options.model 指定要使用的AI模型。默认为'gpt-35-turbo'，但'gpt-4'和'gpt-4-32k'指定的是最新版本。虽然这些版本都是可用的，但你可能无法使用按使用量付费的计划来访问这些版本，但 Open AI 网站上有更多的信息可以帮助你了解如何适应它。

另一个值得一提的属性是 spring.ai.openai.chat.options.temperature。根据参考文档，采样温度控制了“回应的创新性”。据说，较高的值会让输出“更随机”，而较低的值会“更专注和决定性”。默认值为0.8，如果我们将其降低到0.3，重启应用并再次使用相同的请求参数询问，下面的结果将被检索出来。

有利可图的职业机会：罗马尼亚的软件架构师工作提供有竞争力的薪水和极好的成长前景，对于寻求财务稳定和职业发展的个人来说，这是一个吸引人的职业选择。
具有挑战性和智能刺激的工作：作为一名软件架构师，你将负责设计和实现复杂的软件系统，解决复杂的技术问题，并与有才华的团队合作。这个角色提供了持续的学习机会和在尖端技术上工作的机会。
高需求和工作保障：随着对技术和数字化转型的依赖增加，各行各业对熟练软件架构师的需求在上升。选择在罗马尼亚的软件架构师工作确保了工作安全和广泛的就业选择，无论是在本地还是国际上。

可以看出，这种情况下的输出更具描述性。

最后一个考虑因素是与获取的输出的结构相关的。拥有将实际接收的有效载荷映射到Java对象（例如，类或记录）的能力将非常方便。截至目前，表示形式是文本形式，实现也是如此。输出解析器可能实现这一点，类似于Spring JDBC的映射结构。

在这个概念验证中，我们使用了一个BeanOutputParser，它允许直接将结果反序列化到Java记录中，如下所示：

public record JobReasons(String job, String location, List<String> reasons) {}

通过将 {format} 作为提示文本的一部分，并将其作为指示提供给 AI 模型。

OpenAiService 方法变为：

public JobReasons formattedJobReasons(int count, String job, String location) {final String promptText = """Write {count} reasons why people in {location} should consider a {job} job.These reasons need to be short, so they fit on a poster.For instance, "{job} jobs are rewarding."{format}"""; BeanOutputParser<JobReasons> outputParser = new BeanOutputParser<>(JobReasons.class); final PromptTemplate promptTemplate = new PromptTemplate(promptText);promptTemplate.add("count", count);promptTemplate.add("job", job);promptTemplate.add("location", location); promptTemplate.add("format", outputParser.getFormat());promptTemplate.setOutputParser(outputParser); final Prompt prompt = promptTemplate.create(); ChatResponse response = client.call(prompt);return outputParser.parse(response.getResult().getOutput().getContent());}

再次调用时，输出如下：

{"job":"software architect","location":"Romania","reasons":["High demand","Competitive salary","Opportunities for growth"]}

格式符合预期，但解释的原因似乎较少，这意味着需要进行额外的调整以达到更好的可用性。然而，从概念验证的角度来看，这是可接受的，因为焦点是形式。

结论

提示设计是任务的重要部分 - 提示越清晰，输入越好，输出的质量也就越高。

使用 Spring AI 与各种聊天模型进行集成非常简单 - 本篇文章展示了一个 Open AI 的集成。

然而，对于 Gen AI 或者几乎任何技术来说，首先至少要熟悉基本概念是非常重要的。然后，尝试理解如何进行通讯的魔法，最后再开始编写“生产”代码。

最后但同样重要的是，建议进一步探索 Spring AI API，以了解实现并随着其不断发展和改进保持最新状态。