Spring Boot가 OpenAI를 만났을 때 새로운 프로그래밍 패러다임-일체 포함-php.cn

2023년에는 AI 기술이 화두가 되면서 다양한 산업, 특히 프로그래밍 분야에 큰 영향을 미치고 있습니다. 사람들은 AI 기술의 중요성을 점점 더 인식하고 있으며 Spring 커뮤니티도 예외는 아닙니다.

GenAI(일반 인공 지능) 기술이 지속적으로 발전함에 따라 AI 기능을 갖춘 애플리케이션 생성을 단순화하는 것이 중요하고 시급해졌습니다. 이러한 배경에서 AI 기능 애플리케이션 개발 프로세스를 단순화하고 단순하고 직관적으로 만들고 불필요한 복잡성을 피하는 것을 목표로 하는 "Spring AI"가 등장했습니다. '스프링 AI'를 통해 개발자는 AI 기능이 포함된 애플리케이션을 더욱 쉽게 구축할 수 있어 사용과 운영이 더욱 쉬워진다. 이는 개발 효율성 향상에 도움이 될 뿐만 아니라, AI 기술의 대중화와 적용을 가속화하는 데에도 도움이 됩니다. 간단히 말해서, "Spring AI"는 AI 애플리케이션 개발에 새로운 가능성을 제공하여 개발자에게 더 간단하고 직관적인 도구와 프레임워크를 제공합니다.

이 글에서는 Spring AI 프레임워크와 이를 사용하기 위한 몇 가지 엔지니어링 팁을 간략하게 소개합니다. 개발자는 이러한 팁을 사용하여 프롬프트 정보를 더 효과적으로 구성하고 Spring AI의 기능을 완전히 활용할 수 있습니다.

1 Spring AI 소개

编程新范式，当Spring Boot遇上OpenAI M K Pavan Kumar가 만들고 작성한 Spring AI

Spring AI는 Python 프로젝트 LangChain 및 LlamaIndex에서 영감을 받아 AI 애플리케이션 개발을 단순화하도록 설계된 프로젝트입니다. 그러나 Spring AI는 단순한 복사본이 아닙니다. 핵심 아이디어는 Python 언어 애호가뿐만 아니라 다양한 프로그래밍 언어 사용자에게 생성 AI 애플리케이션을 개방하는 것입니다. 이는 개발자가 Python 언어를 배우지 않고도 익숙한 언어를 사용하여 AI 애플리케이션을 구축할 수 있음을 의미합니다. Spring AI를 사용하면 개발자는 사용하는 프로그래밍 언어에 관계없이 AI의 기능을 보다 쉽게 활용하여 다양한 문제를 해결할 수 있습니다. 이는 더 광범위한 AI 애플리케이션 개발을 촉진하고 개발자에게 더 많은 유연성과 선택권을 제공할 것입니다.

Spring AI의 핵심 목표는 AI 기반 애플리케이션을 구축하기 위한 기본 빌딩 블록을 제공하는 것입니다. 이러한 빌딩 블록은 매우 유연하며 코드를 거의 수정하지 않고도 구성 요소를 쉽게 교체할 수 있습니다. 한 가지 예는 Spring AI가 OpenAI 및 Azure OpenAI 기술과 호환되는 ChatClient 인터페이스라는 구성 요소를 도입한다는 것입니다. 이를 통해 개발자는 코드를 변경하지 않고도 다양한 AI 서비스 제공업체 간에 전환할 수 있어 개발 및 통합이 더욱 편리해집니다.

기본적으로 Spring AI는 인공 지능 기반 애플리케이션 개발을 위한 안정적인 빌딩 블록을 제공합니다. 이러한 모듈의 탄력성 덕분에 코딩을 크게 수정하지 않고도 구성 요소를 원활하게 교체할 수 있습니다. 한 가지 예는 Spring AI가 OpenAI 및 Azure OpenAI와 호환되는 ChatClient 인터페이스를 도입하여 개발자가 두 플랫폼 모두와 쉽게 대화할 수 있도록 하는 것입니다. 이러한 호환성을 통해 개발자는 코드를 다시 작성할 필요 없이 실제 요구 사항에 따라 적절한 플랫폼을 선택할 수 있습니다. Spring AI를 사용하면 개발자는 AI 기반 애플리케이션을 보다 효율적으로 구축할 수 있습니다.

Spring AI는 기본 빌딩 블록을 넘어 더욱 발전된 솔루션을 제공하는 데 중점을 둡니다. 예를 들어 '자신의 문서에 대한 질문과 답변'이나 '문서를 활용한 대화형 채팅'과 같은 일반적인 시나리오를 지원할 수 있습니다. 애플리케이션 요구 사항이 증가함에 따라 Spring AI는 Spring Integration, Spring Batch 및 Spring Data와 같은 Spring 생태계의 다른 구성 요소와 긴밀하게 협력하여 보다 복잡한 비즈니스 요구 사항을 충족할 계획입니다.

2 Spring Boot 프로젝트 생성 및 OpenAI 컨트롤러 예제 작성

먼저 IDE에서 Spring Boot 프로젝트를 생성하고 application.properties 파일에 다음 내용을 유지하세요.

spring.ai.openai.api-key=<YOUR\_OPENAI\_API\_KEY>

로그인 후 복사

아래 OpenAIController.java라는 컨트롤러를 작성하세요.

package com.vas.springai.controller;import org.springframework.ai.client.AiClient;import org.springframework.web.bind.annotation.RequestMapping;import org.springframework.web.bind.annotation.RestController;@RestController@RequestMapping("/api/v1")public class OpenAIController {private final AiClient aiClient;public OpenAIController(AiClient aiClient) {this.aiClient = aiClient;}}

로그인 후 복사

3 Prompt 클래스를 사용하여 프롬프트 정보 구성

프롬프트 클래스는 메시지 개체 시퀀스의 구조화된 홀더이며 각 메시지는 프롬프트의 일부를 나타냅니다. 이러한 메시지는 프롬프트에서 다양한 역할과 목적을 가지며 내용도 다양합니다. 사용자 질문, AI 생성 응답, 관련 상황별 세부정보 등이 포함됩니다. 이 설정은 프롬프트가 특정 기능을 가진 여러 메시지로 구성되므로 복잡하고 정교한 인간-컴퓨터 상호 작용을 용이하게 합니다.

@GetMapping("/completion")public String completion(@RequestParam(value = "message") String message){return this.aiClient.generate(message);}

로그인 후 복사

그러나 aiClient의 generate 메소드는 아래와 같이 일반 텍스트를 매개변수로 받아들일 뿐만 아니라 Prompt 클래스의 객체도 매개변수로 받아들일 수 있습니다. 이제 이 메서드는 단순 텍스트가 아닌 AiResponse 유형의 인스턴스를 반환합니다.

@GetMapping("/completion")public AiResponse completion(@RequestParam(value = "message") String message){ PromptTemplate promptTemplate = new PromptTemplate("translate the given english sentence sentence into french {query}"); Prompt prompt = promptTemplate.create(Map.of("query", message)); return this.aiClient.generate(prompt);}

로그인 후 복사

또한 Prompt 클래스는 다양한 역할과 의도를 가진 일련의 메시지 유형 인스턴스를 매개변수로 받아들일 수 있는 오버로드된 생성자를 제공합니다. 이를 통해 신속한 정보를 보다 잘 구성하고 관리할 수 있으며 후속 처리 및 사용이 용이해집니다. 다음은 이 오버로드된 생성자를 사용하여 모든 것을 병합하는 방법을 보여주는 샘플 코드입니다.

package com.vas.springai.controller;import org.springframework.ai.client.AiClient;import org.springframework.ai.client.Generation;import org.springframework.ai.prompt.Prompt;import org.springframework.ai.prompt.PromptTemplate;import org.springframework.ai.prompt.SystemPromptTemplate;import org.springframework.ai.prompt.messages.Message;import org.springframework.web.bind.annotation.GetMapping;import org.springframework.web.bind.annotation.RequestMapping;import org.springframework.web.bind.annotation.RequestParam;import org.springframework.web.bind.annotation.RestController;import java.util.List;import java.util.Map;@RestController@RequestMapping("/api/v1")public class OpenAIController {private final AiClient aiClient;public OpenAIController(AiClient aiClient) {this.aiClient = aiClient;}@GetMapping("/completion")public List<Generation> completion(@RequestParam(value = "message") String message) {String systemPrompt = """You are a helpful AI assistant that helps people translate given text from english to french.Your name is TranslateProYou should reply to the user's request with your name and also in the style of a professional.""";SystemPromptTemplate systemPromptTemplate = new SystemPromptTemplate(systemPrompt);Message systemMessage = systemPromptTemplate.createMessage();PromptTemplate promptTemplate = new PromptTemplate("translate the given english sentence sentence into french {query}");Message userMessage = promptTemplate.createMessage(Map.of("query", message));Prompt prompt = new Prompt(List.of(systemMessage, userMessage));return this.aiClient.generate(prompt).getGenerations();}}

로그인 후 복사