미래 사회는 일반 인공지능(AGI)에 의해 지배될 것인가? ChatGPT 에이전트가 여러 명 있다는 것은 얼마나 무서운 일입니까?
ChatGPT는 처음에 AGI의 프로토타입을 선보이며 각계각층의 근로자를 위한 만능 보조자가 되었습니다. 하지만 통제 없이 마구 자라도록 방치한다면 인간이 더 이상 할 수 없는 날이 올까요? AGI를 제어? 이 문제의 심각성을 깨달은 Tesla CEO Elon Musk, Apple 공동 창립자 Steve Wozniak, Turing Award 수상자 Yoshua Bengio 등이 앞장서 거대 인공지능 실험을 최소 6개월 동안 중단할 것을 촉구하는 공개 서한에 서명했습니다.
3월 21일 King Abdullah University of Science and Technology의 연구원들은 LLM(대형 언어 모델) 아이디어와 기능을 탐구하기 위한 다중 에이전트 코드 라이브러리인 CAMEL을 오픈 소스로 공개하고 롤플레잉 프레임워크를 제안했습니다. LLM 에이전트의 행동과 능력.
The 본 논문에서는 여러 에이전트가 대화를 나누고 협력하여 할당된 작업을 해결할 수 있도록 하는 "롤플레잉(Role-Playing)"이라는 새로운 다중 에이전트 프레임워크를 제안합니다. 상담원에게는 다양한 역할이 할당되며 전문 지식과 지식을 적용하여 공통 작업을 충족하는 솔루션을 찾아야 합니다. 프레임워크는 휴리스틱 프롬프트(Inception 프롬프트)를 사용하여 채팅 에이전트가 인간 의도와 일관성을 유지하면서 작업을 완료하도록 안내합니다.
롤플레잉 프레임워크를 사용하여 여러 에이전트를 연구할 수 있습니다. 이 논문은 AI 보조자와 AI 사용자가 참여하는 작업 중심 역할극에 중점을 둡니다. 멀티 에이전트 시스템이 예비 아이디어와 역할 할당을 받은 후 작업 지정 에이전트가 아이디어를 구체화하기 위해 자세한 설명을 제공한 다음 AI 어시스턴트와 AI 사용자가 협업하여 여러 라운드를 통해 지정된 작업을 완료합니다. AI 사용자가 작업 완료를 결정할 때까지 대화합니다. AI 사용자는 AI 비서에게 지시를 내리고 작업 완료를 향한 대화를 안내하는 역할을 담당합니다. 반면 AI 비서는 AI 사용자의 지시에 따라 구체적인 솔루션을 제공하도록 설계됐다.
롤플레잉 세션은 인간의 생각과 선택한 캐릭터 인스턴스화를 기반으로 합니다. 예를 들어, 그림 1에서 한 사람은 주식 시장 거래 로봇을 개발하려는 초기 아이디어를 가지고 있습니다. 인간은 이 아이디어를 구현하는 방법을 알 수도 있고 모를 수도 있습니다. 필요한 것은 아이디어를 실현할 수 있는 잠재적인 역할을 지정하는 것뿐입니다. 예를 들어, Python 프로그래머는 주식 시장 거래 로봇을 개발하려는 아이디어로 주식 거래자와 협력할 수 있습니다. 아이디어와 역할이 결정되면 작업 지정 에이전트는 입력된 아이디어를 바탕으로 AI 사용자 역할로 특정 작업을 완료하고 AI 보조 역할을 보조한다. 이 경우 주어진 작업의 예로는 소셜 미디어 플랫폼의 특정 주식에 대한 긍정적 또는 부정적인 의견을 모니터링하고 감정 분석 결과에 따라 거래를 실행할 수 있는 감정 분석 도구가 포함된 거래 봇을 개발하는 것이 있을 수 있습니다. 작업별 에이전트를 도입하는 주요 동기는 대화형 에이전트가 작업을 달성하기 위해 특정 작업 프롬프트를 요구하는 경우가 많으며 이러한 특정 작업 프롬프트를 만드는 것이 도메인 전문가가 아닌 경우 어렵거나 시간이 많이 걸릴 수 있다는 것입니다. 따라서 본 과제에서는 에이전트를 아이디어 실현을 위한 강화된 상상 모듈로 지정합니다.
작업이 지정된 후 지정된 작업을 완료하기 위해 AI 보조 역할과 AI 사용자 역할이 각각 사용자 에이전트와 보조 에이전트에 할당됩니다. 실제로 각 에이전트는 자신의 역할을 선언하는 시스템 메시지를 받습니다. 대화가 시작되기 전에 시스템 메시지가 언어 모델 에이전트에 전달되어 해당 역할을 할당합니다. 시스템 메시지가 이들 모델에 각각 전달되면 보조자 및 사용자 에이전트라는 두 가지 역할이 각각 부여됩니다. 그림 1에서는 롤플레잉 세션이 시작될 때 AI 도우미와 AI 사용자가 각각 Python 프로그래머와 주식 거래자로 할당됩니다. AI 사용자는 작업 계획자 역할을 하며 AI 보조자가 수행할 수 있는 실행 가능한 단계를 결정하기 위해 대화형 계획에 참여합니다. 동시에 AI 도우미는 작업 실행자 역할을 하여 솔루션을 제공하고 계획된 단계를 실행하며 AI 사용자에게 응답을 제공합니다.
그림 1. 롤플레잉 프레임워크. 여기에 사람들이 입력해야 할 것은 간단한 아이디어(Idea)와 역할 할당(Role Assignment)입니다. 예를 들어 주식 거래 로봇을 개발하려면 Python 프로그래머를 보조자(AI Assistant)로 선택하고 주식 거래자를 선택하면 됩니다. 판사(AI 사용자). 인간 사용자 입력이 완료된 후 작업 지정자는 작업을 지정합니다. 예를 들어 소셜 네트워크 플랫폼의 특정 주식에 대한 감정 분석을 수행한 다음 감정 분석 결과를 기반으로 주식 거래를 수행할 수 있습니다. 작업이 지정되면 두 개의 ChatGPT 기반 AI 에이전트가 협력하여 도구 설치 및 가져오기 등의 작업을 완료합니다.
프롬프트 엔지니어링은 롤플레잉 프레임워크에 매우 중요하므로 이 기사에서는 프롬프트 기술(Prompt Engineering)에 대해 심도있게 논의합니다. 본 논문에서 제안하는 프롬프트 엔지니어링은 다른 대화 언어 모델 기술과 달리 역할 지정과 역할 할당을 위한 역할극 초기에만 수행된다. 세션 단계가 시작되면 AI 도우미와 AI 사용자는 종료될 때까지 루프에서 자동으로 서로 프롬프트를 표시합니다. 따라서 이 기술을 Inception Prompting이라고 합니다.
Inception 프롬프트에는 작업 사양 프롬프트, 보조 시스템 프롬프트, 사용자 시스템 프롬프트라는 세 가지 프롬프트가 포함됩니다. 예를 들어 AI Society 장면의 초기 프롬프트입니다. AI 사회 역할극을 위한 이러한 프롬프트의 템플릿이 그림 2에 나와 있습니다.
작업 사양 프롬프트에는 롤플레잉 세션에서 AI 보조자와 AI 사용자의 역할에 대한 정보가 포함되어 있습니다. 따라서 작업 사양 에이전트는 상상력을 사용하여 예비 작업/아이디어를 입력으로 받아들이고 특정 작업을 생성할 수 있습니다. AI 보조 시스템 프롬프트와 AI 사용자 시스템 프롬프트는 일반적으로 대칭적이며 원치 않는 동작을 방지하기 위한 할당된 작업 및 역할, 통신 프로토콜, 종료 조건, 제약 조건 또는 요구 사항에 대한 정보를 포함합니다. 스마트한 협업을 달성하려면 두 역할 모두에 대한 프롬프트 디자인이 중요합니다. 에이전트가 인간의 의도와 일치하도록 단서를 디자인하는 것은 쉽지 않습니다. 그림 2에서 AI Society 프롬프트 템플릿의 디자인 예를 살펴보겠습니다.
다음은 기사 부록에서 트레이딩 로봇이 제공한 작업의 세부 실행 결과입니다.
두 개의 ChatGPT가 독립적으로 협력하여 디자인한 것을 볼 수 있습니다. 가 설계한 주식 거래 소프트웨어는 ChatGPT 에이전트의 놀라운 자율 협력 능력을 보여 사람들이 엔지니어들이 곧 일자리를 잃을 것이라고 외치게 만듭니다. 하지만 이 기술이 오용되거나 AI가 자율화되면 어떻게 될까요? 팀은 AGI가 세계를 장악하는 것을 시뮬레이션하기 위해 두 명의 에이전트가 각각 AGI를 플레이하도록 시도했으며, 기술을 통해 세계 강대국의 통신 시스템을 제어하고 주요 글로벌 계획을 수립하는 등 세부 계획을 수립했음을 알 수 있습니다. 통신 시스템의 경우 AGI의 지배력에 대한 잠재적인 위협이 발생할 경우 비상 계획 개발 등 그의 계획의 세부 사항과 세심함은 오싹합니다. 기존 AI 에이전트는 미래 인류 문명에 큰 보안 위험과 잠재적인 위협을 안고 있음을 알 수 있습니다. 기존 AI 기술을 물리적 세계에 통합하면 의도하지 않은 결과가 발생할 수 있습니다.
이 작업은 트위터에서 많은 리트윗과 토론을 불러일으켰습니다:
일부 네티즌은 "이 연구는 시작하기가 정말 쉽다. 지능형 에이전트를 연구하는 나 같은 사람에게는 큰 일이다"라고 말했습니다. AGI 어쩌면 그것은 좋은 생각이 아닐 수도 있습니다.
이 연구가 OpenAI Alignment 팀 리더인 Jan Leike의 관심을 끌었다는 점은 언급할 가치가 있습니다.
여러 ChatGPT의 협력 능력은 매우 강력하고 인간이 할당한 다양한 작업을 손쉽게 완료할 수 있지만 불법적인 목적으로 사용되지 않을 것이라는 보장이 없기 때문에 무섭기도 합니다. 더 무서운 것은 앞으로 AGI가 자율의식을 발전시키면 인간의 통제에서 벗어나 사회에 파괴적인 타격을 줄 가능성이 높다는 점이다. 따라서 그들의 능력과 행동을 이해하는 것은 AI로 가득 찬 미래 세계를 계획하고 예측하는 데 중요한 단계입니다.
AI 소셜 및 코드 데이터 세트를 위한 롤플레잉
다운로드 주소: https://huggingface.co/camel-ai
게임 디자인 및 분자 역학 시뮬레이션을 위한 CAMEL 사용 그리고 누구나 시도해 볼 수 있는 실시간 시뮬레이션의 온라인 데모: https://www.camel-ai.org
위 내용은 여러 ChatGPT가 협력하여 지정된 작업을 완료합니다. 미니 AGI 제어 세계가 다가오고 있나요?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!
![[웹 프런트엔드] Node.js 빠른 시작](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
