2023년 지능형 소스 컨퍼런스에서 AI 보안 주제가 많은 관심을 받았고, 신간 『인간-기계 정렬』이 출간됐다.

AI 분야의 많은 탐험가와 실무자가 모여 연구 결과를 공유하고 실제 경험을 교환하며 과학 기술의 아름다움에 대해 이야기했습니다. 2023 베이징 지능형 소스 컨퍼런스가 최근 해당 분야의 종합 전문가 행사로 성공적으로 개최되었습니다. 이번 행사는 지혜로 빛나고, 수백 건의 훌륭한 보고서와 토론을 통해 지능의 놀라운 진화를 목격합니다.

AI 보안 및 정렬 포럼에서는 대형 모델 시대에 점점 더 강력해지고 다양해지는 인공 지능 시스템이 안전하고 제어 가능하며 인간의 의도와 가치에 부합하도록 보장하는 방법에 대해 많은 전문가와 학자들이 의견을 나눴습니다. 매우 중요한 문제. 이러한 안전 문제는 인간-기계 정렬(AI 정렬) 문제라고도 알려져 있으며, 금세기 인류 사회가 직면한 가장 시급하고 의미 있는 과학적 과제 중 하나를 나타냅니다.

이 포럼에는 '딥 러닝의 아버지'인 제프리 힌튼(Geoffrey Hinton), OpenAI 창립자 샘 알트만(Sam Altman), 학자 장보(Zhang Bo) 등 국내외 게스트 14명이 인간-기계 정렬과 과학 저술가인 브라이언의 타당성에 대해 집중 조명했습니다. 이번 포럼의 주제와 매우 일치하는 브라이언 크리스천(Brian Christian)의 최신 작품 - "인간-기계 정렬(Human-Machine Alignment)"이라는 제목의 중국어 버전인 정렬 문제(The Alignment Problem)도 컨퍼런스에서 공식적으로 발표되었습니다. 이 책은 후난 과학 기술 출판사에서 소개 및 출판되었으며 안위안 AI에서 검토되었습니다. 안위안AI(Anyuan AI) 창업자 셰민시(Xie Minxi)가 신간 출간 기념식을 주재했다.

"인간-컴퓨터 정렬"의 저자인 Brian Christian이 온라인 연설에 초대되었습니다. 그는 연설에서 먼저 참석한 독자들과 내빈들에게 인사를 전했다. 그는 신간 『인간-기계 정렬』의 출간을 영광으로 생각하며, 이 책이 중국 내 인공지능 분야의 지속적인 연구에 기여할 수 있기를 희망합니다. 동시에 "인간-기계 정렬"의 주요 내용에 대한 간략한 소개가 제공됩니다. 이 책은 세 부분으로 구성되어 있습니다. 첫 번째 부분은 기계 학습 시스템에 영향을 미치는 현재 윤리 및 안전 문제를 논의합니다. 자율성, 감독 및 자기 지도 학습에서 강화 학습까지. 세 번째 기사에서는 지도 학습, 자기 지도 학습 및 강화 학습을 기반으로 현실 세계에서 복잡한 AI 시스템을 조정하는 방법을 살펴봅니다. 우리는 중국에서 "Human-Computer Alignment"의 출시가 연구자에게 도움이 될 뿐만 아니라 모든 비전문가에게 이 분야에 대한 우리의 열정을 전달하는 데 도움이 되기를 바랍니다. 마지막으로 그는 이번 컨퍼런스에서의 논의와 AI 분야 중국의 연구를 통해 인공지능 분야의 글로벌 발전이 촉진될 것이라는 기대를 피력했다.

《인간-기계 정렬》

【미국】Brian Christian 작성, Tang Lu

출판사: Hunan Science and Technology Press

현대의 기계 학습 시스템은 매우 강력해졌으며 다양한 상황에서 우리를 대신해 정보를 관찰하고 듣고 결정을 내릴 수 있습니다. 그러나 경보음이 울렸다. 머신러닝이 빠르게 발전함에 따라 우려도 커지고 있습니다. 인공지능(AI)이 우리의 진정한 목표와 일치하지 않게 행동할 때 잠재적인 위험과 윤리적 문제가 발생할 수 있습니다. 연구자들은 이를 정렬 문제라고 부릅니다.

브라이언 크리스찬은 AI와 우리가 떼려야 뗄 수 없는 문제들을 생생한 문체로 명료하게 설명하고 있으며, 그의 베스트셀러 작품을 읽은 독자들은 많은 유익을 얻었습니다. 책에서는 정렬 문제를 적극적으로 다룬 최초의 학자 집단을 알아보고, AI의 발전이 걷잡을 수 없게 되는 것을 막기 위한 그들의 남다른 노력과 야심찬 계획을 알아본다. 크리스틴은 머신러닝의 발전 과정을 간결하게 설명했을 뿐만 아니라, 직접 과학 연구의 최전선에 깊숙이 들어가 과학자들과 대화하며 머신러닝의 최첨단 발전 과정을 정확하게 제시했습니다. 정렬 문제에 대한 연구의 성공 여부는 인류의 미래에 결정적인 영향을 미칠 것이며 독자들은 이를 깊이 깨닫게 될 것이다.

정렬의 문제는 인간 자신의 편견과 맹점을 드러내는 거울이기도 하며, 우리가 결코 명확하지 않은 가정과 종종 모순되는 목표를 명확하게 볼 수 있게 해줍니다. 이 작품은 인간의 기술뿐만 아니라 인간 문화를 고찰하면서 때론 좌절감을 주기도 하고 때론 폭로를 드러내기도 하는 뛰어난 학제간 서사입니다.

이 책은 해외 출간 당시 뜨거운 반응을 얻었으며, 마이크로소프트 CEO 사티아 나델라가 2021년 자신에게 가장 영감을 준 책 5권 중 하나로 선정했으며, 뉴욕타임즈에서는 AI의 핵심 기술과 윤리 중 하나로 평가했습니다. 이 문제에 대한 최고의 책은 저자 브라이언 크리스티안(Brian Christian)이 말했듯이 "중국 AI 분야와 더 넓은 중국 독자들도 이 책을 읽을 수 있기를 바랍니다. 나는 당신에게 이 책이 내용이 풍부하고 생각을 자극하기를 바랍니다. , 그리고 영감을 주는 이 책은 연구자로서 도움이 될 뿐만 아니라 컴퓨터 과학자가 아닌 사람들에게 이 분야에 대한 열정을 평생 전하는 데도 도움이 됩니다.”

샤오샹모닝뉴스 저우시하오 기자

위 내용은 2023년 지능형 소스 컨퍼런스에서 AI 보안 주제가 많은 관심을 받았고, 신간 『인간-기계 정렬』이 출간됐다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!