자연의 새로운 규칙: ChatGPT를 사용하여 논문을 작성할 수 있지만 저자로 등록될 수는 없습니다.

이 글은 AI New Media Qubits(공개 계정 ID: QbitAI)의 승인을 받아 재인쇄되었습니다.

ChatGPT를 마주한 자연은 마침내 가만히 있을 수 없었습니다.

이번주 ChatGPT의 학술논문 대필, 저자 등재 등 일련의 이슈와 관련하여 권위 있는 학술출판기관의 운명이 밝혀졌습니다.

특히 Nature에서는 다음 두 가지 원칙을 제시합니다.

(1) 어떤 대규모 언어 모델 도구(예: ChatGPT)도 논문의 저자가 될 수 없습니다(2) 관련 도구를 사용하여 논문을 작성한 경우 논문, 저자 이는 방법이나 감사의 글 또는 해당 섹션에 명확하게 명시되어야 합니다
. 이제 위의 요구 사항이 저자 투고 지침에 추가되었습니다.

지난해 12월 라파마이신의 항노화 응용에 관한 논문에 ChatGPT가 작품으로 등재되어 업계에 논란을 일으켰습니다. 이 기사 외에도 ChatGPT를 저자로 기재한 많은 연구가 있습니다.

Nature도 이러한 상황을 인지했습니다. 12월에 실시한 설문 조사에 따르면 인터뷰에 참여한 교수 293명 중 20%가 학생들이 ChatGPT를 사용하여 과제나 논문을 완성하는 것을 발견하거나 목격했으며 이에 대해 우려하는 사람들이 더 많아졌습니다.

많은 논문에서 ChatGPT를 저자로 기재했습니다

ChatGPT는 작년 11월 말 OpenAI에서 출시되었으며 그 성능은 이전 LLM(대형 언어 모델)을 크게 뛰어넘어 단숨에 '하늘-1위'가 되었습니다. 연말과 연초에 "깨기. 원숭이".

뉴미디어, 영화 및 TV, 소프트웨어 개발, 게임 상호 작용 및 기타 분야에서 ChatGPT는 제작을 지원하고 효율성을 향상시키는 데 빠르게 사용됩니다.

Xueyan Circle도 예외는 아닙니다.

Nature 통계에 ​​따르면 ChatGPT를 사용하고 저자로 등록된 논문이 최소 4편 있습니다.

예판 중 하나는 2022년 12월 의료 사전 인쇄 데이터베이스 medRxiv에 게시되었습니다. 이 논문은 미국 의료 면허 시험에서 ChatGPT의 성과를 연구합니다. 연구는 ChatGPT에 관한 것이지만 ChatGPT도 저자 열에 나열되어 있습니다.

간호 교육 분야의 개방형 인공 지능 플랫폼의 장단점에 대한 또 다른 논문이 Nurse Education Practice 저널에 게재되었습니다. 마찬가지로 ChatGPT가 저자로 등재되어 있습니다.

세 번째 논문은 AI 약물에서 나왔습니다. 연구개발회사 인실리코메디슨(Insilico Medicine)의 신약 라파마이신(rapamycin)에 대한 내용이 '온코사이언스(Oncoscience)'에 게재되었습니다. 마찬가지로 ChatGPT가 작성자로 표시됩니다.

네 번째 기사는 2022년 6월에 출판된 약간 "오래된" 기사로, 주제는 - AI가 논문을 생성하는 능력입니다. 저자란에 기재되어 있는 AI는 ChatGPT가 아닌 앞서 출시된 GPT-3입니다.

위의 연구 내용은 생성언어 모델과 어느 정도 관련이 있지만, 진지한 과학 연구 활동에 있어서 '연구 대상'을 이용하여 논문을 작성하고 이를 저자란에 기재하는 것은 필연적으로 논란과 의심을 불러일으킬 것입니다.

앞서 언급했듯이 AI 약물 연구 개발 회사인 Insilico Medicine의 CEO인 Alex Zhavoronkov는 자신의 기관이 AI 도구로 생성된 80개 이상의 논문을 출판했다고 밝혔습니다.

영국 교수인 Mike Sharples는 생성 AI가 학술 연구에 미치는 영향에 주목해 왔습니다. 얼마 전 그는 대규모 언어 모델을 사용하여 10분 만에 학술 논문을 생성하는 방법을 트위터에서 직접 시연했으며, AI를 사용하여 제목을 기반으로 요약을 생성하는 방법을 단계별로 설명하기도 했습니다. .

학생들이 논문 작성, 코드 생성, 과제 완료를 위해 ChatGPT를 사용하는 것이 더 일반적입니다. 현재 미국 일부 지역의 교육 기관에서는 이 도구의 사용을 금지했습니다.

지난주에 Northern Michigan University의 한 학생이 ChatGPT를 사용하여 수업에서 가장 높은 점수를 받은 에세이를 작성했습니다.

흥미롭게도 그 학생이 제출한 글이 논리적으로 일관되고 체계가 잘 잡혀 있어서 강사가 질문을 한 후에야 진실을 알게 되었기 때문에 붙잡혔습니다.

Δ Northern Michigan University

분명히 해야 할 것은 위에서 언급한 패킷 캡처가 단지 우연에 의한 것일 뿐이라는 점입니다. 생성된 콘텐츠로 인해 과학자들이 진위 여부를 구별하기 어렵게 되는 경우가 많습니다. 가짜.

Nature의 이전 기사에서는 ChatGPT가 출시된 후 일리노이주 노스웨스턴 대학의 연구팀이 과학자들이 이 AI 도구를 사용하여 생성된 의학 논문의 초록을 인식할 수 있는지 조사하고 있었다고 지적했습니다.

결과에 따르면 AI가 생성한 요약은 모두 표절 탐지기를 통과했으며, 수동 검토 과정에서 AI가 생성한 요약의 32%가 실제 인간이 완성한 것으로 간주되었습니다.

이미 식별 도구를 개발 중입니다

자연의 운명은 그들이 ChatGPT로 인한 문제를 매우 중요하게 여긴다는 것을 보여줍니다.

최신 콘텐츠에서 Nature는 학생과 연구자가 대규모 언어 모델에서 생성된 콘텐츠를 자신이 작성한 텍스트로 사용할 수 있다는 점을 학계와 연구계에서 우려하고 있다고 밝혔습니다. 텍스트. 연구 결론.

특히 ChatGPT의 경우 Nature 팀과 많은 출판사 및 플랫폼은 이 도구가 과학 논문의 무결성과 내용을 책임질 수 없다고 믿습니다.

부차적인 증거는 기술 매체 CNET이 지난 이틀 동안 플랫폼의 AI가 작성한 콘텐츠 77개 중 41개에 오류가 포함되어 있다고 폭로한 것입니다. 현재 플랫폼은 이를 수정했으며 이와 같이 콘텐츠 제작을 중단하겠다고 밝혔습니다. .

자연이 관련 규제를 도입한 것은 바로 위와 같은 상황에 대한 우려를 바탕으로 한 것입니다.

AI 생성 콘텐츠를 구별하는 방법은 무엇인가요?

Nature는 ChatGPT의 현재 원시 출력은 주의 깊은 검사를 통해 발견할 수 있다고 밝혔습니다. 특히 특정 과학 작업의 경우 콘텐츠에 가장 간단한 오류와 일반적으로 지루한 문구가 포함될 수 있습니다. 또한 네이처는 관련 인식 기술도 계속 개발 중이라고 밝혔다.

관련 식별 도구도 개발되었다는 점은 언급할 가치가 있습니다.

예를 들어 OpenAI의 자체 GPT-2 출력 감지기는 50자(토큰) 이상을 입력하여 AI가 생성한 텍스트를 보다 정확하게 식별할 수 있습니다.

또 다른 예는 관련 도구인 GPTZero를 만든 프린스턴 대학교 학생 Edward Tian입니다.

그러나 모든 대학 교수와 교사가 AI 생성 도구에 대해 부정적인 태도를 갖는 것은 아닙니다.

예를 들어, 펜실베이니아 대학교 와튼 스쿨의 교수인 Ethan Mollick은 새로운 기술 도구를 수용한다고 믿고 학생들에게 ChatGPT를 사용하여 수업 과제를 완료하도록 요구했습니다.

종이 출판 플랫폼인 medRxiv의 한 직원도 ChatGPT가 새로운 문제는 아니라고 말했습니다.

그는 이전에도 연구자들이 비밀리에 애완동물 이름과 가상 인물의 이름을 추가하려고 시도한 적이 있다고 믿습니다. 따라서 문제의 핵심은 계속해서 점검을 강화해야 한다는 데 있다고 본다.

위 내용은 자연의 새로운 규칙: ChatGPT를 사용하여 논문을 작성할 수 있지만 저자로 등록될 수는 없습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!