가장 영향력 있는 AI 연구를 발표하는 사람은 누구인가요? 오늘날 '백송이 꽃을 피우는' 시대에 이 문제는 탐구할 수 있는 잠재력이 크다.
몇 가지 결론을 추측했을 수도 있습니다. Google, Microsoft, OpenAI, DeepMind와 같은 최고의 기관은 이와 같은 결론에 대해 절반만 정확합니다. 원래 알려지지 않았던 결론을 알려주는 다른 정보도 있습니다.
AI 혁신의 급속한 발전으로 인해 가능한 한 빨리 "지능"을 확보하는 것이 중요합니다. 결국 모든 것을 읽을 시간이 있는 사람은 거의 없지만, 확실한 것은 이 기사에 정리된 논문들이 인공지능 기술의 방향을 바꿀 수 있는 잠재력을 가지고 있다는 것입니다.
R&D 팀의 영향력에 대한 실제 테스트는 물론 기술이 제품에 어떻게 구현되는지입니다. OpenAI는 2022년 11월 말에 ChatGPT를 출시했는데, 이는 전체 분야에 충격을 안겨주었습니다. 이는 2022년 3월 논문 "Using"에 이은 것입니다. 인간의 피드백" "인간의 피드백을 통해 지침을 따르도록 언어 모델을 훈련시키는 것" 이후의 또 다른 혁신입니다.
제품이 이렇게 빨리 출시되는 경우는 드뭅니다. 따라서 더 많은 정보에 대한 통찰력을 얻기 위해 Zeta Alpha의 통계는 최근 고전적인 학술 지표인 인용 횟수를 채택했습니다.
2022년, 2021년, 2020년 매년 가장 많이 인용된 100개 논문에 대한 자세한 분석은 현재 가장 영향력 있는 AI 연구를 발표하는 기관과 국가에 대한 통찰력을 제공합니다. 몇 가지 예비 결론은 다음과 같습니다. 미국과 Google이 여전히 지배적이며 DeepMind도 좋은 한 해를 보냈습니다. 그러나 결과를 고려하면 OpenAI는 제품 영향 및 연구 측면에서 실제로 선두에 있으며 빠르고 널리 채택될 수 있습니다.
출처: Zeta Alpha.
위 그림에서 볼 수 있듯이 또 다른 중요한 결론은 중국이 연구 인용 영향력 측면에서 2위를 차지하지만 미국과 비교하면 여전히 격차가 있고 설명된 것처럼 '동점'이 아니라는 것입니다. 그 이상으로 많은 보고서에서요."
Zeta Alpha 플랫폼의 데이터를 활용하고 수동 큐레이션을 결합하여 2022년, 2021년, 2020년 인공지능 분야에서 가장 많이 인용된 논문을 수집하고 저자의 소속과 국가/지역을 분석합니다. . 이를 통해 순수한 출판 데이터가 아닌 R&D 영향을 기준으로 해당 논문의 순위를 매길 수 있습니다.
분석을 생성하기 위해 먼저 Zeta Alpha 플랫폼에서 매년 가장 많이 인용된 논문을 수집한 다음 첫 번째 출판 날짜(일반적으로 arXiv 사전 인쇄)를 수동으로 확인하여 올바른 연도에 논문을 배치했습니다. 그런 다음 이 목록은 더 넓은 적용 범위와 인용 횟수별로 정렬할 수 있는 기능을 갖춘 Semantic Scholar에서 많이 인용된 AI 논문을 마이닝하여 보완되었습니다. 이는 주로 Nature, Elsevier, Springer 및 기타 저널과 같이 영향력이 큰 출판사 외부의 논문을 검색합니다. 그런 다음 Google Scholar의 각 논문 인용 횟수를 대표적인 지표로 사용하고, 이 숫자를 기준으로 논문을 정렬하여 해당 연도 상위 100위를 차지했습니다. 이 논문의 경우 GPT-3를 사용하여 저자, 소속, 국가를 추출하고 결과를 수동으로 확인했습니다(출판에서 국가가 명확하지 않은 경우 조직의 본사가 있는 국가를 사용했습니다). 논문에 여러 기관의 저자가 있는 경우 각 기관은 한 번만 계산됩니다.
이 순위를 읽은 후 Yann LeCun 사장은 "Meta AI에서는 양보다 출판 품질을 선호합니다. 이것이 2022년 가장 많이 인용된 인공지능 논문 100개 중 Meta AI가 ( 또는 공동 집필) 16개 논문, Google의 22개 논문에 이어 두 번째로 우리의 연구가 사회에 큰 영향을 미치고 있습니다(게다가 뉴욕 대학교의 순위도 매우 좋습니다). 우리가 방금 얘기한 주요 논문이요?
숫자에 대해 알아보기 전에 지난 3년간 최고의 논문을 살펴보겠습니다. 나는 당신이 그들 중 몇 가지를 알아볼 것이라고 확신합니다.
1. AlphaFold 단백질 구조 데이터베이스: 고정확도 모델로 단백질 서열 공간의 구조적 적용 범위를 대폭 확장
2 . ColabFold: 누구나 쉽게 단백질 접힘을 접할 수 있도록 만들기
3, CLIP 잠재성을 사용한 계층적 텍스트 조건부 이미지 생성
4、A Con 20용 vNet 20s
5、PaLM: Scaling Language Modeling with Pathways
1. AlphaFold를 이용한 "매우 정확한 단백질" 구조 예측》
2, "Swin Transformer: Shifted Windows를 사용하는 Hierarchical Vision Transformer"
3 , "학습 자연 언어 시대 감독의 전송 가능한 시각적 모델》
4、 《확률적 앵무새의 위험: 언어 모델이 너무 클 수 있습니까?》
5、 《자기 감독 비전 변환기의 새로운 속성》
1, "An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale"
주제: 이 논문은 현 단계에서 더 이상의 설명이 필요하지 않습니다.
논문 링크: https://arxiv.org/abs/1910.10683
논문 링크: https://arxiv.org/abs/2006.07733 기관: DeepMind, Imperial College
일부 주요 기관의 논문 수 순위가 어떻게 되는지 살펴보겠습니다. 상위 100위:전체 연구량 기준으로 지난 3년간 Google이 1위를 차지했고, 칭화대, 카네기멜론대, MIT, 스탠포드대 등 대학이 상위에 올랐고, 마이크로소프트가 3위를 차지했습니다. 전반적으로 학술 기관은 업계의 기술 기업보다 더 많은 연구를 생산하고 있으며, 두 거대 기술 기업인 Google과 Microsoft도 지난 3년 동안 많은 수의 연구를 발표했습니다.
사실 Google의 과학 연구 역량은 언제나 매우 강력했습니다. 2017년 구글은 'Attention Is All You Need'라는 논문을 발표하며 트랜스포머의 등장을 알렸다. 오늘날까지도 변환기는 ChatGPT를 포함한 대부분의 NLP 및 CV 모델의 아키텍처 기반입니다.
지난달 Bard 출시를 계기로 Google CEO Sundar Pichai도 공개 서한에서 다음과 같이 밝혔습니다. "Google AI와 DeepMind는 최첨단 기술 개발을 촉진합니다. 우리의 Transformer 연구 프로젝트와 우리의 2017년 분야 확산 모델에 대한 우리의 중요한 진전은 물론 새로운 최고 ChatGPT를 뒷받침하는 회사로서 지난 3년간 OpenAI의 연구 결과 전환율(전환율)입니다. 비율)이 절대우위를 갖는다. 최근 몇 년 동안 OpenAI의 연구 결과 대부분은 특히 대규모 언어 모델에서 큰 주목을 받았습니다.
2020년 OpenAI는 1,750억 개의 매개변수를 갖춘 대규모 언어 모델인 GPT-3를 출시했는데, 이는 많은 문제를 해결했기 때문에 언어 모델 분야의 게임 규칙을 어느 정도 뒤집었습니다. 대규모 언어 모델 문제 GPT-3는 대규모 언어 모델에 대한 열풍을 일으켰습니다. 수년 동안 언어 모델의 매개변수 규모는 지속적으로 깨졌으며 사람들은 대규모 언어 모델의 더 많은 잠재력을 탐구해 왔습니다.
2022년 말, ChatGPT가 나오며 텍스트 생성과 AI 대화 시스템에 큰 관심을 끌었습니다. 특히, ChatGPT는 지식 기반 콘텐츠 생성과 코드 생성에서 매우 높은 역량을 보여주었습니다. Google과 Microsoft가 ChatGPT와 유사한 기능을 차세대 검색 엔진에 통합한다고 연이어 발표한 후 ChatGPT는 AIGC 및 지능형 도구의 새로운 혁명을 주도할 것으로 여겨집니다.
마지막으로 2022년에 가장 많이 인용된 논문 100개를 살펴보겠습니다. 여기에 권장사항 특별 언급 횟수(때때로 고려됨) 영향의 초기 지표. 그러나 아직까지는 상관관계가 약한 것으로 보입니다. 추가 작업이 필요합니다.
위 내용은 가장 영향력 있는 AI 연구를 발표한 사람은 누구입니까? Google이 훨씬 앞서 있으며 OpenAI의 성취 전환율이 DeepMind를 능가합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!
![[웹 프런트엔드] Node.js 빠른 시작](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
