분산 네트워크를 사용하여 유휴 GPU를 직렬로 연결하는 이 스타트업은 AI 모델 훈련 비용을 90% 절감한다고 주장합니다.

Monster API는 채굴 장비와 같은 GPU 컴퓨팅 성능을 활용하여 AI 모델을 교육합니다.

GPU는 비트코인과 같은 암호화폐를 채굴하는 데 자주 사용되며, 채굴은 강력한 컴퓨팅 성능이 필요한 리소스 집약적인 프로세스입니다.

암호화폐 과대광고로 인해 한때 시장에서 GPU 부족 현상이 발생했고, 가격이 치솟자 기업과 개인은 게임 산업을 위해 Nvidia의 GPU를 선택하고 암호화폐 채굴 장비용 GPU로 전환했습니다.

그러나 암호화폐 열풍이 가라앉으면서 많은 암호화폐 채굴 장비가 폐쇄되거나 버려지기까지 했습니다. 이로 인해 Monster API 창립자인 Gaurav Vij는 기본 AI 모델을 훈련하고 실행하는 최신 컴퓨팅 집약적 개발 추세에 적응하기 위해 이러한 장치의 용도를 변경하고 조정할 수 있다는 것을 깨달았습니다.

이러한 GPU에는 AWS나 Google Cloud와 같은 전용 AI 기기의 성능이 없지만, Gaurav Vij는 클라우드 컴퓨팅 제공업체에서 사용하는 하이퍼스케일 컴퓨팅 장비를 사용하는 비용으로 최적화된 오픈 소스 모델을 교육할 수 있다고 말했습니다. .의 작은 부분.

Monster API 공동 창립자 Saurabh Vij는 다음과 같이 말했습니다. “머신 러닝 분야는 수요가 공급을 초과했기 때문에 실제로 컴퓨팅 성능에 어려움을 겪고 있습니다. 오늘날 많은 머신 러닝 개발자는 AWS, Google Cloud, 클라우드 서비스 제공업체에 의존하여 많은 돈을 지출합니다. Microsoft Azure가 리소스를 확보함에 따라”

분산 컴퓨팅 파워 네트워크는 AI 기본 모델 교육 비용을 크게 줄일 수 있습니다

실제로 PlayStation 5 및 소규모 데이터 센터와 같은 게임 시스템에서는 암호화폐 채굴 장비 외에도 사용되지 않는 GPU도 가능합니다. 에서 찾을 수 있습니다. Saurabh Vij는 "암호화폐 채굴 플랫폼은 GPU를 사용하고 게임 시스템도 GPU를 사용하며 GPU는 매년 더욱 강력해지고 있습니다."

분산 네트워크에 참여하려면 데이터 보안 검사를 포함한 여러 단계가 필요합니다. 기업과 개인의 컴퓨팅 능력을 활용합니다. 수요자는 필요에 따라 장비를 추가하고 컴퓨팅 파워 네트워크를 확장하거나 축소합니다. 공급측은 유휴 컴퓨팅 성능을 판매하여 수익의 일부를 얻을 수 있습니다.

Saurabh Vij는 분산 컴퓨팅 시스템이 기본 AI 모델 교육 비용을 향후 풍부한 재정 자원을 갖춘 대규모 기술 회사뿐만 아니라 오픈 소스 및 비영리 조직에서도 교육할 수 있을 정도로 줄여준다고 강조했습니다. 100만 달러의 비용이 드는 기본 AI 모델 구축에 비해 우리와 같은 분산형 네트워크의 비용은 100,000달러에 불과합니다. ”

Geek.com은 이제 Monster API가 모델을 미세 조정할 수 있는 '코드 없는' 도구도 제공하고 기술 전문 지식이나 리소스가 없는 사용자에게도 공개되어 처음부터 모델을 훈련할 수 있게 하여 컴퓨팅 성능을 더욱 '민주화'할 수 있다는 사실을 알게 되었습니다.

많은 개발자들이 모델을 재교육할 충분한 데이터와 자금이 없기 때문에 미세 조정이 중요합니다. Monster API의 최적화로 인해 미세 조정 비용이 절감되었다고 합니다. 90% 감소하여 각 모델의 비용을 약 30달러 절감합니다.

오픈 소스 모델 교육은 개발자가 AI를 혁신하는 데 도움이 될 수 있습니다.

AI 개발자는 이러한 교육 모델과 오픈 소스에 직접적인 영향을 미칠 수 있는 규정에 직면하고 있습니다. Saurabh Vij는 오픈 소스 모델 교육에 긍정적인 면이 있다고 믿습니다. Monster API는 분산형 네트워크의 잠재적 위험을 관리하고 "추적성, 투명성 및 책임성"을 보장해야 할 필요성을 인식했습니다.

"단기적으로는 규제 당국이 승리할 수도 있지만, 오픈 소스 커뮤니티와 믿을 수 없을 만큼 빠른 개발에 대한 큰 자신감입니다." Postman(API 개발 플랫폼)에는 2,500만 명의 등록된 개발자가 있으며, 이들 중 상당 부분은 모든 사람에게 새로운 비즈니스와 새로운 기회를 열어주는 생성적 AI를 구축하고 있습니다. "라고 그는 말했다.

Geek.com은 저렴한 AI 모델을 훈련함으로써 개발자가 혁신을 위한 기계 학습 활용을 극대화할 수 있도록 하는 것이 Monster API의 목표라는 것을 알게 되었습니다. 현재 미세 조정이 가능한 잘 알려진 AI 모델(예: Stable Diffusion 및 Whisper)이 이미 있습니다. 또한 사용자는 이러한 GPU 컴퓨팅 성능을 사용하여 자체 AI 기본 모델을 처음부터 훈련할 수도 있습니다.

Saurabh Vij는 다음과 같이 말했습니다. “우리는 Macbook에서 텍스트 및 이미지 생성 실험을 수행했으며 분당 최소 10개의 이미지를 출력할 수 있습니다. 우리는 수백만 개의 Macbook을 네트워크에 연결하여 사용자가 Macbook을 안정적으로 실행할 수 있기를 바랍니다. 이익을 위한 확산, 속삭임 또는 기타 AI 모델

“결국 Playstation, Xbox, Macbook은 모두 강력한 컴퓨팅 리소스가 될 것입니다. 심지어 Tesla 자동차도 마찬가지입니다. Tesla 자동차도 강력한 컴퓨팅 리소스를 사용하고 대부분의 시간을 주차 공간에 주차하기 때문입니다. 차고. ” Saurabh Vij가 추가되었습니다.

위 내용은 분산 네트워크를 사용하여 유휴 GPU를 직렬로 연결하는 이 스타트업은 AI 모델 훈련 비용을 90% 절감한다고 주장합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!