트렌드 기술: 리소스 풀링은 AI 컴퓨팅 성능의 가치를 공개합니다.

“통계에 따르면 GPU의 평균 사용률은 30%를 초과하지 않으며 이는 엄청난 컴퓨팅 리소스 낭비를 초래합니다. 우리는 일반적으로 사용자의 GPU 사용률을 3~8배, 심지어는 소프트웨어 정의 방법을 사용합니다. 10번.”

컴퓨팅 파워 풀링 소프트웨어 회사인 TrendForce에서 업계 보고서 데이터를 인용하고 자체 기업 모범 사례 경험을 결합하여 제공한 최신 데이터입니다. Trend Technology는 자체 개발한 OrionX AI 컴퓨팅 리소스 풀링 소프트웨어를 통해 고객이 데이터 센터 수준의 AI 컴퓨팅 리소스 풀을 구축할 수 있도록 지원합니다. 고객은 애플리케이션을 수정하지 않고도 데이터 센터에 있는 모든 서버의 AI 컴퓨팅 성능을 사용할 수 있습니다. 애플리케이션 배포를 크게 최적화하고 사용자 리소스 활용도를 향상함으로써 AI 산업에 새로운 컴퓨팅 전원 공급 장치 모델을 제공합니다.

AI 컴퓨팅 리소스 재정의

제2회 광합성 조직 AI 솔루션 대회에서 트렌드테크놀로지는 'Xinchuang Full-Stack Independent Controllable Heterogeneous AI Computing Power Resource Pool'(이하 'AI 컴퓨팅 자원 풀') 계획을 수립해 이번 대회에서 1등을 차지했습니다.

Trend Technology의 생태 운영 이사인 Wen Yuxiang은 AI 컴퓨팅 전력 자원 풀 솔루션이 주로 현재의 이기종 컴퓨팅 전력의 광범위한 사용과 공급업체 전반에 걸쳐 이기종 컴퓨팅 전력 자원의 통합 관리 및 스케줄링의 어려움을 해결한다고 소개했습니다. 이 솔루션은 물리적인 이기종 컴퓨팅 리소스를 풀링하고 관리하여 이기종 컴퓨팅 리소스에 대한 온디맨드 스케줄링과 공급업체 간 이기종 컴퓨팅 리소스에 대한 정교한 관리를 달성합니다.

프로젝트 아키텍처 다이어그램

솔루션의 인프라 계층은 Haiguang 서버의 성능 이점에 의존하여 운영 체제 계층에서 두 가지 큰 도약을 달성합니다. AI 컴퓨팅 리소스 풀은 Haiguang CPU의 장점을 활용하는 Galaxy Kirin 서버 운영 체제를 기반으로 합니다. 커널 보안을 보장하는 DCU 플랫폼, I/O 성능, 가상화 및 국내 하드웨어, 드라이버 지원 및 기타 측면이 가상화 계층에서 더욱 최적화되고 향상되며, OrionX는 AI 컴퓨팅 성능 리소스를 가상 리소스로 추상화합니다. AI 컴퓨팅 파워 리소스 정의를 소프트웨어로 구현합니다.

"현재 애플리케이션 배포 시 리소스가 직접 연결되고 배타적이어서 컴퓨팅 리소스 낭비, 유연성 부족 등의 문제가 발생하고 있습니다. 컴퓨팅 파워 유저의 비용 부담이 계속 증가하고 있으며, 이는 AI 기술의 추가 개발을 일정 수준까지 방해하고 있습니다. 과거에는 '밝고 하얀' 것처럼 보이던 컴퓨팅 파워가 물과 전기처럼 필요에 따라 유연하고 편리하며 저렴하고 유연하게 사용할 수 있는 진정한 대중에게 혜택을 주는 자원이 되기를 바랍니다. 효율적입니다."라고 Wen Yuxiang이 말했습니다.

생태학적 플라이휠의 속도를 높이세요

최근 중국 인민은행이 관리하는 저널인 'Financial Electronicization'에는 화샤은행 CIO가 서명한 '인공지능 GPU 컴퓨팅 자원 풀링 적용에 관한 연구'라는 제목의 기사가 실렸습니다. 이 기사에서는 정보 혁신 분야에서 이기종 컴퓨팅 파워 풀링 소프트웨어의 적용 가치를 자세히 논의하고 OrionX의 OrionX 이기종 컴퓨팅 파워 풀링 소프트웨어 솔루션의 타당성을 검증합니다. 또한 Haiguang 가속기와 같은 국내 하드웨어의 성능도 평가합니다. 카드가 확인되었습니다.

"정보 혁신 분야의 컴퓨팅 자원 풀 구축은 국내 소프트웨어 및 하드웨어 제조업체가 공동으로 추진해야 합니다. Haiguang은 국내 칩 산업의 선두에 있으며 우리에게 큰 지원을 제공하고 있습니다." Haiguang과의 협력을 통해 Dong Technology의 추세는 풀링된 소프트웨어의 이기종 컴퓨팅 성능의 다양화를 실현하여 Xinchuang 시장의 애플리케이션 요구를 더욱 충족시켰습니다.

사실, Trend Technology는 광합성 조직에 합류한 이후 Haiguang과 같은 산업 체인의 업스트림 및 다운스트림 파트너와 일련의 생태학적 협력을 진행해 왔습니다. Trend Technology의 관점에서 사용자에게 필요한 것은 완전한 솔루션이며, 단일 제조업체가 기본 아키텍처부터 프런트엔드 애플리케이션까지 완전한 제품 세트를 제공하는 것은 어렵습니다. 이러한 맥락에서 생태학적 힘의 통합은 매우 중요합니다. .

"광합성 조직은 AI 산업의 생태학적 도킹을 위한 좋은 플랫폼을 제공합니다." Wen Yuxiang은 광합성 조직 대회를 기반으로 Trend Technology가 파트너와의 제품 기술 협력을 심화하고 프로그램 결과를 입증했을 뿐만 아니라 광범위하게 연결된 더 많은 산업 세력이 점차 생태학적 "플라이휠"을 형성하고 시장 권한 부여 및 프로젝트 도입과 같은 영역에서 점차 가속화되었습니다.

"플라이휠의 속도가 계속해서 가속화됨에 따라 미래에는 컴퓨팅 파워 풀링 솔루션이 더 많은 비즈니스 애플리케이션 시나리오에 도달하고 AI 컴퓨팅 파워가 더 큰 가치를 방출할 것이라고 믿습니다."

위 내용은 트렌드 기술: 리소스 풀링은 AI 컴퓨팅 성능의 가치를 공개합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!