Tencent Hunyuan, 오픈 소스 가속 라이브러리 출시로 이미지 생성 시간 75% 단축

6월 8일, Tencent는 Tencent Hunyuan 텍스트 생성 그래프의 대규모 오픈 소스 모델(Hunyuan DiT 모델이라고 함)용 가속 라이브러리를 출시하여 추론 효율성을 크게 향상시키고 그래프 생성 시간을 75% 단축했습니다.

Hunyuan DiT 모델 사용 임계값도 크게 감소했습니다. 사용자는 ComfyUI의 그래픽 인터페이스를 기반으로 Tencent Hunyuan Wensheng 그래프 모델 기능을 사용할 수 있습니다. 동시에 Hunyuan DiT 모델은 Hugging Face Diffusers 일반 모델 라이브러리에 배포되었습니다. 사용자는 원본 코드 라이브러리를 다운로드하지 않고도 단 3줄의 코드만으로 Hunyuan DiT 모델을 호출할 수 있습니다.

이전에 Tencent는 대규모 Hunyuan 텍스트 생성 모델이 완전히 업그레이드되고 오픈 소스화되었으며 기업과 개인 개발자가 무료로 상업적으로 사용할 수 있다고 발표했습니다. 이는 업계 최초의 중국어 기반 DiT 아키텍처 텍스트 생성 그래프 오픈 소스 모델로, Sora와 동일한 DiT 아키텍처를 사용하여 중국어 및 영어 이중 언어 입력 및 이해를 지원하며 텍스트 생성을 지원할 뿐만 아니라 다중 언어로도 사용할 수 있습니다. 비디오와 같은 모달 시각적 생성 모델.

Tencent HunyuanDiT 모델오픈 소스은 많은 커뮤니티 개발자들의 인정을 받았습니다. 한 달이 채 안 되어 프로젝트의 Github 스타 수 가 2100명을 초과하여 오픈 소스 커뮤니티에서 최고의

인기 DiT 모델 중 하나로 선정되었습니다.

Hunyuan DiT Github 페이지

Tencent Hunyuan은 공식적으로 전용 가속 라이브러리를 출시하여 추론 시간을 75% 단축하고 대규모 모델 작업의 효율성을 향상시켰습니다. . 개발자는 Hugging Face를 통해 추론 가속화 도구를 다운로드할 수 있습니다.

프로젝트 팀은 지식 증류와 TensorRT 고성능 추론 프레임워크를 통해 Di

T 모델의 샘플링 단계 압축과 효율적인 추론 배포를 달성했습니다. 증류는 주로 가속을 달성하기 위해 확산 모델의 반복 단계 수를 줄이는 것을 의미합니다. 모델의 전체 구조와 매개변수 양은 변경되지 않습니다. 사용자는 추가 작업 및 장비 요구 사항 없이 증류 가중치를 사용하여 반복 단계 수를 50%까지 줄일 수 있으며 시간 소모도 절반으로 줄일 수 있습니다. TensorRT 추론 가속 솔루션은 엔지니어링 최적화를 통해 시간 소비를 더욱 줄일 수 있으며 모델 가중치와 분리됩니다. 추론 배포에 두 가지를 동시에 사용하면 추론 시간을 75%까지 줄일 수 있습니다.

사용자는 ComfyUI의 그래픽 인터페이스를 직접 사용하여 최신 뉴스를 기반으로 하는 커뮤니티의 공동 노력을 활용할 수 있습니다. 동시에 Hugging Face 팀과의 협력을 통해 하이브리드 DiT 모델이 Hugging Face 공식 모델 라이브러리 Diffusers에 배포되었으며 모델 라이브러리의 사용 및 생성 코드가 다시 조정되었습니다. 이 채널을 통한 하이브리드 DiT 모델은 사용자 사용 비용을 크게 단순화합니다.

ComfyUI는 Vincentian 그래프 분야의 WebUI 인터페이스 디자인으로, Vincentian 그래프 분야의 확산 알고리즘을 모듈화하고 그래픽화하여 생성 효율성과 리소스 활용도를 향상시키며, 개발자의 사용 임계값을 대폭 줄여줍니다. 사용자는 그래픽 워크플로우를 통해 Hunyuan DiT Wensheng 그래프 모델을 사용하여 공식 모델과 동일한 효과를 얻을 수 있습니다.

Hunyuan DiT Vincent 그래프 모델의 ComfyUI 사용자 인터페이스

또한 ComfyUI의 사용 생태계를 중심으로 강력한 오픈 소스 커뮤니티가 생겨났습니다. Hunyuan DiT의 ComfyUI 지원을 통해 커뮤니티 구성원은 최신 DiT 아키텍처를 기반으로 하는 Wensheng 다이어그램 모델을 경험할 수도 있습니다.

잘 알려진 AI 오픈 소스 커뮤니티인 Hugging Face의 Diffusers는 현재 다양한 주류 대형 Vincentian 그래프 모델을 호출하기 위한 범용 라이브러리이며 오늘날 대형 Vincentian 그래프 모델 사용에 대한 커뮤니티 표준이 되었습니다.

Hugging DiT 모델을 Hugging Face Diffusers에 적용하면 모델의 사용 편의성과 사용자 기반을 크게 향상시킬 수 있습니다. 사용자는 원본 코드 라이브러리를 다운로드하여 자신의 환경에 배포할 필요가 없습니다. Diffusers 라이브러리를 설치한 개발자는 Hunyuan DiT 모델을 호출하기 위해 몇 줄의 코드만 실행하면 되며 구성 및 호출이 매우 편리합니다. 동시에 Hugging Face와 Tencent Hunyuan 팀은 이미지 생성 속도를 높이기 위해 알고리즘 프레임워크를 공동으로 최적화했습니다.

이는 Hunyuan DiT를 기반으로 한 모든 후속 사용 및 개발에 대한 기본 지원을 제공하는 것과 동일하며 위에서 언급한 ComfyUI 방법을 포함하여 Hunyuan DiT를 호출해야 하는 모든 시나리오를 포괄합니다. 동시에 개발자의 경우 이전에 구성된 워크플로우와 디퓨저 기반 플러그인을 약간의 수정만으로 Hunyuan DiT에서 직접 사용할 수 있습니다.

Tencent Wenshengtu 대표 Lu Qinglin은 다음과 같이 말했습니다. "Tencent의 Hunyuan Wenshengtu 모델은 오픈 소스 이후 많은 개발자로부터 지원과 피드백을 받았습니다. 우리는 매우 기쁘고 커뮤니티와 협력하여 개선하고 대응하고 있습니다. Hunyuan DiT를 기반으로 오픈 소스 생태계를 최적화하면 더 많은 개발자가 최신 연구 결과를 더 편리하게 즐길 수 있습니다. 모델 산업.”🎜🎜

첨부된 내용은 Tencent Hunyuan Wenshengtu 오픈 소스 대형 모델(Hunyuan DiT 모델) 프로젝트 링크

공식 웹사이트: //m.sbmmt.com/link/35817bda28b111 aa49bd8fdf 61878246

코드: //m.sbmmt.com/link/bb4b90201e39e55c4a9ccfec8436cfb8

모델: //m.sbmmt.com /link /5dacab03c06f42f75c3f21a2c9f98997

종이: //m.sbmmt.com/link/a0b173044f2019316bebc411696e7 35