NVIDIA 64 A100 훈련 StyleGAN-T 9가지 유형의 생성 AI 모델 검토-일체 포함-php.cn

NVIDIA 64 A100 훈련 StyleGAN-T 9가지 유형의 생성 AI 모델 검토

PHPz

풀어 주다： 2023-04-11 12:13:03

앞으로

936명이 탐색했습니다.

目录：

커널 방법을 뛰어넘는 양자 기계 학습
다중 작업 학습을 위한 공간 통과 전하 수송 특성을 갖춘 광전자 폴리머를 사용한 웨어러블 센서 내 저장소 컴퓨팅
Dash: Semi -동적 임계값을 사용한 지도 학습
StyleGAN-T: 빠른 대규모 텍스트-이미지 합성을 위한 GAN의 성능 잠금 해제
다중 모드 지식 전달을 통한 개방형 어휘 다중 라벨 분류
ChatGPT만 필요한 것은 아닙니다. 대규모 생성 AI 모델에 대한 최신 검토
ClimaX: 날씨와 기후를 위한 기초 모델
ArXiv Weekly Radiostation：NLP、CV、ML 更多精选论文（附音频）

论文 1：커널 방식을 뛰어넘는 양자 기계 학습

제작자：Sofiene Jerbi 等
论文地址：https://www.nature.com/articles/s41467-023-3 6159- yㅋㅋㅋ框架捕获所有基于参数化weight子电路的标准模型：线性weight子模型。

研究人员展示了使사용량은 信息论中的工具如何将数据新上传电路有效地映射到weight子希尔伯特空间中线性模型的更简单图image中。此外，根据weight子比特数그리고需要school习的数据weight来分析这些模型的实验析资源需求. 더 많은 조회수를 얻을 수 있습니다.得多数据点.研究结果果提供了对果果提供了对解子机器school习模型的更及对不同模型与 NISQ 约束的兼容性的见解。

ㅋㅋ的统一框架。

论文 2：웨어러블 인센서 다중 작업 학습을 위한 공간 전하 수송 특성을 갖춘 광전자 폴리머를 사용한 저장소 컴퓨팅

작자: Xiaosong Wu 等

论文地址: https://www.nature.com/articles /s41467-023-36205-9

摘要：传感器内多任务school习不仅是生物视觉的关键优点，也是人工智能的主要目标。然而, 传统硅视觉芯文存는 큰 량을 가지고 있습니다.开销。此外，训练传统深titudescience习模型재边缘设备上既不可扩展也不可负担。

本文中，中科院화향대학적인研究团队提了一种材料算法协同设计来模拟人类视网膜的과학적인 习范例，并且低开销。基于具이 많이 있습니다.基于可穿戴晶体管的动态传感器储层计算系统，该系统에서 는 서로 다른 방식으로 판매됩니다.可识别手写字母화数字，并对各种服装进行分类，准确率分别为 98.04%、88.18% and 91.76%（高于所有已报告的有机半导体）。
기존 반도체와 p-NDI의 광전류 응답 비교 및 센서 내 RC 시스템의 세부 반도체 설계 원리.

추천: 낮은 에너지 소비와 낮은 시간 소비로 중국과학원과 홍콩대학교 팀은 웨어러블 센서의 저수지 내 계산을 위한 다중 작업 학습을 수행하는 새로운 방법을 사용했습니다.

문서 3: 대시: 동적 임계값을 사용한 반지도 학습
- 저자: Yi Xu 외
- 논문 주소: https://proceedings.mlr.press/v139 / xu21e/xu21e.pdf
요약: 본 논문에서는 SSL(Semi-Supervised Learning)을 위해 동적 임계값을 사용하여 레이블이 지정되지 않은 샘플을 필터링하는 방법을 혁신적으로 제안합니다. 훈련 프로세스 중 레이블이 지정되지 않은 샘플의 선택 전략을 개선하고 동적으로 변경되는 임계값을 통해 훈련에 더 효과적인 레이블이 없는 샘플을 선택했습니다. Dash는 기존 준지도 학습 방법과 쉽게 통합할 수 있는 일반적인 전략입니다.

실험 측면에서 CIFAR-10, CIFAR-100, STL-10 및 SVHN과 같은 표준 데이터 세트에 대한 효율성을 완전히 검증했습니다. 이론적으로 이 논문은 비볼록 최적화 관점에서 Dash 알고리즘의 수렴 특성을 증명합니다.

Fixmatch 교육 프레임워크

추천: Dharma Academy의 오픈 소스 준지도 학습 프레임워크 Dash, 많은 SOTA를 새로 고침 .

논문 4: StyleGAN-T: 빠른 대규모 텍스트-이미지 합성을 위한 GAN의 힘 잠금 해제
- 저자: Axel Sauer 외
- 논문 주소: https://arxiv.org/pdf/2301.09515.pdf
요약: 확산 모델이 텍스트에서 이미지 생성에 가장 적합합니까? 반드시 그런 것은 아닙니다. NVIDIA 및 기타 업체가 출시한 새로운 StyleGAN-T는 GAN이 여전히 경쟁력이 있음을 보여줍니다. StyleGAN-T는 단 0.1초 만에 512×512 해상도 이미지를 생성합니다:

추천: GAN이 돌아왔다? NVIDIA는 확산 모델보다 성능이 뛰어난 StyleGAN-T를 교육하는 데 64개의 A100을 소비했습니다.

문서 5: 다중 모드 지식 이전을 통한 개방형 어휘 다중 레이블 분류
- 저자: Sunan He et al
- 문서 주소: https://arxiv.org / abs/2207.01887
요약: 다중 라벨 분류 시스템에서는 훈련 세트에 나타나지 않은 수많은 라벨을 자주 접하게 되는데, 이러한 라벨을 정확하게 식별하는 방법은 매우 중요하고 극도로 중요합니다. 도전적인 문제.

이를 위해 Tencent Youtu Lab은 Tsinghua University 및 Shenzhen University와 함께 이미지-텍스트 사전의 강력한 이미지-텍스트 매칭 기능을 사용하여 다중 모드 지식 전달을 기반으로 하는 프레임워크 MKT를 제안했습니다. -훈련 모델, 이미지 분류에서 주요 시각적 일관성 정보를 유지하고 다중 레이블 장면의 개방형 어휘 분류를 구현합니다. 이 작품은 AAAI 2023 Oral에 선정되었습니다.

ML-ZSL 및 MKT 방법 비교.

추천: AAAI 2023 Oral | 알 수 없는 태그를 식별하는 방법은 무엇입니까? 새로운 SOTA를 달성하기 위한 다중 모드 지식 이전 프레임워크.

문서 6: ChatGPT가 필요한 전부는 아닙니다. 대규모 생성 AI 모델에 대한 최신 리뷰
- 저자: Roberto Gozalo-Brizuela 외
- 논문 주소: https://arxiv.org/abs/2301.04655
요약: 지난 2년 동안 AI 분야에서는 ChatGPT나 Stable과 같은 대규모 생성 모델이 대거 등장했습니다. 확산. 특히 이러한 모델은 일반적인 질문 응답 시스템이나 자동으로 예술적 이미지를 생성하는 등의 작업을 수행할 수 있어 많은 분야에 혁명을 일으키고 있습니다.

스페인 Comillas Pontifical University의 연구진이 최근 제출한 리뷰 논문에서 저자는 생성 AI가 현재 여러 모델에 미치는 영향을 간결하게 설명하려고 노력했으며, 최근 출시된 주요 생성 AI 모델을 분류했습니다. .

카테고리 아이콘.

추천: ChatGPT가 필요한 전부는 아닙니다. 6개 주요 회사의 9가지 유형의 생성 AI 모델에 대한 리뷰입니다.

논문 7: ClimaX: 날씨와 기후를 위한 기초 모델
- 저자: Tung Nguyen et al
- 논문 주소: https://arxiv.org/abs/2301.103 43
요약: Microsoft 자율 시스템 및 로봇 공학 연구 그룹과 Microsoft 과학 지능 연구 센터는 날씨 및 기후 과학에 사용할 수 있는 유연하고 일반화 가능한 딥 러닝 모델인 ClimaX를 개발했습니다. 다양한 변수, 시공간 적용 범위 및 물리적 기반을 갖춘 이기종 데이터 세트에 걸쳐 교육합니다.

ClimaX는 일반성을 유지하면서 사용 가능한 계산을 효율적으로 사용할 수 있는 새로운 인코딩 및 집계 블록으로 Transformer 아키텍처를 확장합니다. ClimaX는 CMIP6에서 파생된 기후 데이터 세트에 대한 자기 지도 학습 목표를 사용하여 사전 훈련되었습니다. 사전 훈련된 ClimaX는 사전 훈련 중에 볼 수 없는 대기 변수 및 시공간 규모와 관련된 작업을 포함하여 광범위한 기후 및 날씨 작업을 해결하도록 미세 조정될 수 있습니다.

사전 훈련 중에 사용되는 ClimaX 아키텍처

권장: Microsoft 팀은 최초의 AI 기반 날씨 및 기후 기본 모델 ClimaX를 출시합니다.