Matryoshka 인형은 권장되지 않습니다. 연구원들은 AI 생성 결과로 AI를 훈련하면 모델 저하로 이어질 것이라고 확인했습니다.

IT하우스 뉴스 6월 14일, IT하우스 친구들은 AI가 생성한 결과를 AI 훈련에 활용해 '마트료시카식 훈련'을 하면 어떤 결과를 얻을 수 있을지 상상해보셨을 텐데요? 현재 이를 관찰하고 기록한 연구팀이 있으며, 자세한 논문과 결과는 arXiv에 게재됐다.

한 문장 요약 - "모델에서 생성된 콘텐츠를 훈련에 사용하면 이후에 생성되는 모델에 돌이킬 수 없는 결함이 발생하게 됩니다." 연구자들은 "AI에서 생성된 결과로 AI를 훈련하면 모델이 바뀔 뿐"이라는 사실을 발견했습니다. 점점 더 나빠지고 있어."

▲ 이미지 출처 arXiv

연구원들은 주로 "text to text"와 "image to image"를 중심으로 AI 생성 모델의 확률 분포를 구체적으로 연구한 결과, 최종적으로 "각 모델에서 생성된 결과에는 특정 특성이 있으므로 AI를 사용하십시오. -AI를 훈련하기 위해 모델을 생성하고 시간이 지남에 따라 후자는 실제 기본 데이터 분포를 잊어버릴 것입니다.”

▲ 이미지 출처 arXiv

논문의 주요 저자 중 한 명인 Ilia Shumailov도 “시간이 지남에 따라 생성된 데이터(IT Home Note: 잘못된 예 등)의 오류로 인해 AI가 현실을 더욱 오인하게 되며 모델 붕괴를 관찰하고 놀랐습니다. .은 매우 빠르며 모델은 원래 학습한 원본 데이터의 대부분을 빨리 잊어버릴 수 있습니다.”

하지만 친구들은 AI가 생성한 결과를 수동으로 다듬은 다음 모델 훈련에 넣으면 모델이 "퇴화"될 수 있는지 궁금해할 수 있습니다.

답은 '아니오'입니다. 연구원들은 "모델 저하 과정이 불가피하다"는 사실을 발견했습니다. 따라서 "정교하고 이상적인 AI 출력 콘텐츠"의 경우에도 모델은 장기간 학습 후에 특정 저하를 경험할 것입니다.

어떤 대형 모델이든 너무 많은 학습 데이터로 인해 필연적으로 다른 AI가 생성한 데이터와 접촉하게 되기 때문에 연구진은 학습을 개선하기 위해 "잠재적으로 잘못된 학습 데이터를 찾아내기 위해 AI 식별이 도입되어야 한다"고 말했습니다. 모델의 능력과 정확성.

위 내용은 Matryoshka 인형은 권장되지 않습니다. 연구원들은 AI 생성 결과로 AI를 훈련하면 모델 저하로 이어질 것이라고 확인했습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!