McKinsey 파트너: Generative AI는 클라우드 마이그레이션의 다양한 과제를 해결하는 데 도움이 됩니다.

McKinsey & Company 파트너인 Bhargs Srivathsan은 최근 싱가포르에서 열린 컨퍼런스에서 제너레이티브 AI 기술이 올바르게 사용된다면 클라우드 마이그레이션 작업 부하를 30%~50% 줄일 것으로 예상된다고 말했습니다.

Srivathsan은 “현재 진행 상황은 이제 막 첫 걸음을 내디뎠다고 할 수 있습니다. LLM(대형 언어 모델)이 성숙해짐에 따라 워크로드를 퍼블릭 클라우드로 마이그레이션하는 시간은 계속 단축될 것이며, 그에 따라 마이그레이션 프로세스도 향상될 수 있습니다.”

그녀는 조직이 먼저 대규모 언어 모델을 사용하여 시스템의 인프라를 이해하고 단점과 장점을 분석한 다음 워크로드 전송이 완료된 후에도 AI 도구를 계속 적용할 것을 제안했습니다. 마이그레이션이 유효한지 확인하기 위해 완료되었습니다.

또한 대규모 언어 모델을 사용하여 건축 검토 위원회 지침과 같은 설명 자료를 작성하는 등 더 많은 관련 작업을 완료할 수도 있습니다.

이 파트너는 많은 기업이 이제 막 AI 기술 도입을 고려하기 시작했지만 McKinsey가 투자한 기업 중 40%가 이미 IT 투자를 업데이트하고 있다고 말했습니다.

Srivathsan은 생성 AI와 클라우드의 관계가 "공생"이라고 믿습니다.

“퍼블릭 클라우드의 대중화 없이는 생성적 AI를 실제로 구현하는 것이 불가능하다는 점을 인정해야 합니다. 따라서 생성적 AI는 퍼블릭 클라우드 마이그레이션을 효과적으로 가속화하고 사용자가 원래 퍼블릭 클라우드에서 분리를 해제하도록 도울 수 있습니다. .”

Srivathsan의 관점에서 생성 AI의 4가지 핵심 사용 사례는 콘텐츠 생성, 고객 참여, 합성 데이터 생성 및 코드 작성입니다. 물론 여기서 코드를 작성한다는 것은 소프트웨어 개발을 처음부터 완료하는 것이 아닙니다. 제너레이티브 AI의 코딩 능력은 직원 퇴사 후 누구도 익숙하지 않은 레거시 코드를 이어받거나 원본 코드를 새로운 언어 형태로 변환하는 데 주로 반영된다.

또한 내부 모델을 구축하는 것보다 퍼블릭 클라우드가 더 안정적인 이유는 기업 사용자가 GPU 여유 공간이 충분하지 않은 경우가 많기 때문이라고 강조했습니다. 더욱이 시중에서 판매되는 기성 상용 모델의 가격도 자가 훈련보다 저렴합니다.

Srivathsan은 규제 대상 산업에 종사하거나 대량의 독점 데이터를 보유하고 있거나 지적 재산권 침해가 우려되는 사용자를 위해 해당 가드레일을 설정할 수도 있다고 지적했습니다.

그녀의 의견으로는 대형 언어 모델은 모델이 성숙될 때까지 향후 5~6년 동안 주로 초대형 인프라 환경에서 실행될 것입니다. 그리고 많은 사람들이 상상하는 것과는 달리 생성적 AI를 구현하는 데 반드시 그렇게 과장된 컴퓨팅 파워가 필요한 것은 아닙니다. 결국 대기 시간에 대해 이렇게 엄격한 요구 사항을 적용하는 사용 사례는 거의 없습니다.

즉, Tesla에서 실행되는 자동 조종 기능이나 제조 작업장의 실시간 운영을 지휘하는 소프트웨어가 아닌 이상 하드웨어를 너무 많이 쌓을 필요는 없습니다.

또한 대부분의 경우 맞춤형 또는 대규모 모델을 사용할 필요가 없습니다.

맥킨지 파트너는 “많은 기업이 피자를 배달하기 위해 슈퍼카를 구입해야 한다고 생각합니다. 물론 꼭 필요한 것은 아닙니다. 실제로 요구 사항을 충족하는 모델은 덜 복잡하고 규모도 작습니다. 고객 서비스 지원 스크립트를 위해 650억 개의 매개변수가 포함된 대규모 모델을 사용해야 합니다. 그러나 그녀는 또한 개발자가 액세스해서는 안 되는 비독점 모델이나 데이터에 액세스하는 경우 조직 내부와 외부에서 그렇게 해야 한다고 제안했습니다. . "실시간 경고" 메커니즘을 설정하려면 API 게이트웨이를 추가하세요.

위 내용은 McKinsey 파트너: Generative AI는 클라우드 마이그레이션의 다양한 과제를 해결하는 데 도움이 됩니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!