Apple은 자체 칩용 오픈 소스 프레임워크 MLX를 구축하고 Llama 7B를 구현하여 M2 Ultra에서 실행합니다.

2020년 11월, Apple은 놀라울 정도로 빠르고 강력한 M1 칩을 출시했습니다. Apple은 2022년에 M2를 출시할 예정이며, 올해 10월에는 M3 칩이 공식적으로 출시됩니다.

Apple은 칩을 출시할 때 칩의 AI 모델 훈련 및 배포 기능을 매우 중요하게 생각합니다.

Apple이 출시한 ML Compute는 Mac에서 TensorFlow 모델을 훈련하는 데 사용할 수 있습니다. PyTorch는 MPS(Apple Metal Performance Shaders)를 백엔드로 사용하여 Mac M1 버전에서 GPU 가속 PyTorch 기계 학습 모델 교육을 지원합니다. 이를 통해 Mac 사용자는 신경망을 로컬에서 훈련할 수 있습니다.

Apple은 Apple 칩에서 실행될 MLX

MLX라고 불리는 기계 학습을 위해 특별히 설계된 오픈 소스 어레이 프레임워크의 출시를 발표했습니다. AI 모델을 훈련하고 배포합니다. 이 프레임워크의 디자인 컨셉은 간단하고 이해하기 쉽습니다. 연구자들은 MLX를 쉽게 확장하고 개선하여 새로운 아이디어를 신속하게 탐색하고 테스트할 수 있습니다. MLX의 디자인은 NumPy, PyTorch, Jax 및 ArrayFire

프로젝트 주소: https://github.com/ml-explore/mlx

기여자 중 한 명 MLX 프로젝트에 대해 Apple 머신러닝 연구팀(MLR)의 연구원인 Awni Hannun이 MLX 프레임워크를 사용하여 Llama 7B를 구현하고 M2 Ultra에서 실행하는 영상을 보여주었습니다.

MLX는 머신러닝 연구자들의 관심을 빠르게 끌었습니다. TVM, MXNET 및 MLX에 대한 댓글

의 저자 Chen Tianqi 원래 의미를 그대로 유지하려면 내용을 중국어로 다시 작성해야 합니다. 원본 문장이 필요하지 않습니다

MLX 기능, 예제

이 프로젝트에서 MLX의 주요 기능은 다음과 같습니다

익숙한 API

. MLX에는 NumPy와 매우 유사한 Python API뿐만 아니라 Python API와 매우 유사한 모든 기능을 갖춘 C++ API도 있습니다. MLX에는 더 복잡한 모델 구축을 단순화하는 PyTorch와 유사한 API가 포함된 고급 패키지(예: mlx.nn 및 mlx.optimizers)도 있습니다.

결합 가능한 함수 변환. MLX는 자동 미분, 자동 벡터화 및 계산 그래프 최적화를 통해 구성 가능한 함수 변환을 제공합니다.

게으른 계산. MLX의 계산은 게으르며 필요한 경우에만 배열이 인스턴스화됩니다.

동적 그래픽 구성. MLX의 계산 그래프 구성은 동적이므로 함수 매개변수의 모양을 변경해도 컴파일 속도가 느려지지 않으며 디버깅이 간단하고 사용하기 쉽습니다.

여러 장치. CPU, GPU 등 지원되는 모든 장치에서 작업을 실행할 수 있습니다.

통합 메모리. MLX와 다른 프레임워크의 중요한 차이점은 통합 메모리, 어레이 공유 메모리입니다. MLX에서의 작업은 데이터를 이동하지 않고도 지원되는 모든 장치 유형에서 실행할 수 있습니다.

또한 이 프로젝트는 MNIST 예제와 같이 MLX 프레임워크를 사용하는 다양한 예제를 제공하므로 MLX 사용법을 배우는 데 도움이 될 수 있습니다

이미지 출처: https://github .com/ml-explore/mlx-examples/tree/main/mnist

위의 예 외에도 MLX는 다음과 같은 보다 실용적인 예도 제공합니다.

• Transformer 언어 모델 훈련;
• LLaMA 대규모 텍스트 생성 및 LoRA 미세 조정
• 이미지 생성을 위한 안정적인 확산
• OpenAI의 Whisper 음성 인식.

자세한 설명서는 다음을 참조하세요: https://ml-explore.github.io/mlx/build/html/install.html#

위 내용은 Apple은 자체 칩용 오픈 소스 프레임워크 MLX를 구축하고 Llama 7B를 구현하여 M2 Ultra에서 실행합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!