Les grands modèles d'IA sont très chers et seules les grandes entreprises et les super riches peuvent les utiliser avec succès

L'incendie de ChatGPT a conduit à une nouvelle vague d'engouement pour l'IA. Cependant, l'industrie estime généralement que lorsque l'IA entre dans l'ère des grands modèles, seules les grandes entreprises et les entreprises très riches peuvent se permettre l'IA, en raison de la création de grandes IA. les modèles sont très chers.

Tout d’abord, cela coûte cher en calcul. Avi Goldfarb, professeur de marketing à l'Université de Toronto, a déclaré : « Si vous souhaitez démarrer une entreprise, développer vous-même un grand modèle de langage et le calculer vous-même, le coût est trop élevé. OpenAI est très cher, coûtant des milliards. de dollars." Calcul du bail Bien sûr, cela coûtera beaucoup moins cher, mais les entreprises doivent toujours payer des frais élevés à AWS et à d'autres sociétés.

Deuxièmement, les données coûtent cher. Les modèles de formation nécessitent des quantités massives de données, parfois les données sont facilement disponibles, parfois non. Les données telles que Common Crawl et LAION sont gratuites. Pour ce type de données, le coût provient principalement du nettoyage et du traitement des données. Le coût peut varier considérablement, allant de quelques centaines de dollars à des millions de dollars.

Debarghya Das, ingénieur fondateur de Glean Company, a déclaré qu'aux États-Unis, sur la base de calculs mathématiques approximatifs basés sur de grands documents de modèle de langage, si Facebook LLaMA est utilisé, le coût de la formation (sans tenir compte des itérations ou des erreurs) est d'environ 4 millions de dollars américains. S'il s'agit de Google PaLM, environ 27 millions de dollars.

Même si vous utilisez des données gratuites, le coût n'est pas faible. Sasha Luccioni, chercheuse chez Hugging Face, a déclaré : « Lorsque vous téléchargez des téraoctets de données, si vous souhaitez filtrer ou utiliser les données d'une manière particulière, par exemple en utilisant un modèle texte-image, les chercheurs se concentreront sur certains sous-ensembles du Ce n'est qu'ainsi que le modèle s'améliorera), l'ensemble du processus est assez délicat et nécessite beaucoup de puissance de calcul et beaucoup de professionnels.

Encore une fois, le coût de l’embauche de professionnels est également très élevé. Debarghya Das n’a pas pris en compte les coûts de main-d’œuvre lors de l’estimation des coûts ci-dessus. Sasha Luccioni a souligné : « Les professionnels du machine learning sont très bien payés car ils sont en concurrence avec Google et d'autres géants de la technologie pour les talents, et parfois un talent professionnel peut coûter des millions de dollars. 190 millions de dollars.

De plus, le coût de la formation des modèles et de l'embauche de professionnels n'est pas un coût ponctuel, il est continu. Par exemple, si vous développez un chatbot de service client, vous devez l'optimiser chaque semaine ou toutes les quelques semaines. Le modèle est également soumis à des tests de résistance pour garantir que les réponses qu'il génère sont correctes. Comme l'explique Sasha Luccioni : "Le coût le plus élevé vient du travail en cours, de la nécessité de tester en permanence le modèle, de la nécessité de s'assurer que l'IA fait ce qu'elle est censée faire

Enfin, les dépenses de fonctionnement courantes sont." pas bon marché non plus. Lorsque tout sera prêt et que le modèle sera ouvert au public, il recevra des milliers de demandes chaque jour, il faut s'assurer que le modèle est évolutif et très stable. Le coût de maintenance est également élevé et nécessite des professionnels. pour le gérer.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!