Karpathy, ancien directeur de Tesla et expert OpenAI : J'étais distrait par la conduite autonome, les agents IA sont l'avenir !

Récemment, Andrej Karpathy, co-fondateur d'OpenAI, ancien directeur de TeslaAI, et maintenant de retour chez OpenAI, a partagé son point de vue sur les agents d'IA lors d'un événement pour développeurs.

Il y a sept ans, le moment d'étudier les agents d'IA n'était pas encore mûr

Il a parlé pour la première fois de ses débuts chez OpenAI (vers 2016). La tendance de l'industrie à cette époque était d'étudier comment utiliser le renforcement. méthodes d’apprentissage. Améliorer les agents d’IA.

De nombreux projets créent des joueurs IA basés sur des jeux Atari similaires.

Photos

Ce qu'il voulait faire à cette époque, c'était un produit avec une gamme d'applications plus large.

Cependant, en raison des limites de la technologie à l'époque, les résultats n'étaient pas bons, alors lui et OpenAI ont changé de direction et ont commencé à construire des modèles de langage plus grands.

Bien sûr, durant cette période j'étais distrait par la conduite automatique.

Mais maintenant, 5 ans plus tard, les agents IA sont redevenus une direction très prometteuse.

Parce qu'il existe désormais de nouveaux moyens techniques pour étudier les agents IA, la situation est complètement différente de 2016.

L'exemple le plus simple est que plus personne n'utilise de méthodes d'apprentissage par renforcement pour étudier les agents d'IA comme ils le faisaient en 2016.

Les méthodes et orientations de recherche actuelles étaient inimaginables à l’époque.

Les agents IA représentent un avenir fou, même s'il est peut-être un peu loin

Car dans le futur, si l'AGI peut apparaître, les capacités des agents IA seront pleinement utilisées.

À l'avenir, les agents d'IA ne seront peut-être pas des individus isolés, mais il y aura de nombreuses organisations d'agents d'IA ou même des civilisations d'agents d'IA.

Photos

Cela pourrait être un avenir très excitant, voire fou.

Mais en même temps, tout le monde doit rester éveillé et calme.

Parce que certaines tendances technologiques peuvent être faciles à concevoir et à imaginer, mais il est difficile de mettre en œuvre des produits.

De nombreuses technologies entrent dans cette catégorie, comme la conduite autonome.

La vision technologique est facile à imaginer et les démonstrations de voitures circulant autour du pâté de maisons sont faciles à réaliser, mais la fabrication d'un produit peut prendre 10 ans.

De même, la VR est également la même situation.

Photos

Les agents IA peuvent également appartenir à cette catégorie de technologie. Les scénarios d'application sont faciles à imaginer et les perspectives sont passionnantes, mais cela nécessite un développement et une accumulation technologiques à long terme.

Les agents d'IA doivent s'inspirer des neurosciences

Tout comme le développement précoce de l'apprentissage profond, le développement d'agents d'IA peut s'inspirer des neurosciences.

Il est intéressant de réfléchir à la relation entre les agents d’IA et les neurosciences.

Surtout maintenant que de nombreuses personnes considèrent les grands modèles de langage comme faisant partie de leurs solutions d'agents d'IA.

Mais comment construire une entité numérique complète possédant toutes les capacités cognitives humaines ?

Évidemment, nous sommes tous d'accord sur le fait qu'il doit y avoir un système sous-jacent pour planifier, réfléchir et réfléchir sur ce que nous faisons.

C’est peut-être là que les neurosciences entrent en jeu.

Par exemple, l'hippocampe est une partie très importante du cerveau.

Mais qu'est-ce qui, dans l'agent IA, joue le rôle de l'hippocampe pour stocker la mémoire, mettre en œuvre le marquage et la récupération, etc. ?

Nous comprenons généralement comment construire le cortex visuel et auditif, mais il y a encore beaucoup de choses que nous ne savons pas ce que cela signifie exactement chez un agent IA.

Par exemple, à quoi correspond le thalamus, siège du subconscient chez AI Agents ?

Ce sont des questions très intéressantes.

J'ai spécialement apporté un livre sur les neurosciences, "Brain and Behaviour" de David Eagleman. J'ai trouvé ce livre très intéressant et éclairant.

Tout comme les premières recherches sur l’IA lors de la conception de neurones, s’inspirer de manière intéressante des neurosciences pourrait être une direction que nous devrions réessayer.

Tout le monde ici est à la pointe de l'industrie

Vous ne le savez peut-être pas forcément, mais les agents IA construits par tout le monde ici aujourd'hui sont déjà à la pointe des capacités des agents IA.

Je ne pense pas qu'aucune des institutions travaillant actuellement sur des modèles de langage à grande échelle, comme OpenAI, soit à l'avant-garde dans ce domaine.

Au premier plan, c'est tout le monde ici.

Par exemple, OpenAI est très efficace pour former des modèles de langage Transformer.

Si un article propose une méthode de formation différente, alors tous les membres de notre groupe Slack interne OpenAI en discuteront et diront :

"J'ai essayé cette méthode il y a deux ans et demi, et elle n'a pas fonctionné. "

Nous sommes très clairs sur les tenants et les aboutissants de la méthode de formation du modèle.

Mais lorsque l'article sur les agents IA sera publié, nous serons tous très intéressés et trouverons cela étonnant.

Parce que notre équipe a passé les 5 dernières années ailleurs.

Photos

Nous n'en savons pas plus que vous dans ce domaine, et nous sommes au même niveau de compétition que tout le monde.

C'est pourquoi je pense que tout le monde ici est à l'avant-garde des agents IA. C'est très important pour le développement des agents IA.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!