Le père de ChatGPT devient un maître de l'équilibre : je veux à la fois la sécurité de l'argent et de la technologie de l'IA

News du 3 avril, l’objectif ultime d’OpenAI est de développer une intelligence artificielle générale sécurisée. Le PDG de l’entreprise, Sam Altman, doit à la fois utiliser les revenus technologiques pour favoriser l’avancement continu de l’intelligence artificielle et recourir à des organisations à but non lucratif pour garantir la sécurité de la technologie de l’intelligence artificielle. Ses amis proches disent que c'est l'art de l'équilibre.

Altman, PDG d'OpenAI, âgé de 37 ans, a toujours rêvé que les ordinateurs puissent communiquer et apprendre les uns des autres comme les humains. Il a été mis au premier plan de l’engouement pour l’intelligence artificielle avec ChatGPT. Altman a déclaré que ce dont il se souvient le plus clairement, c'est d'être resté éveillé tard lorsqu'il était enfant dans sa chambre à jouer au Macintosh LC II, qu'il a reçu en cadeau de son huitième anniversaire. À ce moment-là, Altman s'est soudain rendu compte : « Un jour, les ordinateurs apprendront à penser. » Au cours des derniers mois, Altman a non seulement construit l'avenir de l'intelligence artificielle, mais a également travaillé dur pour la commercialiser. En novembre de l'année dernière, la société OpenAI qu'il dirigeait a lancé ChatGPT, un chatbot capable d'écrire des articles comme les humains et qui est devenu l'un des produits les plus viraux de l'histoire de la technologie. Les documents des investisseurs montrent qu'à mesure que ChatGPT est devenu populaire sur Internet, OpenAI est passée d'une petite organisation à but non lucratif à une entreprise multimilliardaire à une vitesse presque record. Cela est dû en partie au fait qu'OpenAI a créé une unité à but lucratif et a reçu un financement de 13 milliards de dollars de Microsoft.

Un tel succès fait également partie d’un délicat exercice d’équilibre. Altman a déclaré qu'il s'inquiétait également de ce qui se passerait si l'intelligence artificielle était introduite dans la société avec un abandon imprudent. Lui et d’autres ont cofondé OpenAI, une organisation de recherche à but non lucratif, il y a huit ans, lorsque Altman a fait valoir qu’il était dangereux d’utiliser les profits pour stimuler le développement de modèles puissants d’intelligence artificielle.

Altman est très prudent quant à l’utilisation des bénéfices pour encourager le développement de l’IA. Il a précisé qu'il ne détenait pas directement d'actions d'OpenAI, ce qui est rare dans la Silicon Valley. Vous savez, les fondateurs des startups à succès de la Silicon Valley s’enrichissent généralement grâce aux capitaux propres qu’ils détiennent.

Altman a déclaré à propos des avantages financiers : « Comme la plupart des gens, j’aime voir les chiffres de la richesse augmenter, mais je ne veux tout simplement pas que cela soit le seul facteur. OpenAI a déclaré que la rémunération d’Altman est « modeste », mais n’a pas divulgué. des chiffres précis. Altman a révélé qu'il détient une petite participation dans un fonds de capital-risque investissant dans OpenAI, mais que cela est « sans conséquence ».

Altman a gagné beaucoup d'argent au cours de ses premières années en investissant dans des start-ups, "gagnant plus que ce dont j'avais besoin". Il possède trois propriétés, dont un manoir dans un quartier de San Francisco et une maison de vacances à Napa Valley. Il a embauché des dizaines de personnes pour gérer les propriétés et les investissements familiaux.

L’objectif d’Altman est d’établir un nouvel ordre et d’utiliser des machines pour libérer les gens afin qu’ils puissent s’engager librement dans un travail plus créatif. Dans la vision d’Altman, chacun recevrait un revenu de base pour compenser les emplois remplacés par l’intelligence artificielle. Il pense même que les humains seront très friands d’intelligence artificielle et que les chatbots avancés peuvent devenir « une extension de la volonté des gens ».

Altman a déclaré qu'à long terme, il espère établir une structure de gouvernance mondiale pour superviser les décisions concernant l'intelligence artificielle future et réduire progressivement l'influence de l'équipe de direction d'OpenAI sur la technologie de l'intelligence artificielle.

Les partisans disent qu'Altman est le candidat idéal pour diriger OpenAI. Mais beaucoup de gens disent que le sens des affaires d'Altman est trop développé et qu'il est toujours immergé dans la pensée de la Silicon Valley, incapable de supporter la révolution technologique qui remodèle les affaires et la vie sociale.

Des documents d'investisseurs montrent qu'OpenAI et Microsoft ont signé un accord d'une valeur de 10 milliards de dollars en janvier de cette année et que Microsoft détiendra 49 % de l'unité à but lucratif d'OpenAI. Ce partenariat d'entreprise, associé aux efforts agressifs d'Altman pour commercialiser la technologie d'intelligence artificielle, a frustré les premiers dirigeants d'OpenAI. Ils soutiennent que ces décisions violent les promesses initiales de développer l’IA en dehors de l’influence des actionnaires.

Le PDG de Tesla, Elon Musk, a également critiqué OpenAI. Musk a participé à la fondation d'OpenAI en 2015, mais l'a quitté en 2018 en raison de différends sur le contrôle et l'orientation du développement. En février de cette année, Musk a déclaré sur Twitter qu'OpenAI avait été créée à l'origine comme une organisation open source à but non lucratif "pour contrôler et équilibrer Google, mais elle est maintenant devenue une entreprise aux ressources fermées, cherchant un maximum de profits, et est en fait contrôlée par Microsoft". ". Ce n'était pas du tout mon intention."

Interrogé sur les critiques de Musk, Altman a fait une pause. "J'aime Musk", a-t-il finalement répondu, "et je fais attention à ce qu'il dit."

Dans une lettre ouverte publiée la semaine dernière, incluant Musk, le cofondateur d'Apple, Steve Wozniak (des célébrités de la Silicon Valley, dont Steve Wozniak), a appelé le L'ensemble de l'industrie doit suspendre le développement d'une intelligence artificielle plus avancée que la dernière technologie GPT-4 d'OpenAI dans un délai de six mois afin d'éviter une situation où la concurrence technologique pourrait devenir incontrôlable.

Les gens imaginent depuis longtemps une intelligence artificielle générale qui non seulement est efficace pour générer du texte ou des images, mais qui peut comprendre et apprendre aussi bien que les humains, voire même mieux performer que les humains. Altman a déclaré qu'OpenAI ne doit pas nécessairement être la première équipe à développer une intelligence artificielle générale, mais que sa mission ultime est de développer une intelligence artificielle générale sûre.

Selon les documents des investisseurs, OpenAI a fixé un plafond de bénéfices pour les investisseurs, et tout revenu dépassant un certain niveau sera reversé à l'organisation à but non lucratif affiliée. La valeur spécifique du plafond de profit varie de 7 fois à 100 fois le capital investi, selon la durée de l'investissement. OpenAI et Microsoft ont également formé un comité de sécurité conjoint qui comprend Altman et le directeur de la technologie de Microsoft, Kevin Scott. Si le comité estime que les produits commercialisés par Microsoft et OpenAI sont trop dangereux, il a le pouvoir de les retirer.

Le capital-risqueur milliardaire Peter Thiel, l'un des premiers donateurs d'OpenAI, est un ami proche d'Altman. Il a déclaré que la possibilité d’une intelligence artificielle générale avait donné à Altman l’idée qu’une technologie similaire avait créé l’univers. Thiel soutient depuis longtemps l’idée selon laquelle les humains et les machines fusionneront un jour.

Après la sortie de ChatGPT, une série de systèmes d'intelligence artificielle concurrents ont également émergé. En février de cette année, Google a annoncé qu'il testait son propre chatbot Bard et qu'il l'ouvrirait au public en mars.

"Ils se précipitent pour publier des communiqués de presse, a déclaré Altman à propos de ses concurrents : "De toute évidence, ils sont en retard maintenant. "

OpenAI a promis dans sa charte fondatrice qu'elle abandonnerait les efforts de recherche existants si un autre projet se rapprochait plus que lui du développement de l'intelligence artificielle générale. La société a déclaré qu'il s'agissait de donner la priorité à la sécurité humaine et d'éviter une course à la construction de systèmes d'intelligence artificielle dangereux.

Les bureaux d'OpenAI dans le Mission District de San Francisco sont remplis de fontaines en pierre, de plantes succulentes et de fougères, et Altman s'extasie sur l'escalier central qu'il a conçu pour que les 400 employés de l'entreprise l'utilisent également tous les jours. pour travailler en personne du lundi au mercredi. Le bâtiment comprend également une cafétéria de style universitaire, un bar libre-service et une bibliothèque conçue pour ressembler à la librairie parisienne préférée d'Altman. Une combinaison d'inspiration pour la conception de la Bender Room, un lieu calme. espace d'étude au dernier étage de la bibliothèque universitaire.

Altman porte une tenue typique de PDG d'une entreprise technologique : un sweat-shirt gris, un jean et des baskets blanches brillantes.

Altman a grandi dans la banlieue de. St. Louis, l'aînée de quatre enfants. Sa mère était dermatologue et son père travaillait comme avocat. Les membres de la famille ont déclaré que la véritable profession du père d'Altman était une organisation à but non lucratif de logement abordable qui a passé des années à tenter de revitaliser le centre-ville de St. Louis.

Une leçon qu'Altman a déclaré que son père lui avait enseignée était la suivante : « Vous devez essayer d'aider les autres. Même si vous n’avez pas le temps, vous devez trouver un moyen. "

La mère d'Altman a déclaré que son fils avait commencé à utiliser le magnétoscope familial à l'âge de 2 ans et qu'il avait changé son billet de retour après le camp d'été à l'âge de 13 ans. Elle a déclaré que lorsque Altman était en troisième année, il avait commencé à aider le public local. des enseignants ayant des problèmes d'ordinateur. Au collège, il a été transféré à l'école privée John Burroughs

"Les professeurs l'aimaient parce qu'il était vraiment très intelligent et travailleur, et il était également très bon dans ce domaine", a déclaré. Andy Abbott, alors directeur. "Il était amusant et avait une grande personnalité. ”

Altman est ensuite allé à l'Université de Stanford et a fait des recherches dans un laboratoire d'intelligence artificielle. Au cours de sa deuxième année, il a cofondé la société de services de réseaux sociaux géolocalisés Loopt, qui est devenue plus tard la première phase de l'accélérateur entrepreneurial Y Combinator Part. du cours. Puis Altman a également quitté l'école

Loopt n'a jamais décollé et a été vendu en 2012 pour 434 millions de dollars, soit un montant proche du montant investi par des investisseurs tels que Sequoia Capital.

Par la suite, Orr a lancé un autre fonds de capital-risque et s'est fait des amis. , dont Thiel et le co-fondateur de Y Combinator, Paul Graham, qui a contribué à faire de la société d'Altman une société de courtage influente dans la Silicon Valley. Altman a utilisé son propre argent pour investir avec succès dans des dizaines d'entreprises, notamment la société de logiciels cloud Asana et un site Web de forum de discussion. Reddit. Au cours de son mandat chez Y Combinator, Altman s'est de plus en plus inquiété des entreprises comme DeepMind. De grands laboratoires de recherche développent une technologie d'intelligence artificielle potentiellement dangereuse à l'abri des regards du public. Altman et Musk pensent qu'il est temps de créer leur propre laboratoire. En fin de compte, une équipe à laquelle ils ont participé a promis de fournir 1 milliard de dollars de fonds à l'organisation à but non lucratif OpenAI. a essayé quelques petits projets, comme apprendre aux robots à résoudre le Rubik's Cube. En 2017, OpenAI a licencié un grand nombre d'employés.

Les chercheurs d'OpenAI ont rapidement conclu que le moyen le plus probable d'atteindre l'intelligence artificielle générale réside dans de grands modèles de langage. qui sont des programmes informatiques qui imitent la façon dont les humains lisent et écrivent. Mann a déclaré que ce type de modèle nécessite une formation basée sur de grandes quantités de contenu textuel et nécessite beaucoup de puissance de calcul, mais en tant qu'organisation à but non lucratif, OpenAI n'a pas cette capacité. conditions d’un financement à grande échelle.

"Nous n'avions pas réellement réalisé à quel point ce projet allait coûter cher", a déclaré Altman. Options de financement, telles que la recherche de financement gouvernemental ou le lancement d'une nouvelle crypto-monnaie. Il a déclaré : "Personne n'était disposé à financer la recherche, et c'était une période vraiment difficile."

Des sources bien informées ont révélé que les tensions entre Altman et Musk continuaient de croître. Musk était frustré par la lenteur des progrès de la recherche et souhaitait avoir davantage de contrôle sur OpenAI.

Les dirigeants d'OpenAI ont finalement eu une idée complètement différente, en créant une division à but lucratif, OpenAI LP, relevant d'une organisation mère à but non lucratif.

Reid Hoffman, co-fondateur de la plateforme de recrutement LinkedIn, était à l'époque conseiller d'OpenAI et est ensuite devenu membre du conseil d'administration de l'entreprise. Il a déclaré que l'idée est d'attirer les investisseurs désireux de bénéficier de la commercialisation de la technologie OpenAI et d'accélérer le développement d'OpenAI.

"Vous voulez être le premier à réaliser quelque chose, vous voulez établir la norme", a déclaré Hoffman. "C'est pourquoi la vitesse de développement devient une question morale et éthique.

Des sources bien informées ont déclaré: Cette décision a encore éloigné Musk." philosophie d'entreprise d'OpenAI. En février 2018, il s'est séparé d'OpenAI.

Les anciens employés qui ont assisté à la réunion ont déclaré que Musk avait annoncé sa démission lors d'une réunion de tout le personnel. Musk avait expliqué à l’époque qu’il pensait avoir de meilleures chances de développer une intelligence artificielle générale grâce à Tesla, où il aurait accès à davantage de ressources.

D'anciens employés affirment qu'un jeune chercheur s'est demandé si Musk avait envisagé les questions de sécurité à l'époque. Ils ont déclaré que Musk était visiblement frustré et avait traité le stagiaire de « crétin », laissant les employés stupéfaits. C’était la dernière fois que beaucoup d’entre eux voyaient Musk en personne.

Peu de temps après, un cadre d'OpenAI a commandé un trophée « Fool » pour le jeune chercheur et le lui a ensuite remis sur un oreiller. "Vous devez vous amuser", a déclaré Altman. "Cela fait partie de la culture de l'entreprise."

Le départ de Musk est devenu un tournant pour OpenAI. Plus tard cette année-là, la direction d'OpenAI a informé les employés qu'Altman dirigerait l'entreprise. Il est officiellement devenu PDG d'OpenAI et a contribué à la création de l'unité à but lucratif début 2019.

Sur le milliard de dollars initial promis en dons, OpenAI a déclaré avoir reçu environ 130 millions de dollars. Avec la création de la branche à but lucratif, OpenAI n'a plus besoin de dons supplémentaires. Musk a déclaré sur Twitter qu'il avait fait don d'environ 100 millions de dollars à OpenAI.

Selon d'anciens employés qui ont assisté à la réunion, Musk a annoncé sa démission lors d'une réunion de l'ensemble du personnel. Musk expliquait à l’époque qu’il pensait que grâce à Tesla, il aurait accès à davantage de ressources et aurait ainsi de meilleures chances de développer une intelligence artificielle générale.

D'anciens employés ont déclaré qu'un jeune chercheur avait demandé un jour à Musk s'il avait réfléchi aux questions de sécurité. Ils ont déclaré que Musk était visiblement frustré et choqué par les employés en traitant le stagiaire de « crétin ». C’était la dernière fois que beaucoup d’entre eux voyaient Musk en personne.

Peu de temps après, les dirigeants d'OpenAI ont commandé un trophée « Fool » et l'ont placé sur l'oreiller du chercheur en guise de cadeau. Altman a déclaré : « Il faut s'amuser, ce qui fait également partie de la culture de l'entreprise. »

Le départ de Musk est devenu un tournant pour OpenAI. Plus tard cette année-là, la direction d'OpenAI a informé les employés qu'Altman dirigerait l'entreprise. Il est officiellement devenu PDG d'OpenAI et a commencé à créer l'unité à but lucratif en 2019.

Sur le don d'un milliard de dollars initialement annoncé, OpenAI a déclaré avoir reçu environ 130 millions de dollars. Après avoir créé une branche à but lucratif, OpenAI n'a plus besoin de dons supplémentaires. Musk a déclaré sur Twitter qu'il avait fait don d'environ 100 millions de dollars à OpenAI.

Pendant ce temps, Altman a commencé à rechercher des investisseurs. À l'été 2018, il assistait à l'assemblée annuelle d'Allen & Co. à Sun Valley, dans l'Idaho, et a rencontré par hasard le PDG de Microsoft, Satya Nadella, dans une cage d'escalier. Altman a présenté OpenAI à Nadella et a suscité son intérêt. Cet hiver-là, des pourparlers formels ont commencé.

«Je me souviens d'être revenu plus tard et d'avoir dit que c'était le seul bon partenaire», se souvient Altman. "Ils ont quelque chose de sûr, ils ont l'intelligence artificielle. Et ils ont du capital et beaucoup de puissance de calcul.

D'anciens employés d'OpenAI ont déclaré qu'Altman avait rapidement annoncé le contenu du contrat pendant le processus de négociation et avait pris des dispositions pour que tous les employés le fassent." apaiser les inquiétudes selon lesquelles le partenariat était en conflit avec la promesse initiale d'OpenAI de développer l'intelligence artificielle en dehors de l'espace de l'entreprise.

Cependant, certains salariés pensent encore qu’il s’agit d’un pacte avec le diable. Dario Amodei, chercheur en chef en sécurité d'OpenAI, et ses adjoints craignaient que l'accord ne permette à Microsoft de vendre la technologie OpenAI avant qu'elle n'ait passé les tests de sécurité adéquats. Ils estiment que la technologie OpenAI est loin d'être prête pour une version à grande échelle, et encore moins pour une collaboration avec l'un des plus grands éditeurs de logiciels au monde. Ils craignent que la technologie ne fonctionne mal ou soit utilisée à mauvais escient, causant ainsi des dommages imprévisibles.

Certains anciens employés ont déclaré qu'Amodei craignait également que l'accord lie OpenAI et Microsoft, ce qui rendrait plus difficile pour OpenAI de remplir la promesse de sa charte fondatrice selon laquelle si elle atteignait d'abord l'intelligence artificielle générale, elle se retournerait ensuite et aiderait les autres. projet.

Microsoft a initialement investi 1 milliard de dollars dans OpenAI. L’accord apporte le financement nécessaire à OpenAI, mais comporte également certaines limites. OpenAI a accepté d'utiliser les serveurs géants de Microsoft pour former des modèles d'intelligence artificielle uniquement via les services cloud Azure et a concédé sous licence la technologie OpenAI aux produits Microsoft.

Nadella a déclaré dans une récente interview : "Lorsque vous vous tenez au bord d'une falaise, la seule chose que vous pouvez faire est de sauter et d'espérer pouvoir atterrir de manière stable." Il a appelé cela un processus de transformation de la plateforme.

Gary Marcus, professeur émérite de psychologie et de neurosciences à l'Université de New York et co-fondateur d'une société d'apprentissage automatique, a déclaré : "Cet accord sape complètement les principes par lesquels OpenAI a obtenu le statut d'organisation à but non lucratif"

Marcus estime qu'Altman "a tiré. un virage à 180 degrés, qui à mon avis n'est qu'une expression verbale d'un souci pour la sécurité humaine. à la mission", a-t-il déclaré, y compris un plafond sur le retour sur investissement et la possibilité d'atteindre une intelligence artificielle générale si elle était d'abord réalisée. Une promesse de se retourner et d'aider avec un autre projet, etc.

Ce financement accélérera sans aucun doute les progrès de la recherche et du développement d’OpenAI, permettant aux chercheurs d’obtenir la puissance de calcul critique nécessaire pour améliorer les grands modèles de langage. OpenAI a rapidement développé un modèle de langage plus puissant, GPT-3, et a vendu la technologie aux développeurs via une interface de programmation d'application (API) en juin 2020.

Selon d'anciens employés, Altman et Amodei se sont à nouveau affrontés sur des problèmes de publication d'API. Amodei estime que les versions de produits devraient être limitées à des groupes d'utilisateurs plus petits et menées par étapes afin de réduire l'attention du public et de donner aux équipes de sécurité plus de temps pour tester.

Quelques mois plus tard, Amodei quitte OpenAI avec d'autres pour créer un laboratoire d'intelligence artificielle concurrent, Anthropic. Altman a déclaré : "Ils sont en désaccord avec nous sur la façon d'obtenir une intelligence artificielle générale sûre."

Anthropic a reçu plus de 300 millions de dollars d'investissement de Google et a lancé le chatbot d'intelligence artificielle Claude en mars de cette année, les développeurs peuvent appeler ce robot via API.

Un récent rapport d'investisseur montre qu'Anthropic s'est déclaré "engagé dans une commercialisation à grande échelle" pour développer une intelligence artificielle générale sûre, et prévoit de publier en septembre une méthode de commercialisation "conforme à ses engagements". Anthropic a été fondée en tant que société de recherche et de sécurité en matière d'intelligence artificielle avec l'intention de potentiellement créer de la valeur commerciale à partir du produit.

Les documents des investisseurs montrent que Microsoft a investi un total de 3 milliards de dollars dans OpenAI au cours des trois années suivant l'accord initial.

En novembre de l'année dernière, ChatGPT a gagné plus d'un million d'utilisateurs enregistrés en seulement cinq jours après sa sortie. Cette vitesse a même surpris Altman. Avant cela, OpenAI avait lancé DALL-E 2, qui peut générer des images complexes basées sur des invites textuelles.

Après la diffusion de ChatGPT, les gens ont utilisé ce chatbot pour diverses applications intéressantes, telles que l'écriture de poèmes ou la planification de fêtes d'anniversaire, ce qui a suscité de vives discussions sur Internet.

Selon les analystes d'UBS, en février de cette année, le nombre d'utilisateurs actifs de ChatGPT avait atteint 100 millions, ce qui représente la vulgarisation la plus rapide des applications grand public de l'histoire.

Les proches collaborateurs d’Altman louent sa capacité à équilibrer les priorités d’OpenAI. Thiel a déclaré que personne n'est mieux placé pour trouver un équilibre entre « idéalisme » et « réalité ».

Altman a déclaré que afin d'effectuer davantage de tests de sécurité, il avait reporté la sortie de la dernière version de GPT-4 au mois de mars de cette année. De nombreux utilisateurs ont signalé des problèmes lors de l'utilisation du modèle GPT-4. Par exemple, lorsqu'il est intégré à la recherche Bing de Microsoft, GPT-4 génère des réponses erronées.

Altman a déclaré : "La bonne approche est d'impliquer les gens, d'explorer ces systèmes, de les étudier et d'apprendre comment les rendre plus sécurisés.

Selon les documents, après avoir récupéré l'investissement initial, Microsoft OpenAI en a reçu environ 49." % des bénéfices avant d'atteindre le plafond de revenus, qui était supérieur aux 21 % précédemment fixés. La société mère à but non lucratif OpenAI recevra le produit résiduel.

En plus d'OpenAI, Altman a investi dans d'autres projets, dont Worldcoin, une société qu'il a cofondée, dans le but de fournir des services de crypto-monnaie à tous.

Ces dernières années, Altman a investi la quasi-totalité de ses liquidités dans deux sociétés. Altman a déclaré que son investissement de 375 millions de dollars dans Helion Energy, qui étudie comment créer de l'énergie sans carbone à partir de la fusion nucléaire, est sur le point de « créer un gain énergétique net dans une véritable démonstration ».

De plus, il a également investi 180 millions de dollars dans Retro, dans le but de prolonger la vie humaine de 10 ans grâce à des technologies innovantes telles que « la reprogrammation cellulaire, la thérapie plasmatique et l'autophagie ».

Altman a déclaré que ces problèmes sont beaucoup plus faciles à résoudre de manière éthique qu'avec l'intelligence artificielle. "Si vous faites de la fusion nucléaire, c'est certainement un avantage. C'est une bonne chose", a-t-il déclaré. "Si vous développez l'intelligence artificielle, cela pourrait être très bien, cela pourrait être très mauvais."

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!