Les startups testant GPT-4 disent que sa puissance est incroyable

OpenAI a récemment publié son modèle de génération de texte GPT-4, qui a attiré une large attention. Mais la société a déclaré que les développeurs ne peuvent pas encore créer de produits ou de services car l'API est toujours sur la liste d'attente.

Cela signifie que seuls quelques utilisateurs ont la possibilité d'utiliser ce dernier modèle de langage à grande échelle d'OpenAI. L’une de ces sociétés est la startup d’intelligence artificielle Miðeind ehf, qui était l’une des six sociétés sélectionnées pour tester GPT-4.

Une équipe de 12 personnes de l'entreprise souhaitait former GPT-4 en islandais, et ils sont devenus l'un des premiers testeurs du produit le plus populaire de la Silicon Valley après s'être rendu dans la Bay Area pour tester GPT-4 en mai dernier. Le PDG de Miðeind rejoint une délégation gouvernementale islandaise pour explorer comment la technologie peut être utilisée pour contribuer à préserver la langue du pays.

Le PDG de Miðeind discute avec Sam Altman d'OpenAI de la façon dont GPT-4 peut adopter et développer des langues à faibles ressources comme l'islandais. Ces langages constituent un défi pour l'application mondiale de grands langages de modèles, car beaucoup moins de données sont collectées pour entraîner les modèles.

L'équipe de Miðeind propose ses réflexions sur la façon dont GPT-4 peut être amélioré, l'intelligence artificielle utilisée pour préserver le calendrier perpétuel islandais et comment GPT-4 a créé un nouveau terme très intéressant pour les chats.

Développement passionnant

Cette équipe de Miðeind a été chargée de déterminer si GPT-4 pouvait être amélioré en termes d'applications et de traitement linguistiques en l'alimentant avec des données d'apprentissage par renforcement islandais (la phase après la formation initiale).

Pétur Orri Ragnarsson, l'un des membres de l'équipe d'apprentissage automatique de Miðeind, a déclaré que les résultats constituaient une nette amélioration par rapport à GPT-3.5, mais que le modèle n'est toujours pas parfait en ce qui concerne l'utilisation de l'islandais. Il a déclaré : "Le texte qu'il génère en islandais a tendance à être compréhensible, mais comporte encore quelques erreurs grammaticales."

Ragnarsson a déclaré qu'il pouvait constater d'énormes améliorations dans l'inférence générale avec GPT-3.5.

Il a déclaré : « La chose la plus excitante est que vous pouvez lui demander de faire quelque chose et expliquer pourquoi cela donne ce résultat. GPT-3.5 peut le faire, GPT-4 est meilleur car il donne aux gens le sentiment que l'explication est plus. raisonnable ou crédible. Une chose que les gens essaient généralement est de demander à GPT-4 de faire quelque chose et d'expliquer chaque étape du processus - il le fait très bien

"L'explicabilité" est la génération de développement. C'est un gros problème pour les gens en intelligence artificielle. J'ai essayé de résoudre car le fonctionnement des grands modèles de langage signifie que la sortie est générée dans une "boîte noire". Cela signifie que même les développeurs qui construisent GPT-4 ne savent pas comment il répond aux questions, ce qui signifie qu'il est difficile de faire en sorte que ces modèles montrent comment ils fonctionnent.

Si l’IA générative doit être largement utilisée dans des secteurs tels que la médecine et le droit, les personnes travaillant dans ces domaines doivent pouvoir faire confiance aux résultats du modèle.

Pensée d'ordre supérieur

Une autre caractéristique du GPT-4 qui a impressionné Ragnarsson était sa capacité à produire des réponses plus nettes que les modèles précédents. Il a donné un exemple de son utilisation pour effectuer une analyse des sentiments sur un morceau de texte, avec des notes allant de neutre à positive sur une échelle de 1 à 5.

Ragnarsson a déclaré : "J'ai saisi une phrase que je pensais assez neutre, c'est-à-dire qu'un client a demandé quelque chose au service client." Il a été surpris de constater que GPT-4 a évalué cette phrase légèrement positivement.

Il a déclaré : « J'ai demandé : « Veuillez expliquer. » La réponse que j'ai obtenue a été très surprenante. Elle disait : « Bien que la phrase elle-même soit neutre, l'action envisagée améliorera leur vie, donc dans l'ensemble, cette phrase est légèrement. positif. " Il estime que cela montre que GPT-4 a appris à aller au-delà du " sens superficiel " du texte.

Miðeind COO Linda Heimisdottir a déclaré que ces capacités de GPT-4 sont particulièrement impressionnantes car, à sa connaissance, le modèle n'a pas été spécifiquement formé pour l'analyse des sentiments.

Elle a déclaré : « C’est incroyable de voir un modèle comme celui-ci faire quelque chose que les chercheurs font depuis des années, et pour lequel il n’a pas été spécifiquement formé. C’est vraiment fascinant de voir les résultats et ce que les gens pensent. donne aux gens le sentiment que GPT-4 a un énorme potentiel d'application. en un mot.

Heimisdottir a déclaré qu'elle avait demandé à GPT-4 de raconter une histoire sur les chats, et GPT-4 a donné un mot islandais, "kattafræðilega", qui est un mot composé inventé par GPT-4, et sa signification approximative est "chat" ( chat).

Elle a expliqué : "La première partie 'katta' signifie 'chat' mais la deuxième partie 'fræðilega' signifie 'lié à la théorie'. GPT-4 décrit le chat comme 'kattafræðilega duglegur'. duglegur est un mot islandais signifiant diligent ou un travail acharné

Quand j'ai demandé à GPT-4 d'expliquer ce que cela signifiait, il m'a répondu : « kattafræðilega duglegur » signifie que ce chat est particulièrement travailleur. En d’autres termes, il est doué pour gratter, enquêter, chasser les insectes, chercher de la nourriture, et il est plein d’énergie et d’intérêt pour son environnement. C'est très bien d'être un chat. »

Miðeind estime : « Pour que les grands modèles linguistiques atteignent des performances réellement élevées dans des langues moins couramment utilisées, de bons ensembles de données multilingues doivent être inclus dans la formation initiale, et nous espérons entrer dans la pré-formation comme prochaine étape. « 

Des recherches comme celle-ci sont essentielles pour garantir que la prochaine génération d’IA ne soit pas seulement une avancée innovante davantage centrée sur le monde anglophone, car les grandes entreprises technologiques de la Silicon Valley dominent déjà le domaine des grands modèles linguistiques. OpenAI a choisi Miðeind Être l'un des premiers testeurs de GPT-4 montre au moins que l'entreprise a une vision globale de l'intelligence artificielle générative, même si elle est motivée par des raisons commerciales.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!