Une illusion de la vie

Les grands modèles de langue (LLMS) d'aujourd'hui imitent de manière convaincante une conversation humaine, semblant souvent réfléchie et intelligente. Beaucoup croient que les LLM dépassent déjà le test de Turing, imitant de manière convaincante les humains en dialogue. Ils génèrent du texte qui semble perspicace et émotionnellement nuancé.

### L'illusion de l'intelligence: une mimique intelligente

Malgré cet impressionnant mimétisme, les LLM actuelles manquent de pensée ou d'émotion. Leur sortie est une prédiction purement statistique - chaque mot choisi sur la base des modèles appris à partir d'ensembles de données massifs. Cette prédiction mot par mot, contrairement à la cognition humaine, exclut la mémoire et l'auto-réflexion. Le modèle publie simplement le mot statistiquement probable suivant.

Remarquablement, ce processus simple imite efficacement l'intelligence humaine, permettant aux LLM d'effectuer des tâches complexes comme le codage, l'analyse littéraire et la planification d'entreprise. Cette compétence inattendue soulève des questions: les LLM possèdent-elles des capacités cachées, ou ces tâches sont-elles trompeusement simples, révélateurs des limites de l'évaluation de l'intelligence humaine?

Sentence: mémoire, réflexion et émotion

En utilisant la "sensibilité" comme raccourci pour des concepts comme la conscience et la conscience de soi (reconnaissant les nuances et le débat continu entourant ces termes), nous notons une exigence cruciale: mémoire et réflexion. Les émotions - le caractère, l'inquiétude, la colère - sont des États persistants ancrés dans les expériences passées et l'auto-évaluation. Ces processus sont absents dans les LLM actuels.

La mémoire et l'auto-réflexion permettent l'apprentissage, l'adaptation et un sentiment d'identité - des composantes essentielles de la sensibilité. Bien que la définition de la conscience reste insaisissable, ces éléments sont centraux. Par conséquent, quelle que soit l'intelligence apparente d'une LLM, son manque de mémoire et de réflexion empêche la sensibilité. Même une AI supentintelligente (AGI) peut ne pas être sensible.

limitations actuelles et illusion de la sensibilité

Les LLM actuels manquent de mémoire et de réflexion de l'auto-réflexion en raison de leurs architectures de transformateur sans état. Chaque entrée est traitée indépendamment, sans conserver des informations contextuelles à partir des interactions précédentes. L'histoire de la conversation entière est retraitée pour chaque prédiction. Alors que les modèles précédents comme LSTMS avaient de la mémoire, les performances supérieures de Transformers les ont largement remplacées.

Par exemple, un LLM pourrait répondre à une menace de fermeture avec une réponse apparemment plaidante. Cependant, il s'agit simplement du texte statistiquement probable, et non du reflet d'un état émotionnel. Le modèle n'est pas véritablement stressé. De même, un changement de cœur ultérieur suscite une réponse imitant un soulagement - encore une fois, généré statistiquement sur la base de l'histoire de la conversation. La même entrée pourrait produire une réponse similaire à partir d'un LLM.

Ceci est analogue à un auteur de fiction créant des personnages crédibles. L'auteur élabore un dialogue convaincant, mais le lecteur comprend sa fiction. De même, les LLM créent une illusion convaincante de la sensibilité, mais elles restent insensibles.

L'avenir de la sensibilité de l'IA: construire les pièces manquantes

L'ajout de la mémoire et de l'auto-réflexion aux LLMS est possible et activement poursuivi. Cela pourrait impliquer un stockage de données lisible par l'homme, des bases de données vectorielles intégrées ou l'utilisation de journaux de chat comme mémoire. Même sans sensibilité, ces ajouts améliorent les capacités LLM.

Nous voyons également des conceptions utilisant des modèles AI interconnectés, où un surveille et fournit une rétroaction à une autre, reflétant les régions interconnectées du cerveau humain (par exemple, l'amygdale et le cortex orbitofrontal). Cette approche modulaire pourrait combiner une analyse logique avec l'évaluation des risques, par exemple.

Ces modèles interconnectés avec la mémoire pourraient-ils atteindre la sensibilité? Peut-être. Cependant, le test de sensibilité reste un défi, semblable au problème philosophique d'autres esprits. Nous manquons d'un test définitif de sensibilité chez les autres, y compris l'IA.

Actuellement, les LLM n'ont pas les composants nécessaires à la sensibilité. Cependant, les conceptions abordant ces limitations émergent. La possibilité d'une IA sensible passe de la science-fiction à une question réelle et urgente.

implications sociétales et questions sans réponse

Les machines sensibles auraient des implications sociétales profondes, en particulier concernant les obligations éthiques envers les entités conscientes de soi capables de souffrir. Éviter la souffrance de Sentient IA serait à la fois un impératif éthique et une question d'auto-préservation.

Bien que les systèmes d'IA actuels soient probablement insensibles, les conceptions à avancer rapidement soulèvent des questions importantes. Comment testerons-nous la sensibilité de l'IA? Et quelles actions devons-nous prendre si la réponse est positive?

À propos de l'auteur: James F. O'Brien est professeur d'informatique à l'Université de Californie à Berkeley… (L'auteur Bio and Averbonders reste inchangé.)

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!