7 Faits saillants clés de Geoffrey Hinton sur la supentintelligent AI - Analytics Vidhya

Si le parrain de l'IA vous dit de « s'entraîner à être plombier», vous savez que cela vaut la peine d'écouter - du moins c'est ce qui a attiré mon attention. Dans une discussion récente, Geoffrey Hinton a parlé de l'avenir potentiel façonné par une IA superintelligente, et si vous êtes curieux de savoir comment cette conversation s'est déroulée, vous n'êtes pas seul! Au cours de cette conférence, Hinton a abordé certains des plus grands problèmes concernant l'intelligence artificielle: ses risques, ses impacts sociétaux et ce que tout cela signifie pour nous en tant qu'humains. Explorons les principaux plats à emporter et les pensées partagées par ce célèbre pionnier de l'IA.

Tableau de contenu

• Faits saillants clés de l'interview de Geoffrey Hinton
  • L'évolution de l'IA
  • L'impact de l'IA sur les emplois
  • Les deux types de risques d'IA
  • L'évolution du marché du travail dû à l'IA
  • AI dans la guerre
  • La menace de superintelligence
  • Règlements: trop peu, trop tard?
• Conclusion

Faits saillants clés de l'interview de Geoffrey Hinton

Apparaissant sur le podcast «Journal d'un PDG» organisé par Steven Bartlett, un entrepreneur britannique bien connu, Geoffrey Hinton discute de sa mission actuelle - « avertir les gens des dangers de l'IA». À un moment où nous n'approchons pas de chefs et des technologies pour établir des contrôles appropriés sur ces systèmes.

Voici quelques points notables de la discussion:

1. L'évolution de l'IA

Geoffrey Hinton a passé plus de deux décennies à défendre un modèle d'IA basé sur des réseaux de neurones, visant à imiter la capacité du cerveau humain à apprendre et à reconnaître les modèles. Initialement, ses idées ont rencontré le doute et le rejet. Aujourd'hui, cependant, son travail constitue le fondement de l'IA moderne. Parallèlement à ses talentueux étudiants, Hinton a joué un rôle déterminant dans le développement de l'apprentissage en profondeur, qui alimente les technologies de l'IA d'aujourd'hui. Lorsqu'on lui a demandé comment il prévoyait que l'IA dépassait l'intelligence humaine, Hinton a admis qu'il était lent à le réaliser. Il a souligné que Chatgpt a marqué une étape importante pour l'IA, présentant des capacités au-delà des attentes, y compris la compréhension et l'imitation des émotions humaines.

Hinton a expliqué que l'IA a développé des capacités fondamentalement différentes de l'intelligence biologique. Avec des vitesses d'apprentissage plus rapides, une capacité de traitement des données plus élevée et un fonctionnement à des échelles bien au-delà de la capacité humaine, l'IA pourrait bientôt dépasser l'intelligence humaine à tous les niveaux. Si cela se produit, l'IA pourrait prendre des décisions sans aucune surveillance ou explication humaine.

2. L'impact de l'IA sur les emplois

Commençons par une blague, mais ce n'est pas vraiment drôle. Lorsque Geoffrey Hinton a été interrogée sur les options de carrière à l'ère de l'IA, il a suggéré en plaisantant de devenir plombier. L'humour cache un sérieux avertissement: l'IA est susceptible de remplacer de nombreux emplois intellectuels. À mesure que l'IA devient plus avancée, les tâches cognitives de routine nécessitant une entrée humaine peuvent ne plus être nécessaires. Même les rôles impliquant la créativité et la prise de décision complexe ne seront pas sûrs, car les LLM seront en concurrence directement avec les humains. Cela signifie que moins d'emplois de haut niveau resteront disponibles pour les personnes.

3. Les deux types de risques d'IA

Hinton a décrit deux principaux types de risques d'IA. La première implique des menaces immédiates causées par une mauvaise utilisation, comme les cyberattaques, la fraude et la manipulation devenant plus efficaces et dangereuses avec l'IA. Le deuxième risque et plus préoccupant est lorsque l'IA devient beaucoup plus intelligente que les humains. À ce stade, soutient Hinton, nous ne comprenons peut-être même pas ce que fait l'IA ou comment le contrôler. Par exemple, les données de chatbot pourraient être utilisées pour manipuler les électeurs avec des annonces hautement ciblées. Des plateformes comme YouTube et Facebook pourraient exploiter les émotions des gens à l'aide de LLMS pour pousser des agendas spécifiques.

4. Le marché du travail changeant en raison de l'IA

L'une des préoccupations les plus urgentes soulevées par Hinton est de savoir comment l'IA affectera l'emploi. Alors que beaucoup considèrent l'IA comme un outil pour soutenir les travailleurs humains, Hinton prévient que l'IA éliminera un grand nombre d'emplois, en particulier ceux qui impliquent des tâches mentales répétitives. Il a donné l'exemple de sa nièce, qui travaille dans les soins de santé et utilise désormais l'IA pour gérer les plaintes beaucoup plus rapidement. Cela illustre comment l'IA remplace les travaux qui nécessitaient auparavant un effort humain important.

Selon Hinton, les emplois impliquant le travail intellectuel disparaîtront progressivement, bien que des domaines comme les soins de santé et le travail manuel puissent encore être en sécurité - pour maintenant. Cependant, même ces champs pourraient changer si les robots physiquement capables se répandaient.

5. AI dans la guerre

Lors de la discussion du rôle de l'IA dans la guerre, Hinton a exprimé sa préoccupation concernant les « armes autonomes mortelles». Ces machines peuvent décider indépendamment qui cibler, potentiellement transformer la façon dont les guerres sont menées. Avec une implication humaine minimale, les conflits pourraient devenir plus fréquents et moins résistés, car les pays évitent la perte de soldats. Bien que ces armes ne soient pas plus intelligentes que les humains, elles fonctionnent sans contribution humaine directe - ce qui les rend imprévisibles et dangereuses. Bien que coûteux, ces armes seraient à portée de main des nations avec des budgets suffisants, ce qui leur donne un avantage sur les armées traditionnelles.

Lire aussi: 8 prédictions futures de Jensen Huang qui ressemblent à de la science-fiction

6. La menace de superintelligence

Hinton va plus loin, expliquant qu'une fois que l'IA atteint la superintelligence - où elle surpasse les humains à tous points de vue - cela ne dépendra plus des besoins humains ou des désirs. Le problème n'est pas de savoir si l'IA peut nous dépasser, mais si elle décide de nous retirer complètement. Une IA superintelligente pourrait voir l'humanité comme une menace pour ses objectifs et agir d'une manière qui pourrait mettre fin à la civilisation. Cela ressemble à quelque chose de Terminator 3, mais pour Hinton - qui fonctionne sur la sécurité de l'IA - c'est une vraie inquiétude. Le défi est maintenant de créer une IA sécurisée, sûre et toujours sous notre contrôle.

7. Règlement: trop peu, trop tard?

Hinton reconnaît que les réglementations sont en cours d'introduction, en particulier en Europe, mais estime qu'elles ne sont pas à l'égard de l'étendue complète des dangers de l'IA. Certaines lois, par exemple, laissent de côté les applications militaires de l'IA - la zone même où se trouvent les plus grands risques. Il a également souligné comment les gouvernements et les entreprises pourraient utiliser l'IA pour influencer les élections, gérer les populations et approfondir les inégalités.

Malgré les préoccupations croissantes, Hinton doute que nous serons en mesure de ralentir le développement de l'IA, car la technologie est trop précieuse et profondément intégrée dans les systèmes mondiaux. Pour lui, l'IA est une force imparable - un changement technologique qui a déjà progressé trop loin.

Remarque: vous pouvez entendre toute la conversation ici.

Conclusion

Cette interview m'a laissé ressentir un sentiment d'urgence. Les dangers qu'il a décrits sont très réels. Bien que l'IA offre des opportunités incroyables d'améliorer nos vies - révolutionnant les soins de santé, l'éducation et la productivité - il présente également de sérieux risques que la société est mal préparée à gérer. Des pertes d'emplois aux armes autonomes, les effets de l'IA pourraient remodeler notre monde d'une manière à laquelle nous ne sommes pas prêts.

Le message d'Hinton est clair: nous devons investir massivement dans la sécurité de l'IA et rapidement. Que nous puissions vraiment contrôler l'avenir de l'IA reste incertain. Mais si nous n'essayons pas, nous risquons de faire face à un avenir dominé par l'IA avec des résultats catastrophiques.

En réfléchissant à cette conversation, je me retrouve avec plus de questions que de réponses. Pourtant, une chose est certaine: nous nous tenons au bord de quelque chose de bien plus grand que n'importe lequel d'entre nous à saisir complètement. L'IA peut s'avérer être la plus grande réussite de l'humanité - ou sa pire erreur. Le choix et la responsabilité incombent à nous.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!