Un homme largement considéré comme le parrain de l’intelligence artificielle (IA) a quitté son emploi, mettant en garde contre les dangers croissants des développements dans le domaine.
Geoffrey Hinton, 75 ans, a annoncé sa démission de Google dans une déclaration au New York Times, affirmant qu’il regrettait désormais son travail.
Il a déclaré à la BBC que certains des dangers des chatbots IA étaient « assez effrayants ».
« En ce moment, ils ne sont pas plus intelligents que nous, pour autant que je sache. Mais je pense qu’ils le seront bientôt. »
Le Dr Hinton a également reconnu que son âge avait joué dans sa décision de quitter le géant de la technologie, déclarant à la BBC : « J’ai 75 ans, il est donc temps de prendre ma retraite. »
Les recherches pionnières du Dr Hinton sur les réseaux de neurones et l’apprentissage en profondeur ont ouvert la voie aux systèmes d’IA actuels comme ChatGPT.
En intelligence artificielle, les réseaux de neurones sont des systèmes similaires au cerveau humain dans la manière dont ils apprennent et traitent les informations. Ils permettent aux IA d’apprendre de l’expérience, comme le ferait une personne. C’est ce qu’on appelle l’apprentissage en profondeur.
Le psychologue cognitif et informaticien anglo-canadien a déclaré à la BBC que les chatbots pourraient bientôt dépasser le niveau d’informations détenu par un cerveau humain.
« En ce moment, ce que nous voyons, ce sont des choses comme le GPT-4 qui éclipse une personne dans la quantité de connaissances générales qu’elle possède et elle l’éclipse de loin. En termes de raisonnement, ce n’est pas aussi bon, mais c’est déjà le cas. raisonnement simple », a-t-il dit.
« Et étant donné le rythme des progrès, nous nous attendons à ce que les choses s’améliorent assez rapidement. Nous devons donc nous en préoccuper. »
Le monde est-il prêt pour la prochaine tempête d’IA ?
- L’IA pourrait affecter 300 millions d’emplois – rapport
Dans l’article du New York Times, le Dr Hinton a fait référence aux « mauvais acteurs » qui essaieraient d’utiliser l’IA pour de « mauvaises choses ».
Lorsque la BBC lui a demandé de donner des détails à ce sujet, il a répondu : « C’est juste une sorte de pire scénario, une sorte de scénario cauchemardesque.
« Vous pouvez imaginer, par exemple, qu’un mauvais acteur comme [le président russe Vladimir] Poutine a décidé de donner aux robots la possibilité de créer leurs propres sous-objectifs. »
Le scientifique a averti que cela pourrait éventuellement « créer des sous-objectifs comme » J’ai besoin d’avoir plus de pouvoir « ».
Il a ajouté: « Je suis arrivé à la conclusion que le type d’intelligence que nous développons est très différent de l’intelligence que nous avons.
« Nous sommes des systèmes biologiques et ce sont des systèmes numériques. Et la grande différence est qu’avec les systèmes numériques, vous avez de nombreuses copies du même ensemble de poids, du même modèle du monde.
« Et toutes ces copies peuvent apprendre séparément mais partager leurs connaissances instantanément. C’est donc comme si vous aviez 10 000 personnes et chaque fois qu’une personne apprenait quelque chose, tout le monde le savait automatiquement. Et c’est ainsi que ces chatbots peuvent en savoir bien plus que n’importe qui. »
Matt Clifford, président de l’Advanced Research and Invention Agency du Royaume-Uni, s’exprimant à titre personnel, a déclaré à la BBC que l’annonce du Dr Hinton « souligne la vitesse à laquelle les capacités de l’IA s’accélèrent ».
« Cette technologie présente un énorme avantage, mais il est essentiel que le monde investisse massivement et de toute urgence dans la sécurité et le contrôle de l’IA », a-t-il déclaré.
Le Dr Hinton rejoint un nombre croissant d’experts qui ont exprimé des inquiétudes au sujet de l’IA – à la fois la vitesse à laquelle elle se développe et la direction dans laquelle elle va.
« Il faut prendre du recul »
En mars, une lettre ouverte – cosignée par des dizaines de personnes dans le domaine de l’IA, dont le milliardaire technologique Elon Musk – appelait à une pause sur tous les développements plus avancés que la version actuelle du chatbot IA ChatGPT afin que des mesures de sécurité robustes puissent être conçues. et mis en œuvre.
Yoshua Bengio, un autre soi-disant parrain de l’IA, qui, avec le Dr Hinton et Yann LeCun, a remporté le prix Turing 2018 pour leurs travaux sur l’apprentissage en profondeur, a également signé la lettre.
M. Bengio a écrit que c’était à cause de « l’accélération inattendue » des systèmes d’IA que « nous devons prendre du recul ».
Mais le Dr Hinton a déclaré à la BBC qu' »à plus court terme », il pensait que l’IA apporterait beaucoup plus d’avantages que de risques, « donc je ne pense pas que nous devrions arrêter de développer ce genre de choses », a-t-il ajouté.
Il a également déclaré que la concurrence internationale signifierait qu’une pause serait difficile. « Même si tout le monde aux États-Unis arrêtait de le développer, la Chine aurait juste une grande avance », a-t-il déclaré.
Le Dr Hinton a également déclaré qu’il était un expert de la science, pas de la politique, et qu’il incombait au gouvernement de s’assurer que l’IA était développée « avec beaucoup de réflexion sur la manière de l’empêcher de devenir voyou ».
« Approche responsable »
Le Dr Hinton a souligné qu’il ne voulait pas critiquer Google et que le géant de la technologie avait été « très responsable ».
« En fait, je veux dire de bonnes choses sur Google. Et elles sont plus crédibles si je ne travaille pas pour Google. »
Dans un communiqué, le scientifique en chef de Google, Jeff Dean, a déclaré : « Nous restons attachés à une approche responsable de l’IA. Nous apprenons continuellement à comprendre les risques émergents tout en innovant avec audace. »
Il est important de rappeler que les chatbots IA ne sont qu’un aspect de l’intelligence artificielle, même s’ils sont les plus populaires en ce moment.
L’IA est derrière les algorithmes qui dictent les plateformes de streaming vidéo que vous devriez regarder ensuite. Il peut être utilisé dans le recrutement pour filtrer les candidatures, par les assureurs pour calculer les primes, il peut diagnostiquer des conditions médicales (bien que les médecins humains aient toujours le dernier mot).
Ce que nous voyons maintenant, cependant, c’est la montée en puissance de l’IAG – intelligence générale artificielle – qui peut être formée pour faire un certain nombre de choses dans le cadre d’une mission. Ainsi, par exemple, ChatGPT ne peut offrir que des réponses textuelles à une requête, mais les possibilités à l’intérieur de cela, comme nous le voyons, sont infinies.
Mais le rythme d’accélération de l’IA a surpris même ses créateurs. Il a considérablement évolué depuis que le Dr Hinton a construit un réseau de neurones en 2012.
Même le patron de Google, Sundar Pichai, a déclaré dans une récente interview que même lui ne comprenait pas tout à fait tout ce que faisait son chatbot IA, Bard.
Ne vous y trompez pas, nous sommes actuellement sur un train à grande vitesse, et le souci est qu’un jour il commencera à construire ses propres voies.
Source: www.bbc.com