Geoffrey Hinton regrette d’avoir créé la technologie utilisée par ChatGPT

Si les robots conversationnels comme ChatGPT existent aujourd’hui, c’est bien grâce aux travaux de recherche qui ont été menés par le docteur Geoffrey Hinton. Ce scientifique britannique de 75 ans affiche désormais des regrets quant à l’utilisation dévoyée de l’intelligence artificielle, estimant « qu’il est difficile d’empêcher les mauvais acteurs de les employer à des fins malveillantes ».

Geoffrey Hinton, pionnier de l’intelligence artificielle nous alerte sur les menaces potentielles que font courir les IA à l’humanité Pixabay

Dans le monde des sciences du numérique, Geoffrey Hinton éminent professeur au département d'informatique de l'Université de Toronto, grand spécialiste des neurosciences et des programmes d’intelligence artificielle, fait figure d’autorité. Ce chercheur d’origine britannique vivant au Canada, aujourd’hui âgé 75 ans, a été l'un des premiers à mettre en application des algorithmes pour qu’un réseau neuronal artificiel puisse « apprendre » à voir, à lire, à écrire, à compter ou à dessiner de façon autonome, en imitant le fonctionnement d’un cerveau humain.

Ces recherches constituent aujourd’hui les bases de l’apprentissage profond permettant d’entraîner tous les programmes IA dits génératifs que développent actuellement les grandes firmes du numérique. Ses travaux ont ainsi permis d’élaborer les robots conversationnels comme ChatGPT de la jeune pousse américaine OpenAI ou de Bard, son équivalent mis au point par Google, ou encore l’IA de création d’images comme Midjourney, capable de générer des photos confondantes de réalisme.

Le « parrain » de l'intelligence artificielle sonne l’alerte sur les dangers de l’IA

Ce pionnier de l’intelligence artificielle, surnommé le « parrain » de l'IA dans les milieux de la recherche scientifique, a démissionné de Google où il était employé à mi-temps pour nous alerter des menaces potentielles que font courir les derniers développements des programmes d'intelligence artificielle à l’humanité. Dans une interview accordée ce lundi au New York Times, le chercheur expose à la fois ses regrets et ses craintes concernant l’utilisation de ses découvertes par les entreprises mondiales de la high tech.

In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.

— Geoffrey Hinton (@geoffreyhinton) May 1, 2023

Les inquiétudes du chercheur sont justifiées ! Estime Jérôme Béranger, expert en éthique du numérique et PDG de GoodAlgo. Les réseaux neuronaux artificiels permettent aujourd’hui aux IA d’être de plus en plus perspicaces, nous explique le patron de cette société française qui encourage les entreprises à maîtriser le plus rapidement possible ces systèmes d’intelligence artificielle : « Un réseau de neurone artificiel est un système informatique qui s’inspire du fonctionnement des neurones biologiques. Ces réseaux qui imitent de façon extrêmement succincte le comportement du cerveau sont employés pour concevoir les mécanismes d’apprentissage des programmes d’intelligence artificielle, par exemple un dispositif IA s’entraîne et apprend à reconnaître des images de chats en scannant des milliards de photos »

Jérôme Béranger constate lui aussi une accélération dans l’utilisation et le développement de ces réseaux de neurones artificiels : « Le programme ChatGPT a utilisé et emploie toujours ce procédé pour apprendre à rédiger des textes. Le phénomène IA qui déferle actuellement dans l’espace public est qualifié de saut technologique par les experts du numérique. Cette montée en puissance interpelle même les plus grands chercheurs comme Geoffrey Hinton qui estimait ne pas voir de son vivant de telles performances délivrées par les programmes génératifs. Il constate aussi que le développement des IA s’effectue sans aucun contrôle. Pourtant, des régulations et des encadrements concernant le développement et l’utilisation des IA doivent se mettre en place »

Et Jérôme Béranger de conclure : « Ce cadre éthique du bon usage de l’intelligence artificielle doit être réalisé maintenant et non pas dans quelques années, car ces technologies ne nous attendent pas et sont déjà bien installées dans notre vie quotidienne » 

Geoffrey Hinton redoute une généralisation des infox très élaborées générées par IA

L’une de ses principales préoccupations de Geoffrey Hinton, ce sont les photos, vidéos et textes créés de toute pièce, dans l’objectif de tromper les internautes. Cette génération automatique d’infox très élaborées ne permettra plus aux « gens normaux de distinguer le vrai du faux », estime le scientifique.

Bella and IA en Une du magazine Vogue en Italie

Bella hadid for vogue italia may 2023 issue photographed by carlijin jacobs pic.twitter.com/p5GDvoBBmE

— it girl (@modelsdiaryy) April 27, 2023

Les conséquences économiques et sociales du développement de l’intelligence artificielle sont également au cœur de ses inquiétudes, en citant un rapport de la banque américaine Goldman Sachs. Cette étude présage que les technologies IA pourraient remplacer bientôt 300 millions de salariés dans le monde, sans vraiment créer de nouveaux emplois, du moins dans l’immédiat.

George Hinton exprime ses craintes sur CNN