Pourquoi Geoffrey Hinton a décidé qu’il devrait « dénoncer » la technologie

New York (CNN) Geoffrey Hinton, également connu sous le nom de « Le parrain de l’intelligence artificielleIl a décidé qu’il devait « siffler » la technologie qu’il avait aidé à développer après s’être inquiété de son intelligence, a-t-il déclaré mardi à CNN.

« Je ne suis qu’un scientifique qui réalise soudainement que ces choses deviennent plus intelligentes que nous », a déclaré Hinton au correspondant de CNN, Jake Tapper, dans une interview mardi. « Je veux en quelque sorte dénoncer et dire que nous devrions être sérieusement préoccupés par la façon dont nous empêchons ces choses de nous envahir. »

Le travail de pionnier de Hinton sur les réseaux de neurones façonne les systèmes d’intelligence artificielle qui alimentent de nombreux produits d’aujourd’hui. Lundi, il a fait la une des journaux pour avoir quitté son poste chez Google, où il a travaillé pendant une décennie, afin de faire part de ses inquiétudes croissantes concernant la technologie.

Dans une interview lundi avec Le New York TimesHinton, qui a été le premier à signaler sa décision, a déclaré qu’il s’inquiétait de la capacité de l’IA à éliminer des emplois et à créer un monde où « beaucoup ne pourront plus dire ce qui est juste ». Il a également noté le rythme étonnant des progrès, qui est bien au-delà de ce que lui et d’autres avaient prévu.

« S’il devenait plus intelligent que nous, il serait très doué pour la manipulation car il aurait appris cela de nous, et il y a très peu d’exemples de quelque chose de plus intelligent contrôlé par quelque chose de moins intelligent », a déclaré Hinton à Tapper. Mardi.

« Elle sait coder, alors elle trouvera des moyens de contourner les restrictions que nous lui imposons. Elle trouvera des moyens de manipuler les gens pour qu’ils fassent ce qu’ils veulent. »

Hinton n’est pas le seul leader technologique à avoir exprimé ouvertement ses préoccupations concernant l’IA. Un certain nombre de membres de la communauté ont signé un message en mars Demander à AI Labs d’arrêter de former les systèmes d’IA les plus puissants pendant au moins six mois, citant « des risques profonds pour la société et l’humanité ».

le message, publié Du Future of Life Institute, une organisation à but non lucratif Prise en charge Par Elon Musk, deux semaines seulement après OpenAI annoncer GPT-4, une version plus puissante de la technologie de chatbot viral qui prend en charge ChatGPT. Lors des premiers tests et de la démonstration de l’entreprise, GPT-4 a été utilisé pour rédiger des poursuites, passer des tests standardisés et créer un site Web fonctionnel à partir d’un croquis dessiné à la main.

Le co-fondateur d’Apple, Steve Wozniak, qui était l’un des signataires de la lettre, est apparu mardi sur « CNN This Morning », faisant écho aux inquiétudes quant à sa capacité à diffuser des informations erronées.

« La tromperie sera beaucoup plus facile pour ceux qui veulent vous tromper », a déclaré Wozniak à CNN. « Nous n’apportons aucun changement à cet égard – nous supposons simplement que les lois que nous avons s’en occuperont. »

Wozniak a également déclaré qu' »une sorte d’organisation » pourrait être nécessaire.

Pour sa part, Hinton a déclaré à CNN qu’il n’avait pas signé la pétition. « Je ne pense pas que nous puissions arrêter le progrès », a-t-il déclaré. « Je n’ai pas signé la pétition disant que nous devrions arrêter de travailler sur l’IA parce que si les gens en Amérique arrêtent, les gens en Chine ne le feront pas. »

Mais il a admis qu’il n’y avait pas de réponse claire quant à ce qu’il fallait faire à la place.

« Il n’est pas clair pour moi que nous puissions résoudre ce problème », a déclaré Hinton à Tapper. « Je pense que nous devons déployer beaucoup d’efforts pour réfléchir aux moyens de résoudre le problème. Je n’ai pas de solution pour le moment. »