New York (CNN) Geoffrey Hinton, également connu sous le nom de « Le parrain de l’intelligence artificielleIl a décidé qu’il devait « siffler » la technologie qu’il avait aidé à développer après s’être inquiété de son intelligence, a-t-il déclaré mardi à CNN.
« Je ne suis qu’un scientifique qui réalise soudainement que ces choses deviennent plus intelligentes que nous », a déclaré Hinton au correspondant de CNN, Jake Tapper, dans une interview mardi. « Je veux en quelque sorte dénoncer et dire que nous devrions être sérieusement préoccupés par la façon dont nous empêchons ces choses de nous envahir. »
Le travail de pionnier de Hinton sur les réseaux de neurones façonne les systèmes d’intelligence artificielle qui alimentent de nombreux produits d’aujourd’hui. Lundi, il a fait la une des journaux pour avoir quitté son poste chez Google, où il a travaillé pendant une décennie, afin de faire part de ses inquiétudes croissantes concernant la technologie.
Dans une interview lundi avec Le New York TimesHinton, qui a été le premier à signaler sa décision, a déclaré qu’il s’inquiétait de la capacité de l’IA à éliminer des emplois et à créer un monde où « beaucoup ne pourront plus dire ce qui est juste ». Il a également noté le rythme étonnant des progrès, qui est bien au-delà de ce que lui et d’autres avaient prévu.
« S’il devenait plus intelligent que nous, il serait très doué pour la manipulation car il aurait appris cela de nous, et il y a très peu d’exemples de quelque chose de plus intelligent contrôlé par quelque chose de moins intelligent », a déclaré Hinton à Tapper. Mardi.
« Elle sait coder, alors elle trouvera des moyens de contourner les restrictions que nous lui imposons. Elle trouvera des moyens de manipuler les gens pour qu’ils fassent ce qu’ils veulent. »
Hinton n’est pas le seul leader technologique à avoir exprimé ouvertement ses préoccupations concernant l’IA. Un certain nombre de membres de la communauté ont signé un message en mars Demander à AI Labs d’arrêter de former les systèmes d’IA les plus puissants pendant au moins six mois, citant « des risques profonds pour la société et l’humanité ».
le message, publié Du Future of Life Institute, une organisation à but non lucratif Prise en charge Par Elon Musk, deux semaines seulement après OpenAI annoncer GPT-4, une version plus puissante de la technologie de chatbot viral qui prend en charge ChatGPT. Lors des premiers tests et de la démonstration de l’entreprise, GPT-4 a été utilisé pour rédiger des poursuites, passer des tests standardisés et créer un site Web fonctionnel à partir d’un croquis dessiné à la main.
Le co-fondateur d’Apple, Steve Wozniak, qui était l’un des signataires de la lettre, est apparu mardi sur « CNN This Morning », faisant écho aux inquiétudes quant à sa capacité à diffuser des informations erronées.
« La tromperie sera beaucoup plus facile pour ceux qui veulent vous tromper », a déclaré Wozniak à CNN. « Nous n’apportons aucun changement à cet égard – nous supposons simplement que les lois que nous avons s’en occuperont. »
Wozniak a également déclaré qu' »une sorte d’organisation » pourrait être nécessaire.
Pour sa part, Hinton a déclaré à CNN qu’il n’avait pas signé la pétition. « Je ne pense pas que nous puissions arrêter le progrès », a-t-il déclaré. « Je n’ai pas signé la pétition disant que nous devrions arrêter de travailler sur l’IA parce que si les gens en Amérique arrêtent, les gens en Chine ne le feront pas. »
Mais il a admis qu’il n’y avait pas de réponse claire quant à ce qu’il fallait faire à la place.
« Il n’est pas clair pour moi que nous puissions résoudre ce problème », a déclaré Hinton à Tapper. « Je pense que nous devons déployer beaucoup d’efforts pour réfléchir aux moyens de résoudre le problème. Je n’ai pas de solution pour le moment. »
« Évangéliste des médias sociaux. Baconaholic. Lecteur dévoué. Chercheur de Twitter. Pionnier avide du café. »
More Stories
Apple annonce l’expansion de Vision Pro dans deux pays supplémentaires
Nintendo lance une application musicale avec des thèmes de Mario et Zelda et, plus important encore, une chaîne Wii Shop
C’est le journal que personne n’a lu avant d’annoncer la disparition de la cryptographie moderne.