Un ingénieur de Google Fires qui prétend que l’IA est consciente

SAN FRANCISCO – Google a licencié l’un de ses ingénieurs, Blake Lemoine, vendredi, plus d’un mois après celui-ci soulevé des préoccupations éthiques À propos de la façon dont l’entreprise teste un chatbot IA qui, selon elle, a atteint la notoriété.

« Il a toujours choisi de violer les politiques explicites de recrutement et de sécurité des données qui incluent la nécessité de protéger les informations sur les produits », a déclaré le porte-parole de Google, Chris Pappas, M.

L’entreprise, qui nie que le modèle linguistique de son logiciel de chat soit sensible, a mis M. Lemoine en congé payé en juin. M. Lemoyne a confirmé son congédiement dans un message texte vendredi et a déclaré qu’il rencontrait des avocats pour examiner ses options. Le tournage a d’abord été Rapporté par Big Technology Newsletter.

M. Lemoine a fait sensation le mois dernier alors qu’il était Raconter Le Washington Post a déclaré qu’il croyait que le modèle linguistique de Google pour les applications de dialogue, ou LaMDA, était conscient – ​​déclenchant des craintes que l’IA s’approche d’un film de science-fiction dystopique et un débat tumultueux sur la question de savoir si un programme informatique pourrait vraiment avoir une âme. Sa suspension a également conduit à des théories du complot quant à savoir si cela faisait partie d’une dissimulation par Google.

Pour Google, c’était la dernière ligne conflits locaux Sur l’éthique et le rôle de l’intelligence artificielle, un domaine de la technologie dans lequel l’avenir de l’entreprise a misé.

L’affirmation de M. Lemoine selon laquelle LaMDA est sensible a été critiquée par l’entreprise et plusieurs autres experts en IA qui ont déclaré que ces types de chatbots – des logiciels qui simulent une conversation textuelle avec un autre humain, souvent utilisés pour le service client – ne sont pas assez avancés pour être conscients. .

« Si un employé partage des préoccupations concernant notre travail, comme l’a fait Blake, nous les examinons en profondeur », a déclaré M. Pappas. « Nous avons trouvé que les affirmations de Blake selon lesquelles LaMDA est sensible étaient totalement infondées et avons travaillé pour clarifier cela avec lui pendant plusieurs mois. »

En plus de faire part de ses inquiétudes aux médias, M. Lemoine a déclaré en juin qu’il avait remis des documents à un sénateur américain non identifié, affirmant qu’ils avaient fourni des preuves de l’implication de Google et de sa technologie dans la discrimination religieuse.