Steve Kramer a été accusé d’avoir renforcé la voix de Biden lors de la primaire démocrate du New Hampshire.

Steve Kramer, un consultant politique qui a admis à NBC News qu’il était à l’origine d’un appel automatisé se faisant passer pour la voix de Joe Biden, a été inculpé dans le New Hampshire et condamné à une amende de 6 millions de dollars par la Federal Communications Commission.

Dans des annonces distinctes jeudi, le procureur général du New Hampshire a accusé Kramer de 26 chefs d’accusation, tandis que la FCC lui a infligé une amende de 6 millions de dollars pour « appels frauduleux qu’il a lancés pour tromper les électeurs », en violation des lois fédérales sur l’identification des appelants.

« Le New Hampshire s’engage à garantir que nos élections soient exemptes de toute ingérence illégale, et notre enquête sur cette affaire est en cours », a déclaré le procureur général du New Hampshire, John Farmella, dans un communiqué. Quiconque envisage d’interférer dans les élections en utilisant l’intelligence artificielle ou autrement. »

Les accusations comprennent 13 chefs d’accusation de suppression d’électeurs et 13 chefs d’accusation de délit d’usurpation d’identité de candidat, sur la base de 13 électeurs du New Hampshire qui ont reçu les appels.

La FCC a infligé jeudi une amende supplémentaire de 2 millions de dollars à l’entreprise de télécommunications pour son implication présumée dans l’appel.

Kramer n’a pas répondu aux messages texte et sa porte-parole a refusé de commenter.

L’appel automatisé, rapporté pour la première fois par NBC News, a été adressé à des milliers d’électeurs du New Hampshire en janvier, juste avant la toute première primaire présidentielle de l’État, utilisant la technologie de l’intelligence artificielle pour modifier profondément Biden, en disant aux électeurs de rester chez eux. « Sauvegardez » leurs votes pour les élections générales de novembre.

Il s’agit du premier exemple connu d’utilisation d’un deepfake dans la politique nationale américaine. Cela a suscité un tollé de la part des responsables et des organismes de surveillance, incitant la Commission fédérale des communications à proposer une nouvelle règle interdisant les appels automatisés non sollicités par l’IA.

« [T]Vous n’avez pas besoin de voyager dans des pays lointains pour voir comment l’IA sème le chaos. Parce qu’une campagne de fraude a ciblé les électeurs du New Hampshire cette année aux États-Unis », a déclaré la présidente de la FCC, Jessica Rosenworcel, dans un communiqué annonçant les amendes. « C’est troublant. Parce que si l’appelant ressemble à un homme politique que vous connaissez, à une célébrité que vous aimez ou à un membre familier de votre famille, chacun d’entre nous peut être amené à croire quelque chose de faux lors d’appels utilisant la technologie de l’IA.

Les responsables de l’application des lois au niveau des États et au niveau fédéral ont pris l’appel au sérieux dès le début, désireux d’envoyer un message fort selon lequel ils ne toléreront pas une utilisation abusive de la nouvelle technologie, tandis que les défenseurs affirment que de nouvelles règles sont nécessaires.

Les responsables de l’application des lois du New Hampshire se sont rapidement concentrés sur deux sociétés de télécommunications étrangères qui, selon eux, étaient impliquées dans la distribution de l’appel automatisé et dans le masquage de sa véritable identité en « usurpant » l’identité de l’appelant des destinataires.

Mais les créateurs de l’appel étaient inconnus jusqu’à ce qu’un magicien des rues sans abri vienne à NBC News.

Paul Carpenter, qui détient le record du monde d’évasion en camisole de force mais n’a pas d’adresse fixe, a été embauché par Kramer pour produire l’audio de la voix de Biden utilisée lors de l’appel. Il a fourni des captures d’écran de messages texte et de transactions Venmo pour confirmer son compte.

Confronté aux preuves, Kramer a admis avoir passé cet appel, mais a insisté sur le fait qu’il ne l’avait fait que pour provoquer des réglementations plus strictes sur les deepfakes d’IA.

Il s’est comparé au héros révolutionnaire américain Paul Revere pour affirmer qu’il tirait la sonnette d’alarme sur un danger imminent.

« C’est une façon pour moi de faire une différence, et je l’ai fait », a-t-il déclaré, ajoutant qu’il ne s’inquiétait pas des conséquences juridiques potentielles. « Je pouvais dire qu’ils n’étaient pas habitués à moi. J’ai lutté à l’université.

Kramer est un consultant en sondages expérimenté qui a principalement travaillé pour les démocrates, notamment à New York. À l’époque, il avait conclu un accord à six chiffres avec la campagne du représentant Dean Phillips, D-Minn., principal challenger de longue date de Biden.

Kramer et la campagne Phillips ont catégoriquement nié que la campagne ait eu connaissance de l’appel automatisé ou l’ait amené à le faire.

Phillips a abandonné la course à la présidentielle après sa mauvaise performance aux primaires du New Hampshire.

On craint que les deepfakes, où l’IA est utilisée pour usurper l’identité de quelqu’un, ne prennent une place plus importante dans les campagnes politiques et dans la société en général.

Cette semaine, l’actrice Scarlett Johansson a accusé OpenAI d’avoir imité sa voix sans sa permission dans le cadre du lancement d’un nouveau produit. L’entreprise a nié l’information, mais elle a supprimé la voix.