États-Unis : une voix générée par l'intelligence artificielle utilisée pour une arnaque

Aux États-Unis, une mère de famille a reçu un appel lui disant que sa fille était kidnappée. Au téléphone, elle reconnaît la voix de sa fille, qui avait été copiée par une intelligence artificielle.

L'intelligence artificielle (illustration)

Crédit : Geralt via Pixabay

Je m'abonne à la newsletter « Infos »

Aux États-Unis, Jennifer DeStefano a échappé de peu à une arnaque. Cette mère de famille de l'Arizona a reçu un appel d'un numéro inconnu alors que sa fille de 15 ans était partie faire du ski. Lorsqu'elle décroche, elle reconnaît la voix de sa fille, Brie, qui pleure et lui dit qu'elle a besoin d'elle.

Elle est brutalement interrompue par un homme qui affirme détenir Brie et lui demande 1 million de dollars en échange de sa libération. Durant l'appel, la mère entend sa fille en arrière-plan qui pleure en lui demandant de l'aide. "Je n'ai jamais douté une seconde que c'était elle", a-t-elle confié, selon des propos rapportés par le New York Post.

Après avoir contacté la police et son mari, Jennifer DeStefano apprend que sa fille est en sécurité. En effet, au bout du fil, il ne s'agissait pas de Brie, mais bien de sa voix, générée à l'aide d'une intelligence artificielle. "C'était tout à fait sa voix. C'était son inflexion. C'était la façon dont elle aurait pleuré", s'est souvenue la mère de famille.

En janvier 2023, Microsoft a présenté VALL-E, une intelligence artificielle capable d'imiter une voix à partir de seulement trois secondes d'enregistrement, expliquait L'Usine digitale. Toutefois, les développeurs Microsoft ont assuré qu'ils allaient inclure un protocole pour que les utilisateurs puissent approuver l'utilisation de leurs voix.

La rédaction vous recommande