Vous répondez à un Appel aléatoire d'un membre de la famille, et ils expliquent à bout de souffle comment il y a eu un horrible accident de voiture. Ils ont besoin que vous envoyiez de l'argent dès maintenant, ou ils iront en prison. Vous pouvez entendre le désespoir dans leur voix car ils plaident pour un transfert de trésorerie immédiat. Bien que cela leur ressemble certainement et que l'appel est venu de leur numéro, vous avez l'impression que quelque chose est éteint. Donc, vous décidez de raccrocher et de les rappeler tout de suite. Lorsque le membre de votre famille reçoit votre appel, il dit qu'il n'y a pas eu d'accident de voiture et qu'il n'a aucune idée de ce dont vous parlez.

Félicitations, vous avez juste réussi à éviter un appel d'escroquerie d'intelligence artificielle.

À mesure que les outils d'IA génératifs deviennent plus capables, il devient plus facile et moins cher pour les escrocs de créer de faux – mais convaincants – audio des voix des gens. Ces clones vocaux d'IA sont formés sur des clips audio existants de la parole humaine et peuvent être ajustés à imitez presque n'importe qui. Les derniers modèles peuvent même parler dans de nombreuses langues. Openai, le fabricant de Chatgpt, a récemment annoncé un nouveau modèle de texte vocale qui pourrait encore améliorer le clonage vocal et le rendre plus largement accessible.

Bien sûr, les mauvais acteurs utilisent ces outils de clonage d'IA pour inciter les victimes à penser qu'elles parlent à un être cher par téléphone, même si elles parlent à un ordinateur. Bien que la menace des escroqueries alimentées par l'IA puisse être effrayante, vous pouvez rester en sécurité en gardant ces conseils d'experts à l'esprit la prochaine fois que vous recevrez un appel urgent et inattendu.

N'oubliez pas que l'audio AI est difficile à détecter

Ce n'est pas seulement Openai; De nombreuses startups technologiques travaillent sur la réplication du discours humain à proximité, et les progrès récents sont rapides. «Si c'était il y a quelques mois, nous vous aurions donné des conseils sur ce qu'il faut chercher, comme des pauses enceintes ou montrant une sorte de latence», explique Ben Colman, cofondateur et PDG de Défenseur de la réalité. Comme de nombreux aspects de l'IA générative au cours de la dernière année, l'AI audio est désormais une imitation plus convaincante de la vraie chose. Toutes les stratégies de sécurité qui s'appuient sur votre détection de bizarreries étranges au téléphone sont obsolètes.

Raccrocher et rappeler

Les experts en sécurité avertissent qu'il est assez facile pour les escrocs de faire en sorte que l'appel provenait d'un numéro de téléphone légitime. «Souvent, les escrocs vont parcourir le numéro dont ils vous appellent, donnez l'impression qu'il vous appelle de cette agence gouvernementale ou de la banque», explique Michael Jabbara, responsable mondial des services de fraude à la Visa. “Vous devez être proactif.” Que ce soit de votre banque ou d'un être cher, chaque fois que vous recevez un appel demandant de l'argent ou des informations personnelles, allez-y et demandez à les rappeler. Recherchez le numéro en ligne ou dans vos contacts et lancez une conversation de suivi. Vous pouvez également essayer de leur envoyer un message via une ligne de communication différente et vérifiée comme le chat vidéo ou l'e-mail.

Créer un mot sûr secret

Un conseil de sécurité populaire qui a suggéré plusieurs sources a été de créer un mot sûr que seuls vous et vos proches connaissez et que vous pouvez demander par téléphone. «Vous pouvez même prénomatique avec vos proches un mot ou une phrase qu'ils pourraient utiliser afin de prouver qui ils sont vraiment, si dans une situation de contrainte», explique Steve Grobman, directeur de la technologie chez McAfee. Bien qu'il soit le meilleur de rappeler ou de vérifier via un autre moyen de communication, un mot sûr peut être particulièrement utile pour les jeunes ou les parents âgés qui peuvent être difficiles à contacter autrement.

Ou demandez simplement ce qu'ils avaient pour le dîner

Et si vous n'avez pas un mot sûr décidé et essayez de déterminer si un appel pénible est réel? Faites une pause une seconde et posez une question personnelle. «Cela pourrait même être aussi simple que de poser une question à laquelle seul un être cher connaîtrait la réponse», explique Grobman. «Ça pourrait être: 'Hé, je veux m'assurer que c'est vraiment toi. Pouvez-vous me rappeler ce que nous avons eu pour le dîner hier soir? “” Assurez-vous que la question est suffisamment spécifique pour qu'un escroc ne puisse pas répondre correctement avec une supposition éclairée.

Comprendre que toute voix peut être imitée

Les clones audio Deepfake ne sont pas seulement réservés aux célébrités et aux politiciens, comme les appels du New Hampshire qui ont utilisé des outils d'IA pour ressembler à Joe Biden et pour décourager les gens d'aller aux urnes. «Un malentendu est:« Cela ne peut pas m'arriver. Personne ne peut cloner ma voix '', explique Rahul Sood, chef de produit à Pisteune entreprise de sécurité qui a découvert les origines probables de l'audio AI Biden. “Ce que les gens ne réalisent pas, c'est qu'avec aussi peu que cinq à 10 secondes de votre voix, sur un tiktok que vous pourriez avoir créé ou une vidéo YouTube de votre vie professionnelle, ce contenu peut être facilement utilisé pour créer votre clone.” À l'aide d'outils d'IA, le message de messagerie vocale sortante sur votre smartphone peut même être suffisant pour reproduire votre voix.

Ne cédez pas aux appels émotionnels

Qu'il s'agisse d'une arnaque de boucherie de porc ou d'un appel téléphonique en IA, les escrocs expérimentés peuvent y faire confiance, créer un sentiment d'urgence et trouver vos points faibles. «Méfiez-vous de tout engagement où vous ressentez un sentiment d'émotion accru, car les meilleurs escrocs ne sont pas nécessairement les pirates techniques les plus adeptes», explique Jabbara. “Mais ils ont une très bonne compréhension du comportement humain.” Si vous prenez un moment pour réfléchir à une situation et vous abstenir d'agir sur l'impulsion, cela pourrait être le moment où vous évitez d'être arnaqué.