Bien que les détails de la façon dont il arrivera restent floues, l'IA génératrice est prête à modifier fondamentalement la façon dont les gens communiquent par e-mail. Un sous-ensemble plus large d'IA, appelé apprentissage automatique, effectue déjà une sorte de danse de sécurité longtemps après avoir découvert. «L'apprentissage automatique a été un élément essentiel de ce que nous avons utilisé pour sécuriser Gmail», a déclaré Pappu à Wired.

Quelques clics errants sur un e-mail suspect peuvent faire des ravages sur votre sécurité, alors comment l'apprentissage automatique aide-t-il à détourner les attaques de phishing? Neil Kumaran, un produit de produit à Google qui se concentre sur la sécurité, explique que l'apprentissage automatique peut examiner la formulation des e-mails entrants et le comparer aux attaques passées. Il peut également signaler les modèles de messages inhabituels et renifler toute bizarrerie émanant des métadonnées.

L'apprentissage automatique peut faire plus que des messages dangereux simplement lorsqu'ils apparaissent. Kumaran souligne qu'il peut également être utilisé pour suivre les personnes responsables des attaques de phishing. Il dit: «Au moment de la création de compte, nous effectuons des évaluations. Nous essayons de comprendre:« Cela semble-t-il que ce compte va être utilisé à des fins malveillantes? »» En cas d'attaque de phishing sur votre compte Google, l'IA est également impliquée dans le processus de récupération. L'entreprise utilise l'apprentissage automatique pour aider à décider quelles tentatives de connexion sont légitimes.

“Comment extrapoler l'intelligence des rapports d'utilisateurs pour identifier les attaques que nous ne connaissons peut-être pas, ou au moins commencer à modéliser l'impact sur nos utilisateurs?” demande Kumaran. La réponse de Google, comme la réponse à de nombreuses questions en 2023, est davantage l'IA. Cette instance de l'IA n'est pas un chatbot séduisant vous taquinant avec de longs échanges tard dans la nuit; C'est un videur costaud lançant les raboulages avec ses bras algorithmiques croisés.

À l'inverse, qu'est-ce qui provoque encore plus d'attaques de phishing dans votre boîte de réception? Je vais vous donner une supposition. Première lettre «A», dernière lettre «I.» Pendant des années, les experts en sécurité ont mis en garde contre le potentiel d'attaques de phishing généré par l'AI pour submerger votre boîte de réception. «Il est très, très difficile de détecter l'IA à l'œil nu, soit à travers le dialecte, soit à travers l'URL», explique Patrick Harr, PDG de Slashnextune entreprise de sécurité de messagerie. Tout comme lorsque les gens utilisent des images et des vidéos générées par l'IA pour créer des Fakes Deep assez convaincants, les attaquants peuvent utiliser du texte généré par l'IA pour personnaliser les tentatives de phishing d'une manière difficile à détecter pour les utilisateurs.