Si vous avez rampé les forums technologiques souterrains ces derniers temps, vous avez peut-être vu des publicités pour un nouveau programme appelé Wormpt.

Le programme est un outil alimenté par AI pour les cybercriminels afin d'automatiser la création d'e-mails de phishing personnalisés; Bien que cela ressemble un peu à Chatgpt, Wormgpt est pas Votre sympathique quartier AI.

Chatgpt a été lancé en novembre 2022 et, depuis lors, l'IA génératrice a pris d'assaut le monde. Mais peu considèrent comment sa montée soudaine façonnera l'avenir de la cybersécurité.

En 2024, l'IA génératrice est sur le point de faciliter de nouveaux types de cybercrimes transnationales et translingues. Par exemple, une grande partie de la cybercriminalité est organisée par des hommes sous-employés de pays avec des économies technologiques sous-développées. Le fait que l'anglais n'est pas la langue principale de ces pays a contrarié la capacité des pirates à frauder ceux des économies anglophones; La plupart des anglophones natifs peuvent identifier rapidement les e-mails de phishing par leur langue unidiomatique et non grammaticale.

Mais l'IA génératrice changera cela. Les cybercriminels du monde entier peuvent désormais utiliser des chatbots comme Wormgpt pour encaisser des e-mails de phishing personnalisés bien écrits. En apprenant des phishermen sur le Web, les chatbots peuvent créer des escroqueries basées sur les données qui sont particulièrement convaincantes et efficaces.

En 2024, l'IA génératrice facilitera également le piratage biométrique. Jusqu'à présent, les méthodes d'authentification biométrique – les imprimés, la reconnaissance faciale, la reconnaissance vocale – ont été difficiles (et coûteuses) à se faire passer pour l'identité; Il n'est pas facile de simuler une empreinte digitale, un visage ou une voix.

L'IA, cependant, a rendu des perfations profondes beaucoup moins coûteuses. Vous ne pouvez pas imiter la voix de votre cible? Dites à un chatbot de le faire pour vous.

Et que se passera-t-il lorsque les pirates commencent à cibler les chatbots eux-mêmes? L'IA générative n'est que cela – génératif; Cela crée des choses qui n'étaient pas là auparavant. Le schéma de base permet aux pirates d'occasion d'injecter des logiciels malveillants dans les objets générés par les chatbots. En 2024, toute personne utilisant l'IA pour écrire du code devra s'assurer que la sortie n'a pas été créée ou modifiée par un pirate.

D'autres mauvais acteurs commenceront également à prendre le contrôle des chatbots en 2024. Une caractéristique centrale de la nouvelle vague d'IA générative est son «inexplicabilité». Les algorithmes formés via l'apprentissage automatique peuvent rendre des réponses surprenantes et imprévisibles à nos questions. Même si les gens ont conçu l'algorithme, nous ne savons pas comment cela fonctionne.

Il semble donc naturel que les futurs chatbots agissent comme des oracles qui tentent de répondre à des questions éthiques et religieuses difficiles. Sur Jésus-ai.compar exemple, vous pouvez poser des questions à un Jésus artificiellement intelligent. Ironiquement, il n'est pas difficile d'imaginer des programmes comme celui-ci étant créés de mauvaise foi. Une application appelée Krishna, par exemple, a déjà a conseillé de tuer des incroyants et soutenir le parti dirigeant de l'Inde. Que doit empêcher les escrocs d'exiger la dîme ou de promouvoir des actes criminels? Ou, comme l'a fait un chatbot, disant aux utilisateurs de quitter leurs conjoints?

Tous les outils de sécurité sont à double usage – ils peuvent être utilisés pour attaquer ou défendre – donc en 2024, nous devrions nous attendre à ce que l'IA soit utilisée pour l'infraction et la défense. Les pirates peuvent utiliser l'IA pour tromper les systèmes de reconnaissance faciale, mais les développeurs peuvent utiliser l'IA pour rendre leurs systèmes plus sécurisés. En effet, l'apprentissage automatique est utilisé depuis plus d'une décennie pour protéger les systèmes numériques. Avant de nous inquiéter trop des nouvelles attaques d'IA, nous devons nous rappeler qu'il y aura également de nouvelles défenses de l'IA à égaler.