En 2024, l'adoption accrue de systèmes de surveillance biométrique, tels que l'utilisation de la reconnaissance faciale alimentée par l'IA dans les lieux publics et l'accès aux services gouvernementaux, stimulera le vol d'identité biométrique et les innovations anti-surveillance. Les personnes visant à voler des identités biométriques pour commettre une fraude ou accéder à des données non autorisées seront renforcées par des outils d'IA génératifs et l'abondance de données faciales et vocales publiées en ligne.

Déjà, les clones vocaux sont utilisés pour les escroqueries. Prenons par exemple, Jennifer DeStefano, une maman en Arizona qui a entendu la voix paniquée de sa fille pleurer “Maman, ces mauvais hommes m'ont! Après avoir reçu un appel d'un numéro inconnu. L'escroc exigeait de l'argent. DeStefano a finalement pu confirmer que sa fille était en sécurité. Ce canular est un précurseur pour des escroqueries biométriques plus sophistiquées qui cibleront nos peurs les plus profondes en utilisant les images et les sons de nos proches pour nous contraindre pour faire l'appel d'offres de quiconque déploie ces outils.

En 2024, certains gouvernements adopteront probablement le mimétisme biométrique pour soutenir la torture psychologique. Dans le passé, une personne d'intérêt pourrait être informée de fausses informations avec peu de preuves à l'appui des réclamations autres que les mots de l'interrogateur. Aujourd'hui, une personne interrogée peut avoir été arrêtée en raison d'un faux match de reconnaissance faciale. Des hommes à la peau sombre aux États-Unis, dont Robert Williams, Michael Oliver, Nijeer Parks, et Raid de plageont été arrêtés à tort en raison d'une erreur d'identification faciale, détenu et emprisonné pour des crimes qu'ils n'ont pas commis. Ils font partie d'un groupe d'individus, dont les personnes âgées, les personnes de couleur et les individus non conformes au genre, qui sont plus à risque d'identification faciale.

Les outils génératifs d'IA donnent également aux agences de renseignement la possibilité de créer de fausses preuves, comme une vidéo d'un coconspirateur présumé avouant un crime. Tout aussi pénible est que la puissance de créer des soscopies numériques ne sera pas limité aux entités ayant des budgets importants. La disponibilité de systèmes d'IA génératifs open source qui peuvent produire des voix humaines et de fausses vidéos augmentera la circulation du porno de vengeance, des matériaux d'abus sexuels pour enfants, et plus encore sur le Web sombre.

D'ici 2024, nous aurons un nombre croissant de communautés et de personnes excodées – celles dont les opportunités de vie ont été modifiées négativement par les systèmes d'IA. Au Algorithmic Justice League, nous avons reçu des centaines de rapports sur les droits biométriques compromis. En réponse, nous assisterons à la montée des sans visage, ceux qui sont déterminés à garder leur identité biométrique cachée à la vue.

Étant donné que les droits biométriques varieront à travers le monde, les choix de mode refléteront les régimes biométriques régionaux. Les couvertures de visage, comme celles utilisées à des fins religieuses ou des masques médicales pour éviter les virus, seront adoptées à la fois comme des déclarations de mode et des vêtements anti-surveillance là où il est autorisé. En 2019, lorsque les manifestants ont commencé à détruire des équipements de surveillance tout en obscurcissant leur apparence, un Le chef du gouvernement de Hong Kong est interdit de masques de visage.

En 2024, nous commencerons à voir une bifurcation de la surveillance de masse et des territoires en face libre, des domaines où vous avez des lois comme la disposition de la loi sur l'IA proposée, qui interdit l'utilisation de la biométrie en direct dans les lieux publics. Dans de tels endroits, la mode anti-survéillance s'épanouira. Après tout, la reconnaissance faciale peut être utilisée rétroactivement sur les flux vidéo. Les parents se battront pour protéger le droit pour que les enfants soient «naïfs biométriques», qui ne consiste à avoir aucune de leurs biométriques tels que FacEprint, Voiceprint ou Iris Modèle scanné et stocké par des agences gouvernementales, des écoles ou des institutions religieuses. Les nouvelles sociétés de lunettes offriront des objectifs qui déformeront la possibilité pour les caméras de capturer facilement vos informations biométriques oculaires, et des paires de lunettes seront livrées avec des extensions prothétiques pour modifier vos formes de nez et de joues. Les outils d'impression 3D seront utilisés pour fabriquer des prothèses à domicile, bien que selon l'endroit où vous êtes dans le monde, il peut être interdit. Dans un monde où le visage est la dernière frontière de l'intimité, le coup d'œil inchangé d'un autre sera une intimité rare.