La semaine dernière, Amazon annoncé Il intégrait l'IA dans un certain nombre de produits – y compris des lunettes intelligentes, des systèmes de maison intelligente et son assistant vocal, Alexa – qui aident les utilisateurs à naviguer dans le monde. Cette semaine, méta dévoilera ses dernières fonctionnalités d'IA et de réalité étendue (XR), et la semaine prochaine Google révélera Sa prochaine ligne de téléphones de pixels équipés de Google AI. Si vous pensiez que l'IA était déjà «révolutionnaire», Attendez juste que cela fasse partie des appareils personnels réactifs de plus en plus immersifs qui alimentent notre vie.

L'IA accélère déjà la tendance de la technologie vers une plus grande immersion, brouillant les frontières entre les mondes physiques et numériques et permet aux utilisateurs de créer leur contenu. Lorsqu'il est combiné avec des technologies telles que la réalité augmentée ou virtuelle, elle ouvrira un monde de possibilités créatives, mais soulèvera également de nouveaux problèmes liés à la vie privée, manipulationet sécurité. Dans les espaces immersifs, notre corps oublie souvent que le contenu avec qui nous interagissons est virtuel, pas physique. C'est génial pour Traiter la douleur et formation employés. Cependant, cela signifie également que le harcèlement et l'agression VR peut se sentir réelet que campagnes de désinformation et de manipulation sont plus efficaces.

L'IA générative pourrait aggraver la manipulation dans des environnements immersifs, créant des flux sans fin de médias interactifs personnalisés pour être aussi persuasifs ou trompeurs que possible. Pour éviter cela, les régulateurs doivent éviter le erreurs qu'ils ont commises dans le passé et agir maintenant pour s'assurer qu'il existe des règles appropriées de la route pour son développement et son utilisation. Sans protection adéquate de la vie privée, l'intégration de l'IA dans des environnements immersifs pourrait amplifier les menaces posées par ces technologies émergentes.

Prendre une désinformation. Avec toutes les données intimes générées dans des environnements immersifs, les acteurs motivés à manipuler les gens pourraient hyperfier leur utilisation de l'IA pour créer influencer les campagnes adaptées à chaque individu. Un étude Par pionnier du chercheur de la réalité virtuelle, Jeremy Bailenson, montre qu'en modifiant subtilement des photos des visages des candidats politiques pour ressembler davantage à un électeur donné, il est possible de rendre cette personne plus susceptible de voter pour le candidat. La menace de manipulation est exacerbée dans des environnements immersifs, qui collectent souvent des données basées sur le corps telles que Mouvement de la tête et de la main. Cette information peut révéler potentiellement sensible Des détails comme la démographie, les habitudes et la santé d'un utilisateur, ce qui a conduit les profils détaillés à être faits des intérêts, de la personnalité et des caractéristiques des utilisateurs. Imaginez un chatbot dans la réalité virtuelle qui analyse les données sur vos habitudes en ligne et le contenu sur lequel vos yeux persistent pour déterminer le moyen le plus convaincant de vous vendre sur un produit, politicienou idée, Tout en temps réel.

La manipulation dirigée par l'IA dans des environnements immersives permettra aux acteurs néfastes de mener des campagnes d'influence à grande échelle, personnalisées à chaque utilisateur. Nous connaissons déjà des fesses profondes qui propagation de désinformation et carburant harcèlementet microt-ciblement qui pousse les utilisateurs vers comportements addictifs et radicalisation. L'élément supplémentaire de l'immersion rend encore plus facile la manipulation des gens.

Pour atténuer les risques associés à l'IA dans les technologies immersives et fournir aux individus un environnement sûr pour les adopter, une confidentialité claire et significative et des garanties éthiques sont nécessaires. Les décideurs doivent adopter de solides lois sur la confidentialité qui protégent les données des utilisateurs, empêcher les utilisations imprévues de ces données et donner aux utilisateurs plus de contrôle sur ce qui est collecté et pourquoi. En attendant, sans aucune loi fédérale fédérale en matière de vie privée, des agences de réglementation comme la Federal Trade Commission (FTC) américaine devraient utiliser leur autorité de protection des consommateurs pour guider les entreprises sur les types de pratiques «injuste et trompeur«Dans les espaces immersifs, en particulier lorsque L'IA est impliquée. Jusqu'à l'introduction de réglementations supplémentaires, les entreprises devraient collaborer avec des experts pour développer les meilleures pratiques pour gérer les données des utilisateurs, régir la publicité sur leurs plateformes et concevoir des expériences immersives générées par l'IA pour minimiser la menace de manipulation.

Alors que nous attendons que les décideurs politiques se rattrapent, il est essentiel que les gens se renforcent Comment ces technologies fonctionnentle données ils collectent, comment ces données sont utilisées et quoi nuire Ils peuvent provoquer des individus et une société. Les technologies immersives compatibles AI font de plus en plus partie de notre vie quotidienne et changent la façon dont nous interagissons avec les autres et le monde qui nous entoure. Les gens doivent être habilités à faire en sorte que ces outils fonctionnent mieux pour eux – et non l'inverse.

Opinion câblée Publie des articles par des contributeurs externes représentant un large éventail de points de vue. Lire plus d'opinions ici. Soumettre un éditorial à idé[email protected].