En mai, tiktok a annoncé que ce serait étiqueter automatiquement le contenu généré par l'IA sur sa plate-forme. Ce n'est pas vrai, cependant, de toutes les versions de l'application. UN nouveau rapport De la Fondation Mozilla et de la criminalistique de l'IA constate que la version de données Lite-Save de Tiktok, destinée aux utilisateurs sur des marchés les plus pauvres, laisse non seulement le contenu généré par l'IA sans étiquette, mais manque également d'autres garanties similaires.

«L'étiquetage est une tactique très importante que les plateformes utilisent pour offrir une forme de confiance et de sécurité», explique Odanga Madung, boursier de Mozilla et co-auteur du rapport.

Les utilisateurs de la version complète de Tiktok, par exemple, verront des étiquettes indiquant que le contenu est graphique ou représente un comportement dangereux. Certains contenus sur des sujets tels que les élections et la santé, de même, comprennent un avis encourageant les utilisateurs à accéder aux informations crédibles via un «centre de ressources» sur l'application.

Sur Tiktok Lite, aucun de ces garde-corps n'est présent. Entre autres choses, cela signifie qu'avec le contenu trompeur de l'AI-Généré, un problème dans les élections du monde entier, les utilisateurs sur des marchés les plus pauvres reçoivent moins d'informations sur ce qui est faux et ce qui est réel que les utilisateurs plus riches.

Madung se demande pourquoi, de toutes les fonctionnalités qui pourraient être coupées pour optimiser l'application, la société a inclus celles qui rendent la plate-forme plus sûre pour les utilisateurs. «Nous ne savons pas si c'est un choix ou si c'est juste une négligence», dit-il.

“Il y a plusieurs inexactitudes factuelles dans ce rapport qui dénaturent fondamentalement notre approche de la sécurité”, a déclaré un porte-parole de Tiktok dans un communiqué. «Le fait est que le contenu qui enfreint nos règles est supprimé de Tiktok Lite de la même manière que notre application principale et nous offrons de nombreuses fonctionnalités de sécurité.» La société a refusé de signaler des inexactitudes spécifiques.

Les versions lite des applications sont depuis longtemps un moyen pour les entreprises d'augmenter la part de marché dans les domaines où les utilisateurs sont soumis à des coûts de données élevés ou ne peuvent se permettre que des téléphones moins avancés. En 2015, Meta, puis Facebook, a lancé Facebook Lite, une version dépouillée de son application qui était plus compatible avec les réseaux de données 2G. La même année, il a également lancé des bases gratuites, qui ont permis aux utilisateurs du Global South d'accéder à la plate-forme et à certains autres sites Web sans être facturés pour l'utilisation des données. (Une application ou une réunion de service de ces critères est appelée «zéro évaluée».) À l'époque, le projet a été confronté à des critiques généralisées, en particulier en Inde, pour créer une expérience de deuxième niveau pour les clients les plus pauvres.

Tiktok lancé sa version Lite en 2018 en Thaïlande, et s'est rapidement étendue à d'autres marchés d'Asie du Sud-Est, notamment l'Indonésie, la Malaisie et les Philippines. L'application, qui contrairement à la version complète de Tiktok peut fonctionner sur les réseaux 2G et 3G, a maintenant plus que 1 milliard de téléchargementsselon les données du Google Play Store. (Tiktok Lite n'est disponible que pour les téléphones Android.)

«La majorité des utilisateurs du Sud mondial sont à faible revenu et liés aux ressources», explique Payal Arora, professeur de cultures d'IA inclusives à l'Université d'Utrecht. Les versions lite des applications aident les entreprises à faire participer ces personnes, ce qu'elle dit est encore plus critique qu'elle ne l'a été par le passé parce que «les données sont de la monnaie sur ce marché basé sur l'IA et de l'IAM».