« La nature hautement contextuelle de la langue chinoise a créé des obstacles au traitement du langage naturel », explique Thomas Qitong Cao, doctorant à l’Université de Stanford qui étudie le comportement politique et Internet. “Mais l’écart entre les langues s’est considérablement réduit à l’ère des grands modèles linguistiques pré-entraînés.”

Cao affirme que les défis liés à la formation de modèles d’IA en langue chinoise testent la taille et la qualité des ensembles de données, ainsi que la puissance de calcul.

Les entreprises devront également composer avec la censure du gouvernement sur des sujets qu’elles jugent sensibles. Les plateformes de médias sociaux en Chine emploient déjà une combinaison d’algorithmes et de modérateurs humains pour surveiller le contenu et supprimer tout ce qui enfreint les règles gouvernementales en constante évolution sur ce qui est autorisé et ce qui ne l’est pas.

Les entreprises technologiques devront surveiller de près les résultats des chatbots, une tâche qui impliquera probablement le recours à des modérateurs humains. “Il est probable que nous verrons ce type de censure dépendant de l’humain, en combinaison avec d’autres tactiques comme le blocage de mots clés, utilisé dans les chatbots destinés au public”, explique Cao.

Une enquête par Temps a découvert qu’OpenAI payait les travailleurs kenyans moins de 2 dollars de l’heure pour rendre ChatGPT moins toxique.

Cependant, la nature des chatbots, dont les résultats ne peuvent pas toujours être anticipés ou contrôlés par leurs créateurs, signifie qu’il est inévitable que les entreprises rencontrent des difficultés, selon Sheehan du Carnegie Endowment.

“[There are] ” Deux lois publiques sur l’IA se concentrant respectivement sur les algorithmes de recommandation et les deepfakes, ce qui démontre que le gouvernement chinois a une priorité absolue sur la surveillance du contenu que les gens consomment en ligne”, a déclaré Sheehan. ” Le contenu généré par l’IA entre dans cette catégorie, et on pourrait s’attendre à ce que les entreprises qui tentent de créer leurs propres ChatGPT rencontrent des problèmes avec l’administration du cyberespace de Chine. “

Les plateformes technologiques chinoises ont commencé à sévir contre l’accès au marché noir ChatGPT. Fin février, WIRED a découvert que les mots-clés « ChatGPT » et « OpenAI » avaient été interdits sur Taobao. Sur WeChat, « ChatGPT Online » et des services similaires ont été renommés sous des noms à consonance neutre comme « AI Smart Chat ».