«Amazon est éthiquement obligé de divulguer ces informations. Les auteurs et les éditeurs devraient déjà le divulguer, mais s'ils ne le font pas, alors Amazon doit le mandater – ainsi que avec chaque détaillant et distributeur », explique Jane Friedman. «Ce ne le faisant pas, en tant qu'industrie, nous élevons la méfiance et la confusion. L'auteur et le livre commenceront à perdre l'autorité considérable dont ils ont apprécié jusqu'à présent. »

«Nous avons plaidé pour une législation qui exige que le matériel généré par l'IA soit signalé en tant que tel par les plateformes ou les éditeurs, dans tous les domaines», a déclaré Mary Rasenberger, PDG des auteurs de la Guilde.

Il y a une incitation évidente pour Amazon à le faire. «Ils veulent des clients satisfaits», explique Rasenberger. “Et quand quelqu'un achète un livre, il pense que c'est une œuvre écrite par l'homme, et il obtient quelque chose qui est généré par AI et pas très bon, ils ne sont pas heureux.”

Alors pourquoi pas L'entreprise utilise des outils de détection d'IA? Pourquoi attendre les auteurs qui divulguent s'ils utilisaient l'IA? Lorsqu'on lui a demandé directement par Wired si un signalation proactive de l'IA était à l'étude, la société a refusé de répondre. Au lieu de cela, le porte-parole Ashley Vanicek a fourni une déclaration écrite sur les directives mises à jour de la société et les limites de volume pour les auteurs auto-publiés. “Amazon évalue constamment les technologies émergentes et s'engage à fournir les meilleures expériences possibles de shopping, de lecture et de publication pour les auteurs et les clients”, a ajouté Vanicek.

Cela ne signifie pas qu'Amazon est sur ce type de technologie, bien sûr, seulement qu'il reste à pratiquer les délibérations qui pourraient se produire dans les coulisses. Il existe un certain nombre de raisons pour lesquelles l'entreprise pourrait aborder la détection de l'IA avec prudence. Pour commencer, il existe un scepticisme sur la précision des résultats de ces outils actuellement.

En mars dernier, des chercheurs de l'Université du Maryland ont publié un journal de failles sur les détecteurs d'IA pour l'inexactitude. «Ces détecteurs ne sont pas fiables dans les scénarios pratiques», ils a écrit. En juillet, des chercheurs de Stanford publié Un article mettant en évidence comment les détecteurs montrent un parti pris contre les auteurs qui ne sont pas des écrivains anglais natifs.

Certains détecteurs ont fermé après avoir décidé qu'ils n'étaient pas assez bons. Openai a retiré sa propre fonctionnalité de classification AI après avoir été critiqué pour une précision épouvantable.

Les problèmes de faux positifs ont conduit certaines universités à interrompre l'utilisation de différentes versions de ces outils sur les articles étudiants. «Nous ne pensons pas que le logiciel de détection de l'IA soit un outil efficace qui devrait être utilisé», Michael Coley de l'Université Vanderbilt a écrit En août, après une expérience ratée avec le programme de détection d'IA de Turnitin. Michigan State, Northwestern et Université du Texas à Austin avoir a également abandonné l'utilisation du logiciel de détection de Turnitin pour l'instant.

Alors que la Guilde des auteurs encourage les signatures de l'IA, Rasenberger dit qu'elle prévoit que les faux positifs seront un problème pour ses membres. «C'est quelque chose que nous finirons par entendre beaucoup, je vous assure», dit-elle.

Les préoccupations concernant la précision dans la génération actuelle de programmes de détection sont entièrement raisonnables – et même les détecteurs les plus composés ne seront jamais sans faille – mais ils ne nieront pas à quel point les pliages de l'IA seraient les bienvenus pour les acheteurs de livres en ligne, en particulier pour les personnes qui recherchent des titres de non-fiction qui s'attendent à une expertise humaine. «Je ne pense pas qu'il soit controversé ou déraisonnable de dire que les lecteurs se soucient de savoir qui est responsable de la production du livre qu'ils pourraient acheter», a déclaré Friedman.