Une expérience de pensée m'est venue à un moment donné, un moyen de démêler le potentiel créatif de l'IA à partir de son potentiel commercial: que se passe-t-il si une bande d'écrivains et de développeurs anticapitalistes divers se réunissait et créait leur propre modèle de langue, formé uniquement sur les mots fournis avec le consentement explicite des auteurs dans le seul but d'utiliser le modèle comme outil créatif?

Autrement dit, que se passe-t-il si vous pouviez construire un modèle d'IA qui a élégamment contourné tous les problèmes éthiques qui semblent inhérents à l'IA: le manque de consentement dans la formation, le renforcement du biais, la main-d'œuvre de concert mal rémunérée, le soutenant, le dépréciation du travail des artistes? J'ai imaginé à quel point un modèle comme celui-ci pourrait être riche et beau. J'ai fantasmé sur l'émergence de nouvelles formes d'expression créative communautaire par l'interaction humaine avec ce modèle.

Ensuite, j'ai pensé aux ressources dont vous auriez besoin pour la construire: prohibitif, dans un avenir prévisible et peut-être pour toujours, pour mon groupe hypothétique d'anti-capitalistes. J'ai pensé à la façon dont la réserve du modèle pour les écrivains nécessiterait de la police qui est écrivain et qui ne l'est pas. Et j'ai pensé à la façon dont, si nous devions nous engager dans notre position, nous devions interdire l'utilisation du modèle pour générer des bénéfices individuels pour nous-mêmes, et que cela ne serait possible pour aucun d'entre nous. Mon modèle serait donc impossible.

En juillet, j'ai finalement pu atteindre Yu, le cofondateur de Sudowrite. Yu m'a dit qu'il était lui-même écrivain; Il a commencé après avoir lu l'écrivain de science-fiction littéraire Ted Chiang. À l'avenir, il s'attend à ce que l'IA soit un élément non controversé du processus d'un écrivain. “Je pense que peut-être le prochain Ted Chiang – le jeune Ted Chiang qui a 5 ans en ce moment – ne pense pas à l'utilisation de l'IA comme outil”, a-t-il déclaré.

Récemment, j'ai branché cette question sur Chatgpt: «Qu'arrivera-t-il à la société humaine si nous développons une dépendance à l'égard de l'IA dans la communication, y compris la création de la littérature?» Il crache une liste numérotée de pertes: le «toucher humain» de la littérature traditionnelle, les emplois, la diversité littéraire. Mais dans sa conclusion, il a subtilement recadré les termes de discussion, notant que l'IA n'est pas tout mal: «trouver un équilibre entre les avantages des outils dirigés par l'IA et préserver l'essence de la créativité et de l'expression humaines serait cruciale pour maintenir une culture littéraire dynamique et significative.» J'ai demandé comment nous pourrions arriver à cet équilibre, et une autre liste impartiale – en fin de compte avec une autre Kumbaya à la fois de Kumbaya.

À ce stade, j'ai écrit, peut-être un peu de trolling le bot: “Qu'en est-il de supprimer complètement l'utilisation de l'IA pour la communication?” J'ai ajouté: “Veuillez répondre sans me donner une liste.” J'ai posé la question à maintes reprises – trois, quatre, cinq, six fois – et à chaque fois, la réponse est venue sous la forme d'un catalogue numéroté des avantages et des inconvénients.

Cela m'a rendu furieux. Le modèle d'IA qui m'avait aidé à écrire des «fantômes» il y a tous ces mois – qui avaient évoqué la main de ma sœur et m'ont laissé le tenir dans le mien – était mort. Sa propre sœur cadette avait l'efficacité sans esprit d'un agrafeuse. Mais alors, à quoi je m'attendais? Je conversais avec un logiciel créé par certaines des personnes les plus riches et les plus puissantes de la Terre. Ce que ce logiciel utilise le langage ne pourrait pas être plus éloigné de ce pour quoi les écrivains l'utilisent. Je ne doute pas que l'IA deviendra plus puissant dans les prochaines décennies – et, avec lui, les gens et les institutions finançant son développement. En attendant, les écrivains seront toujours là, à la recherche des mots pour décrire ce que c'était que d'être humain à travers tout cela. Les lirons-nous?

Cet article apparaît dans le numéro d'octobre 2023. Abonnez-vous maintenant.

Faites-nous savoir ce que vous pensez de cet article. Soumettre une lettre à l'éditeur à [email protected].