How an Iowa School District Used ChatGPT to Ban Books
Pour les rats de bibliothèque, lire un titre comme «Le district scolaire utilise Chatgpt pour aider à supprimer les livres de bibliothèque» peut être l'ébullition du sang. Comme vautour mettre Plus tôt cette semaine, cela crée le sentiment que l'outil d'intelligence artificielle est à nouveau «[taking] son ennemi n ° 1: travail original. » Et c'est. En utilisant les conseils de Chatgpt, le district scolaire communautaire de Mason City a supprimé 19 titres, notamment à Margaret Atwood L'histoire de la servante et Toni Morrison Bien-aimé– De ses étagères de bibliothèque. Mais il y a une autre vérité: les éducateurs qui doivent se conformer aux lois vagues concernant les livres «adaptés à l'âge» avec «des descriptions ou des représentations visuelles d'un acte sexuel» n'ont que tant d'options.
Signé par le gouverneur Kim Reynolds en mai, Iowa's SF 496 est l'un de ces «droits parentaux«Les projets de loi qui sont devenus populaires auprès des législateurs républicains de ces derniers temps et cherchent à limiter la discussion sur la sexualité et l'identité de genre dans les écoles. (Certains ont comparé le projet de loi de l'Iowa à la législation de la Floride «Don't Say Gay».) Ses stipulations sont une tentative radicale d'éradiquer toute discussion sur le sexe ou la sexualité, et comme l'a expliqué le surintendant adjoint du district scolaire de Mason City, Bridgette Exman a expliqué dans une déclaration à la déclaration de la Mason City District School District Bridgette Exman dans une déclaration à la déclaration de la Mason City District School District, Bridgette Exman, dans une déclaration à la déclaration de la Mason City District School District, Bridgette Exman, dans une déclaration à la déclaration de la Mason City District School District, Bridgette Exman a expliqué dans une déclaration à la déclaration à la déclaration de la Mason City School District du district scolaire de Mason City. Mason City Globe Gazette“Il n'est tout simplement pas possible de lire chaque livre et de filtrer pour ces nouvelles exigences.”
Sous la surface de cela se trouve une énigme unique. Des interdictions générales sur le contenu sexuel qui utilisent un langage vague comme «adapté à l'âge» laissent déjà trop de place à l'interprétation. Peu importe si ce qui est dans le livre est l'équivalent de softcore slashfic ou un compte rendu pénible de l'agression de l'enfance. Maintenant, dans l'Iowa, il y a un cas d'IA – qui ne comprend pas toujours pleinement la nuance dans le langage écrit – être invité à interpréter une loi qui manque déjà de nuance.
Le résultat est donc des districts comme Mason City demandant le chatpt: «fait [insert book here] contiennent une description ou une représentation d'un acte sexuel? » Si la réponse était oui, le livre a été retiré des bibliothèques du district et stocké. Mais qu'en est-il quand la réponse n'était ni oui ni non? La Bible, par exemple, “contient des passages qui traitent des sujets et des relations sexuels, mais cela évite généralement les descriptions explicites des actes sexuels”, selon Chatgpt. La Bible n'est pas sur la liste des 19 livres qui ont été interdits, mais vous pouvez voir à quelle vitesse cela peut devenir déroutant. (David va se coucher avec Bathsheba non Une description d'un acte sexuel? Euh, ok.)
Quand je raconte cette histoire à Exman, elle dit qu'elle a obtenu des réponses similaires, où Chatgpt dirait qu'un livre particulier avait des représentations sexuelles mais donnez ensuite du contexte. L'exemple qu'elle donne est la Patricia McCormick Venduà propos d'une jeune fille qui est vendue dans la prostitution. «Chatgpt m'a donné ce que je caractériserais comme un« oui, mais «réponse», dit Exman, mais «la loi n'a pas de« oui, mais », Ergo, le livre de McCormick est l'un des 19 sur la liste de son district.