Openai dit que la mémoire de Chatgpt est opt-in par défaut, ce qui signifie qu'un utilisateur doit le désactiver activement. La mémoire peut être essuyée à tout moment, soit dans les paramètres, soit en demandant simplement au bot de l'essuyer. Une fois le paramètre de mémoire effacé, ces informations ne seront pas utilisées pour former son modèle d'IA. On ne sait pas exactement dans quelle mesure ces données personnelles sont utilisées pour former l'IA alors que Quelqu'un discute avec le chatbot. Et le fait de faire passer la mémoire ne signifie pas que vous avez totalement choisi de faire sortir le modèle de vos chats Train Openai; C'est une opt-out séparée.

La société affirme également qu'elle ne stockera pas certaines informations sensibles en mémoire. Si vous dites à Chatgpt votre mot de passe (ne faites pas cela) ou le numéro de sécurité sociale (ou ceci), la mémoire de l'application est heureusement oublieuse. Jang affirme également qu'Openai sollicite toujours des commentaires sur la question de savoir si d'autres informations personnellement identifiables, comme l'origine ethnique d'un utilisateur, sont trop sensibles à la capture automatique de l'entreprise.

«Nous pensons qu'il y a beaucoup de cas utiles pour cet exemple, mais pour l'instant, nous avons formé le modèle pour nous éloigner de la rappel de manière proactive de ces informations», explique Jang.

Il est facile de voir comment la fonction de mémoire de Chatgpt pourrait aller de travers – des instances où un utilisateur aurait pu oublier qu'il a une fois demandé au chatbot un pli, une clinique d'avortement, ou un moyen non violent de traiter avec une belle-mère, seulement pour être Rappeler cela ou faire le voir d'autres dans une future conversation. La façon dont la mémoire de Chatgpt gère les données de santé est également une question ouverte. «Nous éloignons de Chatgpt de se souvenir de certains détails de la santé, mais c'est toujours un travail en cours», explique le porte-parole d'Openai, Niko Felix. De cette façon, Chatgpt est la même chanson, juste dans une nouvelle ère, à propos de la permanence d'Internet: regardez cette superbe nouvelle fonctionnalité de mémoire, jusqu'à ce que ce soit un bug.

OpenAI n'est pas non plus la première entité à jouer avec de la mémoire dans une IA générative. Google a mis l'accent sur la technologie «multi-tour» dans Gemini 1.0, son propre LLM. Cela signifie que vous pouvez interagir avec Gemini Pro en utilisant une invite à tour de retour – un aller-retour entre l'utilisateur et le chatbot – ou avoir une conversation continue et continue dans laquelle le bot «se souvient» du contexte des messages précédents.

Une société d'administration d'IA appelée Langchain a développé un module de mémoire qui aide les modèles de langue importants à rappeler les interactions précédentes entre un utilisateur final et le modèle. Donner à LLMS une mémoire à long terme «peut être très puissant pour créer des expériences LLM uniques – un chatbot peut commencer à adapter ses réponses envers vous en tant qu'individu en fonction de ce qu'il sait de vous», explique Harrison Chase, cofondateur et PDG de Langchain. «L'absence de mémoire à long terme peut également créer une expérience de réseau. Personne ne veut avoir à dire un chatbot de recommandation de restaurant à maintes reprises qu'ils sont végétariens. »

Cette technologie est parfois appelée «rétention de contexte» ou «contexte persistant» plutôt que «mémoire», mais l'objectif final est le même: pour l'interaction humaine-ordinateur pour se sentir si fluide, si naturel, que l'utilisateur peut facilement oublier Ce que le chatbot pourrait se souvenir. Il s'agit également d'une aubaine potentielle pour les entreprises qui déploient ces chatbots qui pourraient vouloir maintenir une relation continue avec le client à l'autre bout.

«Vous pouvez les considérer comme un certain nombre de jetons qui sont admissibles à vos conversations», explique Liam Fedus, chercheur OpenAI. «Le bot a une certaine intelligence, et dans les coulisses, il regarde les souvenirs et dit:« Ceux-ci semblent être liés; Permettez-moi de les fusionner. Et cela va ensuite sur votre budget de jeton.

Fetus et Jang disent que la mémoire de Chatgpt est loin de la capacité du cerveau humain. Et pourtant, dans presque le même souffle, Fetus explique qu'avec la mémoire de Chatgpt, vous êtes limité à «quelques milliers de jetons». Si seulement.

Est-ce l'assistant virtuel hypervigilant que les consommateurs de technologie ont été promis au cours de la dernière décennie, ou simplement un autre schéma de capture de données qui utilise vos goûts, vos préférences et vos données personnelles pour mieux servir une entreprise technologique que ses utilisateurs? Peut-être les deux, bien qu'Openai ne puisse pas le dire de cette façon. “Je pense que les assistants du passé n'avaient tout simplement pas l'intelligence”, a déclaré Fedus, “et maintenant nous y arrivons.”

Will Knight a contribué à cette histoire.