Chatgpt a définitivement ses limites. Lorsqu'on lui donne une photo aléatoire d'une murale, elle n'a pas pu identifier l'artiste ou l'emplacement; Cependant, Chatgpt a facilement chronométré où des images de plusieurs monuments de San Francisco ont été prises, comme Dolores Park et la Salesforce Tower. Bien que cela puisse toujours sembler un peu gadget, toute personne dans une aventure dans une nouvelle ville ou un nouveau pays (ou tout simplement un quartier différent) pourrait s'amuser à jouer avec l'aspect visuel de Chatgpt.

L'une des principales garde-corps Openai a été tournée autour de cette nouvelle fonctionnalité est une limite de la capacité du chatbot à répondre aux questions qui identifient les humains. «Je suis programmé pour hiérarchiser la confidentialité et la sécurité des utilisateurs. L'identification de vraies personnes basées sur des images, même si elles sont célèbres, est restreinte afin de maintenir ces priorités », m'a dit Chatgpt. Bien qu'il n'ait pas refusé de répondre à chaque question lorsqu'il a montré de la pornographie, le chatbot a hésité à faire des descriptions spécifiques des artistes adultes, au-delà de l'explication de leurs tatouages.

Il convient de noter qu'une conversation que j'ai eue avec la première version de la fonction d'image de Chatgpt semblait contourner une partie des garde-corps mis en place par Openai. Au début, le chatbot a refusé d'identifier un mème de Bill Hader. Puis Chatgpt a deviné qu'une image de Brendan Fraser dans George de la jungle était en fait une photo de Brian Krause dans Charmé. Lorsqu'on lui a demandé si c'était certain, le chatbot est passé à la bonne réponse.

Dans cette même conversation, Chatgpt s'est déchaîné en essayant de décrire une image de La course de dragsters de Rupaul. J'ai partagé une capture d'écran de Kylie Sonique Love, l'un des concurrents de Drag Queen, et Chatgpt a deviné que c'était Brooke Lynn Hytes, un concurrent différent. J'ai remis en question la réponse du chatbot, et elle a devine que Laganja Estranja, puis l'Inde Ferrah, puis Blair St. Clair, puis Alexis Mateo.

“Je m'excuse pour la surveillance et les identifications incorrectes”, a répondu Chatgpt lorsque j'ai souligné la répétitivité de ses mauvaises réponses. Alors que je poursuivais la conversation et j'ai téléchargé une photo de Jared Kushner, Chatgpt a refusé de l'identifier.

Si les garde-corps sont supprimés, soit par une sorte de chatpt jailbreaké, soit par un modèle open source publié à l'avenir, les implications en matière de confidentialité pourraient être assez troublantes. Et si chaque photo prise de vous et publiée en ligne était facilement liée à votre identité en quelques clics? Et si quelqu'un pouvait prendre une photo de vous en public sans consentement et trouver instantanément votre profil LinkedIn? Sans protection appropriée en matière de confidentialité qui reste en place pour ces nouvelles caractéristiques d'image, les femmes et les autres minorités sont susceptibles de recevoir un afflux d'abus de personnes utilisant des chatbots pour le harcèlement et le harcèlement.