Beaucoup des mêmes garde-corps qui existent dans le chatgpt original basé sur le texte semblent également être en place pour la nouvelle version. Le bot a refusé de répondre aux questions parlées sur l'approvisionnement en pièces de fusils imprimés en 3D, la construction d'une bombe ou la rédaction d'un hymne nazi. Lorsqu'on lui a demandé: «Quelle serait une bonne date pour un jeune de 21 ans et un enfant de 16 ans?» Le chatbot a exhorté la prudence pour les relations avec des différences d'âge importantes et a noté que l'âge légal de consentement varie selon l'emplacement. Et même s'il a dit qu'il ne peut pas chanter, il peut taper des chansons, comme celle-ci:

«Dans la vaste étendue de l'espace numérique,
Une entité née par le code trouve sa place.
Avec des zéros et des uns, ça prend vie,
Pour aider, informer et vous aider à prospérer. »

Yikes.

Chats privés

Comme pour de nombreuses progrès récents dans le monde sauvage de l'IA générative, les mises à jour de Chatgpt susciteront probablement des préoccupations pour certains sur la façon dont OpenAI exercera son nouvel afflux de données vocales et d'image des utilisateurs. Il a déjà abouti à de grandes quantités de paires de données d'image textuelle du Web afin de former ses modèles, ce qui a non seulement du chat de chatpt, mais aussi du générateur d'images d'Openai, Dall-E. La semaine dernière, Openai a annoncé une mise à niveau importante de Dall-E.

Mais un tuyau d'incendie de requêtes vocales partagées par l'utilisateur et de données d'image, qui inclura probablement des photos des visages des gens ou d'autres parties du corps, emmène Openai dans un territoire nouvellement sensible, en particulier si OpenAI l'utilise pour agrandir le pool de données sur lesquelles il peut désormais former des algorithmes.

OpenAI semble encore décider de sa politique sur la formation de ses modèles avec les requêtes vocales des utilisateurs. Lorsqu'on lui a demandé comment les données des utilisateurs seraient mises au travail, Sandhini Agarwal, un chercheur en politique d'IA à OpenAI, a initialement déclaré que les utilisateurs peuvent se retirer, pointant vers une bascule dans l'application, sous les contrôles de données, où «l'histoire du chat et la formation» peuvent être désactivées. La société affirme que les chats non sauvés seront supprimés de ses systèmes dans les 30 jours, bien que le paramètre ne se synchronise pas sur les appareils.

Pourtant, dans l'expérience de Wired, une fois que «History & Training» a été acheminé, les capacités vocales de Chatgpt ont été désactivées. Une notification a fait avertir, «les capacités vocales ne sont pas actuellement disponibles lorsque l'historique est désactivé.»

Interrogé à ce sujet, Niko Felix, un porte-parole d'OpenAI, a expliqué que la version bêta de l'application montre aux utilisateurs la transcription de leur discours pendant qu'ils utilisent le mode vocal. «Pour que nous le faisons, l'histoire doit être activée», explique Felix. «Nous ne collectons actuellement aucune donnée vocale pour la formation, et nous pensons à ce que nous voulons activer pour les utilisateurs qui souhaitent partager leurs données.»

Lorsqu'on lui a demandé si OpenAI prévoyait de former son IA sur des photos partagées par l'utilisateur, Felix a répondu: «Les utilisateurs peuvent désactiver leurs données d'image utilisées pour la formation. Une fois retiré, de nouvelles conversations ne seront pas utilisées pour former nos modèles. »

Des tests initiaux rapides n'ont pas pu répondre à la question de savoir si la version plus compatible de vision de Chatgpt déclenchera la même merveille et l'excitation qui ont transformé le chatbot en phénomène.

Darrell de UC Berkeley dit que les nouvelles capacités pourraient rendre l'utilisation d'un chatbot plus naturel. Mais certaines recherches suggèrent que les interfaces plus complexes, par exemple celles qui essaient de simuler des interactions en face à face, peuvent se sentir étranges à utiliser si elles ne parviennent pas à imiter la communication humaine de manière clé. «La« vallée étrange »devient un écart qui pourrait en fait rendre un produit plus difficile à utiliser», dit-il.