Mais son travail a commencé à paraître bâclé sur des demandes plus spécifiques. Invité à rédiger une note de service sur les préférences des consommateurs au Paraguay par rapport à l'Uruguay, le système décrivait mal au Paraguay comme moins peuplé. Il a halluciné, ou inventé, le sens derrière Une chanson d'un film hindi des années 1960 Être joué lors de mon événement de bienvenue avant le mariage.

Ironiquement, lorsqu'il a été invité aux avantages de l'IA duo, le système a décrit Duet AI comme une startup fondée par deux anciens employés de Google à développer l'IA pour l'industrie de la musique avec plus de 10 millions de dollars de financement auprès d'investisseurs tels que Andreessen Horowitz et Y Combinator. Il semble qu'il n'existe pas de telle entreprise. Google encourage les utilisateurs à signaler les inexactitudes via un bouton de pouce inférieur sous les réponses générées par l'IA.

Behr affirme que Google éclate des sujets, des mots clés et d'autres indices de contenu pour éviter les réponses qui sont offensantes ou qui affectent injustement les gens, en particulier en fonction de leur démographie ou de leurs croyances politiques ou religieuses. Elle a reconnu que le système commet des erreurs, mais elle a déclaré que les commentaires des tests publics sont essentiels pour contrer la tendance des systèmes d'IA à refléter les biais observés dans leurs données de formation ou à faire passer des informations composées. «L'IA va être un projet pour toujours», dit-elle.

Pourtant, Behr dit que les premiers utilisateurs, comme les employés d'Instacart et de la marque Adore Me Underwear de Victoria's Secret, ont été positifs quant à la technologie. La porte-parole d'Instacart, Lauren Svensson, dit – dans un e-mail manuellement écrit – que la société est ravie de tester les fonctionnalités de l'IA de Google mais pas prête à partager des informations.

Mes tests m'ont laissé m'inquiéter que les aides à l'écriture de l'IA puissent éteindre l'originalité, au détriment des humains à l'extrémité de réception du texte fabriqué par l'AI. J'imagine que les lecteurs glaçaient dans des e-mails et des documents périmés comme ils le feraient s'ils sont forcés de lire la politique de confidentialité de près de 6 000 mots de Google. On ne sait pas combien les outils de la personnalité individuelle Google peuvent absorber et s'ils viendront nous aider ou nous remplacer.

Behr dit que dans les tests internes de Google, les e-mails de collègues ne sont pas devenus jusqu'à présent «vanille» ou «générique». Les outils ont stimulé l'ingéniosité et la créativité humaines, ne les ont pas supprimées, dit-elle. Behr aimerait aussi un modèle d'IA qui imite son style, mais elle dit: «Ce sont les types de choses que nous évaluons encore».

Malgré leurs déceptions et leurs limites, les fonctionnalités duo dans Docs et Gmail semblent susceptibles d'attirer certains utilisateurs qui ont commencé à s'appuyer sur le logiciel d'écriture de Chatgpt ou de rival. Google va plus loin que la plupart des autres options ne peuvent correspondre, et ce que nous voyons aujourd'hui n'est qu'un aperçu de ce qui va arriver.

Lorsque – ou si – DUET mûrit du rédacteur prometteur à un finisseur de document impartial et expert, l'utilisation de celle-ci deviendra imparable. Jusque-là, quand il s'agit d'écrire ces vœux et discours sincères, c'est un écran vierge entièrement laissé à moi.