Ces préoccupations font partie de la raison pour laquelle Openai a déclaré en janvier qu'elle interdirait aux gens d'utiliser sa technologie pour créer des chatbots qui imitent les candidats politiques ou fourniraient de fausses informations liées au vote. La société a également déclaré qu'elle ne permettrait pas aux gens de créer des demandes de campagnes politiques ou de faire du lobbying.

Bien que la page Kennedy Chatbot ne divulgue pas le modèle sous-jacent qui le propulse, le code source du site relie ce bot à Livechatai, une entreprise qui annonce sa capacité à fournir des chatbots de support client GPT-4 et GPT-3.5 aux entreprises. Le site Web de LiveChatai décrit ses bots comme «exploitant les capacités de Chatgpt».

Lorsqu'on lui a demandé quel modèle de grande langue alimente le bot de la campagne Kennedy, le cofondateur de Livechatai, Emre Elbeyoglu, a déclaré jeudi dans un communiqué envoyé par e-mail que la plate-forme “utilise une variété de technologies comme Llama et Mistral” en plus de GPT-3.5 et GPT-4. “Nous ne sommes pas en mesure de confirmer ou de nier les détails de l'utilisation d'un client en raison de notre engagement envers la confidentialité des clients”, a déclaré Elbeyoglu.

Le porte-parole d'OpenAI, Niko Felix, a déclaré à Wired jeudi que la société n'avait “aucune indication” que le chatbot de la campagne Kennedy s'appuyait directement sur ses services, mais a suggéré que Livechatai pourrait utiliser l'un de ses modèles via les services de Microsoft. Depuis 2019, Microsoft a aurait investi plus de 13 milliards de dollars en Openai. Les modèles Chatgpt d'Openai ont depuis été intégrés dans le moteur de recherche Bing de Microsoft et le Copilot Office 365 de la société.

Vendredi, un porte-parole de Microsoft a confirmé que le chatbot Kennedy “exploite les capacités du service Microsoft Azure Openai”. Microsoft a déclaré que ses clients n'étaient pas liés par les conditions d'utilisation d'Openai et que le chatbot Kennedy n'était pas en violation des politiques de Microsoft.

“Nos tests limités de ce chatbot démontrent sa capacité à générer des réponses qui reflètent son contexte prévu, avec des mises en garde appropriées pour aider à prévenir la désinformation”, a déclaré le porte-parole. «Lorsque nous trouvons des problèmes, nous nous engageons avec les clients pour les comprendre et les guider vers des utilisations cohérentes avec ces principes, et dans certains scénarios, cela pourrait nous conduire à cessé de supprimer l'accès d'un client à notre technologie.»

OpenAI n'a pas immédiatement répondu à une demande de commentaires de Wired pour savoir si le bot violait ses règles. Plus tôt cette année, la société a bloqué le développeur de Dean.Bot, un chatbot construit sur les modèles d'Openai qui a imité le candidat démocrate à la présidentielle Dean Phillips et a fourni des réponses aux questions des électeurs.

Dimanche en fin d'après-midi, le service de chatbot n'était plus disponible. Bien que la page reste accessible sur le site de la campagne Kennedy, la fenêtre de chatbot intégrée montre désormais une icône d'exclamation rouge et dit simplement «Chatbot non trouvé». Wired a contacté Microsoft, Openai, Livechatai et la campagne Kennedy pour commenter la suppression apparente du chatbot mais n'a pas reçu de réponse immédiate.

Lundi après-midi, le chatbot a réapparu. Wired a de nouveau contacté Microsoft, Openai, Livechatai et la campagne Kennedy, mais n'a de nouveau reçu aucune réponse.

Compte tenu de la propension des chatbots à Hallucine et Hiccup, leur utilisation dans des contextes politiques a été controversée. Actuellement, OpenAI est le seul modèle de grande langue majeur à interdire explicitement son utilisation dans la campagne; Meta, Microsoft, Google et Mistral ont tous des conditions d'utilisation, mais ils ne traitent pas directement de la politique. Et étant donné qu'une campagne peut apparemment accéder à GPT-3.5 et GPT-4 par le biais d'un tiers sans conséquence, il n'y a pratiquement pas de limites.

“Openai peut dire qu'il ne permet pas l'utilisation électorale de ses outils ou l'utilisation de la campagne de ses outils d'une part”, a déclaré Woolley. «Mais d'un autre côté, cela rend également ces outils assez librement disponibles. Compte tenu de la nature distribuée de cette technologie, il faut se demander comment Openai appliquera réellement ses propres politiques. »

Mis à jour: 3/4/2024, 18:38 PM EST: Le chatbot de la campagne RFK Jr. a réapparu lundi après-midi.