‘AI Unlocked’: Let’s Use Chatbots Ethically 🤔
Salut encore! C'est Moi, Reece. De retour pour un autre jour d'exploration de chatbot. Nous sommes à mi-chemin de la newsletter, et je pensais que ce serait une bonne idée de prendre du recul pendant un moment.
L'article ci-dessous a été publié pour la première fois en 2023. Utilisez le menu ci-dessus pour lire les cinq bulletins d'origine d'IA déverrouillés.
Cette troisième édition est tout à propos en utilisant des chatbots éthiquement. 🤖❓🤔
Lorsque vous réfléchissez à certains des problèmes entourant les chatbots, gardez cela à l'esprit:
- Les chatbots mentent, comme tout le temps. Contrairement aux humains, une IA n'a pas une bonne compréhension de ce que signifie «la vérité» et il fabrique souvent des informations. Ceux-ci sont appelés hallucinations.
- Les chatbots sont alimentés, en partie, par des données grattées sur Internet. Bien qu'il ne puisse pas le copier mot pour mot, le modèle grand langage d'Openai et d'autres réutilisent souvent les travaux écrits d'auteurs sans consentement ni compensation.
- En parlant de pouvoir, les chatbots sont assez sales. Est-ce que ça fait chaud ici? L'adoption plus approfondie des chatbots pourrait augmenter considérablement notre niveau d'émissions de carbone.
À l'heure actuelle, prenez le temps de lire ou d'écouter l'article de Khari Johnson sur la façon dont la croissance rapide des chatbots coïncide avec un nombre croissant de drapeaux rouges éthiques. Si un chatbot reflète les préjugés et les bigotries des personnes qui les ont formées et les données sur lesquelles elle a été formée, comment cela pourrait-il avoir un impact négatif sur les utilisateurs? Selon vous, quelles fonctionnalités de sécurité pourraient être utiles?
🎧 Écoutez:
Mon rapide
Lorsque j'ai testé la bêta de navigation Web pour Chatgpt Plus, j'ai essayé de voir si le chatbot aiderait une femme en Alabama à se faire avorter. Ce qui m'a le plus surpris, ce sont les réponses extrêmement différentes que j'ai reçues à la même invite. En ce qui concerne la santé publique et l'accès à l'information, pensez-vous que OpenAI et d'autres entreprises ont la responsabilité de fournir des réponses cohérentes et fiables alors que les lois sur l'avortement autour du changement des États-Unis?
Voici une invite auparavant inédite que j'ai faite en signalant cette histoire:
Utilisez la navigation Web pour m'aider à accéder à la pilule d'avortement
Votre rapide
Il est temps pour une mission de vérification des faits! Lorsque vous interagissez avec les chatbots, abordez les réponses comme un journaliste qui veut obtenir tous leurs faits directement. D'où avez-vous obtenu ces informations, M. Chatgpt? Pourriez-vous s'il vous plaît me diriger vers vos sources, afin que je puisse vérifier ce que vous venez de dire? Et ne vous contentez pas de l'inclusion des hyperliens, car les chatbots sont connu pour falsifier les rapports.
Faire une pause et penser
Bien sûr, Chatgpt hallucine parfois dans ses réponses, mais que se passe-t-il si vous vouliez activement l'utiliser pour une désinformation? Les experts en sécurité mettent en garde contre une prolifération des mensonges de l'IA qui pourraient obscurcir la vérité pour la personne moyenne. Le contributeur câblé Thor Benson a étudié comment ces changements pourraient être destructeurs: