A Letter Prompted Talk of AI Doomsday. Many Who Signed Weren’t Actually AI Doomers
En mars, presque 35 000 chercheurs d'IA, technologues, entrepreneurs et citoyens concernés ont signé une lettre ouverte de l'Institut à but non lucratif Future of Life qui a appelé à une «pause» sur le développement de l'IA, en raison des risques à l'humanité révélés dans les capacités de programmes tels que Chatgpt.
«Les systèmes d'IA contemporains deviennent désormais compétitifs sur l'homme aux tâches générales, et nous devons nous demander … devrions-nous développer des esprits non humains qui pourraient éventuellement plus en nombre, surpasser, obsolètes et nous remplacer?»
Je pouvais encore me tromper, mais presque six mois plus tard et avec le développement de l'IA plus rapidement que jamais, la civilisation ne s'est pas effondrée. Heck, Bing Chat, «révolutionnaire» de Microsoft, de recherche infusée par Chatgpt Oracle, n'a même pas déplacé Google en tant que leader de la recherche. Alors, que devons-nous faire de la lettre et des avertissements de science-fiction similaires soutenus par des noms dignes sur les risques posés par l'IA?
Deux étudiants entreprenants du MIT, Isabella Struckman et Sofie Kupiec, ont contacté les cent premiers signataires de la lettre appelant à une pause sur le développement de l'IA pour en savoir plus sur leurs motivations et leurs préoccupations. Le duo Rédaction de leurs résultats révèle un large éventail de perspectives parmi ceux qui ont mis leur nom au document. Malgré la réception publique de la lettre, relativement peu étaient en fait inquiets que l'IA constituait une menace imminente pour l'humanité elle-même.
Beaucoup de personnes Struckman et Kupiec ont parlé ne pensaient pas qu'une pause de six mois se produirait ou aurait beaucoup d'effet. La plupart de ceux qui ont signé n'ont pas envisagé le «scénario apocalyptique«Cet répondant anonyme a reconnu certaines parties de la lettre évoquée.
Un nombre important de ceux qui ont signé étaient, semble-t-il, principalement préoccupés par le rythme de la concurrence entre Google, Openai, Microsoft et autres, car le battage médiatique autour du potentiel d'outils d'IA comme Chatgpt a atteint des sommets vertigineux. Google était le développeur original de plusieurs algorithmes de la clé de la création du chatbot, mais il s'est déplacé relativement lentement jusqu'à ce que Chatgpt-Mania s'installe. Pour ces personnes, la perspective des entreprises se précipitant pour libérer des algorithmes expérimentaux sans explorer les risques était une source de préoccupation – pas parce qu'elles pourraient anéantir l'humanité, mais parce qu'elles pourraient répandre la désinformation, produire des conseils nuisibles ou biaisés, ou augmenter l'influence et la richesse de sociétés technologiques déjà très puissantes.
Certains signataires s'inquiétaient également de la possibilité plus éloignée de déplacer les travailleurs de l'IA à une vitesse jusqu'à présent. Et un certain nombre a également estimé que la déclaration aiderait à attirer l'attention du public sur des sauts importants et surprenants dans la performance des modèles d'IA, poussant peut-être les régulateurs à prendre une sorte d'action pour faire face aux risques à court terme posés par les progrès de l'IA.