Les tentatives pour prédire l’avenir lointain de l’IA se sont récemment concentrées sur ChatGPT et les technologies associées, comme la nouvelle interface de recherche de Microsoft, malgré ses limites bien documentées et sa valeur encore floue. Les entrepreneurs qui parient sur la technologie font des déclarations grandiloquentes sur ce que leur technologie est capable de faire. La semaine dernière, le PDG d’OpenAI a publié un article de blog sur la façon dont l’entreprise est “Planification de l’AGI.»

Peu de temps après, la Federal Trade Commission des États-Unis, une agence qui protège contre les pratiques commerciales trompeuses, averti les spécialistes du marketing contre les fausses déclarations sur ce que leur technologie est capable de faire. L’avocat de la FTC, Michael Atleson, a écrit dans son propre blog que « nous ne vivons pas encore dans le domaine de la science-fiction, où les ordinateurs peuvent généralement faire des prédictions fiables sur le comportement humain ».

De nombreux chercheurs en IA estiment que, même si les systèmes d’IA générative comme ChatGPT peuvent être impressionnants, la technologie ne mérite pas d’être créditée d’intelligence, car l’algorithme ne fait que répéter et remixer des modèles à partir de ses données d’entraînement.

De ce point de vue, il est préférable de considérer l’IA étroite d’aujourd’hui comme une calculatrice ou un grille-pain, et non comme un être sensible. Certains éthiciens de l’IA estiment qu’attribuer à la technologie des caractéristiques humaines telles que la sensibilité peut détourner l’attention des conversations sur d’autres formes d’automatisation nuisibles, telles que les technologies de surveillance exportées par les entreprises des pays démocratiques et autoritaires.

Kim dit qu’elle s’est familiarisée pour la première fois avec l’apprentissage automatique lorsqu’elle a été embauchée très tôt dans la start-up de conduite autonome Cruise, rachetée plus tard par General Motors. Elle a commencé à réfléchir à la manière dont une IA qui fonctionne correctement pourrait éliminer de nombreuses morts et souffrances inutiles, mais aussi au fait que si la technologie ne fonctionne pas, elle pourrait présenter un risque énorme pour les vies humaines.

En plus d’exposer des œuvres d’art sur l’IA et des œuvres sur l’IA, le Misalignment Museum prévoit d’organiser des projections de films explorant le potentiel le plus sombre de la technologie, comme Le terminateur, Ex Machina, Sonet Théâtre de la Penséeun documentaire de 2022 sur les neurosciences et l’IA réalisé par Herzog.