Ouvrir la nouvelle AI Le patron est le même que le vieux patron. Mais l'entreprise – et l'industrie de l'intelligence artificielle – peut être profondément modifiée par les cinq derniers jours de feuilleton à enjeux élevés. Sam Altman, PDG d'Openai, cofondateur et figure de proue, a été supprimé par le conseil d'administration vendredi. Mardi soir, après une manifestation de masse de la majorité du personnel de la startup, Altman était sur le chemin du retour, et la majeure partie du conseil existant avait disparu. Mais ce conseil d'administration, principalement indépendant des opérations d'Openai, lié à un énoncé de mission «pour le bien de l'humanité», était essentiel à l'unicité de l'entreprise.

Alors qu'Altman visitait le monde en 2023, avertissant les médias et les gouvernements des dangers existentiels de la technologie qu'il construisait lui-même, il dépeint la structure inhabituelle d'Openai à but lucratif avec une structure de l'IA puissante. Quoi qu'il en soit avec les milliards de Microsoft, le conseil d'administration pourrait le garder ainsi que les chefs d'entreprise. S'il commençait à agir dangereusement ou contre les intérêts de l'humanité, de l'avis du conseil, le groupe pourrait l'éjecter. “Le conseil d'administration peut me licencier, je pense que c'est important”, a déclaré Altman à Bloomberg en juin.

«Il s'avère qu'ils ne pouvaient pas le licencier, et c'était mauvais», explique Toby Ord, chercheur principal en philosophie à l'Université d'Oxford, et une voix importante parmi les personnes qui avertissent l'IA pourraient présenter un risque existentiel pour l'humanité.

La réinitialisation des dirigeants chaotiques à Openai s'est terminée par le conseil d'administration de se consister en des personnalités de l'établissement dans la technologie et l'ancien secrétaire américain du Trésor Larry Summers. Deux administrateurs associés au mouvement «altruisme efficace», les seuls femmes, ont été retirés du conseil d'administration. Il a cristallisé les divisions existantes sur la façon dont l'avenir de l'IA devrait être gouverné. Le résultat est constaté très différemment par des condamnés qui craignent que l'IA ne détruise l'humanité; Les transhumanistes qui pensent que la technologie se précipitera un avenir utopique; ceux qui croient au capitalisme de marché en roue libre; et les défenseurs d'une réglementation étroite pour contenir des géants de la technologie qui ne peuvent pas faire confiance pour équilibrer les dommages potentiels de la technologie puissamment perturbatrice avec le désir de gagner de l'argent.

«Dans une certaine mesure, il s'agissait d'une trajectoire de collision qui avait été établie depuis longtemps», explique Ord, qui est également reconnu pour cofondation du mouvement efficace de l'altruisme, dont des parties sont devenues obsédées par la fin du portier du spectre de risque d'IA. “Si c'est le cas que le conseil d'administration de la gouvernance à but non lucratif d'Openai était fondamentalement impuissant à affecter réellement son comportement, alors je pense que l'exposer qu'il était impuissant était probablement une bonne chose.”

Lacune

La raison pour laquelle le conseil d'administration d'Openai a décidé de se déplacer contre Altman reste un mystère. Son annonce qu'Altman était hors du siège du PDG a déclaré qu'il «n'était pas toujours franc dans ses communications avec le conseil d'administration, entravant sa capacité à exercer ses responsabilités». Une mémo d'Openai interne a précisé plus tard que l'éjection d'Altman «n'a pas été faite en réponse aux malversations». Emmett Shear, le deuxième des deux PDG par intérim à gérer l'entreprise entre vendredi soir et mercredi matin, a écrit après avoir accepté le rôle qu'il avait demandé pourquoi Altman avait été retiré. “Le conseil d'administration n'a pas retiré Sam par rapport au désaccord spécifique sur la sécurité”, a-t-il écrit. “Leur raisonnement était complètement différent de cela.” Il s'est engagé à lancer une enquête sur les raisons du licenciement d'Altman.

Le vide a laissé un espace pour des rumeurs, notamment qu'Altman consacrait trop de temps aux projets secondaires ou était trop déférentiel à Microsoft. Il a également entretenu des théories du complot, comme l'idée qu'Openai avait créé l'intelligence générale artificielle (AGI), et le conseil d'administration avait renversé le changement de vitre des conseils du scientifique en chef, cofondateur et membre du conseil d'administration Ilya Sutskever.

«Ce que je sais avec certitude, c'est que nous n'avons pas d'AGI», explique David Shrier, professeur de pratique, AI, et innovation, à l'Imperial College Business School à Londres. «Je sais avec certitude qu'il y a eu un échec colossal de la gouvernance.»