En juillet de l'année dernière, Openai a annoncé la formation d'une nouvelle équipe de recherche Cela se préparerait à l'avènement de l'intelligence artificielle supersmart capable de dépasser et de maîtriser ses créateurs. Ilya Sutskever, scientifique en chef d'Openai et l'un des cofondateurs de l'entreprise, a été nommé Colead de cette nouvelle équipe. Openai a déclaré que l'équipe recevrait 20% de sa puissance de calcul.

Maintenant, «l'équipe de superalignement» d'Openai n'est plus, confirme la société. Cela vient après les départs de plusieurs chercheurs impliqués, les nouvelles de mardi selon lesquelles Sutskever quittait l'entreprise et la démission de l'autre Colead de l'équipe. Le travail du groupe sera absorbé par les autres efforts de recherche d'Openai.

Le départ de Sutskever a fait la une des journaux parce que bien qu'il ait aidé le PDG Sam Altman à commencer Openai en 2015 et a établi la direction de la recherche qui a conduit à Chatgpt, il était également l'un des quatre membres du conseil d'administration qui a tiré Altman en novembre. Altman a été restauré en tant que PDG cinq jours chaotiques plus tard après une révolte de masse par le personnel d'Openai et le courtage d'un accord dans lequel Sutskever et deux autres administrateurs de l'entreprise ont quitté le conseil d'administration.

Quelques heures après l'annonce du départ de Sutskever mardi, Jan Leike, l'ancien chercheur Deepmind qui était l'autre Colead de l'équipe de superalignement, Publié sur x qu'il avait démissionné.

Ni Sutskever ni Leike n'ont répondu aux demandes de commentaires. SUTSKEVER n'a pas offert d'explication à sa décision de partir mais a offert un soutien au chemin actuel d'Openai Dans un post sur x. “La trajectoire de l'entreprise n'a rien été de moins que miraculeuse, et je suis convaincu qu'Openai construire AGI à la fois sûr et bénéfique” sous sa direction actuelle, a-t-il écrit.

Leike a posté un fil sur x Vendredi, expliquant que sa décision provenait d'un désaccord sur les priorités de l'entreprise et la quantité de ressources de son équipe allouée.

“Je suis en désaccord avec les dirigeants d'Openai sur les priorités fondamentales de l'entreprise depuis un certain temps, jusqu'à ce que nous atteignions finalement un point de rupture”, a écrit Leike. «Au cours des derniers mois, mon équipe navigue contre le vent. Parfois, nous luttions pour le calcul et il devenait de plus en plus difficile de faire cette recherche cruciale. »

La dissolution de l'équipe de superalignement d'Openai ajoute des preuves récentes d'un secouer à l'intérieur de l'entreprise à la suite de la crise de gouvernance de novembre dernier. Deux chercheurs de l'équipe, Leopold Aschenbrenner et Pavel Izmailov, étaient rejeté pour fuir les secrets de l'entreprise, Les informations rapporté le mois dernier. Un autre membre de l'équipe, William Saunders, a quitté Openai en février, selon un message du forum Internet en son nom.

Deux autres chercheurs OpenAI travaillant sur la politique et la gouvernance de l'IA semblent également avoir quitté l'entreprise récemment. Cullen O'Keefe a quitté son rôle de responsable de la recherche sur les frontières politiques en avril, selon LinkedIn. Daniel Kokotajlo, un chercheur OpenAI qui a co-auteur de plusieurs articles sur les dangers des modèles d'IA plus compétents, “quittez Openai en raison de la perte de confiance qu'il se comporterait de manière responsable à l'époque de l'AGI”, selon un publication sur un forum Internet en son nom. Aucun des chercheurs qui a apparemment quitté n'a répondu aux demandes de commentaires.