The Fear That Inspired the Creation of OpenAI
Elon Musk dure La semaine a poursuivi deux de ses cofondateurs d'Openai, Sam Altman et Greg Brockman, les accusant de «violations flagrantes» de l'accord original du trio selon lequel la société développerait une intelligence artificielle ouvertement et sans chasser les bénéfices. Tard mardi, Openai publié des e-mails partiellement expurgés Entre Musk, Altman, Brockman et d'autres qui fournissent un contre-barrage.
Les e-mails suggèrent que Musk était ouvert à Openai devenant plus tôt axé sur les bénéfices, sapant potentiellement sa propre affirmation selon laquelle elle s'est écartée de sa mission initiale. Dans un message, Musk propose de plier Openai dans sa société de voitures électriques Tesla pour fournir plus de ressources, une idée initialement suggérée par un e-mail qu'il a transmis d'une fête extérieure sans nom.
Les e-mails nouvellement publiés impliquent également que Musk n'était pas dogmatique à propos d'Openai devant fournir librement ses développements à tous. En réponse à un message du scientifique en chef Ilya Sutskevar avertissant que les progrès puissants d'IA puissants pourraient être risqués à mesure que la technologie avance, Musk écrit: «Yup». Cela semble contredire les arguments du procès de la semaine dernière selon lequel il était convenu du début qu'Openai devrait rendre ses innovations librement disponibles.
En mettant le différend juridique de côté, les e-mails publiés par Openai montrent un puissant cadre d'entrepreneurs technologiques qui a fondé une organisation qui a atteint un pouvoir immense. De façon frappante, bien qu'Openai aime décrire sa mission comme axée sur la création de l'intelligence générale artificielle – les machines plus intelligentes que les humains – ses fondateurs passent plus de temps à discuter des craintes de la puissance croissante de Google et d'autres géants aux poches profondes qu'en excitant AGI.
«Je pense que nous devons dire que nous commençons par un engagement de financement de 1 milliard de dollars. C'est réel. Je couvrirai tout ce que quiconque ne fournit pas », a écrit Musk dans une missive discutant de la façon d'introduire Openai au monde. Il a rejeté une suggestion de lancement en annonçant un financement de 100 millions de dollars, citant les énormes ressources de Google et de Facebook.
Musk a cofondé Openai avec Altman, Brockman et d'autres en 2015, au cours d'une autre période de battage médiatique enivané centré sur Google. Un mois avant l'incorporation de l'organisme à but non lucratif, le programme AI de Google Alphago avait appris à jouer au jeu de société diaboliquement délicat. Vaincre un joueur humain champion pour la première fois. L'exploit a choqué de nombreux experts de l'IA qui pensaient être trop subtils pour que les ordinateurs se maîtrisent bientôt. Il a également montré le potentiel pour l'IA de maîtriser de nombreuses tâches apparemment impossibles.
Le Texte du procès de Musk Confirme certains détails précédemment signalés sur la trame de fond OpenAI à cette époque, y compris le fait que Musk a d'abord été informé des dangers possibles posés par l'IA lors d'une réunion de 2012 avec Demis Hassabis, cofondateur et PDG de DeepMind, la société qui a développé Alpho et était acquis par Google en 2014. Le procès confirme également que Musk était en désaccord profondément avec le cofondateur de Google Larry Page sur les risques futurs de l'IA, ce qui a apparemment conduit à La paire tombe en tant qu'amis. Musk s'est finalement séparé d'Openai en 2018 et a apparemment aigri le projet depuis le succès sauvage de Chatgpt.
Depuis que OpenAI a publié les e-mails avec Musk cette semaine, les spéculations ont tourné vers les noms et autres détails expurgés des messages. Quelques tourné vers l'AI Comme moyen de remplir les blancs avec du texte statistiquement plausible.
“Cela a besoin de milliards par an immédiatement ou de l'oublier”, a écrit Musk dans un e-mail sur le projet OpenAI. «Malheureusement, l'avenir de l'humanité est entre les mains de [redacted]», A-t-il ajouté, peut-être une référence à Google Cofounder Page.
Ailleurs dans le changement d'e-mail, le logiciel de l'IA – comme certains commentateurs sur Twitter – Duess Musk avait avancé des arguments selon lesquels Google avait un puissant avantage dans l'IA de Hassabis.
Quel que soit, les relations affichées dans les e-mails entre les cofondateurs d'Openai sont depuis fracturés. Le procès de Musk cherche à forcer l'entreprise à arrêter la technologie des licences à son principal bailleur de fonds, Microsoft. Dans un article de blog accompagnant les e-mails publiés cette semaine, les autres cofondateurs d'Openai ont exprimé la douleur de la façon dont les choses avaient aigri.
“Nous sommes tristes que cela soit arrivé avec quelqu'un que nous avons profondément admiré”, ont-ils écrit. “Quelqu'un qui nous a inspiré à viser plus haut, puis nous a dit que nous échourions, a lancé un concurrent, puis nous a poursuivi lorsque nous avons commencé à faire des progrès significatifs vers la mission d'Openai sans lui.”