Opinion : Les co-fondateurs et les talents quittent OpenAI, est-ce que nous manquons quelque chose ?

OpenAI est sans aucun doute l’une des entreprises les plus perturbatrices de l’industrie technologique actuellement. Son fascinant ChatGPT domine le marché des assistants chatbot et son influence sur les individus et la société est incommensurable.

L’entreprise vaut actuellement plus de 80 milliards de dollars, et elle a été fondée avec 1 milliard de dollars en 2015. Cependant, depuis quelques mois, sa structure organisationnelle change rapidement, presque aussi rapidement que ses développements, nouvelles fonctionnalités, produits et modèles. Mais pourquoi ?

Sur les 11 cofondateurs qui ont initié le projet, seuls trois environ restent. John Schulman est devenu le 8ème cofondateur à partir après avoir annoncé publiquement son départ cette semaine.

Il y a eu des drames internes, un PDG temporairement renvoyé, des lettres ouvertes, d’anciens employés inquiets pour leur sécurité, et des lanceurs d’alerte affirmant que les accords de non-divulgation de l’entreprise leur interdisent de signaler leurs préoccupations aux régulateurs.

Que devraient savoir les gens à propos des créateurs de la technologie la plus avancée de notre époque? Quels sont les faits et quelles sont les théories du complot?

Commençons depuis le début.

Comment tout a commencé : Les Fondateurs

OpenAI a été lancée en 2015 et l’entreprise a partagé un post, « Présentation d’OpenAI« . Les créateurs ont décrit OpenAI comme une « entreprise de recherche à but non lucratif en intelligence artificielle » avec un objectif clair : « bénéficier à l’humanité dans son ensemble ».

Dans le document, Ilya Sutskever a été présenté comme directeur de recherche, Greg Brockman comme directeur technique, Altman et Elon Musk comme co-présidents, et ils ont présenté le reste des fondateurs : Trevor Blackwell, Vicki Cheung, Andrej Karpathy, Durk Kingma, John Schulman, Pamela Vagata et Wojciech Zaremba.

« Étant donné que notre recherche est exempte d’obligations financières, nous pouvons mieux nous concentrer sur un impact humain positif », ont écrit Sutskever et Brockman avec le reste de l’équipe dans ce premier post. Ils ont également précisé qu’un groupe d’investisseurs – incluant Altman, Musk, Amazon Web Services (AWS), YC Research, et plus encore – s’était engagé à fournir 1 milliard de dollars qu’ils espéraient durer pendant des années.

L’équipe de rêve était prête et l’organisation de rêve pouvait commencer son travail.

Les cofondateurs quittent, le PDG Sam Altman est licencié

Peu de temps après le lancement d’OpenAI, en 2016, Vagata a discrètement quitté l’entreprise pour rejoindre Stripe. Selon le Financial Times, l’ingénieure ne mentionne pas OpenAI dans son profil LinkedIn. L’année suivante, en 2017, Cheung, Blackwell et Kaparthy ont également démissionné.

Le cinquième fondateur à partir est Musk, en février 2018. Il a quitté le conseil après des désaccords avec Altman, dans l’un des départs les plus médiatisés d’une querelle qui persiste depuis des années et reste active. Musk a intenté plusieurs poursuites contre l’entreprise, la plus récente il y a seulement quelques jours concernant un accord avec Microsoft. OpenAI a finalement partagé une explication publique il y a quelques mois, en mars, indiquant que Musk voulait fusionner OpenAI avec Tesla et contrôler entièrement l’entreprise.

Après le départ de Musk, le chercheur et cofondateur Kingma a suivi la tendance et a rejoint le projet d’IA de Google. Les cofondateurs restants semblaient avoir une organisation fonctionnelle – malgré de grandes mises à jour à but lucratif lorsqu’elle est devenue une organisation à double profit et à but non lucratif – jusqu’à ce que le drame avec Sam Alman éclate et que le PDG quitte temporairement l’entreprise en 2023. Quelque chose n’allait décidément plus.

En 2023, Karpathy a réintégré OpenAI mais a démissionné à nouveau en février 2024 pour créer son propre projet d’éducation à l’IA – appelé Eureka Labs et lancé en juillet. Puis, Sutskever a quitté son poste de scientifique en chef pour créer sa propre entreprise, Safe Superintelligence, en mai. Et maintenant, il y a seulement quelques jours, deux autres cofondateurs ont pris du recul. Schulman, qui vient d’annoncer sa décision de rejoindre l’entreprise rivale Anthropic, et deux heures plus tard Brockman annonce son congé sabbatique.

En ce moment, il n’y a que Altman, le scientifique en informatique Zaremba, et — techniquement — Brockman. Donc deux et demi sur 11 ?

Le drame Altman

À la fin de 2023, le monde a appris la nouvelle choquante : le conseil d’administration d’OpenAI avait licencié Altman le 17 novembre. Pendant quelques jours, il y a eu beaucoup de spéculations concernant la sécurité de ChatGPT. Le conseil a prétendu qu’Altman n’était pas « constamment franc dans sa communication avec le conseil » dans son explication publique de la transition de leadership.

« Lorsque ChatGPT a été lancé, en novembre 2022, le conseil d’administration n’a pas été informé à l’avance », a déclaré Helen Toner, ancienne membre du conseil d’administration d’OpenAI, lors d’une interview pour le podcast The TED AI Show en mai de cette année. « Nous avons appris l’existence de ChatGPT sur Twitter », a-t-elle déclaré.

Le conseil d’administration à but non lucratif d’OpenAI s’inquiétait des décisions arbitraires d’Altman et des grands accords commerciaux, comme l’investissement de 13 milliards de dollars de Microsoft, dans ce qui a commencé comme une étrange relation d’affaires et qui vient officiellement de se transformer en une gênante compétition.

Les recherches et l’analyse pour le New York Times du journaliste américain Ezra Klein ont conclu que le conseil d’administration ne cherchait qu’à contrôler l’organisation à but lucratif en se tenant à la mission philanthropique originale de l’entreprise. Cela n’a pas fonctionné.

Altman est très apprécié au sein de l’entreprise et de la sphère technologique et environ 90% des employés ont menacé de démissionner s’il ne revenait pas – y compris Sutskever qui était initialement du côté du conseil d’administration – et le conseil a démissionné. De nombreux membres du conseil ont quitté l’entreprise et Altman a été réintégré dans l’entreprise en 5 jours.

Théories et Faits

Tisser et donner un sens au drame de OpenAI n’est pas une tâche facile. Beaucoup de gens pensent que le développement de nouvelles technologies IA a échappé au contrôle chez OpenAI et que d’anciens co-fondateurs et employés quittent l’entreprise par crainte pour leur sécurité. Les groupes Reddit pensent que OpenAI a déjà secrètement développé des modèles d’intelligence artificielle générale.

Ce n’est pas qu’une simple spéculation. D’anciens et actuels employés de OpenAI—et d’autres entreprises IA—ont signé une alerte publique en juin, concernant les risques liés à la technologie, allant de la désinformation à l’extinction humaine.

Jan Leike, non co-fondatrice mais chercheuse clé chez OpenAI, a démissionné en mai, après 3 ans de travail au sein de l’entreprise. « Je suis en désaccord avec la direction d’OpenAI sur les priorités fondamentales de l’entreprise depuis un certain temps jusqu’à ce que nous atteignons finalement un point de rupture », a écrit Leike sur X. « Au cours des dernières années, la culture et les processus de sécurité ont été relégués au second plan au profit de produits attrayants. »

Le projet Superalignment créé en juillet 2023 pour « contrôler les systèmes d’IA bien plus intelligents que nous » a été dissous après le départ de Sutskever pour créer apparemment le même projet mais avec de l’autonomie. Anthropic, où travaillent désormais quelques ex co-fondateurs, a également été créé par d’anciens employés d’OpenAI, pour développer « les bons modèles éthiques », si cela est même possible.

Nous sommes pris dans le tourbillon, alors qu’est-ce qui nous échappe ? Ce qui nous échappe probablement, c’est l’acceptation du fait que OpenAI n’est plus une organisation avec plusieurs dirigeants, mais est devenue un synonyme pour un homme très puissant et influent : Altman.