"The OpenAI Files" : les dessous des défaillances d'OpenAI mis en lumière

C'est une affaire qui risque d'entâcher la réputation de la star de l'IA. The Midas Project et The Tech Oversight Project, deux organisations à but non lucratif de surveillance du secteur de la tech, sont à l’origine d'une initiative qui consiste à archiver et à analyser des informations et témoignages publics concernant les pratiques de gouvernance, l’intégrité de la direction et la culture organisationnelle d'OpenAI.

Le rapport met en lumière des conclusions dans quatre domaines majeurs : la réorganisation interne, l’intégrité du CEO - Sam Altman -, la transparence et la sécurité, ainsi que les conflits d’intérêts. Ces fameux "files" cherchent également à clarifier la structure d’entreprise complexe d’OpenAI, soulevant des préoccupations sur les circonstances entourant sa transition en société d’intérêt public (PBC).

Les préoccupations autour de la restructuration liées au board et aux investisseurs

Sur le plan de la restructuration, plusieurs changements ont été opérés dans la relation de l'organisme à but non lucratif avec sa filiale à but lucratif. OpenAI prévoit de supprimer les limites sur les retours sur investissement. Initialement, l'entreprise avait plafonné les profits des investisseurs à un maximum de 100 fois leur mise, afin de garantir que, si l’entreprise parvenait à créer une IA capable d’automatiser l’ensemble du travail humain, les bénéfices seraient redistribués au profit de l’humanité. Elle a désormais annoncé son intention de supprimer ce plafond.

Par ailleurs, OpenAI se présente comme préservant le contrôle de l'entité à but non lucratif, tout en l'affaiblissant potentiellement : en effet certains détails suggèrent que le conseil d’administration de cette entité n’aurait plus toute l’autorité nécessaire pour faire respecter la mission fondatrice d’OpenAI. Les investisseurs ont exercé des pressions pour obtenir ces changements structurels. Or, c’est précisément ce type d’influence des investisseurs que la structure initiale d’OpenAI visait à empêcher.

Sam Altman, loin d'être un bon patron

En ce qui concerne l'intégrité du CEO, la liste est tout aussi longue. Rappelons ainsi que des cadres supérieurs ont tenté de destituer Sam Altman dans chacune des trois grandes entreprises qu’il a dirigées. Au sein d'OpenAI, il a prétendu ignorer un système visant à contraindre les employés à signer des accords de confidentialité ultra-restrictifs (NDA) : pourtant, il a lui-même signé des documents accordant à OpenAI le droit de retirer aux employés leurs parts acquises s'ils refusaient de signer ces NDA.

Le patron d'OpenAI a en outre menti à plusieurs reprises aux membres du board, notamment lorsqu'il a affirmé que l’équipe juridique avait validé une exemption au processus de sécurité, ce qui était faux, et il a rapporté qu’un membre du conseil voulait en évincer un autre, alors que ce n’était pas le cas.

La sécurité aux abonnés absents ?

Des actes qui sont également cités comme préoccupants en matière de transparence et de sécurité. Au-delà des accords de confidentialité extrêmement restrictifs signés sous la menace de perdre leurs parts acquises, OpenAI a précipité les processus d’évaluation de sécurité de ses modèles d'IA pour respecter les délais de lancement, réduisant de manière significative le temps et les ressources alloués aux tests de sécurité.

De façon plus générale, certains salariés ont accusé l’entreprise de ne pas respecter ses engagements et de décourager systématiquement toute remontée de préoccupations internes, signe avant-coureur d'une culture du secret.

Plusieurs conflits d'intérêt apparents

Dernier point, et pas des moindres : les conflits d'intérêt. Le conseil d’administration à but non lucratif d’OpenAI présente plusieurs conflits d’intérêts apparents non traités : Bien qu’OpenAI définisse les administrateurs "indépendants" comme ceux ne possédant pas de parts dans l’entreprise, le conseil semble ignorer les conflits potentiels liés aux investissements externes de certains membres dans des entreprises bénéficiant des partenariats d’OpenAI.

Et son CEO est le premier à être rattrapé : bien qu’il ait affirmé à une époque ne tirer aucun bénéfice personnel d’OpenAI, une grande partie de sa fortune de 1,6 milliard de dollars est investie dans des entreprises partenaires d'OpenAI, telles que Retro Biosciences et Rewind AI, qui profitent directement de la croissance continue de l’entreprise.

En dépit de ces conflits d’intérêts, OpenAI n’a annoncé aucune récusation de membres du conseil pour la décision cruciale de restructurer l’entreprise et de supprimer les plafonds de profits, ce qui permettrait de débloquer des milliards de dollars en investissements supplémentaires.

Un croche-pied donné à la start-up pour la ralentir ?

L’initiative a aussi publié une "Vision pour le changement", proposant un plan pour qu’OpenAI respecte les "normes exceptionnellement élevées" auxquelles les entreprises d’IA doivent être tenues. Ce plan part du constat que l’organisation, censée développer une IA bénéfique pour l’humanité, souffre de graves manquements en matière de transparence, d’éthique et de responsabilité et a bien changé. "Seulement dix ans plus tard, elle a commencé à se transformer en une entreprise à but lucratif de 300 milliards de dollars, troquant son obligation légale envers l'humanité contre le droit de générer des rendements illimités pour les investisseurs".

Le plan appelle ainsi à restaurer le contrôle effectif de l’entité à but non lucratif sur sa filiale commerciale, en rendant publics les accords fondateurs, les pactes d’actionnaires, les décisions structurelles, ainsi que les résultats d’enquêtes internes, en particulier celles concernant Sam Altman. Il insiste sur la nécessité de garantir l’intégrité des dirigeants, d’éviter les conflits d’intérêts, et de publier un code de conduite clair pour ceux occupant des postes à responsabilité.

La structure juridique complexe d’OpenAI est également remise en question, avec des demandes concrètes de verrouillage juridique des plafonds de profits et de transparence sur les engagements vis-à-vis du public. Le message est clair, il ne s'agit pas uniquement d'une feuille de route concrète pour remettre OpenAI sur le droit chemin, il s'agit aussi d'un avertissement : OpenAI doit retourner à sa mission première, à savoir la quête de l'AGI pour un bénéfice collectif.