Ex-chercheur d’OpenAI et lanceur d’alerte retrouvé mort

Un ancien chercheur d’OpenAI devenu lanceur d’alerte, Suchir Balaji, 26 ans, a été retrouvé mort dans un appartement de San Francisco, ont confirmé les autorités, comme l’a d’abord rapporté The Mercury News.

La police a découvert le corps de Balaji le 26 novembre suite à une demande de contrôle de bien-être. Le bureau du médecin légiste de San Francisco a conclu à un suicide, et les enquêteurs n’ont trouvé aucun signe d’acte criminel, a rapporté BBC.

Dans les mois précédant sa mort, Balaji avait publiquement critiqué les pratiques d’OpenAI. L’entreprise fait actuellement face à plusieurs poursuites judiciaires en raison de ses méthodes de collecte de données.

J’ai récemment participé à un article du NYT sur l’usage équitable et l’IA générative, et pourquoi je suis sceptique que « l’usage équitable » serait une défense plausible pour beaucoup de produits d’IA générative. J’ai également écrit un article de blog (https://t.co/xhiVyCk2Vk) sur les détails techniques de l’usage équitable et pourquoi je…

— Suchir Balaji (@suchirbalaji) 23 octobre 2024

Dans une récente interview accordée au New York Times, M. Balaji a affirmé qu’il voyait les menaces posées par l’IA comme immédiates et significatives. Il a soutenu que ChatGPT et d’autres chatbots du même genre sapent la viabilité commerciale des individus, des entreprises et des services internet qui ont initialement créé les données numériques utilisées pour former ces systèmes.

OpenAI, Microsoft, et d’autres compagnies soutiennent que la formation de leurs systèmes d’IA sur des données internet relève de la doctrine du « fair use ».

Cette doctrine considère quatre facteurs, et ces entreprises affirment qu’elles répondent aux critères, y compris la transformation significative des œuvres protégées par des droits d’auteur et le fait de ne pas être en concurrence directe sur le même marché que ces œuvres.

M. Balaji n’était pas d’accord. Il a soutenu que des systèmes comme le GPT-4 font des copies complètes des données d’entraînement. Alors que des entreprises comme OpenAI peuvent programmer ces systèmes pour soit reproduire les données, soit produire des résultats entièrement nouveaux, la réalité, dit-il, se situe quelque part entre les deux, comme le rapporte The Times.

M. Balaji a publié un essai sur son site web personnel, proposant ce qu’il décrit comme une analyse mathématique pour soutenir cette affirmation. « Si vous croyez ce que je crois, vous devez simplement quitter l’entreprise », a-t-il déclaré, comme rapporté par The Times.

Selon M. Balaji, la technologie viole la loi sur le droit d’auteur car elle est souvent en concurrence directe avec les œuvres sur lesquelles elle a été formée. Les modèles génératifs, conçus pour imiter les données en ligne, peuvent se substituer à presque tout sur internet, des articles de presse aux forums en ligne, a rapporté The Times.

La mort de Balaji est survenue juste un jour après qu’un dépôt de plainte l’ait identifié comme une personne dont les dossiers professionnels seraient examinés par OpenAI dans le cadre d’un procès intenté par plusieurs auteurs contre la startup, a noté Forbes.

Au-delà des préoccupations juridiques, M. Balaji a averti que les technologies de l’IA sont en train de dégrader l’internet. Alors que ces outils remplacent les services existants, ils génèrent souvent des informations fausses ou entièrement fabriquées – un phénomène que les chercheurs appellent « hallucinations ». Il pensait que ce changement transforme l’internet pour le pire, a rapporté The Times.

Bradley J. Hulbert, un avocat spécialisé en propriété intellectuelle, a souligné que les lois actuelles sur le droit d’auteur ont été établies bien avant l’apparition de l’IA et qu’aucun tribunal n’a encore statué sur la question de savoir si des technologies comme ChatGPT enfreignent ces lois, comme le rapporte The Times.

Il a insisté sur la nécessité d’une action législative. « Étant donné que l’IA évolue si rapidement », a-t-il déclaré, « il est temps que le Congrès intervienne. » M. Balaji est du même avis, déclarant : « La seule issue à tout cela est la réglementation », a rapporté The Times.