Les initiés d’OpenAI exigent le droit de sonner l’alarme sans craindre de représailles.

D’anciens et actuels membres du personnel de Google DeepMind et OpenAI ont signé une lettre ouverte appelant au soutien et à la protection des lanceurs d’alerte et à la responsabilité des entreprises à la pointe du développement de l’IA. Parmi les anciens employés d’OpenAI ayant signé la lettre figure le chercheur Daniel Kokotajlo. Bien que non mentionné nommément dans la missive, OpenAI a fait l’objet de critiques ces dernières semaines, tant en raison d’allégations concernant des sanctions à l’encontre d’anciens employés critiquant l’entreprise que pour le manque de transparence du PDG envers son propre conseil d’administration. À la fin du mois de mai, Helen Toner, ancienne membre du conseil d’OpenAI, a accusé le PDG Sam Altman de mentir. Peu de temps auparavant, il a été révélé qu’OpenAI avait inséré une clause de non-dénigrement dans ses accords de départ. Cela signifiait que d’anciens employés critiquant l’entreprise risquaient de perdre l’équité acquise pendant leur mandat. La lettre met en garde : « Les entreprises en IA détiennent des informations substantielles non publiques sur les capacités et les limites de leurs systèmes, l’adéquation de leurs mesures de protection et les niveaux de risque de différents types de préjudices ».