En 2000, Enron a versé 25 millions de dollars au cabinet comptable Arthur Andersen, qui faisait alors partie du prétendu « Big Five » des cabinets comptables internationaux, désormais « Big Four » après l’effondrement d’Arthur Andersen, pour auditer ses comptes, et 27 millions de dollars supplémentaires pour des services fiscaux et de conseil. En moins de deux ans, les deux entreprises s’étaient effondrées. Le Congrès a réagi avec la loi Sarbanes-Oxley, qui a retiré à la direction le choix de l’auditeur, empêché les auditeurs de vendre la plupart de leurs autres services aux entreprises qu’ils auditent et créé un organisme public chargé d’inspecter les auditeurs eux-mêmes.
Andersen a échoué non pas par manque d’expertise, mais parce qu’il n’avait guère intérêt à examiner de près un client qui lui versait 52 millions de dollars en une seule année. Les engagements volontaires dans le secteur de l’IA n’ont pas non plus fait leurs preuves. En 2023, les principales entreprises d’IA ont pris une série d’engagements volontaires envers la Maison-Blanche, notamment celui de permettre à des experts externes de tester leurs systèmes avant leur lancement. Lorsque des chercheurs de Stanford, Harvard et Brown ont réévalué 16 entreprises au regard de ces engagements, la moyenne s’élevait à 53 %. Pour la promesse d’aider des personnes externes à détecter et signaler les problèmes, huit des 16 entreprises ont obtenu zéro.
Même lorsqu’un test externe a lieu, le développeur en fixe les conditions. METR, une organisation à but non lucratif qui teste des modèles d’IA, a écrit que ses tests du modèle o3 d’OpenAI avant son lancement avaient été « menés sur seulement trois semaines », avec « un accès limité aux informations sur le modèle » et sans accès à son raisonnement étape par étape.
