Im Jahr 2000 zahlte Enron der Wirtschaftsprüfungsgesellschaft Arthur Andersen, die einst zu den sogenannten „Big Five“ der internationalen Wirtschaftsprüfungsgesellschaften gehörte und nach dem Zusammenbruch von Arthur Andersen heute zu den „Big Four“ zählt, 25 Millionen Dollar für die Prüfung ihrer Bücher und weitere 27 Millionen Dollar für Steuer- und Beratungsleistungen. Innerhalb von zwei Jahren waren beide Unternehmen zusammengebrochen. Der Kongress reagierte mit dem Sarbanes-Oxley Act, der dem Management die Wahl des Prüfers entzog, Prüfern den Verkauf der meisten anderen Dienstleistungen an die von ihnen geprüften Unternehmen untersagte und eine öffentliche Aufsichtsbehörde zur Prüfung der Prüfer selbst einrichtete.
Andersen scheiterte nicht an mangelnder Fachkenntnis, sondern daran, dass der Anreiz fehlte, einen Kunden, der in einem einzigen Jahr 52 Millionen Dollar zahlte, genau unter die Lupe zu nehmen. Auch die freiwilligen Zusagen der KI-Branche haben keine gute Bilanz. 2023 gaben die führenden KI-Unternehmen gegenüber dem Weißen Haus eine Reihe freiwilliger Zusagen ab, darunter, externen Experten zu erlauben, ihre Systeme vor der Veröffentlichung zu testen. Als Forscher von Stanford, Harvard und Brown später 16 Unternehmen anhand dieser Zusagen bewerteten, lag der Durchschnitt bei 53 %. Bei dem Versprechen, Außenstehenden dabei zu helfen, Probleme zu finden und zu melden, erzielten 8 der 16 Unternehmen null Punkte.
Selbst wenn externe Tests stattfinden, legt der Entwickler die Bedingungen fest. METR, eine gemeinnützige Organisation, die KI-Modelle testet, schrieb, dass ihre Tests des OpenAI-Modells o3 vor der Veröffentlichung „nur über einen Zeitraum von drei Wochen durchgeführt“ worden seien, mit „begrenztem Zugang zu Informationen über das Modell“ und ohne Einblick in die schrittweise Schlussfolgerung des Modells.
