En 2000, Enron pagó a la firma de contabilidad Arthur Andersen, que alguna vez formó parte de las llamadas «Cinco Grandes» firmas internacionales de contabilidad y que ahora son las «Cuatro Grandes» tras el colapso de Arthur Andersen, 25 millones de dólares para auditar sus libros y otros 27 millones de dólares por servicios fiscales y de consultoría. En menos de dos años, ambas empresas habían colapsado. El Congreso respondió con la Ley Sarbanes-Oxley, que quitó a la dirección la facultad de elegir al auditor, impidió que los auditores vendieran la mayoría de los demás servicios a las empresas que auditan y creó un organismo público para inspeccionar a los propios auditores.

Andersen fracasó no por falta de conocimientos especializados, sino por falta de incentivos para examinar a fondo a un cliente que le pagaba 52 millones de dólares en un solo año. Los compromisos voluntarios de la industria de la IA tampoco tienen un gran historial. En 2023, las principales empresas de IA asumieron una serie de compromisos voluntarios ante la Casa Blanca, entre ellos permitir que expertos externos probaran sus sistemas antes de su lanzamiento. Cuando investigadores de Stanford, Harvard y Brown volvieron a evaluar a 16 empresas en función de esos compromisos, el promedio fue del 53 %. En cuanto a la promesa de ayudar a personas externas a encontrar y denunciar problemas, ocho de las 16 obtuvieron una puntuación de cero.

Incluso cuando se realizan pruebas externas, el desarrollador establece las condiciones. METR, una organización sin fines de lucro que prueba modelos de IA, escribió que sus pruebas del modelo o3 de OpenAI antes de su lanzamiento «se llevaron a cabo durante solo tres semanas», con «acceso limitado a información sobre el modelo» y sin poder ver el razonamiento paso a paso del modelo.