Una investigadora afirma haber recuperado la memoria y la potencia sin aprovechar de una antigua tarjeta de minería de Nvidia para la inteligencia artificial. En una prueba de cálculo, incluso supera a una A100, un modelo destinado a centros de datos.
Una tarjeta de minería con 80 GB de memoria oculta
La investigadora de seguridad Kate afirma haber convertido una antigua tarjeta Nvidia diseñada para minar Ethereum en una potente herramienta de inteligencia artificial. En una de sus pruebas, esta Nvidia CMP 170HX modificada incluso supera a la A100, una tarjeta del fabricante destinada a centros de datos.
Ambos modelos se basan en el mismo chip, lo que hace posible esta conversión. Pero Nvidia deshabilitó gran parte de las capacidades de la tarjeta de minería, entre otras cosas para adaptarla a este uso.
Según el trabajo de Kate, el modelo vendido con 8 GB de memoria en realidad dispone de unos 80 GB. Esta memoria adicional está físicamente presente, pero no se puede acceder a ella en la configuración original. Podría ser especialmente útil para ejecutar modelos de inteligencia artificial, que deben cargar grandes cantidades de datos.
Ya existían herramientas que permitían recuperar parte de esta memoria. La investigadora fue más allá y también eludió las restricciones de hardware que limitaban la potencia de cálculo.
Una breve caída de tensión para eludir el bloqueo
Nvidia diferencia sus productos, entre otras cosas, mediante fusibles electrónicos integrados en el chip. Su configuración determina qué funciones son accesibles y cuáles permanecen deshabilitadas.
Kate describe una debilidad en este sistema: ciertas modificaciones permiten reactivar capacidades bloqueadas. Normalmente, las tarjetas vendidas están protegidas contra estas modificaciones.
Para eludir esta protección, provoca una caída muy breve de la tensión eléctrica que alimenta el chip. En el momento adecuado, esta perturbación basta para sortear la protección y permitir las modificaciones necesarias.
La investigadora utiliza una pequeña placa electrónica que, según afirma, diseñó con ayuda de un modelo de inteligencia artificial. Sin embargo, la operación requiere paciencia: según sus pruebas, hacen falta entre una y 48 horas de intentos por tarjeta.
Más rápida que una A100 en una prueba de cálculo
Tras la modificación, la tarjeta de minería puede utilizar más bloques de cálculo que una A100 vendida en el mercado. Así, en la prueba publicada por Kate, realiza aproximadamente un 18 % más de operaciones por segundo.
Sin embargo, este resultado no significa que la tarjeta vaya a ser más rápida en todas las aplicaciones de inteligencia artificial. Se refiere a un tipo específico de cálculo y no demuestra una ventaja general en el entrenamiento o el uso de modelos.
Los resultados también varían de una tarjeta a otra: de las diez tarjetas examinadas, nueve ofrecieron 80 GB de memoria utilizable. La última se limitó a 64 GB.
Kate publicó su trabajo el 10 de noviembre, después de que otro investigador descubriera de forma independiente la misma vulnerabilidad. Indica que avisó al equipo de seguridad de Nvidia antes de la publicación.