Eine Forscherin behauptet, den ungenutzten Speicher und die brachliegende Rechenleistung einer alten Nvidia-Mining-Karte für künstliche Intelligenz erschlossen zu haben. Bei einem Berechnungstest übertrifft sie sogar eine A100, ein Modell für Rechenzentren.
Eine Mining-Karte mit 80 GB verborgenem Speicher
Die Sicherheitsforscherin Kate behauptet, eine alte Nvidia-Karte, die für das Ethereum-Mining entwickelt wurde, in ein leistungsstarkes Werkzeug für künstliche Intelligenz verwandelt zu haben. In einem ihrer Tests übertrifft diese modifizierte Nvidia CMP 170HX sogar die A100, eine Karte des Herstellers für Rechenzentren.
Beide Modelle basieren auf demselben Chip, was diese Umrüstung möglich macht. Nvidia hat jedoch einen großen Teil der Fähigkeiten der Mining-Karte deaktiviert, unter anderem, um sie für diesen Einsatz anzupassen.
Laut Kates Arbeit verfügt das mit 8 GB Speicher verkaufte Modell tatsächlich über rund 80 GB. Dieser zusätzliche Speicher ist physisch vorhanden, lässt sich aber in der ursprünglichen Konfiguration nicht nutzen. Er könnte besonders nützlich sein, um Modelle künstlicher Intelligenz auszuführen, die große Datenmengen laden müssen.
Mit Werkzeugen ließ sich bereits ein Teil dieses Speichers erschließen. Die Forscherin ging noch weiter und umging auch die Hardwarebeschränkungen, die die Rechenleistung begrenzten.
Ein kurzer Spannungsabfall, um die Sperre zu umgehen
Nvidia unterscheidet seine Produkte unter anderem mithilfe elektronischer Sicherungen, die in den Chip integriert sind. Ihre Konfiguration bestimmt, welche Funktionen zugänglich sind und welche deaktiviert bleiben.
Kate beschreibt eine Schwachstelle in diesem System: Bestimmte Änderungen ermöglichen es, gesperrte Fähigkeiten wieder zu aktivieren. Die verkauften Karten sind normalerweise gegen solche Änderungen geschützt.
Um diesen Schutz zu umgehen, verursacht sie einen sehr kurzen Abfall der elektrischen Spannung, mit der der Chip versorgt wird. Zum richtigen Zeitpunkt reicht diese Störung aus, um den Schutz auszutricksen und die erforderlichen Änderungen zu ermöglichen.
Die Forscherin verwendet eine kleine Elektronikplatine, die sie nach eigenen Angaben mit Hilfe eines Modells künstlicher Intelligenz entwickelt hat. Der Vorgang erfordert jedoch Geduld: Ihren Versuchen zufolge braucht es pro Karte zwischen einer und 48 Stunden an Versuchen.
Bei einem Berechnungstest schneller als eine A100
Nach der Modifikation kann die Mining-Karte mehr Rechenblöcke nutzen als eine handelsübliche A100. In dem von Kate veröffentlichten Test führte sie so etwa 18 % mehr Operationen pro Sekunde aus.
Dieses Ergebnis bedeutet jedoch nicht, dass die Karte bei allen Anwendungen künstlicher Intelligenz schneller sein wird. Es bezieht sich auf eine bestimmte Art von Berechnung und weist keinen allgemeinen Vorteil beim Training oder bei der Nutzung von Modellen nach.
Die Ergebnisse unterscheiden sich auch von Karte zu Karte: Neun der zehn untersuchten Karten boten 80 GB nutzbaren Speicher. Die letzte kam nur auf 64 GB.
Kate veröffentlichte ihre Arbeit am 10. November, nachdem ein anderer Forscher unabhängig dieselbe Schwachstelle entdeckt hatte. Sie gibt an, das Sicherheitsteam von Nvidia vor der Veröffentlichung informiert zu haben.