Исследовательница заявляет, что вернула старой карте Nvidia для майнинга неиспользуемые память и вычислительную мощность, чтобы применять ее в искусственном интеллекте. В одном вычислительном тесте она даже показала результат выше, чем A100, модель для центров обработки данных.
Карта для майнинга со скрытыми 80 ГБ памяти
Исследовательница в области безопасности Кейт утверждает, что превратила старую карту Nvidia, созданную для майнинга Ethereum, в мощный инструмент для искусственного интеллекта. В одном из тестов модифицированная Nvidia CMP 170HX даже показала результат выше, чем A100, карта производителя для центров обработки данных.
Обе модели построены на одном и том же чипе, что и делает такое преобразование возможным. Однако Nvidia отключила значительную часть возможностей карты для майнинга, в том числе приспособив ее к этому назначению.
Согласно исследованию Кейт, модель, продававшаяся с 8 ГБ памяти, на самом деле располагает примерно 80 ГБ. Эта дополнительная память физически присутствует, но недоступна в исходной конфигурации. Она может быть особенно полезна для запуска моделей искусственного интеллекта, которым требуется загружать большие объемы данных.
Инструменты для восстановления части этой памяти существовали и раньше. Исследовательница пошла дальше и обошла также аппаратные ограничения, сдерживавшие вычислительную мощность.
Кратковременное падение напряжения для обхода блокировки
Nvidia, в частности, разделяет свои продукты с помощью электронных предохранителей, встроенных в чип. Их конфигурация определяет, какие функции доступны, а какие остаются отключенными.
Кейт описывает уязвимость в этой системе: некоторые манипуляции позволяют повторно активировать заблокированные возможности. Проданные карты обычно защищены от таких изменений.
Чтобы обойти эту защиту, она вызывает очень кратковременное падение напряжения, питающего чип. В нужный момент этого сбоя достаточно, чтобы обмануть защиту и разрешить необходимые изменения.
Исследовательница использует небольшую электронную плату, которую, по ее словам, разработала с помощью модели искусственного интеллекта. Однако операция требует терпения: по результатам ее испытаний, на каждую карту уходит от одного до 48 часов попыток.
Быстрее A100 в одном вычислительном тесте
После модификации карта для майнинга может использовать больше вычислительных блоков, чем продаваемая в рознице A100. В опубликованном Кейт тесте она выполнила примерно на 18 % больше операций в секунду.
Однако этот результат не означает, что карта будет быстрее во всех приложениях искусственного интеллекта. Он относится к конкретному типу вычислений и не доказывает общего преимущества при обучении моделей или их использовании.
Результаты также различались от карты к карте: из десяти проверенных карт девять обеспечили 80 ГБ доступной памяти. У последней объем ограничился 64 ГБ.
Кейт опубликовала результаты своей работы 10 ноября, после того как другой исследователь независимо обнаружил ту же уязвимость. Она сообщила, что до публикации предупредила команду безопасности Nvidia.