ИИ оказался уязвим: исследователи показали новый способ «взлома»
Разработку под названием ModelSpy представили специалисты под руководством профессора Джун Хана из Корейского института передовых технологий совместно с учёными из Национального университета Сингапура и Чжэцзянского университета. Технология позволяет анализировать электромагнитные сигналы, возникающие во время работы ИИ.
Как отмечают исследователи, графические процессоры при выполнении вычислений излучают слабые электромагнитные волны. Улавливая и анализируя эти сигналы, система способна восстановить структуру нейросети, включая конфигурацию слоёв и параметры модели.
В ходе экспериментов учёным удалось определить характеристики ИИ на расстоянии до шести метров, в том числе через стены. Это может представлять потенциальную угрозу для безопасности технологий.
Авторы разработки подчеркнули, что также предложили меры защиты. Среди них — создание электромагнитных помех и методы обфускации, позволяющие скрыть внутреннюю структуру моделей.
