ИИ оказался уязвим: исследователи показали новый способ «взлома»

ИИ оказался уязвим: исследователи показали новый способ взлома

Разработку под названием ModelSpy представили специалисты под руководством профессора Джун Хана из Корейского института передовых технологий совместно с учёными из Национального университета Сингапура и Чжэцзянского университета. Технология позволяет анализировать электромагнитные сигналы, возникающие во время работы ИИ.

Как отмечают исследователи, графические процессоры при выполнении вычислений излучают слабые электромагнитные волны. Улавливая и анализируя эти сигналы, система способна восстановить структуру нейросети, включая конфигурацию слоёв и параметры модели.

В ходе экспериментов учёным удалось определить характеристики ИИ на расстоянии до шести метров, в том числе через стены. Это может представлять потенциальную угрозу для безопасности технологий.

Авторы разработки подчеркнули, что также предложили меры защиты. Среди них создание электромагнитных помех и методы обфускации, позволяющие скрыть внутреннюю структуру моделей.