Нейросети предложили красть через сканирование электромагнитного излучения

С помощью такого сканирования можно получить сигнатуру поведения ИИ.

Исследователи из Университета штата Северная Каролина предложили технику кражи ИИ-моделей без взлома устройства, на котором работает модель. В ходе эксперимента ученым удалось похитить параметры модели, работавшей на чипе Google Edge Tensor Processing Unit.

Во время работы нейросети данные об электромагнитной активности Google Edge собирались с помощью электромагнитного зонда. Это позволило получить сигнатуру поведения модели при обработке запросов.

Полученная информация сравнивалась с активностью того же чипа во время работы с другими моделями. Анализируя активность чипа, ученые смогли послойно воспроизвести работавшую на нем модель; утверждается, что точность воссоздания модели равна 99.1%.

Исследователи отмечают, что повторить такую атаку в реальности будет нелегко: хотя сама система не взламывается, нужен физический доступ к ИИ-чипу для размещения зонда. Кроме того, ученых консультировали сотрудники Google.

Теперь исследователи намерены разработать средства защиты от атак подобного рода. Можно предположить, что в первую очередь речь будет идти о чисто физической защите серверов, запускающих ИИ-модели.