Ассиметричная сертифицированная устойчивость с выпуклыми сетями

Может ли Искусственный Интеллект Дать Абсолютную Защиту?

Привет! Ты когда-нибудь задумывался, почему многие современные алгоритмы ИИ уязвимы для атак? Давай разберемся!

Рисунок 1. Иллюстрация feature-convex классификаторов и их сертификации для входов чувствительного класса.

Современные нейросети могут быть легко обмануты так называемыми заданными примерами: небольшими, невидимыми для человека изменениями изображений, которые вводят модели в заблуждение. Это плохо, особенно для систем, от которых зависит безопасность.

Пример из Жизни

Представь, что кто-то пытается отправить фишинговое письмо и хочет обмануть спам-фильтр. Им важно, чтобы спам-фильтр не распознал их письмо как спам. Здесь важно обеспечить сертифицированную устойчивость только для одного класса — «не спам».

Рисунок 2. Ассиметричная устойчивость в фильтрации электронной почты.

Для таких ситуаций, как обнаружение вредоносного ПО, выявление ложных новостей или фейковых аккаунтов в социальных сетях, нужна сертификация устойчивости именно для одной категории.

Что Такое Ассиметричная Сертифицированная Устойчивость?

Мы сфокусировались на проблеме ассиметричной сертифицированной устойчивости. Это метод, который гарантирует, что наш алгоритм точно классифицирует данные одного определенного класса, даже если в них внесены изменения. Другие данные остаются обрабатываться как обычно.

Feature-Convex Классификаторы

Для решения этой задачи мы предложили feature-convex нейронные сети. Это сетевые структуры, объединяющие специальную карту признаков с обученной конвексной функцией. Такая архитектура позволяет быстро и надежно определять радиусы сертифицированной устойчивости в заданных областях.

Рисунок 3. Радиусы сертифицированной устойчивости для чувствительного класса на датасете CIFAR-10 (кошки против собак).

Этот метод работает для любых норм $ell_p$ и требует всего один прямой и обратный проход на один вход, что занимает считанные миллисекунды.

Заключение

Мы надеемся, что наша работа вдохновит на создание новых архитектур, способных к сертифицированной устойчивости в специализированных областях. Если вас заинтересовала эта тема, обязательно прочтите наш полный доклад и поделитесь своими мыслями!

Читать Полный Доклад

Какие еще применения ассиметричной сертифицированной устойчивости вы могли бы предложить? Делитесь своими идеями в комментариях!