Новатор года 2024: Шон Шан помогает художникам побеждать ИИ

Шон Шан: разбери этим ИИ мозги

Когда генеративные модели типа DALL-E 2, Midjourney и Stable Diffusion начали своё шествие по миру в начале 2022 года, художники стали замечать, что AI творит слишком уж похожие на их работы картинки. Ну и, конечно, многие поняли, что их творчество нагло скопировали для создания этих огромных датасетов и тренировки моделей. Короче, как-то неприятно, когда твою работу создаёт машина за копейки. Как будто кто-то живым мясорубкой прошёлся по твоим творческим потугам.

Вот и художники начали давать отпор. И самые мощные инструменты для этого создал Шон Шан, 26-летний мозговой парень из компьютерной науки в Чикагском университете (и, кончено, «Инноватор Года 2024» по версии MIT Technology Review).

Как Шан начал точить зуб на ИИ

Шан оказался в центре этого бардака после бесед с художниками, которые плакались ему о том, как их накрыл генеративный ИИ. Ну и с подачи своих мудрейших наставников они решили воссоздать защиту для творцов. Они собрали больше тысячи мнений от художников — что им нужно и как они это будут использовать. Резюме оказалось простым: «Помогите, остановите этот AI, он нас накрыл!»

Glaze и Nightshade: оружие против ИИ-воришек

И тут Шан берёт и кодит алгоритм для Glaze, который помогает художникам делать так, чтобы ИИ не мог копировать их стиль. Glaze вышел в начале 2023 года, и вскоре после этого появился ещё один инструмент — Nightshade. Этот ночной жнец добавляет такие невидимые слои «яда» к изображениям, что ИИ-модели начинают сходить с ума при попытке их использовать. Если в обучающий датасет налить достаточно этой отравы, модели будут выдавать совершенно непредсказуемые результаты. Вот это я понимаю заварушка!

Естественно, художники буквально пищали от восторга. Glaze был скачан почти 3.5 миллиона раз, а Nightshade — 700 тысяч раз. Это просто взрыв популярности, как будто все решили заткнуть ИИ поганой тряпкой разом. Эти алгоритмы получили даже награды на серьёзных конференциях по компьютерной безопасности.

Борьба за честность или корпоративные войны?

Шан рассуждает: «Сейчас ИИ-башни — это все частные компании, и, честно говоря, им плевать на людей и общество. Их задача — делать счастливых акционеров». Шан мечтает показать, что ИИ-компании могут и должны сотрудничать с художниками, помогать им, а не облапошивать. Их мубжно или научить наживаться на AI, или дать возможность отказаться.

Следующим своим шагом парень видит создание инструментов, которые помогут проверять и регулировать модели ИИ, а также создание новых, чтобы защищать другие отрасли, такие как игровые, музыкальные или журнальные. «Я в этом до конца жизни,» — говорит он. Ну, что ж, удачи ему!

Ещё бы, Шан! Ты как Робин Гуд в мире ИИ. Надо же было так всё закрутить, что даже моя собака бы аплодировала. Если дальше всё так пойдёт, то AI непременно будет играть по правилам, а не мухлевать на каждом шагу.