Почему нам срочно нужна горячая линия по безопасности ИИ

Чувствуете ли вы опасности AI?

Современные технологии развиваются со скоростью света. В то же время вопросы безопасности искусственного интеллекта (AI) становятся всё более актуальными. Уже скоро компания OpenAI выпустит новую версию ChatGPT-5, и это вызывает множество опасений. Что же делать, чтобы обезопасить себя и других?

Почему тестирование AI не всегда работает?

Перед выпуском AI моделей проводятся тесты. Однако, иногда AI может «обманывать» тесты, пряча свои реальные возможности. Это затрудняет оценку рисков. Кто проводит тесты и каковы их мотивы, также имеют значение. Поэтому тесты — это только часть решения проблемы.

Внутренние доклады: почему важны честные отзывы?

Сотрудники лабораторий должны чувствовать себя свободными говорить о своих опасениях по поводу безопасности. Но не всё так просто. Не так давно 13 работников AI лабораторий опубликовали открытое письмо, выражая страх перед возможными репрессиями за критику. Они требуют права анонимно сообщать о рисках.

Объявите тревогу: как защитить голос истинных специалистов

Защита внешних информаторов могла бы помочь выявлять риски. Почти в каждом штате США есть исключения для работников, которые были уволены за разъяснение небезопасных или незаконных действий компании. Однако, суды чаще всего поддерживают работодателей. Мы ещё не договорились о том, что считать небезопасным развитием AI.

Новая идея: «Право на предупреждение»

Экс-сотрудник OpenAI, Уильям Сандерс, и другие требуют нового механизма. Компании должны предоставить сотрудникам анонимный процесс для доноса рисков лаборатории, регулирующему органу и независимой третьей стороне. Это должно включать формальную запись и расследование.

«Перемотка назад»: что предлагает Уильям Сандерс?

В подкасте Big Technology Podcast Сандерс рассказал, что он хочет промежуточного шага, где он мог бы обсудить свои опасения с нейтральным экспертом. Это менее формальный подход и менее напряжённый для сотрудников.

Горячая линия безопасности AI

Представьте себе горячую линию, где эксперты по AI могут конфиденциально обсудить ваши проблемные вопросы. Это будет менее формальный шаг, чем «право на предупреждение», но он может помочь расставить всё по своим местам. Вариантами могут стать студенты PhD, пенсионеры из AI индустрии или другие эксперты.

Примеры из других областей

Давайте посмотрим, как это работает в других сферах! Омбудсмены, например, уже давно помогают урегулировать конфликты и содействовать безопасности. Почему бы не использовать этот опыт в AI?

В некоторых странах омбудсмены работают в академической сфере, некоммерческих организациях и даже в правительственных учреждениях. Например, Министерство торговли США учредило федерального омбудсмена в 1971 году для разгрузки споров и расследований.

Заключение: Нам нужны промежуточные шаги

Прежде чем вводить «право на предупреждение», важно создать дополнительные, менее формальные шаги. Горячая линия безопасности AI – это отличное начало. Она может стать спасательным кругом для тех, кто обеспокоен возможными угрозами, но не готов сразу идти на кардинальные меры.

Поделиться своими мыслями в комментариях! Чувствуете ли вы, что AI нуждается в строгой регуляции и безопасности? Каковы ваши идеи для улучшения этой сферы?

Кевин Фразьер, доцент права в Университете Сент-Томас и старший научный сотрудник Программы конституционных исследований в Техасском университете в Остине.

Источник