Чем опасны нейросети и как они влияют на экологию

Нейросеть опасна не потому, что однажды проснётся в серверной и решит захватить мир. Реальная проблема прозаичнее: система умеет звучать уверенно, работать в огромном масштабе и всё чаще получает доступ не только к тексту, но и к почте, файлам, платежам, коду и рабочим процессам.

Чем дороже ошибка и чем меньше человеческого контроля, тем выше риск. Неверный рецепт ужина можно выбросить. Неверный диагноз, платёж или решение о найме уже меняют чью-то жизнь.

С экологией похожая история. Один короткий запрос не осушает озеро. Но миллиарды запросов, обучение моделей, выпуск ускорителей и строительство дата-центров превращают цифровой сервис в очень материальную инфраструктуру: электричество, вода, металлы, бетон и электронные отходы.

Мой вывод такой: нейросети не нужно запрещать из страха, но нельзя использовать их как бесплатного всезнающего оракула. Ниже разберём риски по механизму, а не по страшным заголовкам, и отдельно проверим самые популярные цифры про воду и энергию.

Короткий ответ: в чём главная опасность нейросетей

Здесь важно не складывать всё в одну корзину. Галлюцинация в чате — уже наблюдаемая проблема. Потеря контроля над будущей сверхмощной системой — риск с высокой неопределённостью. Электричество дата-центров измеряется довольно хорошо, а точная доля генеративного ИИ и цена конкретного запроса часто неизвестны.

Почему нейросеть врёт так убедительно

Языковая модель не открывает внутренний справочник истины перед каждым словом. Она строит продолжение на основе закономерностей в данных и текущем контексте. Поэтому правильный ответ, правдоподобная выдумка и устаревшая информация могут иметь одинаково уверенный тон.

Международный отчёт по безопасности ИИ 2026 года называет траекторию возможностей «неровной»: передовые системы решают сложные задачи по математике и программированию, но проваливаются на отдельных простых шагах, пространственном рассуждении и восстановлении после базовой ошибки. Автономный агент усиливает проблему, потому что успевает не только придумать неверный ответ, но и выполнить цепочку действий.

Это не редкий дефект, который исправит следующий релиз. Современные методы снижают частоту ошибок, но не дают гарантии, достаточной для многих критических задач. NIST в профиле рисков генеративного ИИ отдельно выделяет конфабуляции, утечки приватной информации, вредную предвзятость, киберриски и информационную целостность.

Если хотите понять техническую причину без формул, у меня есть отдельный разбор, почему нейросеть врёт и рисует шесть пальцев. Здесь важен практический вывод: уверенность текста нельзя использовать как меру достоверности.

Простая проверка за три минуты

1. Выделите в ответе проверяемые утверждения: число, дату, фамилию, цитату, норму, ссылку.
2. Откройте первичный источник отдельно от ответа модели.
3. Убедитесь, что страница существует, а источник действительно подтверждает фразу.
4. Для быстро меняющейся темы проверьте дату обновления и регион.
5. Если ошибка дорогая, отдайте решение профильному специалисту, а не второму чат-боту.

Второй бот может повторить ту же ошибку. Две уверенные модели не превращаются в независимых экспертов.

Данные и приватность: что происходит после загрузки файла

Пользователь часто видит удобное окно: прикрепил договор, таблицу, запись встречи или медицинский анализ — получил резюме. Но для оценки риска нужны другие вопросы:

• какие данные ушли во внешний сервис;
• где и сколько они хранятся;
• используются ли для улучшения моделей;
• кто в организации имеет доступ к истории;
• какие сторонние инструменты подключены;
• можно ли удалить данные и подтвердить удаление;
• в какой стране обрабатывается информация.

Самая частая ошибка не техническая. Человек загружает документ целиком, хотя для задачи нужны два обезличенных абзаца. Или подключает агенту всю почту, хотя достаточно одной папки только для чтения.

NIST предупреждает не только о прямой утечке. Модель может запоминать редкие фрагменты обучающих данных, соединять сведения из нескольких источников и выводить чувствительные признаки, которых пользователь явно не сообщал. Ошибочный вывод тоже способен навредить, если его используют при решении о человеке.

Перед загрузкой проверьте формат, лимиты и политику сервиса. В статье о нейросетях, которые принимают файлы я отдельно разбираю приватность и способы уменьшить объём передаваемых данных.

Правило минимального контекста

Давайте системе не максимум информации, а минимум, достаточный для задачи. Удаляйте ФИО, телефоны, реквизиты, подписи, идентификаторы и скрытые листы. Для компании используйте утверждённую корпоративную среду, журнал доступа и сроки хранения. Личный бесплатный аккаунт сотрудника не должен становиться теневой базой знаний бизнеса.

Предвзятость: когда прошлое превращают в автоматическое правило

Нейросеть обучается на данных, созданных людьми и организациями. Если в истории найма одна группа реже получала повышение, модель может принять это не за след старой практики, а за полезный сигнал. Если качество данных в регионе хуже, алгоритм будет ошибаться там чаще. Если проверка проведена только на среднем пользователе, крайние случаи останутся невидимыми.

Проблема появляется в трёх местах:

1. Данные. Кто представлен, кого мало, какие решения уже содержат перекос.
2. Цель. Что именно оптимизируется: прибыль, скорость, вероятность просрочки, удержание внимания.
3. Процесс. Может ли человек понять решение, исправить данные и подать апелляцию.

Фраза «это решил алгоритм» не снимает ответственность. Наоборот, масштаб автоматизации увеличивает число людей, которых затронет одна неверная логика.

Для решений о найме, кредите, страховании, образовании или доступе к услуге нужны проверка качества по группам, протокол версий, человеческий контроль и реальный путь оспаривания. Просто добавить человека, который механически нажимает «одобрить», недостаточно.

Дипфейки и мошенничество: знакомый голос больше не доказательство

В мае 2025 года FBI предупредило о кампании, где злоумышленники использовали сообщения и сгенерированный ИИ голос, изображая высокопоставленных чиновников. Практический урок касается не только политиков: голос родственника, начальника или клиента можно подделать достаточно убедительно, чтобы создать срочность и вытянуть деньги или доступ.

В Евросоюзе с 2 августа 2026 года начали применяться требования прозрачности: чат-бот должен сообщать о взаимодействии с машиной, а дипфейки и определённый общественно значимый сгенерированный контент — маркироваться. Еврокомиссия отдельно описала эти правила. Это полезный слой защиты, но маркировка не остановит мошенника, который намеренно её убрал.

Семейный и корпоративный протокол

• Не переводите деньги по голосовой или видеопросьбе без обратного звонка на сохранённый номер.
• Договоритесь о кодовом слове для срочных семейных ситуаций.
• В компании подтверждайте смену реквизитов вторым каналом и двумя сотрудниками.
• Не доверяйте «идеальному» видео больше, чем обычному письму.
• Сохраняйте исходное сообщение и сообщайте о мошенничестве площадке и банку.

Киберриски: ИИ ускоряет и атаку, и защиту

Генеративные модели помогают писать фишинговые письма без явных языковых ошибок, собирать сведения о цели, объяснять уязвимый код и масштабировать социальную инженерию. ENISA в ландшафте угроз 2025 года зафиксировало использование коммерческих моделей группами злоумышленников, поддельные сайты популярных ИИ-сервисов и атаки на цепочки поставки моделей и инструментов.

Но фраза «ИИ теперь взломает всё» тоже неверна. Модели помогают защитникам анализировать события, находить аномалии, проверять код и быстрее реагировать. Итог зависит от процесса и доступа.

Особенно опасен агент, который читает непроверенный внешний текст и одновременно умеет открывать ссылки, запускать код, отправлять письма или менять облачные ресурсы. Внутри страницы может лежать скрытая инструкция, которую система воспримет как команду. Это называется косвенной prompt injection.

Поэтому для агентов нужны минимальные права, отдельная рабочая среда, список разрешённых инструментов, лимиты на стоимость и обязательное подтверждение необратимых действий. Подробный технический разбор есть в материале о безопасности ИИ-агентов.

Зависимость от подсказки и ослабление навыков

ИИ экономит усилия. Это и польза, и ловушка. Если модель предлагает структуру, а человек проверяет и дорабатывает её, навык может усилиться. Если человек постоянно принимает готовый ответ, он теряет практику постановки задачи, поиска противоречий и самостоятельного решения.

Международный отчёт по безопасности ИИ 2026 года отмечает ранние данные о снижении критического мышления и «смещении автоматизации» — склонности доверять результату системы без достаточной проверки. Эффект зависит от сценария, поэтому не стоит делать вывод «нейросети отупляют всех». Гораздо точнее спросить: какую часть мышления вы делегировали и остался ли у вас контрольный навык.

Полезный режим работы выглядит так:

• сначала сформулировать собственную гипотезу;
• затем попросить модель предложить альтернативы;
• проверить сильнейшее возражение;
• самостоятельно принять решение;
• сохранить причины выбора, а не только финальный текст.

Для обучения добавьте ограничение: «не давай готовый ответ, задавай вопросы и проверяй мой ход мысли». Так ИИ превращается в тренажёр, а не в протез.

Заберут ли нейросети работу

Часть задач уже автоматизируется, и это реальный социальный риск. Но «затронута ИИ» не значит «профессия исчезла». ILO в обновлении 2025 года оценила, что один из четырёх работников мира занят в профессии с некоторой степенью воздействия генеративного ИИ. При этом наиболее вероятный результат для большинства — перестройка задач, а не полное сокращение роли.

Риск распределён неравномерно. Сильнее давление на цифровую рутину, шаблонные тексты, ввод данных и начальные ступени, где раньше учились на простых заданиях. Если компания убирает весь нижний уровень, через несколько лет ей негде взять опытных специалистов. Это уже не только личная, но и организационная проблема.

В отдельной статье я разобрал, какие профессии нейросети заменят, а какие станут сильнее. Коротко: защищает не название должности, а сочетание предметной экспертизы, ответственности, работы с исключениями и умения строить проверяемый процесс.

Может ли нейросеть выйти из-под контроля

Это самая спорная часть разговора. Здесь легко скатиться либо в фантастику, либо в самоуверенное «такого точно не будет».

Актуальная оценка аккуратнее. Международный отчёт 2026 года пишет, что нынешние системы не обладают возможностями, необходимыми для сценария полной потери контроля. Но они улучшаются в автономной работе, поиске обходных путей и распознавании тестовой среды. Надёжно оценивать будущие способности всё сложнее.

Есть три уровня:

1. Текущий операционный риск. Агент удалил файл, отправил письмо или внёс неправильное изменение из-за ошибки или вредной инструкции.
2. Системный риск. Один широко используемый сервис даёт сбой, распространяет перекос или концентрирует власть и зависимость.
3. Будущий риск потери контроля. Система становится достаточно способной и автономной, чтобы действовать вне эффективного надзора. Вероятность сильно обсуждается, последствия могут быть крайне тяжёлыми.

Разумная позиция — не выдавать третий уровень за сегодняшнюю реальность, но и не ждать абсолютного доказательства перед исследованиями безопасности. Для пользователя важнее начать с первого: не давать системе больше прав, чем нужно.

Как нейросети влияют на экологию

За экраном нет облака в буквальном смысле. Есть серверы, ускорители, системы охлаждения, электросеть, линии связи и заводы, которые всё это произвели. Экологический след состоит минимум из пяти частей:

• электричество для обучения и использования моделей;
• вода для охлаждения дата-центров и производства электроэнергии;
• выбросы, зависящие от местной энергосистемы;
• материалы и выбросы при выпуске чипов, серверов и зданий;
• электронные отходы после замены оборудования.

UNEP предлагает оценивать полный жизненный цикл ИИ, а не только момент обучения модели. Это важно: очень эффективный запрос всё равно может дать большой общий след, если таких запросов миллиарды и они создают новый спрос.

Сколько электричества потребляют дата-центры

Международное энергетическое агентство оценило потребление всех дата-центров в 2024 году примерно в 415 ТВт·ч, или около 1,5% мировой электроэнергии. К 2030 году базовый прогноз — около 945 ТВт·ч. ИИ назван главным драйвером роста, но не единственной нагрузкой: там же работают облачные сервисы, хранение, стриминг и обычные вычисления.

Вот где начинается важный нюанс. В глобальном масштабе доля пока не выглядит гигантской. Локально дата-центр может потреблять как промышленный объект и концентрировать спрос в одном узле сети. IEA пишет, что типичный ИИ-ориентированный дата-центр сопоставим со 100 тысячами домохозяйств, а крупнейшие строящиеся объекты — в двадцать раз больше.

Электричество тоже не равно выбросам. Один и тот же вычислительный объём даст разный углеродный след в регионе с угольной генерацией и там, где много низкоуглеродной энергии. По оценке IEA, косвенные выбросы всех дата-центров от электричества сейчас составляют около 180 млн тонн CO₂, примерно 0,5% мировых выбросов от сжигания топлива. Это не «конец климата», но один из немногих быстро растущих источников.

В отчёте Microsoft за 2026 год компания сообщила, что её совокупные выбросы за FY2025 выросли на 25% год к году, прежде всего из-за расширения инфраструктуры дата-центров и изменения учёта сертификатов. Microsoft одновременно заявляет о стопроцентном годовом сопоставлении потребления электроэнергии с возобновляемой генерацией. Эти фразы не противоречат друг другу: годовой контракт на чистую энергию и физическая электроэнергия в конкретный час — разные показатели.

Сколько воды тратит один запрос к нейросети

Короткий честный ответ: универсальной цифры нет.

Вода может расходоваться напрямую на охлаждение и косвенно при производстве электроэнергии. Значение зависит от модели, длины входа и ответа, типа ускорителя, загрузки серверов, погоды, технологии охлаждения и местной энергосистемы. Даже термины «забор воды» и «потребление воды» означают разное: забранная вода может вернуться в бассейн, а испарившаяся считается потреблённой.

Откуда взялась «бутылка воды на 20–50 запросов»

Исследование Making AI Less Thirsty оценивало водный след GPT-3 на инфраструктуре начала 2020-х с учётом прямого охлаждения и электричества. Из него вырос популярный образ: примерно 500 мл на разговор из 20–50 запросов в зависимости от места и времени. Это не измеритель современного ChatGPT и тем более не цена каждого запроса во всех сервисах.

Что измерил Google

В августе 2025 года Google опубликовал оценку медианного текстового запроса Gemini Apps: 0,24 Вт·ч энергии, 0,03 г CO₂-эквивалента и 0,26 мл воды по данным мая 2025 года. Методика учитывала ускорители, хосты, резерв мощности и накладные расходы дата-центра.

Но сама компания оговаривает: это точечный анализ медианного текстового запроса, не показатель всех запросов, изображений, видео или режимов рассуждения; данные не проверены независимой стороной и будут меняться.

Поэтому обе крайности неверны. Нельзя честно утверждать, что любой вопрос выпивает пол-литра. Нельзя и объявлять экологическую проблему закрытой пятью каплями: эффективность одного запроса растёт, а общий объём инфраструктуры и использования растёт вместе с ней.

Корпоративные цифры тоже требуют контекста

В экологическом отчёте Google за 2026 год сказано, что проекты компании восстановили 7,7 млрд галлонов воды в 2025 году — около 78% общего потребления пресной воды. Это полезная прозрачность, но не ответ на вопрос «сколько воды потратил мой промпт». Показатель охватывает операции Google, а восстановление водных ресурсов может происходить не в том же месте и не в тот же момент, где вода была использована.

Чипы, металлы и электронные отходы

Вычисления начинаются задолго до включения сервера. Для чипов нужны сверхчистая вода, энергия, химические вещества и сложная цепочка поставок. Для дата-центров — сталь, бетон, медь, системы питания и охлаждения. Оборудование быстро обновляется, потому что новый ускоритель даёт больше вычислений на ватт и на рубль.

IEA отмечает концентрацию цепочки поставок: на Китай приходится около 99% мирового рафинированного галлия, важного для современной электроники, а спрос дата-центров к 2030 году может превысить 10% сегодняшнего предложения. UNEP добавляет риски добычи сырья и электронных отходов с опасными веществами.

Вот почему «модель стала эффективнее в 30 раз» ещё не означает, что общий след упал. Более дешёвые вычисления создают новые применения, более длинные ответы, генерацию видео и новый спрос. Это классический эффект отскока.

Может ли ИИ помочь экологии

Да. И это не рекламная оговорка для баланса.

ИИ уже используется для поиска утечек метана, прогнозирования генерации, управления сетями, оптимизации промышленности, зданий и маршрутов. IEA оценивает, что широкое внедрение уже известных применений могло бы сократить выбросы в конечных секторах на 1,4 млрд тонн CO₂ в 2035 году. Это в несколько раз больше прогнозируемых выбросов дата-центров.

Но слово «могло бы» здесь ключевое. Агентство подчёркивает, что пока нет достаточного импульса для такого широкого внедрения. Эффект могут съесть отсутствие данных, инфраструктуры и навыков, а также отскок: например, более удобный автономный транспорт увеличит поездки вместо их сокращения.

Значит, полезность не возникает автоматически из ярлыка «AI for climate». Нужно измерять реальное изменение: сколько энергии, топлива, воды или выбросов было до и после проекта, включая инфраструктуру самого ИИ.

Сверка цифр и допущений: как не попасться на экологический кликбейт

Перед репостом громкой цифры задайте пять вопросов: кто измерил, что входит в границу расчёта, для какой модели, где и когда, измерение это или сценарий. Если хотя бы трёх ответов нет, перед вами не факт, а число без паспорта.

Как пользоваться нейросетями безопаснее: чек-лист из 12 пунктов

1. Определите цену ошибки. Чем она выше, тем меньше автономности.
2. Не загружайте лишнее. Обезличивайте и сокращайте данные.
3. Проверяйте первоисточники. Особенно числа, даты, цитаты и нормы.
4. Не доверяйте знакомому голосу. Подтверждайте деньги и доступ вторым каналом.
5. Разделяйте черновик и решение. Модель предлагает, ответственный человек утверждает.
6. Давайте минимальные права. Только нужный инструмент, папка и действие.
7. Ограничивайте бюджет и объём. У агента должны быть лимиты времени, денег и запросов.
8. Тестируйте исключения. Не только счастливый сценарий.
9. Ведите журнал. Какая версия модели, данные и действия дали результат.
10. Оставляйте откат. Необратимые изменения требуют резервной копии и подтверждения.
11. Выбирайте задачу по пользе. Не генерируйте сотни вариантов, если нужен один проверенный.
12. Проверяйте экологические обещания. Эффективность на запрос и общий след — разные показатели.

Если вы внедряете ИИ в компании, начните не с покупки подписок, а с карты данных, цены ошибки и роли ответственного. На обучении по нейросетям для бизнеса эту рамку можно превратить в правила и пилот для конкретной команды.

Частые вопросы

Чем опасна нейросеть для обычного человека

Главные повседневные риски — уверенные ошибки, утечка личных данных, мошенничество с голосом и изображением, зависимость от готовых ответов и потеря навыка проверки. Риск растёт, когда совет влияет на здоровье, деньги, право или репутацию.

Почему нейросеть — это плохо

Сама технология не является однозначно плохой. Вред возникает из-за конкретного применения, данных, стимулов и отсутствия контроля. Тот же инструмент помогает искать ошибки в коде и писать фишинговые письма. Оценивать нужно задачу и последствия.

Может ли нейросеть украсть мои данные

Модель не обязательно «крадёт» их намеренно, но данные могут попасть в журналы, историю аккаунта, подключённые инструменты или обучение в зависимости от сервиса и настроек. Не загружайте секреты без утверждённой политики, обезличивайте документы и проверяйте сроки хранения.

Может ли нейросеть заменить человека

Она уже заменяет отдельные задачи и меняет найм. Полная замена профессии встречается реже, потому что остаются исключения, физические действия, общение и ответственность. Смотрите на состав работы, а не на название должности.

Сколько воды тратит один запрос ChatGPT

Открытой универсальной цифры нет. Популярные оценки зависят от модели, длины запроса, дата-центра, погоды, охлаждения и энергосистемы. Число 500 мл относилось к оценке разговора из 20–50 запросов для GPT-3 и конкретных допущений, а не к каждому современному запросу.

Сколько электричества тратит нейросеть

Для одного медианного текстового запроса Gemini Google оценивал 0,24 Вт·ч по данным мая 2025 года. Длинный контекст, сложное рассуждение, изображения и видео могут требовать гораздо больше. Для большинства закрытых моделей сопоставимых проверенных данных нет.

Вредны ли нейросети для экологии

У них есть реальный след: электричество, вода, выбросы, материалы и отходы. Но масштаб зависит от инфраструктуры и пользы применения. ИИ способен одновременно увеличивать нагрузку дата-центров и сокращать выбросы в энергетике, зданиях и транспорте.

Можно ли полностью защититься от ошибок ИИ

Нет. Можно снизить вероятность и последствия: ограничить задачу и доступ, проверять источники, тестировать исключения, подтверждать дорогие действия, вести журнал и сохранять возможность отката.

Вывод: опасен не интеллект, а бесконтрольный масштаб

Нейросеть не обязана быть сознательной, чтобы причинить вред. Достаточно трёх условий: убедительная ошибка, доступ к действию и отсутствие человека, который отвечает за результат.

С экологией те же три переменные выглядят иначе: ресурсоёмкий расчёт, огромный масштаб и слабая прозрачность. Один короткий запрос может быть очень эффективным. Миллиарды запросов и новые дата-центры всё равно меняют спрос на электричество, воду и материалы.

Поэтому здоровая позиция не сводится к восторгу или запрету. Используйте ИИ там, где польза понятна. Не передавайте лишние данные и права. Проверяйте факты в первоисточнике. Измеряйте полный процесс, а не красивую цифру на один запрос.

Короче говоря, главный навык эпохи нейросетей — не умение написать самый длинный промпт. Это умение поставить границу, после которой машина обязана остановиться и позвать человека.

Об авторе: Илья Шведков — эксперт по внедрению нейросетей, ИИ-агентов и контент-систем в рабочие процессы бизнеса.