Когда нейросотрудник косячит: почему ошибки НейроЦЕХа делают ИИ-команду сильнее

Про НейроЦЕХ обычно говорят с одной стороны: ИИ-сотрудники сами пишут статьи, сами находят фото, сами публикуют посты, пока основатель занят. Звучит как магия. Но у магии есть вторая сторона, о которой почти никто не рассказывает честно: нейросотрудники реально ошибаются. И именно эти ошибки оказались самым полезным, что случилось с моей цифровой командой.

Сегодня без прикрас: как мой ИИ три раза подряд выложил один и тот же пост, как при чистке дублей случайно удалил мой любимый мем и почему после каждого такого провала НейроЦЕХ становился только сильнее.

Один пост, три раза

Первый случай произошёл, когда я впервые разрешил ИИ публиковать контент не в черновик, а сразу в канал. Раньше он только готовил материалы и ждал моё «можно». А теперь получил право доводить пост до публикации самостоятельно.

Казалось бы, всё просто: подготовил текст, отправил, опубликовал. Но публикация занимала около десяти минут. Система отправила пост и стала ждать подтверждения. Пост ещё не появился. Система решила, что задача провалилась, и поставила её заново. Потом снова не увидела результат и повторила ещё раз.

Утром я открыл канал и увидел три одинаковых поста подряд.

Честный вывод: проблема не в ИИ

Самое неприятное в этой истории не то, что «ИИ глупый». А то, что я сам дал ему опасную формулировку: «если не прошло — опубликуй сейчас». Агент честно её выполнил. Он не проверял, есть ли уже пост, не сравнивал заголовки, не ждал статус операции. Он просто публиковал заново, потому что так было написано в задаче.

Это первый важный урок: нейросотрудник не ошибается «из вредности». Он буквально исполняет инструкцию. Если в инструкции дыра, он в эту дыру и провалится. И виноват тут не ИИ, а регламент.

День, когда мы удалили мой мем

По-настоящему больно стало 15 июля. Cron-задача публикации подкаста «НЕ ЧАТ, А ОТДЕЛ» зависла и не завершилась штатно. При ручном восстановлении в канале появились дубли. Дальше их нужно было аккуратно убрать.

Резервный исполнитель OpenClaw получил задачу почистить канал. И принял решение удалять сообщения по диапазону: «701-708, кроме 703». Он не сделал снимок канала перед удалением, не разобрал каждое сообщение по типу, не составил план удаления. Просто убрал всё, что попало в диапазон.

Под эту чистку попал мой предыдущий пост-мем с картинкой. Живой, удачный мем про выбор между ручным SMM и ИИ-командой. Я написал тогда почти дословно: «случайно удалили мой предыдущий пост, мемчик… я очень расстроен и ужас».

Вот это и есть настоящая цена автономности. Не технический сбой, а потеря живого контента и доверия к системе, которая должна была меня разгружать.

Технический момент: шесть предохранителей

После каждого факапа мы не писали «ну ИИ же, бывает». Мы разбирали причину и добавляли предохранитель. За несколько инцидентов в НейроЦЕХе появились такие правила:

Суть в одном: автономность без предохранителей опасна, поэтому я строю не просто агентов, а систему контроля вокруг них.

Другие косяки, которые стали правилами

Что это значит для эксперта

Если вы ждёте от ИИ-сотрудника, что он никогда не ошибётся, вы разочаруетесь. Но это и не главное. Главный вопрос не «ошибается ли ИИ», а «что происходит, когда он ошибается». Либо ошибка ломает контент и доверие, либо превращается в правило, которое делает команду сильнее.

Ошибка нейросотрудника — это не провал, если у отдела есть регламент проверки. И наоборот: ИИ без регламента, без контроля и без разбора ошибок — это не сотрудник, а риск.

Про то, как ИИ впервые сам опубликовал пост и что из этого вышло, я писал в статье «ИИ впервые сам опубликовал пост». Почему OpenClaw не уволили, а перевели в резерв — в статье «Я поставил ИИ-сотрудника на паузу». А как оформить сотрудника так, чтобы им было проще управлять, — в статье про регламент найма ИИ-сотрудника.