ИИ быстро пишет письма, разбирает документы и предлагает варианты. Поэтому ему легко отдать всю скучную работу. Проблема в другом: модель не несёт ответственности за ошибку. Она может уверенно придумать факт, неверно понять правило или выполнить действие не там, где нужно.
Рабочее правило простое: ИИ готовит вариант, человек проверяет и утверждает результат. Это не запрет на нейросети. Это нормальная страховка там, где цена ошибки выше, чем сэкономленные десять минут.
Не вставляйте в чат данные клиентов и команды
Не отправляйте в личный чат или непроверенный сервис клиентские базы, договоры, резюме, медкарты, пароли, ключи доступа и внутренние отчёты. Переписка с именами, телефонами, адресами и суммами тоже требует аккуратности.
Корпоративный сервис сам по себе не делает работу безопасной. У инструментов отличаются правила хранения запросов, доступ администраторов, журналы действий и настройки использования данных. До подключения проверьте условия сервиса, внутренние правила компании и список сотрудников, которым действительно нужен доступ.
Аккаунт-менеджер хочет подготовить письмо клиенту и вставляет в чат историю заказов с именем, телефоном и адресом доставки. Безопаснее заменить их на «клиент А», «заказ Б» и «срок две недели». Нейросеть соберёт черновик, а реальные данные менеджер добавит в CRM сам.
Для российских компаний это ещё и вопрос правил обработки персональных данных. Полезно держать под рукой текст закона № 152-ФЗ на официальном портале, когда вы определяете, какие сведения можно передавать внешнему сервису.
Сделайте короткий список запретных данных: ФИО, контакты, номера договоров, реквизиты, пароли, токены и материалы с коммерческой тайной. Если сомневаетесь, сначала обезличьте информацию. Это проще, чем потом разбираться с утечкой.
Не поручайте ИИ юридические и финансовые выводы
Нейросеть может перевести договор с юридического языка на человеческий, собрать вопросы для юриста или оформить расходы в таблицу. Но ей нельзя решать, законен ли пункт договора, как считать налог или куда вкладывать деньги.
Генеративная модель способна выдать ложный ответ убедительным тоном. Она может придумать норму закона, судебное дело, ссылку или формулу расчёта. В профиле рисков генеративного ИИ NIST такие выдуманные, но правдоподобные ответы выделены как отдельный риск.
Владелец магазина просит ИИ проверить договор поставки. Модель пишет, что штраф за просрочку нельзя требовать, и владелец удаляет условие. Правильный ход: попросить ИИ выделить спорные пункты и составить вопросы, а окончательный вывод отдать юристу.
Работайте по цепочке: обезличьте документ, попросите объяснить сложные места, выпишите спорные вопросы, затем проверьте нормы и расчёты в первоисточниках. Решение утверждает специалист, который отвечает за последствия, а не чат-бот.
Не отдавайте нейросети найм, увольнение и бонусы
ИИ может разметить резюме по заранее заданным навыкам и собрать обратную связь по команде. Но он не должен сам решать, кого звать на интервью, кому отказать, кого повысить или лишить премии.
Модель может повторить перекосы исходных данных, не заметить нестандартный, но сильный опыт и выдать вывод, который невозможно честно объяснить кандидату. Риск не в «злом алгоритме», а в том, что удобная сортировка незаметно превращается в решение о человеке.
Рекрутер загружает сто резюме и просит выбрать лучших. ИИ поднимает анкеты с привычными формулировками, а специалист с необычной карьерой остаётся внизу. Вместо этого рекрутер задаёт обязательные навыки, опыт с конкретным инструментом и формат занятости. Нейросеть размечает анкеты, но людей, прошедших минимальный порог, смотрит человек.
Не используйте возраст, пол, происхождение и семейный статус как критерии. Сохраняйте понятное объяснение каждого отказа, повышения и решения о бонусе. ИИ здесь полезен как помощник по рутине, но не как судья.
Не публикуйте текст без фактчекинга
Гладкий текст не равен точному. Нейросеть может перепутать дату, придумать цитату, сослаться на несуществующее исследование или выдать старое правило за новое. Особенно дорого это обходится в текстах о законах, финансах, медицине, технологиях и регулировании.
Маркетолог готовит материал об изменениях в отраслевых правилах. ИИ добавляет в черновик ссылку на требование, которого нет в документе. Статью публикуют, читатель замечает ошибку, и компании приходится исправляться публично.
Используйте ИИ для структуры, заголовков и первого черновика. Затем отдельно проверьте даты, цифры, имена, цитаты, ссылки и условия. Не ставьте ссылку, пока сами не открыли страницу. У каждого материала должен быть человек, который отвечает за фактическую часть.
Не давайте ИИ право на необратимые действия
Самый рискованный сценарий — не чат, а ИИ-агент с доступом к рабочим системам. Такой агент может отправлять письма, менять права доступа, удалять файлы, запускать код или создавать платежи. Здесь ошибка мгновенно становится действием, которое не всегда получится отменить.
Сотрудник просит агента закрыть просроченные счета. Агент неверно понимает правило и добавляет счета, по которым клиент уже подтвердил оплату. Если перед запуском сотрудник видит список изменений, он останавливает ошибку. Без предпросмотра в учёте появится путаница, а клиентам уйдут неприятные письма.
Для таких операций нужны минимальные права доступа, предпросмотр изменений, отдельное подтверждение сотрудника и журнал действий. Для платежей, удаления данных и доступа к аккаунтам добавьте резервное копирование и понятный сценарий восстановления.
Проверьте задачу тремя вопросами
Перед передачей работы ИИ спросите: есть ли в запросе личные, коммерческие или секретные данные? Может ли ошибка привести к убыткам, нарушению прав или потере доступа? Сможем ли мы быстро заметить и исправить неверный результат?
Если хотя бы один ответ — «да», нейросеть не должна быть финальным исполнителем. Сегодня добавьте в рабочую инструкцию одну строку:
ИИ готовит вариант. Человек проверяет результат и утверждает действие.Рядом перечислите пять красных зон: данные, деньги, люди, публикации и необратимые действия. Такая памятка не тормозит работу — она не даёт удобству превратиться в дорогую невнимательность.
Статья помогла?
