Безопасность ИИ больше не опция

Предсказание №5: Microsoft устами Vasu Jakkal формулирует это так: у каждого ИИ-агента своя идентичность, ограниченный доступ и защита, по умолчанию не доверяем ничему, даже собственному агенту. В России к этому добавляется 152-ФЗ: как только агент получает доступ к базе клиентов, это уже не абстрактная безопасность, а юридическая ответственность бизнеса.

Практическое правило простое и недорогое: агент получает ровно тот доступ, который нужен для его задачи, и ни одним ключом больше. Агенту, который отвечает на вопросы о доставке, незачем знать про финансы.

У этой темы есть отдельный российский поворот: суверенный интернет и импортозамещение. Закон всё настойчивее требует держать персональные данные внутри страны. Нюанс в том, что даже крупные отечественные сервисы опираются на открытые зарубежные модели, тот же Яндекс использует DeepSeek и Qwen. Поэтому «отечественный ассистент» и «данные не покидают страну» это не одно и то же. Для 152-ФЗ важно не чья модель под капотом, а где физически лежат и обрабатываются персональные данные. Это и проверяйте в первую очередь. Тема цифровой безопасности для малого бизнеса шире одного ИИ, об этом у нас есть отдельная статья «Ваш цифровой щит».

Кризис качества данных

Предсказание №9: Gartner предупреждает, что 60% ИИ-проектов провалятся из-за плохих данных. Нейросеть на грязных данных не ломается, она выдаёт уверенную чушь, и чем увереннее, тем опаснее, потому что ей верят. У большинства небольших компаний данные размазаны между CRM, Excel, перепиской и памятью владельца: один клиент записан в трёх местах по-разному, половина телефонов устарела.

Добавляет боли и то, что CRM-сервисов на рынке множество. С одной стороны это хорошо: конкуренция двигает их вперёд. С другой между системами нет единого ключа для переноса данных, и собрать одного клиента из разных сервисов приходится руками. Чем больше у бизнеса накопилось разных систем, тем дороже потом свести их в одну чистую картину.

Поэтому честный проект начинается не с модного агента, а со скучного вопроса: где ваши данные и в каком они состоянии. Иногда самый большой эффект даёт не ИИ, а простое наведение порядка в том, что уже есть. Про то, как красивые цифры на дашборде обманывают, если под ними плохие данные, мы писали в «Почему свободная ниша из дашборда уже занята».

Юридические и страховые риски

Предсказание №14: Gartner ждёт более 200 исков «смерть от ИИ» к 2026 году, а Next Insurance прогнозирует рост спроса на страхование ИИ-ответственности. И здесь проходит самое сильное расхождение между «там» и «здесь». В США риск от ошибки ИИ можно переложить на страховщика. В России рынка такого страхования по сути нет, а судебная практика только зарождается.

Отсюда следует обратный и неприятный итог: раз страховки нет, весь риск от ошибки агента несёт сам бизнес, целиком. Значит, цена ошибки у нас выше, и тем важнее два предыдущих пункта: ограниченный доступ и чистые данные.

И ещё одно правило: критичные действия (платежи, удаление данных, рассылка клиентам) оставляем с подтверждением человека, а не на полном автомате. Пусть агент готовит, а кнопку нажимает человек.

Сначала фундамент, потом агенты

Все три пункта про одно: в России подстраховаться нечем, поэтому фундамент важнее скорости. Чистые данные, минимальный доступ, человек на критичных решениях. Это не тормоз, а то, что отличает рабочую автоматизацию от дорогой аварии.

С чего начать этот фундамент по шагам, мы разложили в статье «Лестница внедрения ИИ».

Сначала фундамент, потом агенты: чистые данные, минимальный доступ, человек на критичных решениях. Если собираетесь внедрять ИИ и не хотите обжечься на данных или доступах, разберём на вашей задаче, с чего безопасно начать. Напишите нам.

Это четвёртая статья серии по 15 ИИ-предсказаниям Forbes для малого бизнеса. До неё были про роли в команде, «Команда из одного человека», про агентов, «Агент вместо чат-бота», и про сборку софта, «Собрать софт без программиста». В финальной части посчитаем отдачу: как измерить ROI от ИИ, а не просто «внедрить».