Что должно быть готово в розничной сети до того, как появится ИИ-агент
Почему InfoVizion сначала выстраивает слой данных и нормативы и только потом подключает ИИ-агента
Сеть подключает ИИ-агента к своим данным, и на первом же оперкоме он уверенно называет причину падения маржи в категории. Финансовый директор открывает свой отчёт, и цифра не сходится. По опыту InfoVizion, после такого совещания к теме ИИ в компании не возвращаются годами.
Где проходит граница доверия к агентам, обсуждали 6 октября на сессии «ИИ-агенты под контролем: как управлять рисками и строить доверенную инфраструктуру» ИТ-форума «Цифровые решения» в Национальном центре «Россия». Спикеры из банков, «Лаборатории Касперского» и Альянса в сфере искусственного интеллекта говорили о банковских процессах, разработке и промышленности. Их выводы совпадают с тем, к чему команда InfoVizion пришла, внедряя агентов в розничных сетях: доверие к агенту строится не на выборе модели, а на том, что лежит под ней и вокруг неё.
Модель скоро будет у всех одинаковой
На встречах с сетями команда InfoVizion часто видит, что агента выбирают так же, как новую кассовую программу: сравнивают модели, тарифы и интерфейсы. При этом самый трудоёмкий вопрос, на каких данных и по каким правилам агент будет работать, откладывают на потом.
Валерия Воробьёва, генеральный директор Альянса в сфере искусственного интеллекта, выделила на сессии три группы рисков: данные, на которых работает агент, зависимость от поставщика модели и само внедрение, для которого не существует коробочного решения. По её наблюдению, легче всего агентов внедряют компании, у которых уже собраны данные и выстроены понятные процессы принятия решений.
В InfoVizion видят то же самое в рознице. Моделями будут пользоваться все сети, и модели у них окажутся примерно одинаковыми. Разницу создаст то, что накоплено внутри компании: проверенные данные, нормативы по категориям и форматам, правила работы с отклонениями, база проверенных гипотез.
Это не входит в подписку и не покупается отдельно. Это накапливается, и начинать нужно раньше, чем понадобится результат.
Первое условие: выверенный слой данных
Сырые данные розничной сети почти никогда не готовы для агента. Оборот считается то с НДС, то без него, LFL у коммерции и у финансов расходится, один и тот же товар живёт в двух справочниках, списания идут одной строкой без причин. Человек на таких данных засомневается и пойдёт перепроверять. Агент не засомневается: он уверенно ответит по неверным цифрам.
Риск данных Валерия Воробьёва поставила на сессии первым: от того, на каких данных обучена и работает модель, зависит, насколько грамотно она отвечает. Об архитектуре данных, по её словам, нужно думать в самом начале пути, и эта часть работы целиком зависит от самой компании.
Поэтому агент InfoVizion не получает доступа к сырым выгрузкам. Его подключению предшествует работа с данными: команда InfoVizion сверяет их с учётной системой, разбирает расхождения в справочниках и вместе с финансовым директором утверждает, как считаются оборот, маржа и LFL. Такие слои данных для розничных сетей компания строит четырнадцать лет.
Второе условие: зафиксировать то, что держалось на договорённостях
OOS 12% в гипермаркете в июле и в магазине у дома в феврале означают разное, и опытный категорийный менеджер это знает.
Но обычно это знание нигде не записано: оно живёт в голове сотрудника и в договорённостях внутри команды. Агент без этих нормативов выдаёт выводы уровня «обеспечьте наличие», а цену предлагает поднять там, где сеть сознательно держит трафик.
Дмитрий Никишов, вице-президент и директор по информационной безопасности банка ДОМ.РФ, сказал на сессии, что внедрение ИИ сразу показывает слабые места компании. То, что держалось на устных договорённостях между людьми, с ИИ не работает, и процессы приходится пересматривать.
Поэтому нормативы по категориям, форматам и регионам специалисты InfoVizion прописывают вместе с сотрудниками сети ещё до запуска агента и закрепляют в системе. Опыт компании, который жил в головах отдельных людей, становится инструкцией для агента. И остаётся в компании, даже когда люди меняются.
Третье условие: агент ничего не считает сам
Скоро в каждой компании появится новая проблема. Сотрудник задаёт модели плохо поставленный вопрос, получает такой же ответ и приходит на совещание полностью уверенным в своём решении. Раньше слабое решение приходило без обоснования, теперь оно приходит с убедительной аргументацией, и на слух его не отличить от хорошего.
Александр Лискин, руководитель управления исследования угроз «Лаборатории Касперского», описал подход своей компании так: модель рассматривается как недоверенное ядро, которое работает вероятностно. Поэтому риски закрывают архитектурой вокруг модели: минимальными правами, ограниченной средой и контролем того, что уходит наружу.
InfoVizion переносит этот принцип на цифры. ИИ-агенты встроены в Коммерческую аналитику InfoVizion, и языковая модель в ней не выполняет расчётов: каждая цифра приходит из модели данных, где формулы утверждены заранее. Задача агента в другом: связать между собой разрезы по товарам, магазинам и поставщикам, объяснить, откуда взялось отклонение, и оценить его в рублях.
Если на совещании кто-то сомневается в цифре, её тут же разворачивают до конкретного магазина, партии и чека. Спор о выводе агента превращается в проверку фактов.
Четвёртое условие: решение и ответственность остаются за человеком
Даже точный вывод агента ничего не меняет, если после совещания он теряется. Причину назвали, решение приняли, а через неделю никто не вернулся проверить результат. Формально ИИ внедрён, а фактически сеть работает так же, как раньше.
На сессии много говорили об ответственности. По словам Дмитрия Никишова, решения, которые могут привести к ущербу, должен принимать человек. Одно действие агента может быть безобидным, а тысяча таких действий подряд уже становится проблемой.
В подходе InfoVizion агент приносит вывод, а решение принимает руководитель. Каждое решение попадает в журнал: у него есть владелец, срок и проверка через неделю. Без этого управленческий цикл не сокращается, сколько ни ускоряй аналитику.
Модель можно поменять. Слой останется у сети
Если вся логика расчётов и правил зашита в конкретную модель, сеть попадает в зависимость. Модель могут обновить, ограничить к ней доступ или изменить условия, и всё, что построено вокруг неё, придётся пересобирать.
На сессии об этом говорили оба спикера. Валерия Воробьёва назвала зависимость от поставщика модели отдельной группой рисков, а Дмитрий Никишов отдельно выделил риск обновлений облачных моделей: после неудачного обновления настройки приходится пересобирать заново.
Когда цифры считает модель данных, а нормативы и правила хранятся в системе сети, языковая модель становится заменяемым компонентом. Сегодня подписка на модель стоит кратно дешевле, чем тот же объём работы через API. В InfoVizion считают это не целью, а окном возможностей: за год-два описать свою компанию в данных и подготовить собственный слой. Модель потом можно поменять, а слой останется у сети.
Хотите смотреть в будущее, стройте инфраструктуру сейчас
Многие сети откладывают ИИ до момента, когда технология «созреет» и появится готовое решение. Но к этому моменту выигрывать будут те, у кого уже есть проверенные данные, нормативы и опыт работы с выводами агента.
Валерия Воробьёва заметила на сессии, что подготовительную работу нужно было делать ещё вчера. Начинать её можно и сегодня, причём не обязательно с самих агентов. Команда InfoVizion проходит этот путь вместе с сетью в четыре шага:
Пилот с работающими агентами InfoVizion запускает за два месяца. Работа с данными и согласование нормативов уже входят в этот срок, поэтому к концу второго месяца сеть получает первые проверенные гипотезы, а не обещания. Полный контур выстраивается дольше, и срок зависит в основном от состояния данных и от того, как быстро в компании договариваются о правилах.
Какие вопросы оперкома агент закрыл бы заранее?
Оставьте заявку, специалисты InfoVizion разберут повестку вашего оперкома и покажут, какие три-четыре пункта агент мог бы закрыть и принести готовые выводы ещё до начала встречи.
Оставить заявку Написать в телеграм Написать в MAX