ИИ-агенты: от эйфории до скрытого сопротивления кремниевым работникам

Пока топ менеджеры российских компаний с энтузиазмом осваивают no-code, технические специалисты все внимательнее присматриваются к издержкам массового внедрения ИИ-агентов. На форуме Data Fusion спикеры сессии «Софта не будет: как агентный ИИ меняет архитектуру корпоративных систем» фактически разделились на технооптимистов и айтишников-«старообрядцев» и обсуждали сколько свободы можно и нужно отдавать ИИ-агентам в корпоративной среде, и кто будет отвечать за их промахи.

Руководитель направления искусственный интеллект ИТ холдинга Т1 Сергей Голицын, выступивший модератором дискуссии, подчеркнул, что ИИ-агенты уже «вросли» в офисный софт. «В Т1 есть процессы, в которых мультиагентные системы сами формулируют задачи, ставят друг другу подзадачи, разрабатывают решения и верифицируют их, фактически закрывая весь контур создания продукта. Главный вопрос сегодня в том, какие задачи мы готовы делегировать таким «кремниевым коллегам», которые уже переросли уровень скрипта с нейросетевой прослойкой, и насколько к этим изменениям готовы разработчики и пользователи», — отметил он.

Старший управляющий директор Московской биржи по розничному бизнесу и маркетплейсу «Финуслуги» Игорь Алутин подчеркнул, что проникновение ИИ радикально меняет работу с информацией: от качества и систематизации данных напрямую зависят и качество, и стоимость вычислений. Эволюция ИИ-агентов в рознице Мосбиржи, по его словам, началась с FinGPT — виртуального финансового консультанта для частных инвесторов. Опора на открытые источники быстро выявила пределы качества: ответы не всегда были точными, и модель пришлось намеренно «упростить», жестко задав сценарии работы.

Этот опыт убедил команду, что профессиональный ИИ-агент невозможен без опоры на верифицированные источники. Сейчас под агентную архитектуру перестраивают витрину маркетплейса «Финуслуги», и Алутин ожидает, что в течение ближайшего года до половины пользовательского трафика сместится из классических поисковиков в GPT –подобные интерфейсы, включая отечественные. «Покупка финансовых продуктов через ИИ-агента станет для клиента стандартным поведением, но потребность в человеческих компетенциях при принятии инвестиционных решений не исчезнет», — считает он.

«ИИ-агенты возьмут на себя сбор и первичную сводку данных, а человеку еще какое то время придётся заниматься верификацией. По мере роста точности люди будут уходить от сплошного чтения отчетности к проверке и интерпретации данных, потому что институты доверия для инвесторов никуда не денутся», — уверен Игорь Алутин.

Как заметили участники встречи, внедрение ИИ-агентов в компаниях почти всегда проходит через сопротивление инерции. Советник генерального директора Р7 Офис Михаил Алексеев признал, что айтишники «старообрядцы» в офисной среде не исчезнут, но их доля будет сокращаться естественным образом — так же, как когда то исчезла когорта людей, пользовавшихся интернетом без браузера.

По словам Алексеева, смена пользовательского опыта уже идёт: молодое поколение ИТ специалистов и офисных работников не пишет макросы на VBA, они изначально ориентируются на естественный язык инструкций и мгновенный результат. «В перспективе 20–25% пользователей будут обращаться к таблицам и другим офисным инструментам через диалоговый интерфейс, получая сразу инсайты, а не только цифры, — и это станет нормой и для начинающих специалистов, и для членов советов директоров», — резюмировал он. При этом, как подчеркивает Михаил Алексеев, ИИ не дает сакрального знания: его задача — снять с человека рутину. По оценке компании, 30% рабочего времени среднего офисного сотрудника — рутинные операции, которые можно отдать ИИ-ассистентам и агентам, высвободив сотрудникам время на рефлексию и творчество. Уже сейчас одной из самых востребованных функций становится интеллектуальный семантический поиск документов внутри индивидуального рабочего пространства сотрудника, в разных каналах рабочей коммуникации: только это может освобождать до 10% рабочего времени и напрямую конвертироваться в экономию денег».

Голосом традиционной российской ИТ школы стал Алексей Лукацкий, бизнес консультант по информационной безопасности Positive Technologies. По его словам, в нынешнем цифровом ландшафте у большинства компаний есть именно ассистенты, а по настоящему автономных агентов, принимающих решения без участия человека, пока немного, хотя их доля будет расти.

Лукацкий резко возражает против демонизации безопасников как «жрецов старообрядцев», которые всё только запрещают. «Настоящая задача безопасности — встроить технологию, в том числе ИИ-агентов, в контур компании так, чтобы она не нанесла ущерба и вписывалась в согласованные уровни риска», — подчеркивает он.

Парадокс в том, отмечает эксперт, что ИИ уже глубоко проник в критическую инфраструктуру, включая военные применения. Без раскрытия деталей Лукацкий привел пример одной организации, перед которой стояла задача взломать боевую торпеду с ИИ, чтобы показать доступные противнику векторы атаки.

С юридической точки зрения, напоминает он, любая ИИ функция, реализованная в финансовой организации или госкорпорации, автоматически оказывается в контуре критической инфраструктуры, даже если формально не задействует критические процессы. В этом случае зона ответственности разработчика агентов и архитектора безопасности не может ограничиваться удобством: сначала нужно навести порядок в правах и доступах людей, и только потом — строить безопасную «агентскую» архитектуру.

Директор департамента машинного обучения MWS AI (входит в МТС Web Services) Даниил Киреев описал риски некритичного увлечения агентами и no code программированием. На конкретных примерах он показал, насколько опасно отдавать разработку полностью на откуп ИИ. Во многом это связано с проблемой ИИ-галлюцинаций и «неизвестных неизвестных».

«Для критических контуров необходима многоуровневая архитектура: отдельные модели цензоры, расширяемые бенчмарки оценки результатов, автоматическое тестирование и постоянная работа над безопасностью и интерпретируемостью поведения агентов», — уверен эксперт.

Подводя итоги сессии, участники сошлись в одном: участие ИИ-агентов в бизнес процессах уже стало фактом. Ключевой навык ИТ-специалистов ближайших лет — не знание того, «на какие кнопки нажимать», а умение формулировать цели, ограничения и критерии качества для искусственного интеллекта и брать на себя ответственность за результат совместной работы человека и ИИ. На фоне того, что даже в крупных корпорациях доля сотрудников, регулярно использующих новые инструменты, пока далека от 100%, именно способность ставить задачи и управлять агентами может стать главной компетенцией менеджера в эпоху сотрудничества человека и «кремниевого ассистента».