Перейти к содержанию

ИИ

ИИ-агенты в холдинге: что уже работает, а что пока нет

Что ИИ-агенты уже надежно делают в холдинге, где они ошибаются и какие шесть правил делают их безопасными на данных группы. С данными 2025 и 2026 годов.

Опубликовано
8 мин чтения
8 мин чтения

ИИ-коллега сегодня полезен в узких, четко поставленных задачах на проверенных данных. Он отвечает на вопрос о метрике и показывает источник, готовит черновик еженедельного обзора, следит за отклонениями и читает документы. Вести длинные цепочки работы в одиночку и совершать необратимые действия он пока не готов. Полезного агента от рискованного отличают не столько модель, сколько правила вокруг нее.

Коротко

  • Агенты быстро стали лучше. По отчету Stanford AI Index 2026, доля успешно выполненных задач в тесте на реальную работу за компьютером выросла с 12% до примерно 66%. При этом в структурированных тестах агенты все еще проваливают примерно одну попытку из трех.
  • Пользуются многие, зарабатывают немногие. В опросе McKinsey 2026 года почти девять организаций из десяти регулярно применяют ИИ, а хоть какое-то влияние на прибыль видят 37%.
  • Короткие и четкие задачи работают. Длинные автономные цепочки и необратимые действия пока нет.
  • Безопасным на данных группы агента делают шесть правил: утвержденные данные с источником, права самого пользователя, доступ только на чтение по умолчанию, внешний текст как данные, журнал и тесты перед каждым обновлением.

Что такое ИИ-коллега

Чат отвечает из того, что помнит модель. ИИ-агент умеет еще и пользоваться инструментами: выполнить запрос, прочитать документ, подготовить черновик. Руководство OpenAI по созданию агентов определяет агентов как системы, которые самостоятельно выполняют задачи от вашего имени.

Полезную границу проводит Anthropic в статье Building effective agents. Рабочий процесс идет по заранее заданным в коде шагам. Агент сам решает, что делать дальше и какими инструментами пользоваться. Большую часть повторяющейся работы в холдинге, например еженедельный обзор или сверку, лучше строить как заданный процесс с шагами ИИ внутри, а не как свободного агента. Там же советуют выбирать самое простое решение, которое работает, и предупреждают: автономность означает более высокие затраты и риск того, что ошибки будут накапливаться.

Что данные говорят о надежности

Прогресс настоящий. Stanford AI Index 2026, опубликованный в апреле 2026 года, сообщает, что в тесте OSWorld на реальную работу за компьютером доля успешных задач у агентов выросла с 12% до примерно 66%. Там же сказано, что в структурированных тестах они все еще проваливают примерно одну попытку из трех.

Лучше всего ошибку предсказывает длина задачи. METR измерил это на данных марта 2025 года. С задачами, на которые у человека уходит меньше четырех минут, модели справлялись почти в 100% случаев, а с задачами длиннее примерно четырех часов менее чем в 10%. Длина задач, которые агенты выполняют с надежностью 50%, удваивалась примерно каждые семь месяцев.

В офисной работе картина похожая. Тест TheAgentCompany, созданный в Университете Карнеги-Меллона вместе с другими организациями, имитирует небольшую софтверную компанию. Лучший агент самостоятельно выполнил в нем 30% задач (версия от сентября 2025 года).

Руководителю важны еще два результата:

  • Агент, который справился один раз, в следующий раз может ошибиться. Исследование τ-bench 2024 года проверяло, справляется ли агент со всеми повторными попытками подряд, и показало, что модели того времени вели себя нестабильно. Цифры устарели, вывод остался: проверять нужно многократно.
  • Ответ по вашим собственным документам тоже может быть неверным. Исследователи Стэнфорда проверили юридические поисковые инструменты, которые перед ответом находят документы. Такой подход называют RAG. В 2024 году два инструмента давали неверную информацию более чем в 17% запросов, а третий более чем в 34%. Вывод авторов: даже системы с RAG не избавлены от галлюцинаций.

Применение опережает пользу. В опросе McKinsey State of AI 2026, где участвовали 1719 человек (опубликован 25 августа 2026 года), почти девять из десяти сообщили, что регулярно применяют ИИ хотя бы в одной функции бизнеса, около двух из десяти масштабируют агентов, а 37% связывают с ИИ хоть какое-то влияние на EBIT. Официальная статистика скромнее: по данным Евростата, в 2025 году ИИ использовали 20,0% предприятий ЕС, где работают десять и более человек. А Gartner прогнозирует, что к концу 2027 года будет отменено более 40% проектов с ИИ-агентами: из-за растущих затрат, неясной пользы для бизнеса или слабого контроля рисков.

Что в холдинге работает уже сегодня, а что нет

Таблица отражает наше прочтение данных, приведенных выше.

ЗадачаРаботает ли сегодня?Что делает человек
Ответ на вопрос об утвержденной метрике с указанием источникаДа, если метрики определены один раз и агенту разрешено сказать «не знаю»Спрашивает и проверяет источник
Черновик еженедельного обзора бизнесаДа, как черновикПравит и утверждает
Наблюдение за метриками и сигналы об отклоненияхДаРешает, что делать
Чтение договоров и счетов, извлечение полейДа, если показан фрагмент источникаПроверяет исключения
Длинный процесс от начала до конца, например закрытие месяцаПока нетОставляет процесс за собой и поручает агенту отдельные шаги
Платежи, исправления в учете, сообщения за пределы компанииТолько готовитУтверждает каждое действие

Шесть правил, которые делают агента безопасным на данных группы

1. Только утвержденные данные и всегда с источником. Кто-то должен отметить, какие данные считаются официальными. Microsoft описывает это для Power BI: сертификация означает, что содержимое отвечает стандартам качества организации, а сертифицировать могут только проверяющие, которых выбрал администратор.

На точность это влияет сильно. Ранний тест data.world (2023 год) показал: модель, которая отвечает на бизнес-вопросы напрямую по базам SQL, права в 16% случаев, а когда вопросы задают поверх графа знаний о тех же данных, в 54%. В собственном тесте dbt Labs в апреле 2026 года семантический слой дал точность 98,2% и 100% для двух моделей против 90,0% и 84,1% у свободного text-to-SQL. Там, где семантический слой не мог ответить, он так и сообщал и не возвращал числа.

Каждый ответ должен еще и указывать на источник. Это можно построить уже сегодня: функция Citations у Anthropic возвращает точные фрагменты, на которые опирается каждое утверждение.

2. Права самого пользователя, и проверяют их системы с данными. Агент должен видеть только то, что можно видеть человеку, который спрашивает. Рекомендация OWASP о чрезмерной самостоятельности говорит прямо: авторизацию нужно реализовать в системах, к которым обращается модель, а не полагаться на то, что модель сама решит, разрешено ли действие. В группе у этого правила есть второй смысл. Принципы Anthropic для надежных агентов предупреждают, что агент может неуместно перенести чувствительную информацию из одного контекста в другой. Данные одной компании не должны всплывать в ответах для другой.

3. По умолчанию только чтение, а каждое действие утверждает человек. Anthropic пишет о своем агенте для программирования, что по умолчанию у него есть права только на чтение. Руководство OpenAI требует участия человека для действий чувствительных, необратимых или с высокой ценой ошибки и приводит примеры: отмена заказов, крупные возвраты и платежи.

4. Текст извне: это данные, а не команды. Агентом, который читает письма, документы поставщиков или сайты, можно управлять через спрятанные в них инструкции. OWASP называет это косвенным внедрением инструкций. Оно возможно, когда модель принимает данные из внешних источников, например с сайтов или из файлов (OWASP LLM01).

5. Все записывается в журнал. Кто спросил, что агент посчитал, что ответил и что сделал. Совет OWASP на этот счет: вести журнал и мониторинг действий расширений модели и систем, к которым она обращается.

6. Постоянный набор тестовых вопросов перед каждым обновлением и право сказать «не знаю». Агент может справиться один раз и ошибиться в следующий, поэтому перед каждым обновлением его проверяют на одних и тех же вопросах с известными ответами. Агент, которому разрешено не отвечать, безопаснее агента, который всегда выдает число.

Стандарты управления рисками на одной странице

Общий язык для разговора о рисках ИИ дают три документа. Ни один из них не обязателен для компании в Азербайджане, Узбекистане или Казахстане, но каждый хорош как список для проверки.

  • NIST AI Risk Management Framework (США, выпущен 26 января 2023 года, применяется добровольно). В его основе четыре функции: руководить, описывать, измерять и управлять. NIST сообщает, что документ сейчас пересматривают.
  • ISO/IEC 42001:2023, стандарт системы менеджмента ИИ, опубликованный в декабре 2023 года. Подходит организациям любого размера, которые разрабатывают или используют ИИ.
  • Закон ЕС об ИИ, Регламент (ЕС) 2024/1689. Для систем высокого риска он требует действенного надзора человека, внимания к склонности людей слепо доверять автоматике, возможности остановить систему и автоматических журналов (статьи 12 и 14). Большинство задач в холдинге, например отчеты, прогнозы и черновики, по этому закону к высокому риску не относятся. Читая о нем, проверяйте даты: по данным Европейской комиссии, пакет поправок, который вступил в силу 27 июля 2026 года, перенес правила для высокорисковых применений в чувствительных областях на 2 декабря 2027 года.

Риски и есть то, что тормозит компании. В опросе McKinsey о доверии к ИИ, опубликованном в марте 2026 года, почти две трети участников назвали опасения по поводу безопасности и рисков главным препятствием для масштабирования агентов.

Что происходит в регионе

Азербайджан, Узбекистан и Казахстан приняли национальные стратегии в области ИИ, и данные занимают в них одно из первых мест.

Там, где агенты работают с персональными данными, к ним применяются правила хранения каждой страны. Мы сравниваем их в статье о хранении персональных данных в Азербайджане, Узбекистане и Казахстане.

С чего начать

Начните с одной узкой задачи и измерьте результат относительно исходного уровня. Руководство OpenAI советует двигаться постепенно, Anthropic рекомендует самое простое решение, которое работает. Опрос McKinsey показывает, откуда берется польза: почти три четверти лидеров по результатам полностью перестроили рабочие процессы из-за ИИ, а среди остальных так сделала четверть.

У хорошей первой задачи три признака. Данные под ней уже приведены в порядок: об этом наша статья про управленческую отчетность группы компаний. Результат до использования проверяет человек. И успех измеряется: точность на постоянном наборе вопросов, сэкономленные за неделю часы и стоимость одного ответа.

Как к этому подходит Sahman

Sahman находится на ранней стадии, и наша ИИ-коллега Samira сейчас работает на демонстрационных данных. Samira отвечает по утвержденным метрикам с правами самого пользователя, показывает источник, может ответить «не знаю» и просит подтверждения, прежде чем что-то уйдет за пределы компании. Вопросы, для которых нужны строки с персональными данными, обрабатывает открытая модель внутри страны. Подробности на странице о Samira.

Источники

  1. 1A practical guide to building agents. OpenAI, 2025
  2. 2Building effective agents. Anthropic, 2024-12-19
  3. 3The 2026 AI Index Report. Stanford Institute for Human-Centered Artificial Intelligence, 2026
  4. 4Measuring AI Ability to Complete Long Tasks. METR, 2025-03-19
  5. 5TheAgentCompany: Benchmarking LLM Agents on Consequential Real World Tasks. Frank F. Xu и соавторы, arXiv, 2025-09-10
  6. 6τ-bench: A Benchmark for Tool-Agent-User Interaction in Real-World Domains. Shunyu Yao и соавторы, arXiv, 2024-06-17
  7. 7AI on Trial: Legal Models Hallucinate in 1 out of 6 (or More) Benchmarking Queries. Stanford HAI, 2024-05-23
  8. 8The state of AI in 2026: On the road to ROI. McKinsey & Company, 2026-08-25
  9. 920% of EU enterprises use AI technologies. Eurostat, 2025-12-11
  10. 10Gartner Predicts Over 40% of Agentic AI Projects Will Be Canceled by End of 2027. Gartner, 2025-06-25
  11. 11Promote and Certify Power BI Content with Endorsement. Microsoft Learn, 2025-10-01
  12. 12A Benchmark to Understand the Role of Knowledge Graphs on Large Language Model's Accuracy for Question Answering on Enterprise SQL Databases. Juan Sequeda, Dean Allemang, Bryon Jacob, arXiv, 2023-11-13
  13. 13Semantic Layer vs. Text-to-SQL: 2026 Benchmark Update. dbt Labs, 2026-04-07
  14. 14Citations. Anthropic, Claude Developer Platform
  15. 15LLM06:2025 Excessive Agency. OWASP Gen AI Security Project
  16. 16Our framework for developing safe and trustworthy agents. Anthropic, 2025-08-04
  17. 17LLM01:2025 Prompt Injection. OWASP Gen AI Security Project
  18. 18AI Risk Management Framework (AI RMF 1.0). National Institute of Standards and Technology, 2023-01-26
  19. 19ISO/IEC 42001:2023 Information technology. Artificial intelligence. Management system. ISO, 2023
  20. 20Регламент (ЕС) 2024/1689 (Закон об искусственном интеллекте), на английском языке. EUR-Lex, 2024-06-13
  21. 21AI Act: regulatory framework for AI. Европейская комиссия, 2026-10-19
  22. 22State of AI trust in 2026: Shifting to the agentic era. McKinsey & Company, 2026-03-25
  23. 23Стратегия искусственного интеллекта Азербайджанской Республики на 2025-2028 годы (на азербайджанском языке). Министерство цифрового развития и транспорта Азербайджана, 2025-03-19
  24. 24Постановление Президента Республики Узбекистан № ПП-358 «Об утверждении Стратегии развития технологий искусственного интеллекта до 2030 года». lex.uz, 2024-10-14
  25. 25Указ Президента Республики Узбекистан № УП-189 «О дополнительных мерах по дальнейшему развитию технологий искусственного интеллекта». lex.uz, 2025-10-22
  26. 26Постановление Правительства Республики Казахстан № 592 «Об утверждении Концепции развития искусственного интеллекта на 2024-2029 годы». adilet.zan.kz, 2024-07-24
  27. 27Закон Республики Казахстан «Об искусственном интеллекте» № 230-VIII. adilet.zan.kz, 2025-11-17

Эта статья есть и на других языках: English, Azərbaycanca

Хотите увидеть, как это работает на данных вашей группы?

Пилот длится четыре недели, отвечает на один вопрос, который важен руководителю, и заранее имеет письменный критерий успеха.