Məzmuna keçin

Süni intellekt

Holdinqdə süni intellekt agentləri: nə işləyir, nə hələ yox

Süni intellekt agentləri holdinqdə bu gün nəyi etibarlı edir, harada səhv edir və hansı altı qayda onları qrupun məlumatlarında təhlükəsiz edir.

Dərc olunub
8 dəq oxuma
8 dəq oxuma

Süni intellekt həmkarı bu gün yoxlanılmış məlumatlar üzərində dar və aydın qoyulmuş tapşırıqlarda faydalıdır. O, metrika haqqında suala cavab verir və mənbəni göstərir, həftəlik icmalın qaralamasını hazırlayır, kənarlaşmaları izləyir və sənədləri oxuyur. Uzun iş zəncirlərini təkbaşına aparmağa və geri qaytarılmayan hərəkətlər etməyə isə hələ hazır deyil. Faydalı agenti riskli agentdən modeldən çox onun ətrafındakı qaydalar fərqləndirir.

Qısaca

  • Agentlər sürətlə yaxşılaşıb. Stanford AI Index 2026 hesabatına görə, kompüterdə real işi yoxlayan testdə uğurla yerinə yetirilən tapşırıqların payı 12%-dən təxminən 66%-ə yüksəlib. Bununla belə, strukturlaşdırılmış testlərdə agentlər hələ də təxminən hər üç cəhddən birində uğursuz olur.
  • İstifadə edən çoxdur, qazanan azdır. McKinsey-nin 2026-cı il sorğusunda təşkilatların demək olar ki, onda doqquzu süni intellektdən müntəzəm istifadə edir, mənfəətə hər hansı təsiri isə 37% görür.
  • Qısa və aydın tapşırıqlar işləyir. Uzun avtonom zəncirlər və geri qaytarılmayan hərəkətlər hələ işləmir.
  • Agenti qrupun məlumatlarında altı qayda təhlükəsiz edir: mənbəyi göstərilən təsdiqlənmiş məlumatlar, istifadəçinin öz hüquqları, standart olaraq yalnız oxuma girişi, kənar mətnin məlumat kimi qəbul edilməsi, jurnal və hər yenilənmədən əvvəl testlər.

Süni intellekt həmkarı nədir

Çat modelin yadında qalandan cavab verir. Süni intellekt agenti üstəlik alətlərdən istifadə edə bilir: sorğu icra edir, sənəd oxuyur, qaralama hazırlayır. OpenAI-nin agentlərin yaradılması üzrə bələdçisi agentləri tapşırıqları sizin adınızdan müstəqil yerinə yetirən sistemlər kimi müəyyən edir.

Faydalı sərhədi Anthropic Building effective agents məqaləsində çəkir. İş axını kodda əvvəlcədən müəyyən edilmiş addımlarla gedir. Agent isə sonra nə edəcəyinə və hansı alətlərdən istifadə edəcəyinə özü qərar verir. Holdinqdə təkrarlanan işlərin çoxunu, məsələn həftəlik icmalı və ya uzlaşdırmanı sərbəst agent kimi yox, içində süni intellekt addımları olan müəyyən edilmiş proses kimi qurmaq daha yaxşıdır. Həmin məqalədə işləyən ən sadə həlli seçmək məsləhət görülür və xəbərdarlıq edilir: avtonomluq daha yüksək xərclər və səhvlərin üst-üstə yığılması riski deməkdir.

Etibarlılıq haqqında məlumatlar nə deyir

İrəliləyiş realdır. 2026-cı ilin aprelində dərc olunmuş Stanford AI Index 2026 bildirir ki, kompüterdə real işi yoxlayan OSWorld testində agentlərin uğurla yerinə yetirdiyi tapşırıqların payı 12%-dən təxminən 66%-ə yüksəlib. Orada həm də deyilir ki, strukturlaşdırılmış testlərdə onlar hələ də təxminən hər üç cəhddən birində uğursuz olur.

Səhvi ən yaxşı tapşırığın uzunluğu proqnozlaşdırır. METR bunu 2025-ci ilin mart məlumatları əsasında ölçüb. İnsanın dörd dəqiqədən az vaxt sərf etdiyi tapşırıqların öhdəsindən modellər demək olar ki, 100% hallarda gəlirdi, təxminən dörd saatdan uzun tapşırıqlarda isə uğur 10%-dən az idi. Agentlərin 50% etibarlılıqla yerinə yetirdiyi tapşırıqların uzunluğu təxminən hər yeddi aydan bir iki dəfə artırdı.

Ofis işində mənzərə oxşardır. Karnegi-Mellon Universitetinin başqa təşkilatlarla birlikdə yaratdığı TheAgentCompany testi kiçik proqram təminatı şirkətini imitasiya edir. Ən yaxşı agent orada tapşırıqların 30%-ni müstəqil yerinə yetirib (2025-ci ilin sentyabr versiyası).

Rəhbər üçün daha iki nəticə vacibdir:

  • Bir dəfə öhdəsindən gələn agent növbəti dəfə səhv edə bilər. 2024-cü ilin τ-bench tədqiqatı agentin ardıcıl bütün təkrar cəhdlərin öhdəsindən gəlib-gəlmədiyini yoxlayıb və o dövrün modellərinin qeyri-sabit olduğunu göstərib. Rəqəmlər köhnəlib, nəticə isə qalıb: yoxlamaq dəfələrlə lazımdır.
  • Öz sənədləriniz əsasında verilən cavab da yanlış ola bilər. Stenford tədqiqatçıları cavabdan əvvəl sənədləri tapan hüquqi axtarış alətlərini yoxlayıb. Bu yanaşma RAG adlanır. 2024-cü ildə iki alət sorğuların 17%-dən çoxunda, üçüncüsü isə 34%-dən çoxunda yanlış məlumat verib. Müəlliflərin nəticəsi: RAG sistemləri də halüsinasiyalardan azad deyil.

İstifadə faydanı qabaqlayır. 1719 nəfərin iştirak etdiyi və 2026-cı il avqustun 25-də dərc olunmuş McKinsey-nin State of AI 2026 sorğusunda iştirakçıların demək olar ki, onda doqquzu süni intellektdən ən azı bir biznes funksiyasında müntəzəm istifadə etdiyini bildirib, təxminən onda ikisi agentləri miqyaslandırır, 37%-i isə EBIT-ə hər hansı təsiri süni intellektlə əlaqələndirir. Rəsmi statistika daha təvazökardır: Eurostat-ın məlumatına görə, 2025-ci ildə on və daha çox işçisi olan Aİ müəssisələrinin 20,0%-i süni intellektdən istifadə edib. Gartner isə proqnozlaşdırır ki, 2027-ci ilin sonunadək süni intellekt agentləri layihələrinin 40%-dən çoxu ləğv ediləcək: artan xərclər, biznes üçün aydın olmayan fayda və ya risklərə zəif nəzarət səbəbindən.

Holdinqdə bu gün nə işləyir, nə işləmir

Cədvəl yuxarıdakı məlumatları bizim necə oxuduğumuzu əks etdirir.

TapşırıqBu gün işləyirmi?İnsan nə edir
Təsdiqlənmiş metrika haqqında suala mənbəyi göstərməklə cavabBəli, metrikalar bir dəfə müəyyən edilibsə və agentə «bilmirəm» demək icazəlidirsəSoruşur və mənbəni yoxlayır
Həftəlik biznes icmalının qaralamasıBəli, qaralama kimiRedaktə edir və təsdiqləyir
Metrikaların izlənməsi və kənarlaşmalar barədə siqnallarBəliNə edəcəyinə qərar verir
Müqavilələrin və hesabların oxunması, sahələrin çıxarılmasıBəli, mənbədəki hissə göstərilirsəİstisnaları yoxlayır
Əvvəldən axıra uzun proses, məsələn ayın bağlanmasıHələ yoxProsesi özündə saxlayır, agentə ayrı-ayrı addımları tapşırır
Ödənişlər, uçotda düzəlişlər, şirkətdən kənara gedən mesajlarYalnız hazırlayırHər hərəkəti təsdiqləyir

Agenti qrupun məlu­mat­la­rında təhlükəsiz edən altı qayda

1. Yalnız təsdiqlənmiş məlumatlar və həmişə mənbə ilə. Kimsə hansı məlumatların rəsmi sayıldığını işarələməlidir. Microsoft bunu Power BI üçün təsvir edir: sertifikatlaşdırma məzmunun təşkilatın keyfiyyət standartlarına cavab verdiyini bildirir, sertifikatlaşdırmanı isə yalnız administratorun seçdiyi yoxlayıcılar edə bilər.

Bunun dəqiqliyə təsiri böyükdür. data.world-ün erkən testi (2023-cü il) göstərib: biznes suallarına birbaşa SQL bazaları üzərində cavab verən model 16% hallarda haqlı olub, suallar eyni məlumatların bilik qrafı üzərində veriləndə isə 54% hallarda. dbt Labs-ın öz testində (2026-cı ilin apreli) semantik qat iki model üçün 98,2% və 100% dəqiqlik verib, sərbəst text-to-SQL isə 90,0% və 84,1%. Semantik qat cavab verə bilmədiyi yerdə bunu bildirib və rəqəm qaytarmayıb.

Hər cavab həm də mənbəyini göstərməlidir. Bunu artıq bu gün qurmaq olar: Anthropic-in Citations funksiyası hər iddianın əsaslandığı dəqiq hissələri qaytarır.

2. İstifadəçinin öz hüquqları və onları məlumat sistemləri yoxlayır. Agent yalnız sual verən şəxsin görə biləcəyini görməlidir. OWASP-ın həddən artıq sərbəstlik barədə tövsiyəsi birbaşa deyir: icazə yoxlaması modelin müraciət etdiyi sistemlərdə qurulmalıdır, hərəkətə icazə verilib-verilmədiyini modelin özünün həll edəcəyinə bel bağlamaq olmaz. Qrupda bu qaydanın ikinci mənası da var. Anthropic-in etibarlı agentlər üçün prinsipləri xəbərdarlıq edir ki, agent həssas məlumatı bir kontekstdən digərinə yersiz daşıya bilər. Bir şirkətin məlumatları başqa şirkət üçün verilən cavablarda üzə çıxmamalıdır.

3. Standart olaraq yalnız oxuma, hər hərəkəti isə insan təsdiqləyir. Anthropic proqramlaşdırma üçün öz agenti haqqında yazır ki, standart olaraq onun yalnız oxuma hüququ var. OpenAI-nin bələdçisi həssas, geri qaytarılmayan və ya səhvin qiyməti yüksək olan hərəkətlər üçün insanın iştirakını tələb edir və nümunələr gətirir: sifarişlərin ləğvi, iri məbləğlərin geri qaytarılması və ödənişlər.

4. Kənardan gələn mətn əmr yox, məlumatdır. Məktubları, təchizatçıların sənədlərini və ya saytları oxuyan agenti onlarda gizlədilmiş göstərişlərlə idarə etmək olar. OWASP bunu dolayı təlimat yeridilməsi adlandırır. O, model xarici mənbələrdən, məsələn saytlardan və ya fayllardan gələn məlumatı qəbul edəndə mümkün olur (OWASP LLM01).

5. Hər şey jurnala yazılır. Kim soruşub, agent nəyi hesablayıb, nə cavab verib və nə edib. OWASP-ın bu barədə məsləhəti: modelin genişləndirmələrinin və onun müraciət etdiyi sistemlərin fəaliyyətini jurnala yazmaq və izləmək.

6. Hər yenilənmədən əvvəl sabit test sualları dəsti və «bilmirəm» demək hüququ. Agent bir dəfə öhdəsindən gəlib növbəti dəfə səhv edə bildiyi üçün hər yenilənmədən əvvəl cavabları məlum olan eyni suallar üzrə yoxlanılır. Cavab verməməyə icazəsi olan agent həmişə rəqəm çıxaran agentdən təhlükəsizdir.

Risklərin idarə olunması stan­dart­ları bir səhifədə

Süni intellekt riskləri barədə ortaq dili üç sənəd verir. Onların heç biri Azərbaycandakı, Özbəkistandakı və ya Qazaxıstandakı şirkət üçün məcburi deyil, amma hər biri yoxlama siyahısı kimi yaxşıdır.

  • NIST AI Risk Management Framework (ABŞ, 2023-cü il yanvarın 26-da buraxılıb, könüllü tətbiq olunur). Onun əsasında dörd funksiya durur: idarə etmək, təsvir etmək, ölçmək və tənzimləmək. NIST sənədin hazırda yenidən işləndiyini bildirir.
  • ISO/IEC 42001:2023, 2023-cü ilin dekabrında dərc olunmuş süni intellektin idarəetmə sistemi standartı. Süni intellekt hazırlayan və ya istifadə edən istənilən ölçülü təşkilata uyğundur.
  • Aİ-nin süni intellekt haqqında Aktı, (Aİ) 2024/1689 nömrəli Reqlament. Yüksək riskli sistemlər üçün o, insanın səmərəli nəzarətini, insanların avtomatikaya kor-koranə etibar etmə meylinə diqqəti, sistemi dayandırmaq imkanını və avtomatik jurnalları tələb edir (12-ci və 14-cü maddələr). Holdinqdəki tapşırıqların çoxu, məsələn hesabatlar, proqnozlar və qaralamalar bu Akta görə yüksək riskə aid deyil. Onun haqqında oxuyanda tarixləri yoxlayın: Avropa Komissiyasının məlumatına görə, 2026-cı il iyulun 27-də qüvvəyə minmiş dəyişikliklər paketi həssas sahələrdəki yüksək riskli tətbiqlər üçün qaydaları 2027-ci il dekabrın 2-nə keçirib.

Şirkətləri ləngidən də elə risklərdir. McKinsey-nin 2026-cı ilin martında dərc olunmuş süni intellektə etimad haqqında sorğusunda iştirakçıların təxminən üçdə ikisi agentlərin miqyaslandırılmasına əsas maneə kimi təhlükəsizlik və risklərlə bağlı narahatlıqları göstərib.

Regionda nə baş verir

Azərbaycan, Özbəkistan və Qazaxıstan süni intellekt üzrə milli strategiyalar qəbul edib və məlumatlar orada ilk yerlərdən birini tutur.

Agentlər fərdi məlumatlarla işləyən yerdə onlara hər ölkənin saxlama qaydaları tətbiq olunur. Onları Azərbaycan, Özbəkistan və Qazaxıstanda fərdi məlumatların saxlanması haqqında məqalədə müqayisə edirik.

Haradan başlamalı

Bir dar tapşırıqdan başlayın və nəticəni başlanğıc səviyyə ilə müqayisədə ölçün. OpenAI-nin bələdçisi addım-addım irəliləməyi məsləhət görür, Anthropic işləyən ən sadə həlli tövsiyə edir. McKinsey sorğusu faydanın haradan gəldiyini göstərir: nəticələrinə görə öndə olan şirkətlərin təxminən dörddə üçü süni intellektə görə iş proseslərini kökündən yenidən qurub, qalanların arasında isə belə edənlər dörddə birdir.

Yaxşı ilk tapşırığın üç əlaməti var. Onun altındakı məlumatlar artıq sahmana salınıb: şirkətlər qrupunda idarəetmə hesabatı haqqında məqaləmiz bu barədədir. Nəticəni istifadədən əvvəl insan yoxlayır. Uğur isə ölçülür: sabit sual dəsti üzrə dəqiqlik, həftədə qənaət olunan saatlar və bir cavabın qiyməti.

Sahman buna necə yanaşır

Sahman erkən mərhələdədir və süni intellekt həmkarımız Samira hazırda nümayiş məlumatları üzərində işləyir. Samira təsdiqlənmiş metrikalar əsasında, istifadəçinin öz hüquqları ilə cavab verir, mənbəni göstərir, «bilmirəm» deyə bilir və şirkətdən nəsə çıxmazdan əvvəl təsdiq istəyir. Fərdi məlumatları olan sətirlər tələb edən sualları ölkə daxilindəki açıq model emal edir. Təfərrüatlar Samira səhifəsindədir.

Mənbələr

  1. 1A practical guide to building agents. OpenAI, 2025
  2. 2Building effective agents. Anthropic, 2024-12-19
  3. 3The 2026 AI Index Report. Stanford Institute for Human-Centered Artificial Intelligence, 2026
  4. 4Measuring AI Ability to Complete Long Tasks. METR, 2025-03-19
  5. 5TheAgentCompany: Benchmarking LLM Agents on Consequential Real World Tasks. Frank F. Xu və həmmüəlliflər, arXiv, 2025-09-10
  6. 6τ-bench: A Benchmark for Tool-Agent-User Interaction in Real-World Domains. Shunyu Yao və həmmüəlliflər, arXiv, 2024-06-17
  7. 7AI on Trial: Legal Models Hallucinate in 1 out of 6 (or More) Benchmarking Queries. Stanford HAI, 2024-05-23
  8. 8The state of AI in 2026: On the road to ROI. McKinsey & Company, 2026-08-25
  9. 920% of EU enterprises use AI technologies. Eurostat, 2025-12-11
  10. 10Gartner Predicts Over 40% of Agentic AI Projects Will Be Canceled by End of 2027. Gartner, 2025-06-25
  11. 11Promote and Certify Power BI Content with Endorsement. Microsoft Learn, 2025-10-01
  12. 12A Benchmark to Understand the Role of Knowledge Graphs on Large Language Model's Accuracy for Question Answering on Enterprise SQL Databases. Juan Sequeda, Dean Allemang, Bryon Jacob, arXiv, 2023-11-13
  13. 13Semantic Layer vs. Text-to-SQL: 2026 Benchmark Update. dbt Labs, 2026-04-07
  14. 14Citations. Anthropic, Claude Developer Platform
  15. 15LLM06:2025 Excessive Agency. OWASP Gen AI Security Project
  16. 16Our framework for developing safe and trustworthy agents. Anthropic, 2025-08-04
  17. 17LLM01:2025 Prompt Injection. OWASP Gen AI Security Project
  18. 18AI Risk Management Framework (AI RMF 1.0). National Institute of Standards and Technology, 2023-01-26
  19. 19ISO/IEC 42001:2023 Information technology. Artificial intelligence. Management system. ISO, 2023
  20. 20(Aİ) 2024/1689 nömrəli Reqlament (Süni intellekt haqqında Akt), ingilis dilində. EUR-Lex, 2024-06-13
  21. 21AI Act: regulatory framework for AI. Avropa Komissiyası, 2026-10-19
  22. 22State of AI trust in 2026: Shifting to the agentic era. McKinsey & Company, 2026-03-25
  23. 23Azərbaycan Respublikasının 2025-2028-ci illər üçün süni intellekt Strategiyası. Rəqəmsal İnkişaf və Nəqliyyat Nazirliyi, 2025-03-19
  24. 242030-cu ilədək süni intellekt texnologiyalarının inkişafı Strategiyasının təsdiqi barədə Özbəkistan Prezidentinin PP-358 nömrəli Qərarı (rus dilində mətn). lex.uz, 2024-10-14
  25. 25Süni intellekt texnologiyalarının inkişafı üzrə əlavə tədbirlər barədə Özbəkistan Prezidentinin UP-189 nömrəli Fərmanı (rus dilində mətn). lex.uz, 2025-10-22
  26. 262024-2029-cu illər üçün süni intellektin inkişafı Konsepsiyasının təsdiqi barədə Qazaxıstan Hökumətinin 592 nömrəli Qərarı (rus dilində mətn). adilet.zan.kz, 2024-07-24
  27. 27«Süni intellekt haqqında» Qazaxıstan Respublikasının Qanunu, № 230-VIII (rus dilində mətn). adilet.zan.kz, 2025-11-17

Bu məqalə digər dillərdə də var: English, Русский

Bunun qrupunuzun məlu­mat­la­rında necə işlədiyini görmək istə­yir­si­niz?

Pilot dörd həftə çəkir, rəhbər üçün vacib olan bir suala cavab verir və uğurun yazılı meyarı əvvəlcədən razılaşdırılır.