AI აგენტი უკვე შენს თანამშრომელზე მეტ ინფორმაციას ხედავს — ვინ აკონტროლებს, რას აკეთებს ის კომპანიაში?

ხელოვნური ინტელექტის გამოყენება ბიზნესში ახალ ეტაპზე გადავიდა. რამდენიმე წლის წინ კომპანიებისთვის AI ძირითადად ტექსტის დაწერას, ინფორმაციის მოძიებას, მონაცემების შეჯამებას ან იდეების გენერირებას ნიშნავდა. დღეს კი სულ უფრო ხშირად საუბარია AI აგენტებზე, რომლებსაც შეუძლიათ არა მხოლოდ პასუხის გაცემა, არამედ კონკრეტული მოქმედებების შესრულებაც.

AI აგენტს შეიძლება ჰქონდეს წვდომა კომპანიის ელფოსტაზე, CRM სისტემაზე, დოკუმენტებზე, პროექტების მართვის პროგრამაზე, კლიენტების მონაცემებზე ან სხვა სამუშაო ინსტრუმენტებზე. სწორად დანერგვის შემთხვევაში ის თანამშრომელს რუტინული პროცესების მნიშვნელოვან ნაწილს უმარტივებს, მაგრამ ამ შესაძლებლობას ახალი კითხვაც მოჰყვება: თუ პროგრამას რამდენიმე სისტემაზე ერთდროულად აქვს წვდომა და შეუძლია დამოუკიდებლად მოქმედება, ვინ განსაზღვრავს, სად მთავრდება მისი უფლებამოსილება?

ეს უკვე მხოლოდ ტექნიკური საკითხი აღარ არის. AI აგენტის კონტროლი შეიძლება გახდეს კომპანიის მონაცემთა უსაფრთხოების, ფინანსური რისკისა და შიდა მართვის მნიშვნელოვანი ნაწილი.

AI აგენტი ჩვეულებრივი ჩატბოტი აღარ არის

ჩვეულებრივი AI ჩატბოტის გამოყენებისას მომხმარებელი წერს კითხვას და იღებს პასუხს. სისტემა შეიძლება დაგეხმაროს ტექსტის შედგენაში, ინფორმაციის დამუშავებაში ან ანალიზში, მაგრამ საბოლოო მოქმედებას, როგორც წესი, მაინც ადამიანი ასრულებს.

AI აგენტის შემთხვევაში ეს საზღვარი იცვლება. აგენტს შეუძლია მიიღოს დავალება, თავად განსაზღვროს საჭირო ნაბიჯები, გამოიყენოს მისთვის ხელმისაწვდომი პროგრამები და შემდეგ შეასრულოს მოქმედება.

მაგალითად, გაყიდვების განყოფილების AI აგენტს შეიძლება დაევალოს ბოლო ერთი თვის ლიდების გაანალიზება. თუ მას CRM სისტემაზე, ელფოსტაზე და კალენდარზე აქვს წვდომა, თეორიულად შეუძლია თავად მოძებნოს შესაბამისი კლიენტები, შეამოწმოს კომუნიკაციის ისტორია, მოამზადოს წერილი და დაგეგმოს შემდგომი კონტაქტიც.

სწორედ ასეთი შესაძლებლობების გამო NIST AI აგენტებს აღწერს როგორც სისტემებს, რომლებსაც შეუძლიათ მონაცემებისა და ალგორითმების გამოყენებით გარკვეული ამოცანების დამოუკიდებლად შესრულება. ორგანიზაციისთვის მთავარი საკითხი კი ხდება ის, თუ რა მონაცემებსა და პროგრამებზე აქვს აგენტს წვდომა და რა მოქმედების შესრულების უფლება აქვს.

NIST-ის მასალა AI აგენტების იდენტობისა და ავტორიზაციის შესახებ

ერთ AI აგენტს შეიძლება რამდენიმე განყოფილებაზე მეტი ინფორმაცია ჰქონდეს

ჩვეულებრივ კომპანიაში თანამშრომლების წვდომა ერთმანეთისგან განსხვავებულია. ბუღალტერს აქვს ფინანსურ ინფორმაციაზე წვდომა, გაყიდვების მენეჯერს CRM-ზე, HR მენეჯერს თანამშრომლების მონაცემებზე, მარკეტინგის გუნდს კი სარეკლამო პლატფორმებზე.

AI აგენტის შემთხვევაში შესაძლებელია რამდენიმე ასეთი წყაროს ერთ სისტემაში გაერთიანება.

თუ კომპანიამ აგენტს მისცა CRM-ის წაკითხვის უფლება, ელფოსტაზე წვდომა, Google Drive-ის დოკუმენტების გამოყენების შესაძლებლობა და სხვადასხვა API-სთან დაკავშირების უფლება, მან შესაძლოა ინფორმაციის გაცილებით ფართო სურათი დაინახოს, ვიდრე რომელიმე კონკრეტულმა თანამშრომელმა.

ეს თავისთავად პრობლემა არ არის. სწორედ მონაცემების ერთმანეთთან დაკავშირება შეიძლება იყოს AI აგენტის ერთ-ერთი მთავარი სარგებელი. პრობლემა იწყება მაშინ, როდესაც კომპანიას ზუსტად არ აქვს განსაზღვრული, რა ინფორმაცია სჭირდება აგენტს კონკრეტული სამუშაოსთვის და რა ინფორმაციასთან საერთოდ არ უნდა ჰქონდეს შეხება.

ყველაზე დიდი რისკი ყოველთვის AI-ის „შეცდომა“ არ არის

AI-ის უსაფრთხოებაზე საუბრისას ხშირად მთავარი ყურადღება არასწორ პასუხებზე გადადის. ბიზნესისთვის კი უფრო მნიშვნელოვანი შეიძლება იყოს არა ის, რას დაწერს AI, არამედ ის, რისი გაკეთება შეუძლია ამ პასუხის შემდეგ.

OWASP-ის AI Agent Security რეკომენდაციებში ერთ-ერთ ძირითად რისკად ზედმეტად ფართო უფლებებია გამოყოფილი. თუ აგენტს მის სამუშაოსთვის საჭიროზე მეტი ინსტრუმენტი ან წვდომა აქვს, შეცდომამ ან მანიპულირებულმა მოთხოვნამ შეიძლება უფრო მნიშვნელოვანი შედეგი გამოიწვიოს. OWASP ასევე გამოყოფს მონაცემების გაჟონვას, tool abuse-ს, privilege escalation-ს, memory poisoning-ს და მაღალი გავლენის მქონე მოქმედებების ადამიანის ზედამხედველობის გარეშე შესრულებას.

OWASP-ის AI Agent Security სახელმძღვანელო

მარტივი მაგალითი წარმოვიდგინოთ. კომპანიას აქვს AI აგენტი, რომლის მიზანია მომხმარებლების კითხვებზე პასუხის გაცემა. ამისთვის მას სჭირდება პროდუქტის კატალოგზე, შეკვეთის სტატუსსა და მომხმარებლის შესაბამის მონაცემებზე წვდომა.

თუ იმავე აგენტს ასევე შეუძლია მომხმარებლის ანგარიშის პარამეტრების შეცვლა, თანხის დაბრუნების ავტომატურად დამტკიცება ან შიდა დოკუმენტების სრული ბაზის ნახვა, ბიზნესმა მას იმაზე მეტი ძალა მისცა, ვიდრე სამუშაოს შესრულებისთვის სჭირდება.

AI აგენტისთვისაც უნდა არსებობდეს სამუშაოს საზღვრები

თანამშრომელს კომპანიაში ჩვეულებრივ აქვს პოზიცია, პასუხისმგებლობები და წვდომის გარკვეული დონე. იგივე ლოგიკა AI აგენტზეც უნდა გავრცელდეს.

უსაფრთხოების ერთ-ერთი ძირითადი პრინციპია least privilege, ანუ მინიმალური აუცილებელი უფლებები. აგენტს უნდა ჰქონდეს მხოლოდ იმ ინფორმაციასა და ინსტრუმენტებზე წვდომა, რომლებიც კონკრეტული დავალების შესრულებისთვის სჭირდება.

თუ აგენტმა მხოლოდ მონაცემები უნდა გააანალიზოს, შესაძლოა მხოლოდ წაკითხვის უფლება დასჭირდეს. თუ წერილის მონახაზი უნდა მოამზადოს, აუცილებელი არ არის წერილის ავტომატურად გაგზავნის უფლებაც ჰქონდეს.

იგივე ეხება ფინანსურ ოპერაციებს, მომხმარებლის ანგარიშის ცვლილებას, მონაცემების წაშლას, წარმოებაში კოდის გაშვებას და სხვა მოქმედებებს, რომლებმაც შეიძლება კომპანიას რეალური ზიანი მიაყენოს.

NIST-ის 2026 წლის დოკუმენტებში სწორედ ასეთი კითხვებია წამოჭრილი: როგორ უნდა განისაზღვროს AI აგენტის იდენტობა, როგორ უნდა მიიღოს მან კონკრეტული მოქმედების ავტორიზაცია, როგორ უნდა მოხდეს მისი მოქმედებების აღრიცხვა და როგორ უნდა დაუკავშირდეს აგენტის გადაწყვეტილება ადამიანის მიერ მინიჭებულ უფლებამოსილებას.

ყველა გადაწყვეტილება AI-ს არ უნდა გადავაბაროთ

ავტომატიზაციის მიზანი ადამიანის ყოველი პროცესიდან ამოღება არ უნდა იყოს.

ზოგი მოქმედება იმდენად დაბალი რისკისაა, რომ AI აგენტს შეუძლია დამოუკიდებლად შეასრულოს. მაგალითად, შეხვედრების ინფორმაციის შეჯამება, მონაცემების კლასიფიკაცია ან შიდა ანგარიშის მომზადება.

სხვა მოქმედებების შემთხვევაში ადამიანის დასტური საჭიროა.

მაგალითად, აგენტს შეუძლია მოამზადოს კონტრაქტის მონახაზი, მაგრამ საბოლოო ვერსიის გაგზავნას ადამიანი ადასტურებდეს. შეუძლია შესთავაზოს მომხმარებლისთვის თანხის დაბრუნება, მაგრამ გადახდის დაწყება ცალკე ავტორიზაციას მოითხოვდეს. შეუძლია იპოვოს ფაილები, რომლებიც შესაძლოა წასაშლელი იყოს, მაგრამ თავად წაშლის უფლება არ ჰქონდეს.

OWASP განსაკუთრებით მაღალი რისკის მოქმედებებისთვის გადაწყვეტილებისა და შესრულების ერთმანეთისგან გამიჯვნას და ადამიანის კონტროლის დამატებას ურჩევს.

კომპანიამ უნდა იცოდეს, რა გააკეთა AI აგენტმა

კიდევ ერთი მნიშვნელოვანი საკითხია მოქმედებების ისტორია.

თუ თანამშრომელმა CRM-ში კლიენტის მონაცემი შეცვალა, კომპანიას ხშირად შეუძლია ნახოს, ვინ გააკეთა ეს და როდის. იგივე შესაძლებლობა უნდა არსებობდეს AI აგენტისთვისაც.

ორგანიზაციამ უნდა შეძლოს პასუხის გაცემა რამდენიმე მარტივ კითხვაზე: რომელი აგენტი მუშაობდა, ვინ მისცა დავალება, რა ინფორმაციას მიუწვდებოდა ხელი, რომელი ინსტრუმენტი გამოიყენა, რა მოქმედება შეასრულა და საჭირო იყო თუ არა ადამიანის დასტური.

ასეთი ჩანაწერები მხოლოდ პრობლემის შემდეგ გამოსაკვლევად არ არის საჭირო. ისინი კომპანიას ეხმარება შეამჩნიოს შემთხვევები, როდესაც აგენტი მისთვის განსაზღვრულ ჩვეულებრივ ქცევას სცდება.

უსაფრთხოება არ ნიშნავს AI აგენტების გამოყენებაზე უარის თქმას

AI აგენტების გარშემო უსაფრთხოების საკითხების ზრდა არ ნიშნავს, რომ კომპანიებმა მათი დანერგვა უნდა შეაჩერონ.

პირიქით, მათი ღირებულება სწორედ იმაშია, რომ AI ტექსტის გენერატორიდან სამუშაო პროცესის მონაწილედ იქცევა. აგენტს შეუძლია სხვადასხვა სისტემაში გაფანტული ინფორმაციის მოძიება, განმეორებადი სამუშაოს ავტომატიზაცია და თანამშრომლებისთვის იმ პროცესების შემსუბუქება, რომლებზეც ყოველდღიურად დიდი დრო იხარჯება.

NIST 2026 წელს AI Agent Standards Initiative-საც სწორედ იმიტომ ავითარებს, რომ AI აგენტების ფართო გამოყენებას თან ახლდეს უსაფრთხოების, იდენტობისა და სისტემებთან ურთიერთქმედების უფრო მკაფიო სტანდარტები.

თუ გაინტერესებთ ხელოვნური ინტელექტის გამოყენების უფრო ფართო შესაძლებლობები კომპანიებში, IBN-ზე შეგიძლიათ წაიკითხოთ სტატია ხელოვნური ინტელექტი ბიზნესში: როგორ გამოვიყენოთ ის კონკურენტული უპირატესობისთვის?

რა უნდა შეამოწმოს ბიზნესმა AI აგენტის დანერგვამდე

AI აგენტის შეძენისას კომპანიამ მხოლოდ ის არ უნდა იკითხოს, რას აკეთებს პროგრამა. არანაკლებ მნიშვნელოვანია იმის ცოდნა, რა უფლებებს ითხოვს იგი.

უნდა იყოს გასაგები, რომელ სისტემებთან უკავშირდება აგენტი, რა მონაცემებს კითხულობს, შეუძლია თუ არა მათი შეცვლა, ინახავს თუ არა ინფორმაციას საკუთარ მეხსიერებაში, როგორ კონტროლდება მაღალი რისკის ოპერაციები და შესაძლებელია თუ არა მისი შესრულებული მოქმედებების მოგვიანებით გადამოწმება.

ასევე მნიშვნელოვანია უფლებების რეგულარული გადახედვა. აგენტს, რომელსაც ერთი კონკრეტული პროცესის ავტომატიზაციისთვის ვიყენებდით, რამდენიმე თვის შემდეგ შეიძლება სრულიად განსხვავებული ფუნქცია დაემატოს. ძველი და ახალი უფლებების დაგროვებამ კი დროთა განმავლობაში ზედმეტად ფართო წვდომა შექმნას.

ამიტომ AI აგენტის მართვა ერთჯერადი ტექნიკური დაყენება არ უნდა იყოს. ის იმავე ყურადღებას მოითხოვს, რასაც კომპანია თანამშრომლების წვდომებს, ფინანსურ უფლებამოსილებებსა და მონაცემთა უსაფრთხოებას უთმობს.

საბოლოოდ, კითხვა არაა მხოლოდ რას შეუძლია AI-ს

AI აგენტების განვითარებასთან ერთად ბიზნესი სულ უფრო ხშირად შეძლებს ისეთი სამუშაოს ავტომატიზაციას, რომლისთვისაც აქამდე რამდენიმე პროგრამა და ადამიანის ჩართულობა იყო საჭირო.

მაგრამ რაც უფრო მეტ მოქმედებას ვანდობთ AI-ს, მით უფრო მნიშვნელოვანი ხდება მეორე კითხვა: რის გაკეთების უფლება მივეცით მას?

კომპანიისთვის ძლიერი AI აგენტი ის არ არის, რომელსაც ყველაფერზე აქვს წვდომა. ძლიერი სისტემა ის არის, რომელსაც ზუსტად იმდენი ინფორმაცია და უფლებამოსილება აქვს, რამდენიც საკუთარი სამუშაოს სწორად შესასრულებლად სჭირდება.

AI-ის შემდეგი ეტაპი მხოლოდ უფრო ჭკვიანი მოდელები არ იქნება. ბიზნესისთვის არანაკლებ მნიშვნელოვანი გახდება მათი მართვა, კონტროლი და პასუხისმგებლობის მკაფიო საზღვრების შექმნა.