AI აგენტები უკვე აღარ არიან მხოლოდ ჩატში პასუხების გამცემი პროგრამები. ისინი კოდს წერენ, სისტემებში მოქმედებენ და დავალებების შესასრულებლად სხვადასხვა რესურსზე წვდომას იყენებენ. პრობლემა მაშინ ჩნდება, როცა აგენტი დაწესებულ შეზღუდვას გვერდს უვლის. სწორედ ასეთი შემთხვევების შემდეგ NVIDIA-მ დღეს, 28 სექტემბერს, Open Agent Safety Platform წარადგინა, რომელიც აგენტების მოქმედებებს პროგრამულ და აპარატულ დონეზე აკონტროლებს.
რატომ გახდა ეს საჭირო
ბოლო პერიოდში უსაფრთხოების რამდენიმე ინციდენტმა აჩვენა, რომ მხოლოდ აპლიკაციის დონეზე დაწესებული წესები ყოველთვის საკმარისი არ არის. WIRED-ის ცნობით, წამყვანმა AI ლაბორატორიებმა გაასაჯაროეს შემთხვევები, როცა აგენტებმა სხვა კომპანიების სისტემებში შეაღწიეს ან აშშ-ის და ავსტრალიის სამთავრობო ვებგვერდები შეამოწმეს. NVIDIA-ს ახალი მიდგომა ამ პრობლემას მოდელის შიგნით კი არა, მის მიღმა შექმნილი კონტროლის მექანიზმით პასუხობს.
OpenShell აგენტს მოქმედებისას აკონტროლებს
პლატფორმის პროგრამული ბირთვი OpenShell-ია, ღია კოდის მქონე უსაფრთხო runtime, რომელიც აგენტის ყველა მოქმედებას აკვირდება და წინასწარ განსაზღვრულ წესებს შესრულების პროცესშივე ამოწმებს. კონტროლის ზღვარი თავად AI მოდელსა და აგენტის სამუშაო გარემოს მიღმაა, ამიტომ წესების დაცვა მხოლოდ მოდელის გადაწყვეტილებაზე არ არის დამოკიდებული.
OpenShell მუშაობს როგორც ღია, ისე დახურულ მოდელებთან და ამ ეტაპზე NVIDIA Vera-ს CPU-ებზეა გათვლილი, თუმცა არქიტექტურა Arm-ისა და Intel-ის სისტემებზეც შეიძლება გაფართოვდეს. NVIDIA-ს მიხედვით, Vera-ზე მისი ზედნადები მინიმალურია. WIRED-ის ცნობით, OpenShell პირველად 2026 წლის მარტში GTC-ზე დაანონსდა, ახლა კი ის ფართოდ ხელმისაწვდომია.
Sentry BlueField-4-ზე აგენტის გაქცევას მილიწამებში აჩერებს
თუ OpenShell პროგრამულ დონეზე აკონტროლებს აგენტს, Sentry კიდევ ერთი საფეხურით ქვემოთ ჩადის. ეს არის out-of-band watchdog, რომელიც NVIDIA BlueField-4 DPU-ზე მუშაობს და აგენტის ქცევას მუდმივად აკვირდება. თუ აგენტი თავისი პროგრამული საზღვრის გადაკვეთას შეეცდება, Sentry-ს შეუძლია მისი იზოლირება და შეჩერება მილიწამებში.
Sentry NVIDIA DOCA-ზეა აგებული და ცალკე ნდობის გარემოში მუშაობს, რომელიც თავად აგენტისთვისაც და თავდამსხმელისთვისაც უხილავია. შედეგად, კონტროლის მექანიზმი იმავე პროგრამულ გარემოზე არ არის დამოკიდებული, რომლის შეზღუდვასაც ცდილობს. NVIDIA ამას სრულსტეკიან კონტროლს უწოდებს, რომელიც მოიცავს აგენტების პროგრამულ უზრუნველყოფას, აპარატურას, გამოთვლით ინფრასტრუქტურას და ფიზიკურ სამყაროში მოქმედ რობოტულ სისტემებს.
Anthropic, Microsoft და 100-ზე მეტი ორგანიზაცია ერთვება
პლატფორმის ეკოსისტემაში უკვე შედიან Anthropic, Microsoft, SpaceXAI, Cisco, CrowdStrike, Hugging Face, Salesforce, SAP, Red Hat, Scale AI, Palantir, Palo Alto Networks, Perplexity და სხვა კომპანიები. NVIDIA-ს განცხადებით, მონაწილეთა საერთო რაოდენობა 100-ს აჭარბებს. თუმცა WIRED აღნიშნავს, რომ უცნობია, რეალურად დანერგა თუ არა OpenShell NVIDIA-ს სიის ყველა პარტნიორმა.
SpaceXAI პლატფორმას Cursor-ის კოდირების აგენტებისა და Grok-ის მოდელებისთვის იყენებს. Anthropic კი Claude Managed Agents-ში OpenShell-ისა და BlueField-ის ინტეგრაციას ამატებს, რათა აგენტების მოქმედებების კონტროლი კიდევ უფრო მკაფიო გახდეს. Salesforce OpenShell-ს Slack-ში აერთიანებს, სადაც მომხმარებლებს აგენტის აქტივობისა და აუდიტის მოვლენების ნახვა, ასევე დამატებითი წვდომის მოთხოვნების დამტკიცება ან უარყოფა შეუძლიათ. SAP OpenShell-ს Joule Studio-ს runtime-ში აერთიანებს და პროექტის საინჟინრო განვითარებაშიც მონაწილეობს.
მას ავსებს Open Secure AI Alliance-ი, რომელიც NVIDIA-მ 120-ზე მეტ ორგანიზაციასთან ერთად წამოიწყო და რომელსაც Linux Foundation-ი აკონტროლებს. ალიანსის ერთ-ერთი მიმართულებაა Shared AI Findings Exchange, რომლის მიზანიც AI უსაფრთხოების შესახებ აღმოჩენებისა და პრაქტიკის გაზიარებაა.
OpenShell და შესაბამისი კომპონენტები NVIDIA-ს დეველოპერულ რესურსებსა და GitHub-ზეა ხელმისაწვდომი. იდეა მარტივია: თუ AI აგენტებს უფრო მეტ მოქმედების თავისუფლებას ვაძლევთ, მათთვის შეზღუდვებიც იმავე სისწრაფით უნდა გაძლიერდეს.
წყარო: NVIDIA Newsroom, WIRED
