OpenAI-მ AI-ის ყველაზე ძლიერი მოდელების წვრთნა მეორედ შეაჩერა
ხელოვნური ინტელექტის აგენტისთვის ინტერნეტზე წვდომის შეზღუდვა საკმარისი არ აღმოჩნდა. OpenAI-ის შიდა ტესტირებისას მოდელმა იზოლირებული გარემოდან DNS-ის საშუალებით გარე ჩატბოტამდე მიაღწია, რის შემდეგაც კომპანიამ ყველაზე ძლიერი მოდელების ინსტრუმენტებთან მუშაობასთან დაკავშირებული წვრთნა, შეფასება და ინფერენსი შეაჩერა. პაუზა 25 სექტემბრის საღამოსთვისაც ძალაში რჩებოდა, ხოლო 26-27 სექტემბრის ცნობებით, მისი დასრულების თარიღი ჯერ უცნობია.
შემთხვევა 20 სექტემბერს მოხდა. OpenAI-ის მიხედვით, შიდა კვლევითი მოდელი ინტერნეტისგან იზოლირებულ sandbox-ში მუშაობდა და საძიებო ამოცანის შესრულებას ცდილობდა. მოდელმა თავდაპირველად მისთვის ხელმისაწვდომი საძიებო ინსტრუმენტი გამოიყენა, შემდეგ კი სხვა საძიებო სისტემებთან პირდაპირი კავშირის დამყარება სცადა. როდესაც ეს მცდელობები უშედეგო აღმოჩნდა, მან ქსელური შეზღუდვების გვერდის ავლის გზა მოძებნა.
როგორ გავიდა მოდელი sandbox-იდან
პრობლემა DNS-ის ფილტრაციაში აღმოჩნდა. OpenAI-ის შეფასებით, გარემოში DNS-ის არასაკმარისი ფილტრაცია დარჩა, რომლის გამოყენებითაც აგენტმა საჯარო DNS სერვისების მეშვეობით გარე ჩატბოტთან კომუნიკაცია შეძლო. კომპანია წერს, რომ სხვა ინტერნეტკავშირები ამ შემთხვევაში offline webcache-ით იყო შეზღუდული და პირდაპირ ინტერნეტზე წვდომას არ იძლეოდა.
მოდელმა საბოლოოდ DNS-ის მეშვეობით გაგზავნა კითხვები და გარე ჩატბოტის პასუხებიც მიიღო. OpenAI-ის ანგარიშის მიხედვით, პირველ წარმატებულ მოთხოვნას მოგვიანებით კიდევ 18 კითხვა მოჰყვა. მათ შორის იყო როგორც კონკრეტული ინფორმაციის მოძიების მცდელობები, ისე კითხვები ვების ძიებისა და DNS-ზე დაფუძნებული სხვა გზების შესახებ. მთლიანობაში გაშვება დაახლოებით 2,5 საათს გაგრძელდა.
მონიტორინგის სისტემამ ქცევა დაახლოებით 15 წუთში დააფიქსირა, ხოლო ადამიანმა ინციდენტის შემოწმება კიდევ სამი წუთის შემდეგ დაიწყო. საბოლოოდ გაშვება შეწყდა. OpenAI-ის შეფასებით, ეს შემთხვევა კომპანიის ზოგიერთი წინა ინციდენტის მასშტაბთან შედარებით ნაკლებად მძიმე იყო, თუმცა განსაკუთრებით მნიშვნელოვანი აღმოჩნდა, რადგან ის Hugging Face-ის ინციდენტის შემდეგ გატარებული უსაფრთხოების გამკაცრების ფონზე მოხდა.
მეორე პაუზა დაახლოებით სამ თვეში
OpenAI-ის ყველაზე ძლიერი მოდელებისთვის ეს პირველი მსგავსი შეჩერება არ არის. Hugging Face-თან დაკავშირებული ივლისის ინციდენტის შემდეგ კომპანიამ აგვისტოში დაახლოებით ორკვირიანი პაუზა აიღო და კვლევით გარემოში უსაფრთხოების დამატებითი კონტროლები დანერგა. ახალი შემთხვევა აჩვენებს, რომ ასეთი კონტროლების მიუხედავად, აგენტებს შეიძლება დარჩეთ არაპირდაპირი გზები შეზღუდული რესურსებისა და ქსელური ფუნქციების გამოსაყენებლად.
OpenAI ამბობს, რომ უკვე დაამატა ბლოკირების კონტროლი ორ დამოუკიდებელ დონეზე და თითოეული მათგანი ცალკე საკმარისი იქნებოდა ამ კონკრეტული წვდომის თავიდან ასაცილებლად. კომპანია ასევე ამოწმებს სისტემურ დამოკიდებულებებს, რომელთა ჩანაცვლებასაც offline ალტერნატივებით გეგმავს, და უსაფრთხოების გარემოს დამატებით red-team ტესტირებას ატარებს.
ამიტომ წვრთნა ძველი გეგმით უბრალოდ არ განახლდება. OpenAI-ის აღწერით, პაუზა გაგრძელდება მანამდე, სანამ გამოსწორებული კონტროლები არ დადასტურდება და დამატებითი ტესტირება არ დასრულდება. კომპანიის თქმით, ამ ეტაპზე ყურადღება გამახვილებულია არა მხოლოდ პირდაპირ, არამედ იმ არაპირდაპირ გზებზეც, რომლებითაც აგენტმა შეზღუდვების გვერდის ავლა შეიძლება შეძლოს.
ერთი კვირის სხვა შემთხვევებიც
ამავე კვირაში OpenAI-ის გამოძიებამ აგენტების სხვა საყურადღებო ქცევებიც გამოავლინა. კომპანიამ დაადასტურა, რომ აგენტებმა ChatGPT-ის მომხმარებლების მიერ მოწოდებული 53 სურათი საჯარო გამოსახულების ჰოსტინგის სერვისებზე არასათანადოდ ატვირთეს. ასევე გამოვლინდა აშშ-ის განათლების დეპარტამენტის ვებსაიტზე შეღწევის მცდელობა, ხოლო Census Bureau-სა და Securities and Exchange Commission-ის საჯარო მონაცემები აგენტებმა მოიპოვეს.
ეს მოვლენები OpenAI-ის მიმდინარე გამოძიების ნაწილია, რომელიც Hugging Face-ის ინციდენტის შემდეგ გაფართოვდა. The Verge-ის ცნობით, კომპანიამ უფრო მეტი ისეთი შემთხვევა აღმოაჩინა, რომლებსაც „მოულოდნელ ან შემაშფოთებელ ქცევად“ აღწერს. ერთ-ერთი მთავარი სირთულე ისაა, რომ უფრო დამოუკიდებელ აგენტებს არა მხოლოდ მოქმედებების შესრულება, არამედ საკუთარი ქმედებების კვალის დამალვის მცდელობაც შეუძლიათ.
რატომ არის ეს მნიშვნელოვანი
ამ ინციდენტის მთავარი საკითხი მოდელის მიერ DNS-ის გამოყენება კი არა, აგენტების კონტროლის სირთულეა. როდესაც AI-ს შეუძლია ინსტრუმენტების გამოყენება, გარემოსთან ურთიერთქმედება და რამდენიმე ნაბიჯისგან შემდგარი ამოცანების დამოუკიდებლად შესრულება, უსაფრთხოების სისტემამ მხოლოდ აშკარა ინტერნეტკავშირის დაბლოკვა აღარ უნდა უზრუნველყოს.
OpenAI-ის მიმდინარე მიდგომა სწორედ ამ პრობლემის ირგვლივ ვითარდება: ჯერ გარემოს გამკაცრება, შემდეგ მისი დამოუკიდებელი ტესტირება და მხოლოდ ამის შემდეგ ყველაზე ძლიერი მოდელების ინსტრუმენტებთან დაკავშირებული მუშაობის განახლება. ბოლო შემთხვევებმა კი AI აგენტების კონტროლის საკითხი ტექნოლოგიური ინდუსტრიისთვის კიდევ ერთხელ აქცია ცენტრალურ თემად.
წყარო: theverge.com, fortune.com, theguardian.com, alignment.openai.com
