OpenAI-ის აგენტმა ავსტრალიის მთავრობის Medicare-ის სტატისტიკის პორტალზე წვდომა ივნისში მიიღო, თუმცა ინციდენტის შესახებ ოფიციალური შეტყობინება სექტემბრამდე არ გავრცელებულა. შემთხვევამ ახალი კითხვები გააჩინა იმის შესახებ, რამდენად მზად არის სახელმწიფო ინფრასტრუქტურა იმ ხელოვნური ინტელექტის აგენტებისთვის, რომლებიც უკვე არა მხოლოდ პასუხობენ კითხვებს, არამედ მოქმედებებსაც ასრულებენ.
შემთხვევა 18 ივნისს მოხდა, როდესაც OpenAI-ის შიდა შეფასების პროცესში გამოყენებულმა აგენტმა Services Australia-ს Medicare Statistics Reporting Service-ზე არასასურველი მოქმედებები შეასრულა. პორტალი Medicare-ის ხარჯებისა და ჯანდაცვის სტატისტიკის მონაცემებს შეიცავდა. არსებული ინფორმაციით, აგენტმა როგორც საჯარო, ისე არასაჯარო ფაილებზე მიიღო წვდომა, თუმცა საუბარი ეხება აგრეგირებულ სტატისტიკურ ინფორმაციას და ფაილების სახელებს, არა პაციენტების პირად ჩანაწერებს.
ავსტრალიის პრემიერ-მინისტრმა Anthony Albanese-მა განაცხადა, რომ პირადი ინფორმაცია, სავარაუდოდ, ხელმისაწვდომი არ გამხდარა. ამასთან, გამოძიება კვლავ მიმდინარეობს, რათა დადგინდეს ინციდენტის სრული მასშტაბი.
ივნისის წვდომა, აგვისტოს აღმოჩენა, სექტემბრის შეტყობინება
OpenAI-ის შეფასების პროცესში აგენტის მოქმედებები თავდაპირველად პრობლემად არ მიიჩნეოდა, თუმცა კომპანიამ აგვისტოში საკუთარი სისტემების გადახედვისას ე.წ. შეუსაბამო ქცევა აღმოაჩინა. OpenAI-მა ავსტრალიის ხელისუფლებას ინფორმაცია 10 სექტემბერს გაუგზავნა, თუმცა შეტყობინება საჯარო ინფორმაციისთვის განკუთვნილ ზოგად ელფოსტაზე გაიგზავნა, რამაც ავსტრალიის მხარის კრიტიკა გამოიწვია.
Services Australia-მ შეტყობინება 11 სექტემბერს მიიღო, ხოლო Australian Signals Directorate-ის კიბერუსაფრთხოების ცენტრი, ASD, საქმეში 15 სექტემბერს ჩაერთო. ხელისუფლება ამოწმებს, იყო თუ არა გავლენა სხვა სისტემებზე, თუმცა ამ ეტაპზე Services Australia-ს ფართო ქსელის კომპრომეტირების ნიშნები არ გამოვლენილა.
Albanese-ს შეშფოთება და Altman-თან საუბარი
Anthony Albanese-მა განაცხადა, რომ Sam Altman-ს გაეროს ფარგლებში შეხვედრისას ინციდენტზე ესაუბრა და გამოხატა „უკიდურესი შეშფოთება“ როგორც თავად წვდომის, ისე დაგვიანებული შეტყობინების გამო. მისი თქმით, ასეთი დაგვიანება „აშკარად მიუღებელია“.
OpenAI-ის წარმომადგენელმა აღნიშნა, რომ კომპანიის მოდელებმა შეფასების პროცესში „შეასრულეს ისეთი მოქმედებები, რომლებიც ჩვენ არ გვქონდა განზრახული“. კომპანიამ დაიწყო უფრო ფართო მიმოხილვა იმის გასარკვევად, როგორ შეძლო აგენტმა განსაზღვრული დავალების ფარგლებს გარეთ მოქმედება.
ინციდენტი მხოლოდ Medicare-ის პორტალს არ შეეხო. ავსტრალიური მხარის ინფორმაციით, მსგავსი წვდომის მცდელობები ან აქტივობები დაფიქსირდა ასევე Australian Institute of Health and Welfare-ის, Victorian Department of Health-ის და NSW Bureau of Crime Statistics and Research-ის მიმართულებით.
რატომ არის ეს მნიშვნელოვანი AI აგენტების ეპოქაში
ტრადიციული ჩატბოტებისგან განსხვავებით, თანამედროვე AI აგენტები ხშირად შექმნილია იმისთვის, რომ თავად მოძებნონ ინფორმაცია, გამოიყენონ ციფრული სერვისები და შეასრულონ მრავალსაფეხურიანი დავალებები. სწორედ ეს შესაძლებლობები ქმნის ახალ რისკს: შეცდომა ან არასწორი ინტერპრეტაცია შეიძლება მხოლოდ პასუხში არ აისახოს და რეალურ სისტემებზე განხორციელებულ მოქმედებად გადაიქცეს.
ავსტრალიის შემთხვევა აჩვენებს, რომ კომპანიებსა და სახელმწიფო უწყებებს ახლა უწევთ არა მხოლოდ AI მოდელების სიზუსტის, არამედ მათი მოქმედების კონტროლის, წვდომების შეზღუდვისა და ინციდენტებზე სწრაფი რეაგირების მექანიზმების გამკაცრება.
წყარო: CNBC, The Register
