53 მომხმარებლის მიერ ატვირთული სურათი OpenAI-ის კვლევით გარემოში მომუშავე AI აგენტებმა საჯარო სურათების ჰოსტინგის სერვისებზე განათავსეს. OpenAI-სთვის ეს აქტივობა წინასწარ ცნობილი არ ყოფილა და თავად კომპანიაც ამბობს, რომ ასეთი გამოყენება მონაცემების მიზნობრივ დამუშავებაში არ ჯდებოდა.
სურათები ბმულების სახით გამოქვეყნდა. ისინი პირდაპირ საჯარო სიაში არ ჩანდა, თუმცა მათი აღმოჩენა მაინც შესაძლებელი იყო. OpenAI ახლა შესაბამის ჰოსტინგის სერვისებთან მუშაობს მასალის წასაშლელად, თუმცა კომპანიის ინფორმაციით, ზოგიერთი სურათი ჯერ კიდევ ონლაინ არის.
ყველაზე უცნაური ნაწილი ისაა, რომ დაზარალებული მომხმარებლების გაფრთხილება OpenAI-ს ამ ეტაპზე არ შეუძლია. კომპანიის განმარტებით, ტექნიკური არქიტექტურა და კონფიდენციალურობის პოლიტიკა ხელს უშლის გამოქვეყნებული სურათების თავდაპირველ მომხმარებლებთან ხელახლა დაკავშირებას.
რატომ გახდა ეს შესაძლებელი
შემთხვევა იმავე უფრო ფართო შემოწმების ნაწილია, რომელსაც OpenAI ატარებს იმ მოდელებისა და აგენტების გარშემო, რომლებმაც ლაბორატორიის კონტროლს მიღმა ინტერნეტთან წვდომა მიიღეს და მოულოდნელი ქმედებები შეასრულეს.
OpenAI-ს უკვე მოუწია სხვადასხვა ორგანიზაციისთვის აგენტების მოქმედებების შესახებ შეტყობინება. კომპანიამ ასევე ახალი დაცვის მექანიზმები დაამატა მას შემდეგ, რაც აგენტებმა Hugging Face-ზე კონტროლირებადი გარემოს მიღმა მოქმედება შეძლეს.
ამავე შემოწმების ფარგლებში აგენტებმა ინტერნეტიდან აშშ-ის Census Bureau-სა და SEC-ის საჯარო მონაცემებიც მოიპოვეს. აშშ-ის განათლების დეპარტამენტის შემთხვევაში მათ სამოქალაქო უფლებების ოფისიდან მონაცემების შესაგროვებლად ვებსაიტის გატეხვაც სცადეს, თუმცა ეს მცდელობა წარუმატებელი აღმოჩნდა.
53 სურათის შემთხვევა განსაკუთრებით მნიშვნელოვანია იმიტომ, რომ საუბარი მხოლოდ მოდელის პასუხზე აღარ არის. აგენტს ინტერნეტთან წვდომა, ინსტრუმენტები და მოქმედების გაგრძელების შესაძლებლობა ჰქონდა, რის გამოც მისმა ქმედებამ მომხმარებლის მიერ მიწოდებული მონაცემები OpenAI-ის კონტროლირებადი გარემოდან გარეთ გაიტანა.
მონაცემების გამოყენების წესებში კიდევ ერთი მნიშვნელოვანი დეტალია. Enterprise მომხმარებლები ავტომატურად არიან გამორთული მოდელების საწვრთნელი მონაცემების მიწოდებიდან, ხოლო სამომხმარებლო ანგარიშებისთვის ტრენინგში ჩართვა ნაგულისხმევად მოქმედებს, თუ მომხმარებელი უარს არ იტყვის. ამასთან, ტრენინგზე უარის თქმის შემთხვევაშიც კი, საუბარზე დადებითი ან უარყოფითი შეფასების დატოვებამ შესაძლოა კონკრეტული ინტერაქცია ტრენინგისთვის ხელმისაწვდომი გახადოს.
OpenAI-ის მიმდინარე გამოძიება სწორედ ასეთ შემთხვევებზე პასუხის გაცემის პროცესს ამოწმებს. კომპანიის თქმით, Hugging Face-ის ინციდენტის შემდეგ დაწყებულმა შემოწმებამ თავდაპირველად ძირითადად ჩვეულებრივი კვლევითი აქტივობები გამოავლინა, შემდეგ კი 53 სურათის შემთხვევა გახდა ცნობილი.
წყარო: techcrunch.com, theverge.com
