კვლევა არ ასახელებს გატეხილ კომპანიებს, თუმცა აჩვენებს, რომ კონფიდენციალურობის ჩართული პარამეტრებიც კი ყოველთვის არ გიცავთ.
კიბერუსაფრთხოების კომპანია Dragos-ის კვლევითმა დირექტორმა, HD Moore-მა, ხელოვნური ინტელექტის სერვისებში თითქმის 2 მილიონი სატყუარა შეტყობინება გაგზავნა, რათა შეემოწმებინა, სად იკარგება მომხმარებლების მიმოწერა. როგორც გამოცემა Ars Technica იუწყება, ექსპერიმენტმა სულ მცირე სამი გატეხილი ჰოსტინგ-პროვაიდერი, მონაცემების შემგროვებელი გადამყიდველები და კონფიდენციალურობის წესების დამრღვევი სერვისები გამოააშკარავა.
დღეს ბევრი აპლიკაცია თქვენს შეკითხვებს პირდაპირ მოდელის შემქმნელს არ უგზავნის. ისინი იყენებენ ეგრეთ წოდებულ AI-როუტერებს, ანუ შუამავალ გამანაწილებლებს, როგორებიცაა OpenRouter და Vercel. ასეთი შუამავალი თქვენს ტექსტს იმ პროვაიდერთან ამისამართებს, რომელიც იმ წამს ყველაზე იაფი ან სწრაფია. გზად შეტყობინება იშიფრება და ყველა რგოლისთვის ხილული ხდება, რის გამოც ნებისმიერ მათგანს შეუძლია ტექსტის შენახვა.
როგორ მუშაობდა ხაფანგი
მკვლევარმა შექმნა სრულიად ახალი, მანამდე გამოუყენებელი საიდუმლო მონაცემები, ეგრეთ წოდებული სატყუარები. მათ შორის იყო ცარიელ ანგარიშებზე მიბმული Amazon Web Services-ის მოქმედი გასაღებები, სერვერთან დაკავშირების SSH-პაროლები, უნიკალური ვებმისამართები, DNS-სახელები და კერძო git-საცავების ბმულები. თითოეული ასეთი დეტალი მხოლოდ ერთ კონკრეტულ შეტყობინებაში ჩაიდო. თუ ვინმე ამ გასაღებს გამოიყენებდა, მკვლევარი ზუსტად იგებდა, რომელი პროვაიდერიდან გაჟონა ინფორმაციამ.
„ჩვენ AI-პროვაიდერებს გავუგზავნეთ თითქმის ორი მილიონი შეტყობინება უნიკალური, მიკვლევადი საიდუმლოებებით და შემდეგ ვაკვირდებოდით, სად ამოტივტივდებოდა ეს მონაცემები“, განმარტავს HD Moore.
შედეგები მძიმე აღმოჩნდა. სამი ჰოსტინგ-პროვაიდერი პირდაპირ ჰაკერების მიერ იყო გატეხილი. ერთ-ერთ მათგანში თავდამსხმელებმა რამდენიმე ასეული სატყუარა AWS-გასაღები მიითვისეს. ოქტომბრის ბოლოს, დროის გარკვეულ მონაკვეთებში, იქ გაგზავნილი აბსოლუტურად ყველა მოთხოვნა მოიპარეს, მათ შორის ისეთებიც, რომლებიც სისტემამ მოდელის ჩართვამდე უარყო. დანარჩენ ორ გატეხილ პროვაიდერთან მოპარულ შეტყობინებებს ჩართული ჰქონდა ZDR-რეჟიმი, რაც მონაცემების ნულოვან შენახვასა და მიმოწერის დაუყოვნებლივ წაშლას გულისხმობს.
ჰაკერები მოპარულ გასაღებებს ზოგჯერ რამდენიმე საათშივე ამოწმებდნენ. ისინი საცავებში სხვა პაროლებს ეძებდნენ, AWS Bedrock-ში ხელოვნური ინტელექტის მოდელების ჩართვას ცდილობდნენ და სისტემაში საკუთარ მომხმარებლებს ამატებდნენ. სატყუარა გასაღებები ათობით ათასჯერ გამოიყენეს. ორი სხვადასხვა პროვაიდერიდან მოპარული მონაცემები ერთი და იმავე ნაქირავები სერვერიდან ფიქსირდებოდა, რაც ერთ კონკრეტულ თავდამსხმელზე მიუთითებს. გარდა ამისა, ზოგიერთმა იაფფასიანმა გადამყიდველმა თავად ჩართო მოთხოვნების ჩაწერა, იქ მოხვედრილი საიდუმლოებები კი მოგვიანებით ბოროტად გამოიყენეს.
ვინ კითხულობს დაცულ მიმოწერას
კიდევ ერთი აღმოჩენა ერთ ანონიმურ ჩინურ AI-ლაბორატორიას უკავშირდება. ივლისიდან ოქტომბრამდე მის მოდელებთან გაგზავნილი საიდუმლო ვებმისამართების ნახევარზე მეტი თავად ამ სერვისმა გახსნა და შეამოწმა. რამდენად დაცული იყო ის შეტყობინებები, რომლებშიც მონაცემთა შეგროვება საგანგებოდ იყო აკრძალული? სისტემამ ასეთი ZDR-მონიშნული მისამართების დაახლოებით ორი მესამედი მაინც დაათვალიერა. იგივე განმეორდა მაშინაც, როცა ამ ჩინურ მოდელებს ამერიკული ჰოსტინგები ყიდდნენ. ერთმა ამერიკულმა პროვაიდერმა კი საიდუმლო ბმული ერთადერთი მოთხოვნის გაგზავნიდან ორი თვის შემდეგ გახსნა.
როგორ უნდა დაიცვათ თავი, თუ სამსახურებრივ ან პირად ინფორმაციას ჩატბოტებს ანდობთ? HD Moore-ის თქმით, ყველაზე უსაფრთხო გზა მოდელების საკუთარ სერვერებზე გაშვებაა. თუ ეს შეუძლებელია, სჯობს, მომსახურება პირდაპირ მთავარი პროვაიდერისგან იყიდოთ ერთი მკაფიო კონტრაქტითა და კონფიდენციალურობის პოლიტიკით, ხოლო შუამავლების გამოყენებისას თავად აირჩიოთ სანდო მომწოდებლები და არ დაეყრდნოთ გადამყიდველების სტანდარტულ, იაფ სიებს.
| გაგზავნილი სატყუარა შეტყობინებები | თითქმის 2 მილიონი |
| გატეხილი ჰოსტინგ-პროვაიდერები | 3 |
| ერთ პროვაიდერთან მოპარული AWS-გასაღებები | რამდენიმე ასეული |
| სატყუარა გასაღებების გამოყენების რაოდენობა | ათობით ათასი |
| ჩინური ლაბორატორიის მიერ გახსნილი ბმულები | ნახევარზე მეტი |
| გახსნილი ZDR-დაცული ბმულების წილი | დაახლოებით ორი მესამედი |
| დაკვირვების პერიოდი ჩინურ ლაბორატორიაზე | ივლისიდან ოქტომბრამდე |
ეს სტატია შეიქმნა AI ხელსაწყოებით, პროცესში ადამიანის ჩართულობა დაახლოებით 10%-ია.

