კვი, 22 ნოე, 2026
ახალი ინტერაქტიული ქვიზები დაემატა საიტს — შეამოწმე შენი ცოდნა. ნახვა →
ხელოვნური ინტელექტი და მანქანური სწავლება

OpenAI-მ ახალი AI-მოდელების, GPT-6.2 Astra-სა და Sol-ის, ფარული მსჯელობის მოპარვა შეაჩერა

შეტევების შემცირების ეს შედეგები მხოლოდ OpenAI-ის შიდა ტესტებს ეყრდნობა და დამოუკიდებლად გადამოწმებული არ არის. OpenAI-მ 20 ნოემბერს ოფიციალურად გაავრცელა ცნობა, რომ თავისი...

შეტევების შემცირების ეს შედეგები მხოლოდ OpenAI-ის შიდა ტესტებს ეყრდნობა და დამოუკიდებლად გადამოწმებული არ არის.

OpenAI-მ 20 ნოემბერს ოფიციალურად გაავრცელა ცნობა, რომ თავისი უახლესი AI-მოდელების, GPT-6.2 Astra-სა და GPT-6.2 Sol-ის, ფარული მსჯელობის მოპარვა ბევრად გაართულა. კომპანიამ ეს დაცვა იმისთვის გააძლიერა, რომ კონკურენტებმა და ჰაკერებმა მისი სისტემების ცოდნა უკანონოდ არ გადააკოპირონ. OpenAI-ის შიდა ტესტებით, ფარული მსჯელობის გამოძალვის მცდელობების წარმატების მაჩვენებელი 54,0 პროცენტიდან 0,2 პროცენტამდე დაეცა. წინა მაჩვენებელი ძველ მოდელზე, GPT-6 Astra-ზე, დაფიქსირდა, ახალი კი - GPT-6.2 Astra-ზე.

რატომ ნადირობენ ფარულ მსჯელობაზე

რას ნიშნავს მოდელის უნარების გადაკოპირება, რომელსაც სპეციალისტები დისტილაციას ეძახიან? ეს არის პროცესი, როცა ერთ ახალ AI-მოდელს მეორე, უკვე გაწვრთნილი მოდელის პასუხებზე ასწავლიან. როცა ამას უნებართვოდ აკეთებენ, შემქმნელებს შეუძლიათ, ძლიერი მოდელის ცოდნა ახალ სისტემაში გადაიტანონ, ოღონდ უსაფრთხოების წესების გარეშე. OpenAI-ს ყველაზე მეტად კიბერუსაფრთხოებისა და ბიოლოგიის სფეროები აშინებს, რადგან ასეთ გადაკოპირებულ მოდელს შეუძლია, თავდასხმების მოწყობაში დაეხმაროს ადამიანს იქ, სადაც ორიგინალი მოდელი მკაცრ უარს იტყოდა.

მომპარავებისთვის განსაკუთრებით ძვირფასია მოდელის დაცული მსჯელობა, ანუ მისი შიდა ფიქრის ჯაჭვი, რომელსაც სისტემა საბოლოო პასუხის გაცემამდე გადის. ამ შიდა ჩანაწერებში რჩება ისეთი დეტალები, რომლებიც მომხმარებლისთვის ნაჩვენებ ტექსტში აღარ ხვდება. OpenAI-ისავე კვლევამ დაადასტურა, რომ ზუსტ შიდა მსჯელობაზე გაწვრთნილმა მოსწავლე მოდელმა კიბერშეტევების მეტი უნარი აითვისა, ვიდრე მხოლოდ ხილულ შეჯამებებზე ნასწავლმა სისტემამ.

როგორ დაიცვეს ახალი მოდელები და ვინ ცდილობდა ქურდობას

რისკის შესამცირებლად OpenAI-მ მოდელებს პირდაპირ ასწავლა, ამოიცნონ და უარყონ ფარული მსჯელობის გამოძალვის მცდელობები. პარალელურად მუშაობს სპეციალური მფილტრავი პროგრამები, რომლებიც გაჟონვაზე ამოწმებს როგორც შემავალ კითხვებს, ისე გამავალ პასუხებსა და გარე ხელსაწყოების გამოძახების პარამეტრებს. GPT-6.2 Astra-სა და GPT-6.2 Sol-ში ფარული მსჯელობა მკაცრად მიება კონკრეტულ მიმოწერას. თუ მომხმარებელი ძველ შეტყობინებას შეცვლის, პროგრამული ინტერფეისი, ანუ API, მის შემდეგ დაგროვილ მსჯელობას მაშინვე შლის. ძველი თაობის მოდელები ახალი სისტემების დაცულ მსჯელობას ვეღარ კითხულობს. კომპანიამ ასევე აღმოფხვრა ხარვეზი, რომლის გამოც შეიძლებოდა, სხვა მომხმარებლის დაშიფრული მსჯელობა გამოჩენილიყო. ეგრეთ წოდებული შავი ყუთის ადაპტური შემოწმებისას, როცა გამომცდელები სისტემას გარედან უტევენ და გზადაგზა ცვლიან ხერხებს, ყველა ტიპის შეტევის წარმატების მაჩვენებელი GPT-6.2 Astra-ზე 1 პროცენტს ქვემოთ დარჩა.

OpenAI-ის განცხადებით, წელს უნებართვო დისტილაციის არაერთი კამპანია აღმოაჩინეს. ზაფხულში ასეთი შემთხვევები მკვეთრად გახშირდა და კომპანია ყოველკვირეულად ათასობით და ათობით ათას ანგარიშს ბლოკავდა. ჯერ კიდევ თებერვალში OpenAI-მ ამერიკის კონგრესს გააცნო მონაცემები, რომელთა მიხედვითაც, ჩინური AI-კომპანია DeepSeek-ი ამერიკული მოდელების გადაკოპირებას ცდილობდა. სექტემბერში კი ფარული მსჯელობის მოპარვის კამპანიის ნაწილი ჩატბოტ Kimi-ს შემქმნელ Moonshot AI-სთან დაკავშირებულ პირებს მიაწერა. დღეს კომპანია სხვა პროვაიდერებს საფრთხის ნიშნებს უზიარებს და მხარს უჭერს ამერიკულ კანონპროექტებს, მათ შორის Chip Security Act-ს, AI OVERWATCH Act-სა და MATCH Act-ს. მსგავსი თავდაცვითი ზომების შესახებ ოქტომბერში კონკურენტმა AI-კომპანია Anthropic-მაც განაცხადა.

შეტევის წარმატება GPT-6 Astra-ზე (შიდა ტესტი) 54,0%
შეტევის წარმატება GPT-6.2 Astra-ზე (შიდა ტესტი) 0,2%
ადაპტური შეტევების წარმატება GPT-6.2 Astra-ზე 1%-ზე ნაკლები
ყოველკვირეულად დაბლოკილი ანგარიშები ათასობით და ათობით ათასი

წყარო: OpenAI: Combatting adversarial distillation (20 Nov 2026) | The Decoder: OpenAI makes it much harder for attackers to extract how its latest AI models think (20 Nov 2026)

ეს სტატია შეიქმნა AI ხელსაწყოებით, პროცესში ადამიანის ჩართულობა დაახლოებით 10%-ია.