დაცვის ახალი სისტემა მხოლოდ OpenAI-ის შიდა კვლევით ლაბორატორიას ფარავს და არა ChatGPT-ს, მის შესახებ კი ჯერ მხოლოდ თავად კომპანია ჰყვება.
OpenAI-მ საკუთარი კვლევითი ხელოვნური ინტელექტისთვის შექმნა ცენტრალური ავარიული გამომრთველი, სახელწოდებით Control Room, რომელსაც ნებისმიერი საშიში ექსპერიმენტის გათიშვა მაქსიმუმ 35 წამში შეუძლია. სისტემა მაშინაც მუშაობს, როცა დავალებას ავტონომიური AI-პროგრამები ასრულებენ. ამის შესახებ კომპანიამ 9 ნოემბერს ოფიციალურად დაწერა, დეტალები კი გამოცემა Interesting Engineering-მაც გააშუქა. ახალი მექანიზმი OpenAI-ის კვლევით ინფრასტრუქტურაში უკვე გაშვებულია, რათა უფრო ძლიერი მოდელების წვრთნისას უსაფრთხოების რისკები სწრაფად აღიკვეთოს.
Control Room აკონტროლებს ყველა მძიმე შიდა პროცესს, მათ შორის მოდელების ტესტირებას, დიდი მოცულობის მონაცემების დამუშავებასა და განმტკიცებით დასწავლას, ანუ წვრთნის მეთოდს, რომლის დროსაც მოდელი სწორ ნაბიჯებზე ჯილდოვდება. ის ასევე ფარავს ეგრეთ წოდებულ აგენტურ სემპლინგს. მარტივად რომ ვთქვათ, ეს არის პროცესი, როცა წვრთნის დროს დამოუკიდებელი AI-აგენტები თავად ქმნიან ახალ პასუხებსა და მონაცემებს.
როგორ მუშაობს 35-წამიანი მუხრუჭი
სანამ ასეთი კვლევითი დავალება ჩაირთვება, მას წინასწარ დამტკიცებული უსაფრთხოების დასაბუთება სჭირდება, გაშვებისას კი Control Room თითოეულ პროცესს უნიკალურ საიდენტიფიკაციო კოდს ანიჭებს. ეს კოდი მიჰყვება ყველა მოთხოვნას, რომელიც GPU-ჩიპებზე მომუშავე ძრავებთან, ანუ მოდელის გამშვებ სისტემებთან იგზავნება.
სანამ ძრავა მოდელს პასუხს დააბრუნებინებს, ის ჯერ Control Room-ში ამოწმებს, ისევ დაშვებულია თუ არა ეს კონკრეტული სამუშაო. თუ მკვლევარმა ან ავტომატურმა დამკვირვებელმა განგაში ჩართო და გაჩერების ბრძანება გასცა, ძრავა მომდევნო მოთხოვნას მაშინვე ბლოკავს. თავად ექსპერიმენტის კოდმა შეიძლება მუშაობა განაგრძოს, მაგრამ ის AI-მოდელისგან პასუხებს ვეღარ მიიღებს და, ფაქტობრივად, უმოქმედო დარჩება.
რატომ არის გამორიცხული, რომ რომელიმე მკვლევარს ამ შემოწმების ჩართვა უბრალოდ გამორჩეს? იმიტომ, რომ ფილტრი პირდაპირ მოდელის გამშვებ ფენაშია ჩაშენებული და არა ცალკეული მეცნიერების მიერ დაწერილ კოდში. შესაბამისად, უსაფრთხოება ადამიანურ ყურადღებაზე აღარ არის დამოკიდებული. გარდა ამისა, სისტემა მკაცრი ჩაკეტვის პრინციპით არის აწყობილი. ეს ნიშნავს, რომ თუ თავად Control Room გაითიშა, მწყობრიდან გამოვიდა ან ვინმემ მისი დაზიანება სცადა, GPU-ძრავები ყველა მოთხოვნის მიღებას ავტომატურად შეწყვეტს, სანამ სერვისი არ აღდგება.
გაჩერების ბრძანებიდან სრულ გათიშვამდე დღეს მაქსიმუმ 35 წამია საჭირო. ეს მცირე დაყოვნება დროებითი მეხსიერების, ეგრეთ წოდებული ქეშირების ფენით არის განპირობებული, რომელიც უამრავ შემოწმებას ატარებს, თუმცა OpenAI ამ დროის ნულამდე დაყვანაზე უკვე მუშაობს. პარალელურად, ყველა მოწინავე საწვრთნელ პროცესს ცალკე დამხმარე AI-მოდელი აკვირდება. თუ ის საეჭვო ან მიზანს აცდენილ ქცევას შეამჩნევს, Control Room-ს პროცესის გაჩერებას თავად მოსთხოვს.
რას ცვლის ეს და სად გადის ზღვარი
OpenAI-ის შეფასებით, რაც უფრო ჭკვიანი ხდება მოდელი, მით უფრო იზრდება უსაფრთხოების რისკიც, ახალი სისტემა კი კომპანიას საშუალებას აძლევს, საეჭვო ქცევა უბრალოდ კი არ მონიშნოს, არამედ პირდაპირ დაბლოკოს.
თუმცა აქ ორი მნიშვნელოვანი დათქმაა. პირველი ის არის, რომ მთელი ეს არქიტექტურა მხოლოდ OpenAI-ის მონათხრობს ეყრდნობა და დამოუკიდებელ აუდიტს ჯერ არ შეუმოწმებია. მეორე კი ისაა, რომ Control Room არ ეხება ChatGPT-სა და საჯარო სერვისებს. კომპანიაში აცხადებენ, რომ საჯარო პროდუქტების მიმართულება ისედაც უფრო ცენტრალიზებულია და იქ მოდელების გასათიშად ცალკე მექანიზმები უკვე მოქმედებს.
წყარო: OpenAI: Control Room: A central system to track and stop model workloads across our research infrastructure (9 Nov 2026) | Interesting Engineering: OpenAI launches Control Room with a powerful 35-second kill switch for rogue agents (10 Nov 2026)
ეს სტატია შეიქმნა AI ხელსაწყოებით, პროცესში ადამიანის ჩართულობა დაახლოებით 10%-ია.

