კვი, 22 ნოე, 2026
ახალი ინტერაქტიული ქვიზები დაემატა საიტს — შეამოწმე შენი ცოდნა. ნახვა →
ინდუსტრიის სიახლეები

OpenAI-მ მოდელების შიდა საზომი გაასაჯაროვა და ლაბორატორიებს საერთო ზღვარზე შეთანხმებას სთავაზობს

კომპანია აღიარებს, რომ ეს რიცხვები კონკურენტებსაც ეხმარება, თუმცა ჯერჯერობით ინიციატივაზე სხვა ლაბორატორიებს თანხმობა არ განუცხადებიათ.

კომპანია აღიარებს, რომ ეს რიცხვები კონკურენტებსაც ეხმარება, თუმცა ჯერჯერობით ინიციატივაზე სხვა ლაბორატორიებს თანხმობა არ განუცხადებიათ.

კვირას, 22 ნოემბერს, OpenAI-ს მთავარმა მეცნიერმა, Jakub Pachocki-მ, გამოაქვეყნა ესე და წინადადება, რომლის პოსტიც X-ზე თბილისის დროით 21:03 საათზე დაიდო. კომპანიამ პირველად გაასაჯაროვა თავისი მოდელების წინასწარი წვრთნის შიდა მაჩვენებელი, პერპლექსია (perplexity), და ინდუსტრიას შესთავაზა, ის საერთო საზომად და უსაფრთხოების ზღვრად აქციონ, რომელსაც არცერთი მოთამაშე არ გადაკვეთს, სანამ ხელოვნური ინტელექტის კონტროლის მექანიზმები არ დაიხვეწება.

21:12 საათზე ინიციატივას კომპანიის აღმასრულებელი დირექტორი Sam Altman გამოეხმაურა: „ეს ყველაზე მნიშვნელოვანი რამაა, რაც OpenAI-ს ბოლო დროს გამოუქვეყნებია“. მისი თქმით, კომპანია წინასწარი წვრთნის პროგრესზე ბევრ დეტალს ასაჯაროებს და იმედოვნებს, რომ სფერო საერთო ლიმიტებზე შეთანხმდება, რაც გონივრული ნაბიჯი იქნება უსაფრთხოებისა და კონტროლის შესანარჩუნებლად.

Sam Altman-ის პოსტი პლატფორმა X-ზე

წინასწარი წვრთნა ის საწყისი ეტაპია, როცა მოდელი უზარმაზარ ტექსტზე სწავლობს, სანამ კონკრეტულ უნარებს აითვისებს. პერპლექსია კი ზომავს, რამდენად კარგად წინასწარმეტყველებს მოდელი მომდევნო სიტყვას უცნობ ტექსტში: რაც დაბალია რიცხვი, მით უკეთესია მოდელი. თავად Jakub Pachocki წერს, რომ შიდა მონაცემების გამოქვეყნება „კონკურენტებს უფრო მკაფიო სურათს აძლევს იმაზე, თუ სად ვდგავართ, მაგრამ ამ წუხილს ინდუსტრიაში უსაფრთხოების საერთო ზომების დაწესების გადაუდებლობა გადაწონის“.

რას აჩვენებს OpenAI-ს რიცხვები

OpenAI ამ მაჩვენებელს საკუთარი შიდა კოდის ბაზაზე ზომავს. GPT-3.5-ის ნიშნული დაახლოებით 0,99 იყო, რამაც გამართული დიალოგი და პირველი ChatGPT მოგვცა. GPT-4-ზე მაჩვენებელი 0,91-მდე ჩამოვიდა და ნაბიჯ-ნაბიჯ მსჯელობა გახადა შესაძლებელი, ხოლო 0,8-ს ქვემოთ კიბერუსაფრთხოებასა და მათემატიკაში გარდამტეხი უნარები გაჩნდა. 17 ნოემბერს გამოსული GPT-6.2 Astra უკვე 0,76-ზეა და, OpenAI-ს გრაფიკის წარწერის მიხედვით, ათასწლეულის პრიზის მათემატიკური ამოცანა ამოხსნა, ხოლო კომპანიის ჯერ გამოუქვეყნებელი შიდა მოდელი 0,73-ს აღწევს. შემდეგ ტალღას 0,68-დან 0,70-მდე შუალედში ელიან და Pachocki აღიარებს, რომ არ იცის, რა ახალ უნარებს მოიტანს ეს ნიშნული.

როგორც კი კომპანია 0,76-იან მოდელზე გადავიდა, ღია მათემატიკური ამოცანების ამოხსნები „ერთი მეორის მიყოლებით, Slack-ის ერთ მიმოწერაში“ წამოვიდა, რაც ავტორისთვის „ღრმად სიურრეალისტური“ აღმოჩნდა. სქოლიოში ისიც ჩანს, რომ უახლესი მოდელების დიზაინში AI-ს უკვე საგრძნობი წვლილი შეაქვს. აქედან მოდის Pachocki-ს მთავარი გაფრთხილებაც: შესაძლოა, უკვე 2027 წელს წინასწარი წვრთნის კვლევებშიც მსგავსი ზვავი ვიხილოთ, ხოლო მონიტორინგისა და უსაფრთხოების მეთოდები ამ ტემპს, სავარაუდოდ, ვერ დაეწევა.

როგორ უნდა იმუშაოს საერთო ზღვარმა

წინადადების მიხედვით, წამყვანმა ლაბორატორიებმა მოდელების პირველ გამოყენებამდე უნდა შეიმუშაონ შეფასებისა და უსაფრთხოების ტესტირების საერთო ნორმები, გამჭვირვალობის სტანდარტებთან ერთად. მთავარი იდეა პერპლექსიასა და სხვა საზომებზე დაფუძნებული საერთო ლიმიტების დაწესებაა, რომლებსაც დეველოპერები არ გადაკვეთენ, სანამ AI-ს ქცევის გაგება და კონტროლი კონკრეტულ ნიშნულს არ მიაღწევს, მაგალითად, მსჯელობის ჯაჭვის (CoT) მონიტორების მემკვიდრის შექმნას, რაზეც OpenAI ცოტა ხნის წინაც წერდა. ამის შემდეგ განვითარების ტემპს მომდევნო ზღვრები დაარეგულირებს. მოგვიანებით, 21:40 საათზე, Altman-მა დაამატა, რომ თეთრი სახლის შეთანხმებით ლაბორატორიებს უსაფრთხოების სტანდარტების შექმნაზე უკვე აქვთ თანხმობა განცხადებული და პერპლექსიაზე მსჯელობა ამ მიზანს წინ წასწევს.

საზომს თავისი სუსტი მხარეებიც აქვს: Pachocki თავადვე აღნიშნავს, რომ ყველა ლაბორატორია მონაცემთა სხვადასხვა ბაზას იყენებს და პირდაპირი შედარება რთულია, ხოლო მსჯელობის ჯაჭვი (CoT) მოდელის შესაძლებლობებს ისე ზრდის, რომ პერპლექსია საერთოდ არ იცვლება.

ახლა მთავარი კითხვაა, გამოაქვეყნებენ თუ არა საკუთარ მონაცემებს Anthropic, Google DeepMind და სხვა მოთამაშეები, ან რას უპასუხებენ შეთავაზებას, რომელზეც კონკურენტების საჯარო რეაქცია ჯერ არ ჩანს. პარალელურად კი საინტერესოა, რა მოხდება მაშინ, როცა თავად OpenAI-ს მოდელები 0,68-დან 0,70-მდე ნიშნულს მიუახლოვდება.

წყარო: OpenAI (Jakub Pachocki) | Jakub Pachocki (X) | Sam Altman (X) | Sam Altman (X), White House Accords

ლოგო: OpenAI. მრუდი აგებულია OpenAI-ს გრაფიკის მონაცემებით. ილუსტრაცია: TechCrush.

ეს სტატია შეიქმნა AI ხელსაწყოებით, პროცესში ადამიანის ჩართულობა დაახლოებით 10%-ია.