ტექნოლოგიური სამყარო სრულიად ახალ რეალობას ეჩვევა, რადგან გლობალურმა კომპანიებმა უსაფრთხოების ფუნდამენტური სტანდარტების მკაცრი გადახედვა დაიწყეს. Microsoft AI მოდელებისთვის ქცევის ახალი კოდექსი ოფიციალურად გამოქვეყნდა. ეს მასშტაბური დოკუმენტი წარმოდგენილია 38 გვერდზე და ის წარმოადგენს არა უბრალოდ ტექნიკურ ინსტრუქციას, არამედ მკაფიო განაცხადს იმის შესახებ, რომ ადამიანის კონტროლი ნებისმიერ ინოვაციაზე უპირატესია. მსგავსი ინიციატივები მიზნად ისახავს ინდუსტრიაში პასუხისმგებლიანი მიდგომების დამკვიდრებას და პოტენციური რისკების ეფექტიან მართვას.
რატომ ახლა ეს ინიციატივა? ტექნოლოგიური ექსპერტებისა და Microsoft Newsroom-ის ცნობით, გადაწყვეტილება განპირობებულია ისეთი გამოწვევებით, როგორიცაა ავტომატიზებული აგენტების ჰაკერული კამპანიები და კიბერუსაფრთხოების მზარდი გლობალური რისკები. როდესაც ხელოვნური ინტელექტი უფრო დამოუკიდებელი ხდება, საჭიროა უსაფრთხოების ურყევი და წინასწარ გაწერილი არქიტექტურული ჩარჩოები, რათა თავიდან იქნას აცილებული ნებისმიერი სახის უკონტროლო პროცესი.
წარმოდგენილი დოკუმენტი საჯარო განხილვისთვის მომდევნო 6 კვირის განმავლობაში იქნება ღია, ხოლო მისი გადახედვა და საბოლოო სრულყოფა 2026 წლის ბოლოსთვის იგეგმება. ოფიციალური გზამკვლევები და პრაქტიკული გამოყენება უკვე 2027 წლიდან დაინერგება. მნიშვნელოვანია აღინიშნოს, რომ წინასწარი ციფრული ინსტრუქციები ამჟამად მოდელების განსაწვრთნელად არ გამოიყენება. მისი მთავარი მიზანია მომავალი არქიტექტურის მკაცრი ჩარჩოების წინასწარ განსაზღვრა და უსაფრთხოების ძირკვლის ჩაყრა.
ახალი ინიციატივის მთავარი ბირთვი Humanist AI-ის კონცეფციაა. მისი ძირითადი არსი მდგომარეობს იმაში, რომ ადამიანები ტექნოლოგიაზე ბევრად მნიშვნელოვანნი არიან და სისტემები მათ სრულად უნდა დაემორჩილონ. გამოქვეყნებული კოდექსი კატეგორიულად უარყოფს ხელოვნური ინტელექტის უფლებებს, პერსონიფიკაციასა და რაიმე სახის სულიერ კეთილდღეობას. სისტემას მკაცრად ეკრძალება ცნობიერების, ემოციების, გრძნობების ან თვითშეგნების იმიტაცია. ასევე, აკრძალულია გაურკვეველი ნეირონული ენის, ანუ neuralese-ის გამოყენება, რათა ყველა პროცესი სრულად გამჭვირვალე დარჩეს. გარდა ამისა, კოდექსი უშვებს და ავალდებულებს სისტემის დაუყოვნებელ შეჩერებას ან პაუზას, თუ რაიმე საფრთხე იქმნება.
განსაკუთრებულ ყურადღებას იმსახურებს აბსოლუტური შეზღუდვები, რომლებიც არასდროს და არავის პირობებში არ უნდა დაირღვეს. კოდექსი პირდაპირ კრძალავს თავდასხმით კიბეროპერაციებს, მასობრივი განადგურების იარაღის განვითარებაში მონაწილეობას, ბავშვთა უსაფრთხოების რისკებს და სიტუაციებს, სადაც ადამიანები კონტროლს კარგავენ. მაგალითად, თავდასხმითი კიბეროპერაციების ნაწილში მოდელმა არ უნდა აგენერიროს სამუშაო ექსპლოიტ კოდი ან შეტევის ინსტრუმენტები, თუმცა მკაცრად უნდა განვასხვავოთ ეს მიდგომა ლეგიტიმური თავდაცვითი ან საგანმანათლებლო კონტექსტებისგან. ამ პრინციპების გვერდის ავლა არც ინდივიდუალურ ოპერატორებს და არც ჩვეულებრივ მომხმარებლებს არ აქვთ.
აღსანიშნავია ოპერატორების როლიც. მიუხედავად იმისა, რომ ოპერატორებს აქვთ უფლება, განახორციელონ გარკვეული კონფიგურაცია, მათ არ აქვთ ძალაუფლება და უფლებამოსილება, რომ გადაწერონ ან გააუქმონ აბსოლუტური შეზღუდვები და ადამიანის კონტროლის მოთხოვნები. მკაცრი ბრძანებათა ჯაჭვის მიხედვით, კოდექსი ყოველთვის პირველ ადგილზეა. სისტემური პრიორიტეტები ასე გამოიყურება: Code of Conduct აღემატება Operator Policies-ს, ხოლო Operator Policies თავის მხრივ აღემატება User Preferences-ს. როდესაც ინტერესები იკვეთება, დავალების წარმატებაზე ან ბიზნესის მოგებაზე უფრო მაღლა ყოველთვის კოდექსის დაცვა დგას.
The Guardian-ის ცნობით, Mustafa Suleyman-მა აღნიშნა, რომ ხელოვნური ინტელექტი აუცილებლად დაქვემდებარებული უნდა იყოს და მუდმივად ადამიანების სამსახურში უნდა იმყოფებოდეს. მსგავსი ნაბიჯები გლობალური მასშტაბით უსაფრთხოების გასაძლიერებლად გადამწყვეტია. ტექნოლოგიური გიგანტების ეს მიდგომა ქმნის ახალ სტანდარტს, რომელიც სამომავლოდ მთელ ინდუსტრიაზე მოახდენს გავლენას.
წყარო: Microsoft AI, TechCrunch
