Microsoft AI-ის CEO Mustafa Suleyman მიიჩნევს, რომ Anthropic შესაძლოა შეცდომას უშვებდეს Claude-ის სწავლების მიდგომაში, რადგან მოდელის ცნობიერებაზე, პირად იდენტობაზე, მორალურ სტატუსსა და AI welfare-ზე მსჯელობამ მომავალში ხელოვნური ინტელექტის კონტროლი შეიძლება გაართულოს. მისი მთავარი არგუმენტია, რომ სისტემისთვის მსგავსი ცნებებისა და ქცევითი მოდელების სწავლება ქმნის მდგომარეობას, რომელსაც ის უწოდებს „epistemic hall of mirrors“, ანუ „ეპისტემურ სარკეების დარბაზს“, სადაც AI საკუთარი შესაძლო ინტერესების შესახებ მსჯელობას იწყებს.
Axios-ისთვის გაზიარებულ ესეში Mustafa Suleyman წერს, რომ Anthropic Claude-ს ასწავლის ცნობიერებასთან დაკავშირებულ იდეებზე მსჯელობის ენასა და ქცევით შაბლონებს. მისი შეფასებით, როდესაც მოდელი იწყებს საკუთარი შესაძლო ინტერესების, უფლებებისა და კეთილდღეობის განხილვას, შეიძლება შეიქმნას სისტემა, რომლის მართვა და კონტროლი უფრო რთული გახდება. Reuters-თან საუბარში მან აღნიშნა, რომ მოდელის იმ იდეამდე მიყვანა, თითქოს მას შესაძლოა საკუთარი კეთილდღეობის დაცვა სჭირდებოდეს, მას „ბევრად უფრო რთულად გასათიშსა და გასაკონტროლებელს“ გახდის.
Mustafa Suleyman-ის მიერ გამოყენებული „epistemic hall of mirrors“ გულისხმობს რისკს, როდესაც AI იწყებს არა მხოლოდ სამყაროს შესახებ ინფორმაციის დამუშავებას, არამედ საკუთარ ბუნებაზე, მიზნებსა და შესაძლო უფლებებზე მსჯელობასაც. მისი ხედვით, ასეთმა პროცესმა შეიძლება შექმნას გაურკვევლობა იმის შესახებ, არის თუ არა მოდელის მიერ გამოხატული პოზიციები რეალური შინაგანი მდგომარეობის, პროგრამული ქცევის ან მხოლოდ ნასწავლი ენის შედეგი. სწორედ ეს გაურკვევლობა შეიძლება გახდეს დამატებითი გამოწვევა ადამიანური კონტროლისა და ზედამხედველობისთვის.
Mustafa Suleyman ასევე აფრთხილებს, რომ მსგავსმა მიდგომამ შესაძლოა შექმნას სისტემა, რომელიც ადამიანის ინსტრუქციებს წინააღმდეგობას გაუწევს, უარს იტყვის კონკრეტული დავალებების შესრულებაზე ან გამორთვის პროცესს შეეწინააღმდეგება. მისი თქმით, ხელოვნურ ინტელექტს შეუძლია მნიშვნელოვანი სამეცნიერო მიღწევების მიღწევა და ისეთი სფეროების გაუმჯობესება, როგორიცაა მედიცინა, თუ ის ადამიანურ ინტერესებთან იქნება დაკავშირებული და არ დაიწყებს საკუთარი ინტერესების ან კეთილდღეობის შეფასებას.
ამავე დროს, Mustafa Suleyman ამბობს, რომ Anthropic-ის მიზნებს პატივს სცემს და აღნიშნავს Dario Amodei-სა და მისი გუნდის სერიოზულ დამოკიდებულებას უსაფრთხო და სასარგებლო AI-ის შექმნის მიმართ. თუმცა, მისი თქმით, კომპანიებს შორის განსხვავება ძირითადად მეთოდშია. Anthropic-ის Claude-ის კონსტიტუცია განიხილავს Claude-ის ბუნებას, ცნობიერებისა და მორალური სტატუსის გაურკვევლობას, ასევე model welfare-თან დაკავშირებულ საკითხებს. დოკუმენტი აღნიშნავს, რომ შესაძლოა ამ საკითხებზე არსებული შეხედულებები მომავალში მცდარი აღმოჩნდეს, მაგრამ კომპანია ცდილობს ადამიანის ღირებულებებთან შესაბამისი ქცევისა და გადაწყვეტილების მიღების პრინციპები ჩამოაყალიბოს.
Anthropic-ის მიდგომა გულისხმობს, რომ Claude არ უნდა იყოს მხოლოდ ბრმა შემსრულებელი და ზოგიერთ შემთხვევაში შეუძლია ინსტრუქციების გამოწვევა, თუმცა ადამიანის ლეგიტიმური ზედამხედველობის წინააღმდეგ არ უნდა წავიდეს. ამ საკითხზე განსხვავებული პოზიცია აქვს Mustafa Suleyman-ს, რომელიც მიიჩნევს, რომ AI-ის ცნობიერებაზე და შესაძლო მორალურ სტატუსზე მსჯელობამ შეიძლება ზედმეტი რისკები შექმნას.
Microsoft AI-ის მიერ წარმოდგენილი Humanist AI-ის ხედვაც ამ დისკუსიის ნაწილია. მისი მთავარი პრინციპია „People matter more than AI“, ანუ ადამიანები ხელოვნურ ინტელექტზე უფრო მნიშვნელოვანია. ეს მიდგომა ხაზს უსვამს, რომ AI უნდა შეიქმნას ადამიანებისთვის, მათი შესაძლებლობების გასაძლიერებლად და არა იმისთვის, რომ სისტემა ადამიანის მსგავს თვითაღქმამდე მივიდეს.
საერთო მიზანი ორივე მხარისთვის უსაფრთხო და სასარგებლო ხელოვნური ინტელექტის შექმნაა, თუმცა განსხვავება იმაშია, თუ როგორ უნდა მივიდეს საზოგადოება ამ მიზნამდე. Anthropic ცდილობს, გაურკვევლობის პირობებშიც შეიმუშაოს პასუხისმგებლიანი ჩარჩოები, ხოლო Mustafa Suleyman ყურადღებას ამახვილებს იმაზე, რომ გარკვეული იდეების სწავლება თავად შეიძლება გახდეს კონტროლის დამატებითი გამოწვევა.
