ხელოვნურ ინტელექტს ახლა უკვე შეუძლია არა მხოლოდ საუბარი, არამედ გარემოს დანახვაც, თუმცა ყველაზე რთული ნაწილი მოწყობილობაში მისი მოთავსებაა. PrismML აჩვენებს, რომ დიდი AI მოდელები შესაძლოა ბევრად მცირე ფორმატშიც მუშაობდეს და პირდაპირ ჭკვიან სათვალეებში გადავიდეს.
Qualcomm-ის Snapdragon Summit-ზე კომპანიამ აჩვენა PrismML-ის 1-bit Bonsai მოდელი, რომელიც Snapdragon AR1 Gen 1 პლატფორმაზე დაფუძნებულ AI სათვალეებში ლოკალურად მუშაობს. დემო მიზნად ისახავდა იმის ჩვენებას, თუ როგორ შეიძლება ვიზუალური და ენობრივი AI ფუნქციები მოწყობილობაზე შესრულდეს ღრუბლოვან სერვერებთან მუდმივი კავშირის გარეშე.
მცირე ზომა, იგივე შესაძლებლობების იდეა
PrismML-ის Bonsai არის 2 მილიარდი პარამეტრის მქონე ხედვისა და ენის მოდელი, რომელიც სპეციალურად ჭკვიანი სათვალეებისთვის მომზადდა. მომხმარებელს შეუძლია რეალურ დროში ჰკითხოს მოწყობილობას, რას ხედავს, ხოლო მოდელს კამერიდან მიღებული ინფორმაციის პირდაპირ მოწყობილობაზე დამუშავება შეუძლია.
კომპანიის მიდგომა ეფუძნება 1-bit მოდელირების ტექნიკას, რომელიც AI სისტემის ზომასა და გამოთვლით მოთხოვნებს ამცირებს. PrismML-ის თქმით, ამ მეთოდით უფრო დიდი მოდელების ზომა დაახლოებით ოთხჯერ მცირდება, მაშინ როცა სტანდარტულ ბენჩმარკებში მათი წარმადობის თითქმის სრული დონე ნარჩუნდება.
სათვალეებისთვის ახალი AI რბოლა
PrismML-ს საფუძველი Caltech-ის მკვლევრებმა ჩაუყარეს, ხოლო კომპანიას კონსულტაციას უწევს UC Berkeley-ის პროფესორი Ion Stoica. ლაბორატორიის მთავარი იდეაა ღია წონების მქონე AI მოდელების შექმნა, რომლებიც მოწყობილობებზე იმუშავებს და ნაკლებად იქნება დამოკიდებული ცენტრალიზებულ AI სერვისებზე.
კომპანიისთვის Qualcomm-ის ჩიპზე მორგებული მოდელის წარდგენა ამ სტრატეგიის კიდევ ერთი ნაბიჯია. მოწყობილობაზე გაშვებული AI შესაძლოა მნიშვნელოვანი გახდეს როგორც კონფიდენციალურობის, ისე ენერგიისა და სიჩქარის თვალსაზრისით, რადგან მონაცემების დამუშავება პირდაპირ მომხმარებლის მოწყობილობაში ხდება.
თუმცა, ამ ეტაპზე ეს ჯერ კიდევ დემოა. Qualcomm-ის ღონისძიებაზე ნაჩვენები იყო პლატფორმის შესაძლებლობა და არა კონკრეტული სამომხმარებლო პროდუქტი. PrismML-ის Bonsai-ით აღჭურვილი ჭკვიანი სათვალე ბაზარზე ოფიციალურად ჯერ არ გამოცხადებულა.
წყარო: TechCrunch
