ახალ სერვერებზე ვირტუალური მანქანები ჯერ მხოლოდ სატესტო რეჟიმშია ხელმისაწვდომი და ყველა მომხმარებლისთვის სრულად არ გახსნილა.
19 ნოემბერს, Microsoft Ignite-ის კონფერენციაზე, NVIDIA-მ და Microsoft-მა ოფიციალურ ბლოგზე გაავრცელეს ინფორმაცია, რომ Microsoft-ის ღრუბლოვან ცენტრებში, Azure-ში, უკვე მუშაობს NVIDIA-ს უახლესი AI-სერვერული სისტემები, სახელად Vera Rubin NVL72. ეს აპარატურა რთული ლოგიკური მსჯელობის მოდელების, დამოუკიდებლად მოქმედი AI-პროგრამების (ანუ ეგრეთ წოდებული აგენტებისა) და დიდი მოდელების გაწვრთნისა და გაშვებისთვის შეიქმნა. პარალელურად, კომპანიებმა Microsoft Foundry-ში NVIDIA-ს მეტი მოდელი დაამატეს და Windows-ის კომპიუტერებზე ლოკალური AI-ს მუშაობაც აჩვენეს.
რას წარმოადგენს ეს ახალი სისტემა? NVL72 არის მთლიანი სერვერული კარადა, რომელშიც 72 გრაფიკული პროცესორი ერთ დიდ კომპიუტერად მუშაობს. თუ ჩვენს მკითხველს ახსოვს, Vera Rubin-ის სისტემებზე უკვე ვწერდით: 17 სექტემბერს მისი პირველი ტესტების შედეგები გამოქვეყნდა, 13 ოქტომბერს კი ღია სერვერული დიზაინი ვიხილეთ. ახლა უკვე საქმე რეალურ დანერგვაზე მიდგა, თუმცა Azure-ის ვირტუალურ მანქანებზე წვდომა ჯერ მხოლოდ წინასწარი, სატესტო ვერსიის სახით ფართოვდება. გასათვალისწინებელია ისიც, რომ ყველა ეს ცნობა თავად კომპანიების ოფიციალური განცხადებებიდან მოდის.
უსაფრთხოება და რეკორდული სიმძლავრე
სიმძლავრის გარდა, Microsoft-ი და NVIDIA აფართოებენ კონფიდენციალურ გამოთვლებს, რაც იმას ნიშნავს, რომ მოდელები და მონაცემები უშუალოდ დამუშავების პროცესშიც დაცულია. ეს დაცვა პირდაპირ ფიზიკურ სერვერებსა და მთლიან კარადებზე ვრცელდება. ამასთან, კომპანიები NVIDIA MaxLPS-ის დახმარებით ენერგოეფექტურობის გაუმჯობესებაზეც მუშაობენ, რათა ამხელა სისტემებმა ელექტროენერგია უფრო ეკონომიურად მოიხმაროს. თავად Microsoft-ი მოდელების დამატებითი დახვეწისთვის NVIDIA Dynamo-ს პროგრამულ უზრუნველყოფას იყენებს, ხოლო Bing-ის საძიებო მოდელებს NVIDIA RTX PRO 6000 Blackwell-ის ჩიპებზე ამუშავებს.
NVIDIA-მ წინა თაობის აპარატურის ტესტების შედეგებიც მოიშველია. MLPerf Training v6.1-ის შეფასებაში Azure-მა DeepSeek-V3 მოდელზე NVIDIA-ს 10 240 გრაფიკული პროცესორი (GB200 NVL72) გააერთიანა, რაც იმ რაუნდში ყველაზე დიდი მასშტაბი იყო. უკვე გაწვრთნილი მოდელის მუშაობის ტესტში, MLPerf Inference v6.1-ში კი, Azure-ის GB300 NVL72 სისტემებმა ღრუბლოვან პროვაიდერებს შორის პირველი ადგილი დაიკავა და DeepSeek-R1-ის ინტერაქტიურ სისწრაფეში კონკურენტებს 10 პროცენტზე მეტით აჯობა, რასაც Signal65-ის მონაცემები ადასტურებს.
ღია მოდელები და AI პირდაპირ კომპიუტერში
სიახლეებია Microsoft Foundry-შიც, სადაც NVIDIA Nemotron 3.5-ის ხაზის ახალი ღია მოდელები დაემატა. ღია მოდელი ნიშნავს, რომ მისი ჩამოტვირთვა, საკუთარ სერვერზე გაშვება და საკუთარ საქმეზე მორგება ნებისმიერ კომპანიას შეუძლია. აქ ორი ვერსიაა: Nemotron 3.5 Super ხანგრძლივად მომუშავე დამოუკიდებელ პროგრამებზეა გათვლილი, ხოლო Lightning - სწრაფ პასუხებზე. მაგალითად, NVIDIA-ს მტკიცებით, აუდიტორულმა კომპანია EY-მ Nemotron-ის მოდელები შესყიდვების ჩანაწერების დასახარისხებლად მოირგო და დახურულ მოდელებთან შედარებით ხარჯი 15-ჯერ შეამცირა.
მათთვის, ვისაც მონაცემების ღრუბელში გატანა არ სურს და შიდა სერვერებს იყენებს, Azure Local-ს RTX PRO 6000 Blackwell-ის ჩიპების მხარდაჭერა ემატება. ხოლო Windows-ის ჩვეულებრივ პერსონალურ კომპიუტერებზე, რომლებსაც NVIDIA RTX Spark აქვს, კომპანიებმა Ignite-ზე დიდი ენობრივი მოდელების პირდაპირ მოწყობილობაზე, ინტერნეტის გარეშე გაშვება აჩვენეს.
| სერვერული სისტემა | Vera Rubin NVL72 (72 GPU ერთ კარადაში) |
| ხელმისაწვდომობა Azure-ში | ვირტუალური მანქანები წინასწარ სატესტო რეჟიმში (preview) |
| MLPerf Training v6.1-ის მასშტაბი | 10 240 NVIDIA GPU (GB200 NVL72 სისტემებით DeepSeek-V3-ზე) |
| MLPerf Inference v6.1-ის უპირატესობა | 10 პროცენტზე მეტი DeepSeek-R1-ზე (GB300 NVL72, Signal65-ის მიხედვით) |
| ღია მოდელები Microsoft Foundry-ში | NVIDIA Nemotron 3.5 (Super და Lightning) |
| EY-ს შედეგი Nemotron-ზე (NVIDIA-ს ცნობით) | სიზუსტის 55 პროცენტით ზრდა და ხარჯის 15-ჯერ შემცირება |
ეს სტატია შეიქმნა AI ხელსაწყოებით, პროცესში ადამიანის ჩართულობა დაახლოებით 10%-ია.

