ახალი სისტემის მასობრივი გაშვება მონაცემთა ცენტრებში მხოლოდ 2027 წლიდან დაიწყება.
Microsoft-მა საკუთარი ხელოვნური ინტელექტის ინფრასტრუქტურის მესამე თაობა, Maia 300, ოფიციალურ ბლოგზე წარადგინა. კომპანიას სურს, შეამციროს დამოკიდებულება გარე ჩიპებზე და Maia საკუთარი პროდუქტებისთვის მთავარ ინფერენს სისტემად აქციოს. საუბარია ინფერენსზე, ანუ უკვე გაწვრთნილი მოდელების მიერ მომხმარებლის კითხვებზე პასუხის გაცემის პროცესზე.
როგორ მუშაობს ახალი სისტემა
ტექნოლოგია ცალკეულ მოდულებადაა დაყოფილი, სადაც გამოთვლითი ბირთვები, მეხსიერების კონტროლერი და კავშირის არხები ერთმანეთისგან გამიჯნულია. გამოთვლითი ნაწილი TSMC-ის მოწინავე N2P ტექნოლოგიით მზადდება. სისტემა სპეციალურად შეიქმნა რთული ლოგიკური ამოცანების, მყისიერი ჩატისა და მრავალეტაპიანი ავტონომიური დავალებების შესასრულებლად.
რატომ დგამს Microsoft ამ ნაბიჯს? კომპანიას სურს შეამციროს დამოკიდებულება ისეთ მომწოდებლებზე, როგორებიც Nvidia და AMD არიან. მასშტაბირების შემდეგ Maia გახდება მთავარი პლატფორმა Microsoft-ის საკუთარი პროდუქტებისთვის.
„ჩვენ მოველით, რომ Maia 300 მოწინავე GPU სისტემებთან შედარებით 40 პროცენტით მეტ ტოკენს მოგვცემს ყოველ მეგავატზე“, განაცხადა Microsoft-ის ღრუბლოვანი და AI მიმართულების აღმასრულებელმა ვიცე-პრეზიდენტმა სკოტ გათრიმ (Scott Guthrie). მისი თქმით, 2027 წლიდან Maia-ს ოჯახი მრავალგიგავატიან მასშტაბზე გავა, რაც მას კომპანიის პროდუქტებისა და სერვისებისთვის მთავარ საყრდენად აქცევს.
მოდელებისა და ჩიპების საერთო არქიტექტურა
Microsoft AI-ის ხელმძღვანელი მუსტაფა სულეიმანი (Mustafa Suleyman) ხაზს უსვამს, რომ პროგრამული ნაწილი და აპარატურა ერთმანეთზე მორგებული უნდა იყოს. „ჩვენ მთელ სისტემაზე უნდა ვიმუშაოთ, უშუალოდ ჩიპების დონემდე. სწორედ ამიტომ არის ჩვენი გუნდისთვის გადამწყვეტი ფოკუსი Microsoft AI-ის მოდელების Maia-ს ჩიპზე გაშვება“, აღნიშნა მან.
მანამდე კომპანიამ წელს Maia 200 წარადგინა, რომელიც უკვე მუშაობს Microsoft Copilot-ის რეალურ დატვირთვებზე, წლის ბოლომდე კი მას GitHub Copilot და Microsoft Foundry დაემატება. თუმცა Maia 300-ის რეალურ სერვერებში ჩართვამდე ჯერ კიდევ დროა, თანაც გავრცელებული რიცხვები კომპანიის შიდა მოლოდინებია და არა დამოუკიდებელი ტესტების შედეგი.
| ენერგოეფექტიანობა (მოლოდინი) | 40%-ით მეტი ტოკენი ყოველ მეგავატზე წამყვან GPU სისტემებთან შედარებით |
| სერვერული თაროს წარმადობა (მოლოდინი) | 7-ჯერ მეტი ტოკენის გამტარობა Maia 200-თან შედარებით |
| სერვერული თაროს კონფიგურაცია | 96 ამაჩქარებელი |
| სერვერული თაროს ენერგომოხმარება | 167 კვტ |
| თაროს მეხსიერების მოცულობა | 27.6 ტბ HBM |
| თაროს მეხსიერების გამტარობა | 1.7 პბ/წმ |
| ამაჩქარებლის მეხსიერების გამტარობა | 18.0 ტბ/წმ |
| ამაჩქარებლის სიმძლავრე (TDP) | 950 ვტ |
წყარო: Microsoft Blog | Azure Blog | Microsoft News | The Verge
ეს სტატია შეიქმნა AI ხელსაწყოებით, პროცესში ადამიანის ჩართულობა დაახლოებით 10%-ია.
