სიახლე ჯერჯერობით მხოლოდ AWS Trainium ჩიპების მომხმარებლებს ეხება.
Amazon-მა 19 ოქტომბერს ახალი ღია პროგრამული ხელსაწყო TorchNeuron წარადგინა, რომელიც ხელოვნური ინტელექტის შემქმნელებს საკუთარი კოდის AWS Trainium ჩიპებზე გადატანას ერთი მარტივი პარამეტრის შეცვლით სთავაზობს. კომპანიის ოფიციალური განცხადების თანახმად, სიახლე Apache 2.0 ლიცენზიით 20 ოქტომბერს, San Jose-ში მიმდინარე PyTorch Conference North America-ზე გასაჯაროვდება. ეს ნაბიჯი ტექნოლოგიურმა მედიამ Amazon-ის მხრიდან NVIDIA-ს დომინაციის წინააღმდეგ გადადგმულ ყველაზე პირდაპირ ნაბიჯად შეაფასა.
პრობლემა წლების განმავლობაში პროგრამულ ჩაკეტილობაში მდგომარეობდა. PyTorch არის ყველაზე პოპულარული პროგრამული გარემო, რომელშიც ინჟინრები ხელოვნური ინტელექტის მოდელებს წერენ. Amazon-ის მონაცემებით, მკვლევრებისა და დეველოპერების 85% სწორედ ამ ხელსაწყოს იყენებს. თუმცა ამ კოდის სხვა ჩიპებზე გადატანა აქამდე პროგრამის თავიდან გადაწერასა და თვეობით ხელახალ ტესტირებას მოითხოვდა. პრაქტიკაში თითქმის ყველა AI მოდელი NVIDIA-ს გრაფიკულ პროცესორებზე მუშაობს, რადგან დეველოპერებს დროის დაკარგვა არ სურთ.
ერთი პარამეტრის შეცვლა
TorchNeuron წარმოადგენს ჩაშენებულ მოდულს Trainium2 და Trainium3 პროცესორებისთვის. ის პირდაპირ ერთვება PyTorch-ის სტანდარტულ სისტემაში, ამიტომ კოდის შეცვლა საჭირო აღარ არის. თქვენ უბრალოდ უთითებთ, რომელ ჩიპზე უნდა გაეშვას დავალება. ტესტირების, ხარვეზების გასწორებისა და მასშტაბირების ძველი ხელსაწყოები ჩვეულებრივად აგრძელებს მუშაობას.
ამასთანავე, სისტემა მუშაობს განაწილებული სწავლების პლატფორმა TorchTitan-თან, ხოლო Hugging Face-მა თავის ხელსაწყოებში Trainium-ის მხარდაჭერა უკვე დაამატა. საკუთარ დემოჩვენებაში Amazon-მა ერთი და იგივე სკრიპტი ჩვეულებრივ ჩიპსა და Trainium-ზე პარალელურად გაუშვა. კომპანიის მტკიცებით, მოდელმა ორივე შემთხვევაში ზუსტად ერთნაირი შედეგი და სწავლის ერთნაირი სიჩქარე აჩვენა.
საინჟინრო დროის ეკონომია
რატომ არის ეს ამბავი მნიშვნელოვანი? მთავარი ხარჯი ხელოვნური ინტელექტის განვითარებაში ინჟინრების ძვირფასი დროა. Amazon-ის არგუმენტი მარტივია: თუ კოდის გადატანა ჩიპებს შორის თავისუფლად მოხერხდება, მწარმოებლები იძულებულნი გახდებიან, ფასებით შეეჯიბრონ ერთმანეთს, რაც დეველოპერების დანახარჯებს შეამცირებს.
კომპანია ყოველ ახალ ვერსიას ასობით ათას AI მოდელზე ამოწმებს, აუმჯობესებს თავად PyTorch-ს, წვლილი შეაქვს vLLM პროექტში და საკუთარ გამოთვლით ბირთვებსაც ღიად ასაჯაროებს. ახალი სისტემის პირველ მომხმარებლებს შორის უკვე არიან ხმოვანი AI სტარტაპი Cartesia და ტვინის კვლევის ინსტიტუტი Lieber Institute for Brain Development, რომელიც ახალ წამლებს იკვლევს.
Amazon-მა საკუთარი ჩიპების შექმნა ჯერ კიდევ 2015 წელს, Annapurna Labs-ის შეძენის შემდეგ დაიწყო. დღეს კომპანიის პერსონალური ჩიპების ბიზნესის წლიური შემოსავლის ტემპმა უკვე 25 მილიარდ დოლარს გადააჭარბა. როდესაც ჩიპის შეცვლა თვეების ნაცვლად წუთების საქმე ხდება, ბაზარზე კონკურენცია სულ სხვა ეტაპზე გადადის.
| ჩიპების ბიზნესის წლიური შემოსავლის ტემპი | $25 მილიარდი |
| PyTorch-ის მომხმარებელი დეველოპერების წილი | 85% |
| მხარდაჭერილი აპარატურა | Trainium2, Trainium3 |
| ღია კოდის ლიცენზია | Apache 2.0 |
| ჩიპების განყოფილების შეძენის წელი (Annapurna Labs) | 2015 |
წყარო: Amazon: Amazon opens its AWS Trainium AI chips to every PyTorch developer | TechCrunch
ეს სტატია შეიქმნა AI ხელსაწყოებით, პროცესში ადამიანის ჩართულობა დაახლოებით 10%-ია.
