AI აგენტისთვის შემდეგი ნაბიჯის არჩევა ყოველთვის არ მოითხოვს გიგანტურ მოდელს, რომელსაც ესეს დაწერა, კოდის ახსნა და თავისუფალი დიალოგის წარმოება შეუძლია. ზოგჯერ ამოცანა ბევრად ვიწროა: მან წინასწარ განსაზღვრული ვარიანტებიდან ერთი უნდა აირჩიოს და გითხრას, რამდენად დარწმუნებულია თავის პასუხში.
სწორედ ამ სცენარისთვის AWS-მა ღია decision model გამოუშვა. 1.9-მილიარდპარამეტრიანი Strands Decider 2B სწრაფ და შედარებით იაფ არჩევანზეა გათვლილი და მისი გაშვება ლოკალურადაც არის შესაძლებელი.
მოდელი Strands Labs-ის მეშვეობით უკვე ხელმისაწვდომია. ეს AWS-ის ორგანიზაციაა, რომელიც ხელოვნური ინტელექტის აგენტებისთვის ხელსაწყოებსა და პროტოკოლებზე მუშაობს. Strands Decider 2B-ის გამოჩენა ემთხვევა იმ კვირას, როდესაც მსგავსი შეთავაზება OpenAI-მ წარადგინა, რაც ამ კატეგორიის მიმართ ინდუსტრიის ინტერესს კიდევ ერთხელ უსვამს ხაზს.
ნაკლები ტექსტი, მეტი გადაწყვეტილება
სისტემა Qwen3.5-2B-ის საბაზო არქიტექტურაზეა აგებული, თუმცა მისი საქმე ტექსტის გენერირება არ არის. საწყისი მოდელიდან ენობრივი ნაწილი სრულად არის ამოღებული და მის ადგილას მილიონზე ოდნავ მეტი პარამეტრის მქონე მექანიზმია ჩასმული. მოდელის ძირითადი ნაწილი კი LoRA ადაპტერით არის დამატებით გაწვრთნილი. მოდელი დახურულ სივრცეში მუშაობს: იღებს მოცემულ ვარიანტებს, ირჩევს ერთ-ერთს ან აბრუნებს ქულას 0-დან 1-მდე დიაპაზონში და არჩევანს confidence score-ს აყოლებს.
Amazon-ის წამყვანი ინჟინრის, Marc Brooker-ის ხედვით, ასეთი მოდელი გამოსადეგია workflow-ს შუალედურ ეტაპებზე, სადაც მთავარი კითხვა დაახლოებით ასეთია: ახლა რა უნდა გავაკეთო? მომხმარებლებთან საუბრებმა აჩვენა, რომ აგენტურ სამუშაო პროცესებს ყოველთვის არ სჭირდებათ დიდი მოდელის სრული შესაძლებლობები.
ჰიბრიდულ სისტემაში რთულ ამოცანებს დიდი LLM ასრულებს, ხოლო რუტინულ გადაწყვეტილებებს Strands Decider 2B იღებს. ოფიციალური მაგალითის მიხედვით, სანამ აგენტი ამინდის შემოწმების ფუნქციას სავარაუდო ქალაქზე დაყრდნობით გამოიძახებს, მოდელი ამოწმებს, ეს ინფორმაცია მომხმარებლის ნათქვამიდან მოდის თუ არა. შედეგად, აგენტი მომხმარებელს ქალაქს უზუსტებს და მარტივად არ ვარაუდობს.
ექსპერიმენტიდან ღია პროდუქტამდე
Strands Decider 2B-ის ისტორია TypeSafe-ის Jev-ით იწყება, რომლის სახელიც ეკონომისტ William Stanley Jevons-ს უკავშირდება. Brooker-მა Jev-ის ნახვის შემდეგ საკუთარი ექსპერიმენტული ვერსიის შექმნა დაიწყო. პროექტმა გარკვეული პერიოდის განმავლობაში Jevbench-ზე თავისი ზომის მოდელებს შორის საუკეთესო შედეგიც აჩვენა. მოგვიანებით AWS-მა ის დახვეწა და v19 ვერსიის სახით ღიად, GitHub-სა და Hugging Face-ზე სრული სასწავლო მონაცემებითა და სკრიპტებით გამოაქვეყნა. მისი დაყენება pip ბრძანებით არის შესაძლებელი.
სისწრაფე მოდელის მთავარი უპირატესობაა. Nvidia RTX 3090-ზე გადაწყვეტილების მიღებას საშუალოდ 115 მილიწამი სჭირდება, M3 MacBook-ზე მცირე ამოცანების შესრულებას კი 153 მილიწამი სჭირდება. JevBench-ის შეფასებით, ის 2B კლასში 33-დან მესამე ადგილზეა, ხოლო 2 მილიარდზე ოდნავ მეტი პარამეტრის მქონე მოდელების გამოკლებით პირველ პოზიციას იკავებს. მარტივ დავალებებში ის 100-პროცენტიან სიზუსტეს აჩვენებს.
მიუხედავად წარმატებისა, ინდუსტრიაში გამოწვევები რჩება. TypeSafe-ის CEO, Diogo Almeida, მიიჩნევს, რომ ბაზარი სათანადოდ ვერ აფასებს ასეთი მოდელების რეალურად ჭკვიანად ქცევის სირთულეს და ბევრი ახალი პროექტი უფრო არქიტექტურული ექსპერიმენტია, ვიდრე ღრმად დამუშავებული პროდუქტი. Brooker-ისთვის კი მთავარია სისწორესა და კალიბრაციას შორის ბალანსის შენარჩუნება ისე, რომ მოდელმა ენისა და ცოდნის ზოგადობა არ დაკარგოს.
| პარამეტრები | დაახლოებით 2 მილიარდი (1.9B) |
| საბაზო მოდელი | Qwen3.5-2B |
| დაყოვნება (RTX 3090) | საშუალოდ 115 მილიწამი |
| დაყოვნება (M3 MacBook) | საშუალოდ 153 მილიწამი |
| JevBench შეფასება | მე-3 ადგილი 33-დან 2B კლასში |
| ლიცენზია | Open source (GitHub, Hugging Face) |
ფოტო: Strands Agents / AWS
წყარო: Strands Agents | TechCrunch | GitHub
