მოდელების ნაწილი უკვე ხელმისაწვდომია, თუმცა ყველაზე პატარა ვერსიას დეველოპერები 23 ოქტომბრამდე ვერ გამოიყენებენ.
NVIDIA-მ ხელოვნური ინტელექტის აგენტებისთვის განკუთვნილი ახალი ღია მოდელი Nemotron 3.5 Super VL ოფიციალურად გამოაქვეყნა. კომპანიის ოფიციალური ბლოგის მიხედვით, მულტიმოდალური სისტემა 120 მილიარდი პარამეტრისგან შედგება და ვიზუალურ დოკუმენტებთან მუშაობა, ხელსაწყოების მართვა და რთული, მრავალსაფეხურიანი დავალებების შესრულება შეუძლია. NVIDIA-ს განცხადებით, მოდელი საკუთარ კლასში უახლესი ფლაგმანების სიზუსტეს აღწევს, თუმცა კომპანიის ყველაზე დიდ ლოგიკურ მოდელზე ხუთჯერ ნაკლებ პარამეტრს შეიცავს. Artificial Analysis-ის მონაცემებზე დაყრდნობით, კომპანია ამტკიცებს, რომ ეს სისტემა დავალებებს კონკურენტ ღია აგენტებზე თითქმის ხუთჯერ უფრო სწრაფად ასრულებს. სისტემა უკვე ხელმისაწვდომია პლატფორმებზე: Hugging Face, Open Router, ModelScope და NVIDIA NIM.
ლოკალური მოდელები პერსონალურ კომპიუტერებში
გიგანტური სერვერული სისტემის გარდა, კომპანიამ ლოკალური მოწყობილობებისთვის შექმნილი ვერსიებიც წარმოადგინა. მათ შორის მთავარია Nemotron 3.5 Bolt 74B-A9B, რომელიც 24-გიგაბაიტიან ვიდეომეხსიერებაში ეტევა. ეს შესაძლებელი გახდა 2-ბიტიანი შეკუმშვის წყალობით, რაც მოდელს საშუალებას აძლევს, პირდაპირ იმუშაოს პერსონალურ კომპიუტერებზე. NVIDIA-ს მონაცემებით, ამ ვერსიამ PinchBench-ის ტესტში პირველი ადგილი დაიკავა, ხოლო BrowseComp-ის რეიტინგში მეორე ადგილზე გავიდა. მისი გაშვება უკვე შესაძლებელია პოპულარული ხელსაწყოებით, როგორებიცაა llama.cpp, Ollama და LM Studio.
როგორ უკავშირდება ეს ახალ ტექნიკას? სწორედ ამ დღეებში იწყება RTX Spark ლეპტოპების გაყიდვა, რომლებიც სწორედ ასეთი ადგილობრივი ამოცანების შესასრულებლად არის შექმნილი.
სისტემას მოგვიანებით კიდევ უფრო კომპაქტური ვერსია დაემატება. Nemotron 3.5 Bolt E4B სულ რაღაც 4 გიგაბაიტ მეხსიერებას მოითხოვს და მისი გამოყენება GeForce RTX და Jetson მოწყობილობებზე იქნება შესაძლებელი. თუმცა ამ მოდელის გამოსვლა 23 ოქტომბერს იგეგმება. მწარმოებლის ცნობით, ახალი სერიის მოდელები 26 ტრილიონ ტოკენზე გაიწვრთნა, ხოლო Dynamo სერვერის მეშვეობით სისტემას რვაჯერ მეტი მომხმარებლის მომსახურება შეუძლია 85 პროცენტით დაბალი დაყოვნებით.
