იაფი მოდელი ახლა ძვირიანზე ძვირია

OpenAI-ის GPT-6.1 Sol 30 სექტემბრიდან მილიონ შემომავალ ტოკენზე 2 დოლარი ღირდა, მილიონ გამომავალზე — 10. ტოკენი ტექსტის პატარა ნაწილია — ფასი სწორედ ტოკენების რაოდენობაზე ითვლება. ხუთშაბათს იმავე მოდელს მეორე ფასიც გაუჩნდა: 12 და 60 დოლარი. მოდელში არაფერი შეცვლილა. ექვსჯერ ძვირი — მხოლოდ იმიტომ, რომ პასუხი უფრო სწრაფად მოდის. თავად OpenAI აღნიშნავს: ეს ფასი 1.2 ჯერ აღემატება მათივე ყველაზე ძვირი მოდელის ფასს. Sol სწორედ იმ მოდელის იაფი შემცვლელი იყო. ახალი პარამეტრი დაამატეს — და იაფი მოდელი ძვირი გახდა. ამ კვირას მოდელს არ ყიდდნენ — ყიდდნენ მოდელამდე მიმავალ გზას. ამ გზას კი ხშირად მყიდველი არ ირჩევს — გამყიდველი ირჩევს.

მყიდველის კითხვა შეიცვალა. ორი წელი კითხვა იყო: რომელი მოდელი ჯობია? ამ კვირიდან კითხვა სხვაა: რომელმა მოდელმა გიპასუხა? რამდენი ძალისხმევა დაიხარჯა? სად შესრულდა სამუშაო? და ეს ვინ გადაწყვიტა? შენს მოთხოვნასა და შენს გადასახდელს შორის ახლა ოთხი პარამეტრი დგას: გამოწერის დონე, ძალისხმევის დონე, სიჩქარე და ის, შენს კომპიუტერზე შესრულდა სამუშაო თუ მონაცემთა ცენტრში. ოთხიდან ორს გამყიდველი ირჩევს — ყოველ მოთხოვნაზე ცალკე — და არ გეუბნება, რა აირჩია.

მოდელის სახელი აღარ გეუბნება, რა დაგიჯდება. ამ კვირას ყველაზე იაფი და ყველაზე ძვირი ფასი 286 ჯერ განსხვავდებოდა. ამ შვიდ დღეში გამოცხადებული ფასები მილიონ შემომავალ ტოკენზე 0.042 დოლარიდან 12 დოლარამდე მერყეობდა. ყველაზე იაფი Microsoft-Decision-1 არის — პარასკევს Microsoft-ის პლატფორმა Foundry-ზე გაეშვა. ტექსტს არ წერს: მხოლოდ ამბობს, მიწოდებული ვარიანტებიდან რომელი რამდენად სავარაუდოა, გამომავალი ტოკენები კი უფასოა. ყველაზე ძვირი — სწრაფად გაშვებული Sol. ეს ერთი და იგივე სამუშაო არ არის და სწორედ ეს არის მთავარი: სამუშაო ისე დაიშალა ნაწილებად, რომ კითხვას „რა ღირს მოდელი?“ პასუხი აღარ აქვს. პასუხის ნაცვლად მხოლოდ პარამეტრების ნაკრები რჩება. Google-მა ძალისხმევის სამი დონე დაამატა. თავისივე დოკუმენტაციაში წერია: რაც მეტი ძალისხმევა, მით მეტი ლიმიტი იხარჯება.

ამ კვირას მოდელს არ ყიდდნენ — ყიდდნენ მოდელამდე მიმავალ გზას. ამ გზას კი ხშირად მყიდველი არ ირჩევს — გამყიდველი ირჩევს.

ამ კვირის მთავარი პროდუქტი დისპეტჩერი იყო — და ის გამყიდველს ეკუთვნის. დისპეტჩერი ის პროგრამაა, რომელიც ირჩევს, რომელი მოდელი უპასუხებს. Microsoft-მა ოთხშაბათს Windows-ისთვის „ჰიბრიდული ინტელექტი“ წარადგინა: სამუშაოს ნაწილი კომპიუტერზევე სრულდება, ნაწილი — ღრუბელში, რომ ტოკენებზე ხარჯი შემცირდეს. მომხმარებელი კი ვერ გაიგებს, რომელი ნაწილი სად შესრულდა. ასე დაგეგმეს. Decision-1 იმავე იდეას ყიდის, ოღონდ ცალკე ნაწილად. აგენტი მთელი დღე ახარისხებს, ირჩევს და წყვეტს, გააგრძელოს თუ არა. აქამდე ამ სამუშაოს ძვირიანი მოდელი აკეთებდა — ის, რომელიც ტექსტის დასაწერად არის შექმნილი. Microsoft ამბობს, რომ Xbox-ის ჯგუფმა ათი ათასზე მეტი გამოხმაურება ასე დაამუშავა და GPT-6 Sol-თან შედარებით ორასჯერ ნაკლები გადაიხადა. დაზოგვა ნამდვილია. ქვითარში კი არ წერია, რომელმა მოდელმა იმუშავა.

იაფი მოდელი იმდენად გაუმჯობესდა, რომ მისი შეზღუდვა ახლა კომერციული გადაწყვეტილებაა და არა ტექნიკური. Claude Haiku 5.5 ოთხშაბათს გამოვიდა: Terminal-Bench 4.0-ზე 0.0%-დან 39.2%-მდე ავიდა და მოკლე მოთხოვნებზე წინა ვერსიის ფასის მეათედი ღირს. Anthropic-მა საკუთარი რიცხვი თავად შეასწორა — რეალური დაზოგვა 90%-ს არ აღწევს, 75%-ს უახლოვდება. ორი დღის შემდეგ Google-ის უფასო მომხმარებლებს მხოლოდ ყველაზე სუსტი მოდელი დარჩათ. იაფი მოდელები სწრაფად უმჯობესდება, უფასოდ კი მათი მიღება სულ უფრო ძნელია.

მეორე მხრივ: ეს იმასაც ნიშნავს, რომ ბაზარი მწიფდება. ელექტროენერგიას დღის მონაკვეთის მიხედვით ყიდიან, ღრუბლოვან სერვერებს კლასის მიხედვით, და ამას მოტყუებას არავინ ეძახის. Cohere-ის ამ კვირის მთავარი სიახლეც ხარჯის შეზღუდვაა. კომპანია მიზეზს პირდაპირ ამბობს: ერთი წლის განმავლობაში დიდმა კომპანიებმა უსაფრთხოება, შესაძლებლობები და ხარჯის კონტროლი ვერ შეათავსეს — სამიდან ერთი ყოველთვის ეწირებოდა. მარშრუტიზაცია მართლა იაფია, და იაფი ფასის გარეშე პატარა გუნდს ეს ვერ შეეძლებოდა. მაგრამ კილოვატ-საათი ყველგან ერთი და იგივეა. აქ რაოდენობა არ იცვლება — იცვლება პასუხის ხარისხი. შაბათს სატია ნადელამ წესების ნაკრები გამოაქვეყნა: მოდელის ყოველი მნიშვნელოვანი ქმედება ისე უნდა დაფიქსირდეს, რომ ადამიანმა წაიკითხოს. სამი დღით ადრე მისივე კომპანიამ გამოუშვა დისპეტჩერი, რომელიც არ ამბობს, რომელმა მოდელმა იმუშავა.

შედეგები და შესაძლებლობები

• გამოქვეყნებული ქულა ახლა პარამეტრებს აღწერს და არა პროდუქტს. თუ ძალისხმევა და მარშრუტი ყოველ მოთხოვნაზე იცვლება, გამოქვეყნებული რიცხვი სხვა პარამეტრებს ეკუთვნის და არა იმას, რასაც შენ ყიდულობ.
• „ჩვენ GPT-6-ს ვიყენებთ“ ხელშეკრულებაში აღარაფერს ნიშნავს. ხელშეკრულებაში მოდელის სახელი წერია, მარშრუტი, ძალისხმევის დონე და ანგარიშგების ვალდებულება კი — არა. ასეთი ხელშეკრულება გამყიდველს არაფერს აკისრებს.
• უფასო დონე ახლა უფრო მცირე პროდუქტი არ არის — სხვა პროდუქტია. პარასკევიდან Google-ის უფასო მომხმარებელი ნაკლებს არ იღებს — უფრო სუსტ მოდელს იღებს, და ამის შემჩნევა ბევრად რთულია.
• ფარული მარშრუტიზაცია აუდიტს შეუძლებელს ხდის. ნადელას ჩამონათვალში ყველა კონტროლი იმას ეყრდნობა, რომ იცი, რა შესრულდა. დისპეტჩერი კი, რომელიც ჩუმად ირჩევს, სწორედ ამ ცოდნას გართმევს.
• შესაძლებლობა: იაფი და კარგი მოდელი ამ კვირის ნამდვილი საჩუქარია პატარა გუნდებისთვის. Haiku 5.5 მილიონ ტოკენზე 0.10 დოლარი ღირს და Terminal-Bench-ზე 39.2% აქვს. თვის წინ ასეთ სამუშაოს ძვირიანი მოდელი სჭირდებოდა. ამ საიტის ბიუჯეტი სწორედ ამ არითმეტიკაზე დგას.
• შესაძლებლობა: ამ კვირის სიახლეებიდან საქართველოს პატარა, ადგილობრივი მოდელები უფრო უხდება, ვიდრე ძვირი, მოწინავე მოდელები. მოწინავე მოდელებზე წვდომა თვეში 19.99 დოლარიდან იწყება და ფასი იზრდება. ქართულ ენას ინტერნეტში ცოტა ტექსტი აქვს. ასეთი ენისთვის კარგი პატარა მოდელი ინსტიტუტსაც შეუძლია გააკეთოს — თუნდაც იმას, რომელმაც ახლახან 27 მკვლევარი გადაამზადა და სერვერი მიიღო.

რას ვადევნებთ თვალს

• დაიწყებს თუ არა რომელიმე კომპანია იმის ჩვენებას, რომელმა მოდელმა გიპასუხა. Windows-ის დისპეტჩერი ამას არ აკეთებს და ამ კვირას ეს არავის დაუპირებია.
• გამოაქვეყნებს თუ არა რომელიმე ლაბორატორია ქულებს ძალისხმევისა და მარშრუტის მიხედვით და არა მოდელის სახელის მიხედვით. ვინც ამას პირველი გააკეთებს, მის გვერდით დანარჩენების რიცხვები ბუნდოვანი გამოჩნდება.
• გაუძლებს თუ არა Ultrafast-ის ექვსმაგი ფასი ერთ თვეს, თუ სიჩქარეც გამოწერის ჩვეულებრივ დონედ გადაიქცევა.

იკითხე, რა დაგიჯდება ხელოვნური ინტელექტი, და პატიოსანი პასუხი შეკითხვით დაიწყება: რომელმა მოდელმა გიპასუხა?