როგორ მუშაობს დიდი ენობრივი მოდელი: ტოკენები, ყურადღება და წინადადების ფასი

ჩატბოტი თითქოს კითხვაზე პასუხობს. სინამდვილეში ის უფრო მარტივ საქმეს აკეთებს. კითხულობს იმას, რაც უკვე დაწერილია, და ითვლის, რა უნდა მოჰყვეს. მერე წერს ერთ მონაკვეთს და ისევ თავიდან კითხულობს ყველაფერს — იმასაც, რაც ახლახან დაწერა. ეს რამდენიმე ასჯერ მეორდება და აბზაცი მზადაა. ფასი, სიჩქარე, ერთ საუბარში ჩატეული ტექსტის ზღვარი და თავდაჯერებული შეცდომები — ყველაფერი ამ ციკლით და იმ მანქანებით აიხსნება, რომლებზეც მოდელი მუშაობს.

ტექსტი ციფრებად

მოდელი ასოებსა და სიტყვებს არ ხედავს. ის ტოკენებს ხედავს: ტექსტის პატარა მონაკვეთებს ფიქსირებული სიიდან. Anthropic-ის დოკუმენტაციით, მის ძველ მოდელებში ერთი ტოკენი დაახლოებით 3,5 ინგლისურ სიმბოლოს შეესაბამებოდა. Claude 4.7-დან ახალი ტოკენიზატორი გამოიყენება და იმავე ტექსტზე დაახლოებით 30 პროცენტით მეტ ტოკენს იძლევა. ხშირად ხმარებულ სიტყვას ერთი ტოკენი ხვდება, იშვიათი სიტყვა კი ნაწილებად იჭრება. მერე თითოეული ტოკენი რიცხვების სიად გარდაიქმნება. ამ მომენტიდან მოდელი აღარ კითხულობს — ითვლის.

ტოკენების სია იმ ტექსტზეა აგებული, რომელზეც ტოკენიზატორი მოამზადეს, ეს ტექსტი კი თითქმის მთლიანად ინგლისურია. ქართულს ეს პირდაპირ ეხება. პეტროვმა და მისმა კოლეგებმა 2023 წელს, NeurIPS-ის კონფერენციაზე, აჩვენეს: ერთი და იგივე ტექსტი სხვადასხვა ენაზე ტოკენების რაოდენობით შეიძლება 15 ჯერ განსხვავდებოდეს. სხვაობა მაშინაც რჩება, როცა ტოკენიზატორი სპეციალურად მრავალ ენაზეა გათვლილი. იმავე წელს აჰიამ და მისმა კოლეგებმა კომერციულ მოდელებზე გაზომვები ჩაატარეს და ქართული პირდაპირ დაასახელეს: საკუთარი დამწერლობის მქონე ენებს ერთი და იმავე აზრის თქმა ხუთჯერ მეტამდე ტოკენი უჯდება.

ეს ესთეტიკის საკითხი არ არის. ტოკენი არის ფასის ერთეული, დაყოვნების ერთეული და კონტექსტის ფანჯრის — მოდელის სამუშაო მეხსიერების — ერთეული. ერთი და იგივე გვერდი ქართულად შეიძლება რამდენჯერმე ძვირი დაჯდეს, ვიდრე მისი ინგლისური თარგმანი. პასუხიც უფრო ნელა მოვა და მოდელის სამუშაო მეხსიერებაშიც რამდენჯერმე მეტი ადგილი დაიკავებს. ქართველი მომხმარებელი ანბანის გადასახადს იხდის და ეს გადასახადი ტოკენებით ერიცხება.

ყურადღების მექანიზმი

2017 წლამდე წინადადებას სიტყვა-სიტყვით ამუშავებდნენ: მოდელი ტექსტს თანმიმდევრულად კითხულობდა და მოკლე შინაარსს თან ატარებდა. ეს მიდგომა შეცვალა სტატიამ „Attention Is All You Need“, რომელიც ვასვანმა და მისმა შვიდმა თანაავტორმა 2017 წლის 12 ივნისს გამოაქვეყნეს. მთავარი აზრი სათაურშივე იყო. მოდელი ყოველი ტოკენისთვის ითვლის, რამდენად მნიშვნელოვანია ამ ტოკენისთვის დანარჩენი ტოკენები, და მათ სწორედ ამ წონების მიხედვით აჯამებს. გრძელ წინადადებაში ნაცვალსახელი ერთ ნაბიჯში უკავშირდება იმ არსებით სახელს, რომელსაც ენაცვლება — თუნდაც ოცდაათი ტოკენით უკან.

უპირატესობა ის იყო, რომ ყველაფერი ერთდროულად ითვლებოდა და არა რიგრიგობით. სწორედ ამიტომ გახდა დიდი მოდელების მომზადება შესაძლებელი. პირველ ტრანსფორმერს 65 მილიონი პარამეტრი ჰქონდა. მისი უფრო დიდი ვერსია რვა GPU-ზე სამნახევარ დღეში მოამზადეს. ამ ვერსიამ მაშინდელ საუკეთესო მთარგმნელ სისტემებს აჯობა.

ფასიც იმავე სტატიის ცხრილშია: ყურადღების მექანიზმის სამუშაო თითოეულ შრეზე ტოკენების რაოდენობის კვადრატის პროპორციულად იზრდება. ტექსტს ორჯერ გააგრძელებ და ეს ნაბიჯი ოთხჯერ მეტს დაითვლის. ამიტომ იყო კონტექსტის ფანჯარა წლების განმავლობაში მცირე. ამიტომ გახდა ის ახლა მთავარი სარეკლამო უპირატესობა, მას შემდეგ, რაც ინჟინრებმა შემოვლითი გზები იპოვეს: Google-ის დოკუმენტაციით, Gemini 4 Argon-ს ერთი მილიონი ტოკენის ფანჯარა აქვს. და ამიტომ ჩანს იგივე კვადრატი ფასშიც: Anthropic-ი Claude Haiku 5.5-ზე ტოკენზე ხუთჯერ მეტს იღებს, როცა მოთხოვნა 100 000 ტოკენს გადააჭარბებს.

პირველი ეტაპი: მომდევნო ტოკენის გამოცნობა

მომზადების პირველ ეტაპზე მოდელი ერთ რამეს აკეთებს: წინა ტექსტის მიხედვით გამოიცნობს მომდევნო ტოკენს. ასე აღწერს ამას Anthropic-ი თავის ტერმინთა ლექსიკონში. ტექსტს წინასწარ არავინ ამუშავებს და პასუხებს არავინ კარნახობს: სწორი პასუხი იმავე ტექსტშია, რადგან მომდევნო ტოკენი იქვე წერია. ყოველი შეცდომა მოდელის პარამეტრებს ოდნავ ცვლის. საკმარისად დიდ ტექსტზე მოდელი ერთდროულად ითვისებს გრამატიკას, ფაქტებს, სტილს და დიდი რაოდენობით სისულელესაც.

2020 წლის მაისში GPT-3-ს 175 მილიარდი პარამეტრი ჰქონდა, ათჯერ მეტი, ვიდრე მასამდე ნებისმიერ შესადარებელ მოდელს. 2022 წელს ჰოფმანმა და მისმა კოლეგებმა აჩვენეს, რომ ასეთი მოდელების უმეტესობა არასწორად იყო აგებული. როცა გამოთვლებისთვის დრო და ფული შეზღუდულია, პარამეტრების რაოდენობა და ტექსტის მოცულობა თანაბრად უნდა იზრდებოდეს. მათმა 70-მილიარდიანმა Chinchilla-მ, რომელმაც 1,4 ტრილიონი ტოკენი დაამუშავა, 280-მილიარდიან მოდელს აჯობა. ამ პროპორციის — ოცი ტოკენი ერთ პარამეტრზე — შემდეგ ინდუსტრიამ უფრო დიდი მოდელების ნაცვლად უფრო დიდ მონაცემებზე გადაიტანა ყურადღება.

ბოლო დიდი მოდელი, რომლის მომზადებაც სრულად აღწერეს, Meta-ს Llama 3-ია, 2024 წლის ივლისში: 405 მილიარდი პარამეტრი, 15,6 ტრილიონი ტოკენის ტექსტი და 3,8×10²⁵ არითმეტიკული ოპერაცია, 16 000-მდე H100-ზე, რომელთაგან თითოეული 700 ვატზეა გათვლილი. 16 000 და 700 ერთად დაახლოებით 11 მეგავატს იძლევა. ეს ჩიპები კვირების განმავლობაში მუშაობენ. მას შემდეგ წამყვანმა ლაბორატორიებმა პარამეტრების რაოდენობის გამოქვეყნება შეწყვიტეს. ესეც ამ დარგის ერთი ნიშანია.

მეორე ეტაპი: ადამიანების შეფასება

მოდელი, რომელიც მხოლოდ ტექსტის გაგრძელებისთვისაა მომზადებული, ასისტენტი არ არის. თუ რამეს ჰკითხავ, შეიძლება კიდევ რამდენიმე კითხვით განაგრძოს, რადგან ინტერნეტის ტექსტებში ხშირად ასე ხდება. ამას ორი დამატებითი ეტაპი ასწორებს და ორივეს ადამიანი სჭირდება. ჯერ ადამიანები სასურველი პასუხების ნიმუშებს წერენ და ამ ნიმუშებზე მოდელს დამატებით ამზადებენ. მერე ადამიანები თვითონ მოდელის პასუხებს ერთმანეთს ადარებენ და ალაგებენ. შემდეგ მოდელი თანდათან ისე იცვლება, რომ უფრო ხშირად ისეთი პასუხი გასცეს, როგორიც ადამიანებმა მოიწონეს. ამ ხერხს ინგლისურად RLHF ჰქვია — ადამიანის შეფასებაზე დაყრდნობით დახვეწა.

ეს ეტაპი ბევრად უფრო მნიშვნელოვანია, ვიდრე ჩანს. 2022 წლის მარტში ოუიანგმა და მისმა კოლეგებმა OpenAI-ში აჩვენეს: შემფასებლებს 1,3-მილიარდიანი მოდელის პასუხები უფრო მოეწონათ, ვიდრე 175-მილიარდიანი GPT-3-ის პასუხები. პატარა მოდელმა ეს ორი ეტაპი გაიარა, GPT-3-ს კი არ გაუვლია. ასჯერ უფრო პატარა მოდელმა აჯობა. ის, რასაც მომხმარებელი ჩატბოტის ხასიათად აღიქვამს, თითქმის მთლიანად ამ ეტაპის შედეგია და არა პირველის.

რატომ არის პასუხი ძვირი

მოთხოვნის წაკითხვა და პასუხის დაწერა ერთი და იგივე სამუშაო არ არის. მოთხოვნა ერთი გავლით მუშავდება, პასუხი კი ტოკენების მიმდევრობით იწერება, რადგან ყოველი ტოკენი წინაზეა დამოკიდებული. ფასების სია ამას პირდაპირ აჩვენებს: Anthropic-ის დღევანდელ მოდელებში გამომავალი, მოდელის დაწერილი ტოკენი ზუსტად ხუთჯერ მეტი ღირს, ვიდრე შემომავალი. Opus 5.5-ში მილიონ ტოკენზე 4 და 20 დოლარია, Haiku 5.5-ში — 0,10 და 0,50 დოლარი.

პასუხის წერას ხშირად არითმეტიკა კი არ ზღუდავს, არამედ მონაცემების გადატანა: ყოველი ტოკენისთვის საჭირო პარამეტრები მეხსიერებიდან ჩიპში უნდა ჩაიტვირთოს. ერთ H100-ს 80 გიგაბაიტი მეხსიერება აქვს, წამში 3,35 ტერაბაიტს კითხულობს და 700 ვატამდე ხარჯავს. სწორედ ეს სიჩქარე და არა ჩიპის არითმეტიკა განსაზღვრავს, რამდენად სწრაფად გამოდის ტოკენები. ამიტომ არსებობს ორი ჩვეულებრივი ფასდაკლება. ორივე ერთსა და იმავეს ნიშნავს: ზედმეტი სამუშაო არ სრულდება. თუ ტექსტი უკვე დამუშავებულია და ქეშში დევს, მისი ხელახლა წაკითხვა ჩვეულებრივი ფასის 10 პროცენტი ღირს. მოთხოვნების პაკეტად გაგზავნა კი ნახევარი ფასი ჯდება.

ცალკე აღებული ერთი პასუხი ძალიან ცოტას ხარჯავს. 2025 წლის აგვისტოში Google-მა იმავე წლის მაისის გაზომვები გამოაქვეყნა: Gemini-ის ერთმა საშუალო ტექსტურმა მოთხოვნამ 0,24 ვატ-საათი, 0,03 გრამი CO₂-ის ეკვივალენტი და 0,26 მილილიტრი წყალი დახარჯა. იმავე ანგარიშით, ერთ მოთხოვნაზე დახარჯული ენერგია თორმეტ თვეში 33 ჯერ შემცირდა. ერთ კითხვაზე დახარჯული ენერგია საჯაროა. კითხვების რაოდენობა — არა.

671 მილიარდი პარამეტრი, 37 მუშაობს

ერთი ხერხი აჩვენებს, რომ დიდი მოდელი ყოველთვის ძვირი არ არის. ასეთ მოდელში ქსელი ბევრ ქვექსელად არის დაყოფილი. გამანაწილებელი ყოველ ტოკენს მხოლოდ რამდენიმე ქვექსელში ატარებს. ამ აგებულებას ინგლისურად mixture of experts ჰქვია — ექსპერტებად დაყოფილი მოდელი. DeepSeek-V3-ს, რომელიც 2024 წლის დეკემბერშია აღწერილი, 671 მილიარდი პარამეტრი აქვს, მაგრამ ერთ ტოკენზე მხოლოდ 37 მილიარდს ააქტიურებს. მის მომზადებას 14,8 ტრილიონი ტოკენი და 2,8 მილიონი GPU-საათი დასჭირდა. მოდელი დიდია მეხსიერებაში, სადაც ადგილი იაფია. პატარაა კი გამოთვლებში, სადაც ყოველი ტოკენი ძვირი ჯდება.

რატომ იგონებს ფაქტებს

მოდელი მუდამ გამოიცნობს. მის შიგნით არაფერი განასხვავებს შემთხვევით სწორ გამოცნობას არასწორისგან. ამას კარგად აჩვენებს ტემპერატურა. ეს პარამეტრი განსაზღვრავს, რამდენად თამამად ირჩევს მოდელი სავარაუდო ტოკენებიდან. გაზრდი — და იმავე მოთხოვნაზე სხვანაირ პასუხს მიიღებ. Anthropic-ი აღნიშნავს, რომ ნულოვან ტემპერატურაზეც ერთსა და იმავე მოთხოვნაზე პასუხი შეიძლება სხვადასხვა იყოს.

2025 წლის სექტემბერში კალაიმ, ნაჩუმმა, ვემპალამ და ჟანგმა უფრო მკაცრი დასკვნა გამოიტანეს: გამოცნობა მომზადების დროსვეა ჩაშენებული. სამი მათგანი OpenAI-ში მუშაობს. მათი სიტყვებით, გამოგონილი ფაქტი ჩვეულებრივი შეცდომაა: პასუხი ან სწორია, ან არა. მოდელების შეფასების წესი კი სწორედ გამოცნობას აჯილდოებს. ტესტები წყვეტენ, ვისი მოდელი გამოიყურება უკეთესად. ისინი პასუხს ან სწორად, ან არასწორად აფასებენ. პასუხს „არ ვიცი“ ქულას საერთოდ არ აძლევენ. ამიტომ თავდაჯერებული გამოცნობა ყოველთვის სულ მცირე იმდენივე ქულას იღებს, რამდენსაც უცოდინრობის აღიარება. მოდელი, რომელიც გამოიცნობს, რეიტინგში მაღლა იწევს. მათ მიერ შემოთავაზებული გამოსავალი უკეთესი ხელსაწყო არ არის — ისინი ამბობენ, რომ არსებული ტესტები სხვაგვარად უნდა შეფასდეს.

სურათი უსიამოვნოა: ავაგეთ მანქანა, რომლის საქმეც გამოცნობაა. მერე შეფასების ისეთი წესი შევქმენით, რომ „არ ვიცი“ ქულას ართმევს. ბოლოს კი მატყუარა ვუწოდეთ.