טוקן Token

בהרחבה

מודלים לא סופרים מילים אלא טוקנים: חלקי מילים, מילים קצרות וסימנים. המחיר של שימוש דרך API, וגם הגבלות השימוש, נמדדים בטוקנים.

לדוגמה: מסמך ארוך "עולה" יותר טוקנים מהודעה קצרה, ולכן גם יותר כסף או יותר מהמכסה.