Единица текста, в которой считают объём работы и цену модели
Кусок текста, которым модель оперирует: примерно слово или его часть. Объём работы модели и её цена считаются в токенах — обычно за миллион, отдельно на вход и на выход.
Почему это важно: сравнивать модели по цене «за запрос» бессмысленно, потому что запросы разной длины. Токены — единственная общая мера, и на ней же строится честная юнит-экономика: цену надо брать после скидок и по фактическому соотношению входа и выхода, а не по рекламному тарифу.