token数量是如何统计的？
#4
by
AJW1993 - opened
是直接算的字符数，还是tokenize之后的？如果tokenize之后的，用的是哪个tokenizer呢？
Qwen2Tokenizer
yuyijiong changed discussion status to
closed
Qwen2Tokenizer
为什么我计算出的token量和给出的值差别比较大，比如4_5，我统计的token量只有28B，但是给出的值是46B
token数量是随机抽取10,000条数据，计算平均token数量，然后估算整个数据集的token数量
感觉估算这个偏差好像也有点大了，我自己估算也不会差这么多