토큰 효율성 (token efficiency, Token Efficiency)
모델이 데이터를 처리하는 단위인 토큰의 사용량을 최적화하여 비용을 낮추고 처리 속도를 높이는 것
1 / 2
용례
"3.5 Flash 대비 출력 토큰 사용량을 17% 줄여 더 저렴한 비용으로 제공함."
"스페이스XAI는 자사 모델이 다른 선도적인 모델보다 두 배 더 높은 토큰 효율성을 가지고 있어 실제 환경에서 비용을 크게 절감할 수 있다고 설명합니다."
모델이 데이터를 처리하는 단위인 토큰의 사용량을 최적화하여 비용을 낮추고 처리 속도를 높이는 것
"3.5 Flash 대비 출력 토큰 사용량을 17% 줄여 더 저렴한 비용으로 제공함."
"스페이스XAI는 자사 모델이 다른 선도적인 모델보다 두 배 더 높은 토큰 효율성을 가지고 있어 실제 환경에서 비용을 크게 절감할 수 있다고 설명합니다."