
Tibo@thsottiaux
Llegando a 50 TPS en lugar de 30 TPS, además con el tokenizador más optimizado que existe. ¡Y los modelos son bastante eficientes en cuanto al número de tokens necesarios para hacer las cosas!
Reaching 50 TPS instead of 30TPS, with also the most optimized tokenizer out there. And the models are quite the efficient ones in terms of number of tokens needed to get things done!