в принципе любая модель выдающая >400 tps подходит на эту роль. на видео gemini-2.5-flash-lite, но то же самое можно сделать и поверх предложений groq или cerebras.
TPU решают. у кого TPU нету тот отставать начнет
в принципе любая модель выдающая >400 tps подходит на эту роль. на видео gemini-2.5-flash-lite, но то же самое можно сделать и поверх предложений groq или cerebras.
TPU решают. у кого TPU нету тот отставать начнет
