Volver al blog

Streaming de tokens: la diferencia entre 'se siente rápido' y 'es rápido'

·4 min de lectura

El Time To First Byte (TTFB) es el KPI de UX más subestimado en productos con IA generativa. Al usar ReadableStream sobre la Web Fetch API, el primer token puede llegar al navegador en cientos de milisegundos, mientras el resto de la respuesta sigue generándose en el servidor. El usuario percibe la respuesta como instantánea, incluso si la generación completa tarda varios segundos.

#Performance#Next.js#UX