The Latent
ES▾
EnglishEspañol中文PortuguêsFrançaisالعربية日本語한국어
Crear cuenta
NOTICIASDATOSINVESTIGACIÓNPODCASTBOLETÍNPRENSAASOCIARSE CON NOSOTROS →
Datos/Capacidad

Capacidad

Rendimiento histórico de tokens por GPU

Rendimiento histórico de tokens por GPU. Serie de demostración del equipo de datos de The Latent.

Rendimiento histórico de tokens por GPU

  • H100 FP8
  • H100 FP16
  • MI300X FP8
Rendimiento histórico de tokens por GPUVista previa de demostración hasta julio de 2026 (tokens per second).30 mil20 mil10 mil0jul '23ene '24jul '24ene '25jul '25ene '26jul '26H100 FP8: 25,5 mil on jul '26. H100 FP16: 14,4 mil on jul '26. MI300X FP8: 20,8 mil on jul '26
FUENTE: The LatentACTUALIZADO: 1 jul 2026
ZOOMALLYTD12M3M1M
CSV
Ver datos
DateH100 FP8H100 FP16MI300X FP8
2023-08-0114698.018317.6511977.48
2023-09-0114642.918280.7211916.02
2023-10-0114646.138287.7711933.66
2023-11-0113992.817912.3711385.09
2023-12-0115395.958698.9312506.79
2024-01-0116140.29128.1813136.5
2024-02-0116224.949172.7913196.04
2024-03-0117116.139681.0713933.46
2024-04-0116055.379088.5613091.61
2024-05-0115656.418852.1912736.05
2024-06-0116521.819343.0613444.39
2024-07-0116374.279258.0513319.96
2024-08-0117890.810108.4814533.24
2024-09-0118803.9310637.3615312.18
2024-10-0117945.6610151.9914613.93
2024-11-0118391.0810401.8114970.29
2024-12-0117645.199986.6414382.57
2025-01-0117362.379813.5814114.77
2025-02-0119227.710867.515629.72
2025-03-0119472.6511012.3315847.34
2025-04-0120336.611494.8416532.88
2025-05-0121036.3511902.8917137.69
2025-06-0119414.5110987.1715822.37
2025-07-0119734.4911157.5116052.09
2025-08-0120069.3811352.6316341.1
2025-09-0120118.7811370.5716352.71
2025-10-0122483.212706.0218271.7
2025-11-0122688.2812836.4218480.2
2025-12-0122293.2412607.1418141.94
2026-01-0122815.4712908.6718584.56
2026-02-0121223.9212010.5617295.3
2026-03-0121860.1412353.2417763.69
2026-04-0123606.213347.1719203.15
2026-05-0123700.5513399.2419276.44
2026-06-0125600.7314471.1720814.87
2026-07-0125466.7114413.6520758.43

Acceso API · Pro próximamente

Vista previa de demostración hasta julio de 2026 (tokens per second).

Download CSVAPI Pro próximamente

Metodología

Serie sintética de demostración generada para previsualizar el diseño del producto de datos.

Gráficos relacionados

  • Velocidades históricas de inferencia
  • Eficiencia histórica de tokens en modelos de frontera
  • Índice de Capacidades de Epoch (ECI)

The Latent

Noticias de la industria de la IA. Publicación hermana de The Block.

Editorial

  • Estándares
  • Correcciones
  • Política comercial
  • Contacto

Empresa

  • Acerca de
  • Política de privacidad
  • Términos de servicio
  • Seguridad
  • The Block