El C600 de Graphcore agrega FP8 para IA de precisión baja y mixta

La firma británica de semiconductores Graphcore ha lanzado la C600, una tarjeta PCIe que agrega soporte para la especificación de coma flotante de 8 bits (FP8).

El FP8 tiene como objetivo proporcionar un formato común que acelere el desarrollo de la IA al optimizar el uso de la memoria y funcione tanto para el entrenamiento como para la inferencia de la IA.

Además de Graphcore, FP8 cuenta con el respaldo de gigantes de la industria, incluidos NVIDIA, ARM, Intel y Qualcomm.

El C600 se basa en la IPU MK2 de Graphcore y desarrolla hasta 560 TFLOPS de rendimiento FP8 y 280 TFLOPS para FP16. Es una tarjeta PCIe Gen 4 de doble ranura con una potencia de consumo térmico de 185 W.

“Hacemos que la IPU esté disponible en una tarjeta PCIe en respuesta a la demanda de los clientes en mercados donde las configuraciones del centro de datos, incluido el tamaño del rack y la entrega de energía, varían ampliamente”, escribió Chen Jin, vicepresidente y jefe de ingeniería de Graphcore China, en una publicación de blog. .

“Este factor de forma altamente versátil permite a los clientes de Graphcore adaptar la configuración de su sistema, incluido el servidor host/chasis, a sus requisitos exactos”.

La IPU incluye 1472 núcleos de procesamiento y es capaz de ejecutar 8832 subprocesos de programas independientes en paralelo. Cada IPU cuenta con 900 MB de memoria SRAM en el chip que se encuentra junto a los núcleos de procesamiento.

Se pueden conectar hasta ocho tarjetas C600 en un solo chasis utilizando IPU-Links de gran ancho de banda.

Estados Unidos aumentó recientemente el alcance de sus restricciones de exportación de chips avanzados a China y no está claro si Graphcore tuvo que adaptar el C600 para cumplir.

Si bien Graphcore es una empresa británica, las restricciones estadounidenses se aplican a las empresas de otros países que utilizan herramientas de fabricación y diseño estadounidenses para sus operaciones.

En respuesta a las restricciones de exportación, NVIDIA dijo que estaba ralentizando su GPU A100 para seguir vendiendo el hardware en China. Mientras tanto, AMD ha detenido por completo las ventas de su GPU MI250 al país.

Graphcore dice que el C600 ya está disponible para pre-pedido en China y Singapur.

(Crédito de la imagen: Graphcore)

¿Quiere aprender más sobre IA y big data de los líderes de la industria? Eche un vistazo a AI & Big Data Expo que tendrá lugar en Ámsterdam, California y Londres.

Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados ​​por TechForge aquí.

La publicación Graphcore’s C600 agrega FP8 para IA de precisión baja y mixta apareció primero en AI News.