A empresa de chips Tenstorrent, dirixida por Jim Keller, lanzou o seu procesador Wormhole de nova xeración para cargas de traballo de IA, que espera ofrecer un bo rendemento a un prezo accesible.A empresa ofrece actualmente dúas tarxetas PCIe adicionais que poden albergar un ou dous procesadores Wormhole, así como estacións de traballo TT-LoudBox e TT-QuietBox para desenvolvedores de software. Todos os anuncios de hoxe están dirixidos a desenvolvedores, non a aqueles que usan placas Wormhole para cargas de traballo comerciais.
«Sempre é gratificante ter máis dos nosos produtos nas mans dos desenvolvedores. Os sistemas de desenvolvemento de versións que empregan as nosas tarxetas Wormhole™ poden axudar aos desenvolvedores a escalar e desenvolver software de IA multichip», dixo Jim Keller, CEO de Tenstorrent.Ademais deste lanzamento, estamos entusiasmados por ver o progreso que estamos a facer coa descarga e posta en marcha do noso produto de segunda xeración, Blackhole.
Cada procesador Wormhole contén 72 núcleos Tensix (cinco dos cales admiten núcleos RISC-V en varios formatos de datos) e 108 MB de SRAM, o que ofrece 262 TFLOPS FP8 a 1 GHz cunha potencia de deseño térmico de 160 W. A tarxeta Wormhole n150 dun só chip está equipada con 12 GB de memoria de vídeo GDDR6 e ten un ancho de banda de 288 GB/s.
Os procesadores Wormhole ofrecen escalabilidade flexible para satisfacer as diversas necesidades das cargas de traballo. Nunha configuración estándar de estación de traballo con catro tarxetas Wormhole n300, os procesadores pódense combinar nunha única unidade que aparece no software como unha rede central Tensix ampla e unificada. Esta configuración permite que o acelerador xestione a mesma carga de traballo, a divida entre catro desenvolvedores ou execute ata oito modelos de IA diferentes simultaneamente. Unha característica clave desta escalabilidade é que pode executarse localmente sen necesidade de virtualización. Nun entorno de centro de datos, os procesadores Wormhole usarán PCIe para a expansión dentro da máquina ou Ethernet para a expansión externa.
En termos de rendemento, a tarxeta Wormhole n150 dun só chip de Tenstorrent (72 núcleos Tensix, frecuencia de 1 GHz, 108 MB de SRAM, 12 GB de GDDR6, ancho de banda de 288 GB/s) alcanzou 262 TFLOPS FP8 a 160 W, mentres que a placa Wormhole n300 de dobre chip (128 núcleos Tensix, frecuencia de 1 GHz, 192 MB de SRAM, 24 GB de GDDR6 agregados, ancho de banda de 576 GB/s) ofrece ata 466 TFLOPS FP8 a 300 W.
Para contextualizar 300 W de 466 TFLOPS FP8, compararémolo co que ofrece o líder do mercado de IA, Nvidia, con esta potencia de deseño térmico. O A100 de Nvidia non é compatible con FP8, pero si con INT8, cun rendemento máximo de 624 TOPS (1248 TOPS cando é disperso). En comparación, o H100 de Nvidia é compatible con FP8 e alcanza un rendemento máximo de 1670 TFLOPS a 300 W (3341 TFLOPS cando é disperso), o que é significativamente diferente do Wormhole n300 de Tenstorrent.
Non obstante, hai un problema importante. A Wormhole n150 de Tenstorrent véndese por 999 dólares, mentres que a n300 por 1399 dólares. En comparación, unha única tarxeta gráfica Nvidia H100 véndese por 30 000 dólares, dependendo da cantidade. Por suposto, non sabemos se catro ou oito procesadores Wormhole poden realmente ofrecer o rendemento dunha única H300, pero os seus TDP son de 600 W e 1200 W respectivamente.
Ademais das tarxetas, Tenstorrent ofrece estacións de traballo preconstruídas para desenvolvedores, incluíndo 4 tarxetas n300 na TT-LoudBox baseada en Xeon, máis accesible, con refrixeración activa, e a TT-QuietBox avanzada con función de refrixeración líquida Xiaolong) baseada en EPYC.
Data de publicación: 29 de xullo de 2024