A empresa de chips dirixida por Jim Keller, Tenstorrent, lanzou o seu procesador Wormhole de próxima xeración para cargas de traballo de intelixencia artificial, que espera ofrecer un bo rendemento a un prezo accesible.A compañía ofrece actualmente dúas tarxetas PCIe adicionais que poden acomodar un ou dous procesadores Wormhole, así como estacións de traballo TT-LoudBox e TT-QuietBox para desenvolvedores de software. Todos os anuncios de hoxe están dirixidos a desenvolvedores, non a aqueles que utilizan placas Wormhole para cargas de traballo comerciais.
"Sempre é gratificante conseguir que máis dos nosos produtos estean en mans dos desenvolvedores. Os sistemas de desenvolvemento de lanzamento que usan as nosas tarxetas Wormhole™ poden axudar aos desenvolvedores a escalar e desenvolver software de intelixencia artificial multichip", dixo Jim Keller, CEO de Tenstorrent.Ademais deste lanzamento, estamos entusiasmados de ver o progreso que estamos facendo coa eliminación da cinta e o encendido do noso produto de segunda xeración, Blackhole".
Cada procesador Wormhole contén 72 núcleos Tensix (cinco dos cales admiten núcleos RISC-V en varios formatos de datos) e 108 MB de SRAM, que proporcionan 262 FP8 TFLOPS a 1 GHz cunha potencia de deseño térmico de 160 W. A tarxeta Wormhole n150 dun só chip está equipada con memoria de vídeo GDDR6 de 12 GB e ten un ancho de banda de 288 GB/s.
Os procesadores Wormhole ofrecen unha escalabilidade flexible para satisfacer as diversas necesidades das cargas de traballo. Nunha configuración de estación de traballo estándar con catro tarxetas Wormhole n300, os procesadores pódense combinar nunha única unidade que aparece no software como unha ampla rede central unificada de Tensix. Esta configuración permite ao acelerador xestionar a mesma carga de traballo, dividir entre catro desenvolvedores ou executar ata oito modelos de IA diferentes ao mesmo tempo. Unha característica clave desta escalabilidade é que pode executarse localmente sen necesidade de virtualización. Nun entorno de centro de datos, os procesadores Wormhole usarán PCIe para a expansión dentro da máquina ou Ethernet para a expansión externa.
En termos de rendemento, a tarxeta Wormhole n150 dun só chip de Tenstorrent (72 núcleos Tensix, frecuencia de 1 GHz, 108 MB SRAM, 12 GB GDDR6, ancho de banda de 288 GB/s) logrou 262 FP8 TFLOPS a 160 W, mentres que a placa Wormhole de dobre chip n300 (128 núcleos Tensix, frecuencia de 1 GHz, 192 MB de SRAM, GDDR6 de 24 GB agregados, ancho de banda de 576 GB/s) ofrece ata 466 FP8 TFLOPS a 300 W.
Para poñer 300 W de 466 FP8 TFLOPS en contexto, compararémolo co que Nvidia, líder do mercado de intelixencia artificial, ofrece con esta potencia de deseño térmico. O A100 de Nvidia non admite FP8, pero si admite INT8, cun rendemento máximo de 624 TOPS (1.248 TOPS cando son escasos). En comparación, o H100 de Nvidia admite FP8 e alcanza un rendemento máximo de 1.670 TFLOPS a 300 W (3.341 TFLOPS en escaso), que é significativamente diferente do Wormhole n300 de Tenstorrent.
Non obstante, hai un problema importante. O Wormhole n150 de Tenstorrent véndese por 999 dólares, mentres que o n300 véndese por 1.399 dólares. En comparación, unha única tarxeta gráfica Nvidia H100 véndese por 30.000 dólares, dependendo da cantidade. Por suposto, non sabemos se catro ou oito procesadores Wormhole poden realmente ofrecer o rendemento dun só H300, pero os seus TDP son 600W e 1200W respectivamente.
Ademais das tarxetas, Tenstorrent ofrece estacións de traballo preconstruídas para desenvolvedores, incluíndo 4 tarxetas n300 no máis económico TT-LoudBox baseado en Xeon con refrixeración activa e a avanzada TT-QuietBox con función de refrixeración líquida Xiaolong baseada en EPYC).
Hora de publicación: 29-Xul-2024