O Gerente Geral da Tenstorrent, Jim Keller, divulgou um plano de produtos RISC-V modernizado, bem como como planeja lidar com o domínio da Inteligência Artificial da NVIDIA usando processadores e não placas de vídeo.
O tensor está sendo encaminhado para o setor de Inteligência Artificial da NVIDIA, aproveitando os recursos da tecnologia RISC-V e o Chiplet para processadores de IA.
Durante uma conferência recente em Tóquio, no Japão, como parte do “RISC-V Days Tokyo 2023 Summer”, o famoso e lendário Jim Keller apresentou suas ideias de impulsionar a indústria de Inteligência Artificial com a arquitetura RISC-V e chipsets de design. Keller argumentou que, enquanto a NVIDIA e a AMD se concentraram em GPUs para o progresso de IA, ele acredita que CPUs projetadas exclusivamente para executar tarefas de IA poderiam alcançar maior eficiência e desempenhar um trabalho muito melhor do que os GPUs tradicionais.
A história conta que a memória NextGen HBM4 possui uma largura de banda significativamente superior.
Quando a tendência da Inteligência Artificial cresceu, a GPU da NVIDIA conseguiu acompanhar o ritmo. Contudo, as GPUs não estão otimizadas para a execução de IA. Demonstramos que o nosso acelerador de IA é mais eficiente. Um dos problemas com o uso de GPUs para processamento de IA é o gargalo de acesso à CPU e memória. A geração de migração Blackhole, com RISC-V incorporado como CPU, consegue remover esse gargalo. Como resultado, mais computadores AI com economia de energia e custo reduzido podem ser criados.
Jim Keller, tradutor de máquinas segundo informações da ITMedia.
Raja Koduri, criador da RTG da AMD e do EVP & diretor da divisão de GPU da Intel, anunciou sua mudança para o Conselho de Administração da Tenstorrent.
A racionalidade colocada por trás disso é o fato de que os preços da GPU e o consumo de energia tem vindo a subir e isso não é sustentável para a própria indústria AI. Uma CPU pode integrar algumas das tecnologias usadas pelas GPUs e RISC-V também pode contornar as licenças caras que são frequentemente associadas ao uso de chips Intel, AMD e ARM. Também é revelado que, enquanto o CUDA continua a ser dominante no campo AI e HPC, o compilador BUDA também pode ser usado para executar algumas das linguagens de alto nível, como PyTorch e Java que são amplamente utilizadas no domínio AI, enquanto uma linguagem de programação de baixo nível também está nas obras na forma de BUDA M (M for Metal) que será essencialmente uma substituição para CUDA.
Acreditamos que o nosso compilador “Buda” pode ser usado para executar, com uma demo já sendo executada. Dessa forma, os programadores de Inteligência Artificial podem programar em linguagens de alto nível, como PyTorch e Java. Por outro lado, os cientistas de dados necessitam de programação de baixo nível, como CUDA. Com isso, gostaríamos de fornecer o Buda M (M significa metal) para atender às necessidades dos desenvolvedores.
Segundo Jim Keller, da PC Watch, a tradução é importante.
A Tenstorrent apresentou seu projeto de hardware, incluindo o uso de chips RISC-V e AI, como desenhos heterogêneos e chipslets. Eles já lançaram o GraySkull e o Wormhole que caracterizam um nó de processo de 12nm e capacidade computacional de 328 TFLOPs (FP8) associada a 200 GB/s scale-out Ethernet. Em 2023, a empresa irá lançar seu chip Black Hole “Standalone ML Computer” que usará um nó de processo de 6nm e a arquitetura SiFive RISC-V X-280 para computação heterogênea.
A empresa está pronta para adotar um design de chiplet com seu Quasar Low-Power e Low-Cost ML. Esta arquitetura de chiplet poderá ser ajustada de acordo com as necessidades dos clientes. Blackhole deseja implantar CPUs RISC-V em aceleradores de IA e Tenstorrent antes do fim deste ano.
O Grendel será lançado em 2024 e terá 16 núcleos de CPU, assim como quatro chipslets AI, cada um com 40 núcleos. Todos os chips estarão conectados ao chiplet IO, que fornecerá suporte a PCIe e outras funções. Assim como as implementações GH200 da NVIDIA e Grace/Hopper Superchips, o Grendel combinará o chiplet de CPU com chipslets ML/AI dedicados.
A Tensilica revelou sua família de processadores RISC-V O-o-O, que inclui várias linhas de IPs. Ela também está trabalhando na segunda geração de sua CPU baseada em RISC-V, e planeja incluir novos recursos, como unidades Vector Arithmetic, nas próximas placas.
A Tenstorrent revelou uma parceria com a LG, que aproveitará as tecnologias de IA da RISC-V para atender às suas necessidades de inteligência artificial nos seus próximos produtos. Além disso, a União Europeia e o Japão já estão a criar vários sistemas com a arquitetura RISC-V, e também se tem assistido a um aumento da sua adoção no setor automóvel japonês. Jim também mostrou o mesmo gráfico de desempenho da AMD Zen 5 e NVIDIA Grace, sobre o qual você pode ler mais aqui.
Fontes de notícia relacionadas: PC Watch e ITMedia
