“Nvidia Digits: Um Supercomputador de IA Compacto para sua Mesa”

“

A Nvidia anunciou um supercomputador de IA acessível chamado Digits. Com um design compacto, semelhante ao Mac mini, ele se encaixa facilmente em qualquer mesa. Basta conectá-lo a um teclado, monitor e fonte de alimentação para começar a usar.

Seu poder computacional reside no novo superchip GB10 Grace Blackwell da Nvidia, que oferece até 1 petaflop de desempenho em IA. Em parceria com a MediaTek, a Nvidia otimizou o chip para eficiência energética, permitindo sua operação com uma tomada de energia padrão. O Digits também inclui 128GB de RAM e até 4TB de armazenamento NVMe, permitindo a execução de modelos de linguagem grandes (LLMs) com até 200 bilhões de parâmetros. Com a tecnologia Nvidia ConnectX, é possível conectar dois computadores Digits para executar modelos com até 405 bilhões de parâmetros.

Para desenvolvedores, o Digits oferece acesso à biblioteca de software de IA da Nvidia, incluindo kits de desenvolvimento, ferramentas de orquestração, frameworks e modelos disponíveis no catálogo Nvidia NGC e no portal de desenvolvedores da Nvidia. O acesso ao framework Nvidia NeMo e às bibliotecas Nvidia RAPIDS também está incluído. Com isso, desenvolvedores podem executar LLMs extremamente poderosos localmente, sem depender de infraestrutura em nuvem.

O preço inicial do Digits, a partir de US$ 3.000, o torna acessível a um número significativo de pequenas empresas e pesquisadores, que poderão utilizá-lo para criar e testar aplicativos de IA. Para aqueles que buscam uma opção mais acessível, a Nvidia oferece o Jetson, um computador doméstico de IA que custa US$ 249 e suporta modelos de até 8 bilhões de parâmetros.

O lançamento do Digits representa um avanço significativo na disponibilização de poder computacional para IA, democratizando o acesso a essa tecnologia para um público mais amplo. A capacidade de executar modelos de linguagem grandes localmente abre novas possibilidades para pesquisa e desenvolvimento na área de inteligência artificial.

“

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Rolar para cima