Gabinete externo de GPU poderoso da Pluggable mira rodar LLMs localmente

A Pluggable lançou o TBT5-AI, um gabinete externo de GPU projetado para conectar placas de vídeo desktop a laptops e executar cargas de trabalho de inteligência artificial localmente, com foco explícito em LLMs locais e GPUs de workstation.

Aoostar AGO3 eGPU

O chassi oferece um slot PCIe x16 full-length para instalar uma GPU de desktop e inclui uma fonte de 850 watts capaz de alimentar GPUs de alto desempenho. Para conexão com o laptop, o produto usa Thunderbolt 5 por meio de um único cabo, com largura de banda bidirecional anunciada de até 80Gbps e modo boost que pode chegar a 120Gbps em determinados cenários.

Internamente, a largura de banda é encaminhada à GPU através de pistas PCIe 4.0 x4, uma mudança que reduz os gargalos das gerações anteriores de eGPU. Além de abrigar a placa, o gabinete funciona como um hub que amplia a conectividade do laptop conectado.

O TBT5-AI chega num momento em que o interesse por inferência local cresce, à medida que custos de nuvem sobem e desenvolvedores avaliam rodar modelos de linguagem diretamente em hardware pessoal.

Fontes: TechRadar