Os chips cabem no que a Nvidia chama de fábricas de IA, que geram tokens que ajudam as empresas a implementar planos de IA. “As receitas da fábrica de IA são iguais a tokens por watt. Com restrições de energia, cada watt não utilizado representa perda de receita”, disse Huang.

Até agora, no GTC, a maior parte das mensagens de token da Nvidia tem girado em torno de inferência, e não de treinamento, mas a inferência não envolverá tokens que custam “gigabucks”, disse Jack Gold, analista principal da J. Gold Associates.

A Nvidia afirma que Vera Rubin cortará custos de computação mesmo com o aumento dos preços dos sistemas, mas essa afirmação não é tão simples quanto parece superficialmente, disse Gold.