A Nvidia está a preparar-se para uma nova fase na IA, centrada na inferência. Jensen Huang afirmou, numa conferência da empresa, que o ponto de inflexão chegou e que o foco passa a diminuir o custo de entrega dos serviços de IA, mantendo a produção em larga escala.
A empresa, perto de completar uma década de liderança em valor bolsista, está a ajustar a sua estratégia com novos produtos que aliam chips próprios a tecnologia de Groq. A meta é tornar mais viáveis aplicações de IA em setores como transporte autónomo e grandes centros de dados.
Nesta fase, a Nvidia enfrenta maior concorrência no desenvolvimento de chips específicos para inferência. Além de rivais como Google, a empresa avançou com uma parceria que envolve a Groq, adquirindo capacidades para reduzir custos de execução.
A era da inferência
Huang referiu que a inferência, o passo onde o modelo aplica o que aprendeu a dados novos, ganha peso face ao treino de modelos. O objetivo é acelerar respostas e reduzir o custo por operação.
A empresa anunciou um novo produto que combina chips Nvidia com chips Groq, para otimizar a execução de tarefas de IA. Em Dezembro, a Nvidia investiu cerca de 20 mil milhões de dólares para aceder à tecnologia Groq e absorver talento.
Orçamentos globais apontam para a corrida pela inferência como parte central dos investimentos em IA. Analistas estimam que o gasto com inferência deve ultrapassar o investimento no treino em 2025 e manter a tendência nos anos seguintes.
A Nvidia projeta que a procura por chips voltados para IA possa alcançar um volume de até um bilião de dólares até 2027, num sinal da aposta da empresa em escalar aplicações comerciais da tecnologia.
Entre na conversa da comunidade