O fundador e CEO da Nvidia, Jensen Huang, disse hoje que a empresa tomou uma decisão de negócios existencial em 2018 que poucos perceberam que redefiniria seu porvir e ajudaria a redefinir uma indústria em evolução. Valeu muito a pena, é simples, mas Huang disse que levante é unicamente o primórdio de um porvir próximo manteúdo por IA – um porvir manteúdo principalmente por hardware Nvidia. Essa jogada bem-sucedida foi sortuda ou inteligente? A resposta, ao que parece, é “sim”.
Ele fez essas observações e reflexões durante uma palestra na SIGGRAPH em Los Angeles. Esse momento decisivo há cinco anos, disse Huang, foi a escolha de adotar o processamento de imagem com IA na forma de rastreamento de raios e upscaling inteligente: RTX e DLSS, respectivamente. (As citações são de minhas anotações e podem não ser verbais, algumas pequenas correções podem ocorrer posteriormente a verificação da transcrição.)
“Percebemos que a rasterização estava atingindo seus limites”, disse ele, referindo-se ao método tradicional e amplamente utilizado de renderizar uma cena 3D. “2018 foi um momento de ‘apostar a empresa’. Exigiu que reinventássemos o hardware, o software, os algoritmos. E enquanto estávamos reinventando o CG com IA, estávamos reinventando a GPU para IA.”
Embora o rastreamento de raios e o DLSS ainda estejam em processo de adoção no mundo diversificado e multíplice de GPUs e jogos de consumo, a arquitetura que eles criaram para permitir isso foi considerada uma parceira perfeita para a crescente comunidade de desenvolvimento de aprendizado de máquina.
A enorme quantidade de conta necessária para treinar modelos generativos cada vez maiores foi atendida melhor não por datacenters tradicionais com alguma capacidade de GPU, mas por sistemas uma vez que o H100 projetado desde o início para executar as operações necessárias em graduação. Seria justo manifestar que o desenvolvimento da IA foi, de certa forma, restringido unicamente pela disponibilidade desses recursos de computação. A Nvidia estava de posse de um boom em graduação Beanie Baby e vendeu quase tantos servidores e estações de trabalho quanto foi capaz de fabricar.
Mas Huang afirmou que isso foi unicamente o primórdio. Os novos modelos não precisam unicamente ser treinados, mas executados em tempo real por milhões, talvez bilhões de usuários regularmente.
“O porvir é um LLM avante de quase tudo: “Human” é a novidade linguagem de programação”, disse ele. Tudo, desde efeitos visuais a um mercado de manufatura em rápida digitalização, design de fábrica e indústria pesada, adotará em qualquer intensidade uma interface de linguagem originário, arriscou Huang.
“Fábricas inteiras serão definidas por software e robóticas, e os carros que elas construirão serão robóticos. Portanto, são robôs projetados roboticamente construindo robôs”, disse ele.
Alguns podem não compartilhar sua visão, que embora plausível também é extremamente amigável aos interesses da Nvidia.
Mas enquanto o intensidade de crédito em LLMs pode ser incógnito, poucos diriam que não será adotado de forma alguma, e até mesmo uma estimativa conservadora de quem irá usá-lo e para quê exigirá um investimento sério em novos recursos de computação.
Investir milhões de dólares em recursos de computação de última geração, uma vez que racks focados em CPU, é tolice quando um pouco uma vez que um GH200, o hardware de desenvolvimento de IA recém-revelado e devotado ao datacenter, pode fazer o mesmo trabalho por menos de um décimo do dispêndio e Requerimentos poderosos.
Ele apresentou alegremente um vídeo mostrando uma montagem semelhante a LEGO de várias unidades de computação Grace Hopper em uma lâmina, depois um rack e uma fileira de GH200s, todos conectados em velocidades tão altas que equivaliam à “maior GPU única do mundo”, compreendendo uma exaflop completo de poder de computação especializado em ML.
Créditos da imagem: Devin Coldewey
“A propósito, levante é o tamanho real”, disse ele, representando um efeito dramático no meio da visualização. “E provavelmente até roda o Crysis.”
Essas serão a unidade básica da indústria do dedo dominada pela IA do porvir, propôs ele.
“Não sei quem disse, mas… quanto mais você compra, mais você economiza. Se eu pudesse pedir para você se lembrar de uma coisa da minha palestra hoje, seria isso”, disse ele, arrancando risadas do público do jogo cá no SIGGRAPH.
Nenhuma menção aos muitos desafios, regulamentação ou todo o concepção de mudança da IA - uma vez que já aconteceu várias vezes no ano pretérito. É uma visão cor-de-rosa do mundo, com certeza, mas quando você está vendendo picaretas e pás durante uma corrida do ouro, pode se dar ao luxo de pensar dessa maneira.
