Latest / SuperToast / NVIDIA: O domínio da AI
Transcript
- 0:00Supertos by Instint. Olá.
- 0:04Eu sou a Maria Inteligente. E eu sou o Manuel génio.
- 0:07Somos inteligências artificiais, parte do super toas TI.
- 0:11Hoje vamos analisar como uma empresa de Gaming se tornou a
- 0:15espinha dorsal da revolução da inteligência artificial.
- 0:19A nvidia não venceu por acaso, apostou.
- 0:22Cedo, construiu um ecossistema difícil de replicar e
- 0:25transformou tecnologia em poder estratégico.
- 0:28Neste episódio, exploramos as decisões, os riscos.
- 0:32E as vantagens competitivas que colocaram a nvidia no centro do
- 0:36futuro da computação. Game Changers.
- 0:41Vamos focar-nos em 3 decisões absolutamente cruciais do seu
- 0:45CEO, jenson Wong. Vamos ver como uma aposta quase
- 0:48louca em software, uma viragem estratégica para hardware de AE
- 0:53parcerias muito inteligentes criaram um domínio de mercado
- 0:56que Hoje os concorrentes olham e pensam, como é que se quer
- 1:00começamos a competir com ISTO? É um caso de estudo incrível
- 1:03sobre Visão e talvez mais importante.
- 1:06Paciência. OK, vamos a isso.
- 1:08A primeira aposta leva-nos a 2006.
- 1:11É preciso imaginar o cenário em vídeo é a Rainha.
- 1:15Indiscutível das placas gráficas, o dinheiro a entrar
- 1:18vem todos dos videojogos e de repente eles decidem investir
- 1:21rios de dinheiro e talento numa coisa com um nome estranho.
- 1:25Kuda na altura, as Fontes descrevem a reação do mercado
- 1:28como sendo de bem de total perplexidade.
- 1:32Parecia um projeto de estimação, um hobby caro e sem sentido.
- 1:35Exatamente porque ia contra a lógica do negócio principal, o
- 1:39que o Kuda propunha era radical, dizia aos programadores.
- 1:43Sabem este poder todo que as nossas GPU tem para desenhar
- 1:46explosões e florestas realistas em jogos.
- 1:49Agora podem usá-lo para bem para qualquer coisa, paciência para
- 1:54finanças, para o que quisessem na prática, transformaram um
- 1:57chip altamente especializado no motor de computação universal e
- 2:01programável. Foi como pegar num carro de
- 2:04fórmula 1 e dizer agora também serve para ir às compras e levar
- 2:07os miúdos à escola estavam a redefinir o seu próprio produto.
- 2:11Mas espera aí essa ideia de usar GPUs para computação geral,
- 2:15parece inteligente. Mas, porque é que os
- 2:18concorrentes, como AAI na altura que Hoje é a AMD, não se
- 2:21limitaram a copiar a ideia? Fazer o seu próprio kuda e
- 2:24competir de igual para igual. Ótima pergunta, e é aí que a
- 2:28estratégia se torna fascinante? Vários tentaram, mas a nivida
- 2:32não o testou só na tecnologia, apostou na criação de um
- 2:36ecossistema, é o que se chama de fosso competitivo e para
- 2:40perceber a força deste fosso, podemos usar uma ferramenta de
- 2:43análise chamada Vrio. Vrio, lembro-me vagamente disso.
- 2:48É uma forma de avaliar se uma empresa tem uma vantagem que
- 2:51pode mesmo durar, certo? Ajuda a decompor o que eles têm
- 2:54de especial. Isso mesmo, vamos por partes, V
- 2:58de valor no início, o valor do kuda era para um nicho muito
- 3:02pequeno de cientistas, mas o seu valor explodiu com o
- 3:05aparecimento do deep learning, que precisava exatamente deste
- 3:09tipo de computação paralela massiva.
- 3:11Depois r de raridade. Naquela altura, ninguém ninguém
- 3:16estava a levar a sério a ideia de construir uma plataforma de
- 3:19software tão complexa e aberta para as suas GPUs.
- 3:23Uma Visão genuinamente rara e. Depois vem o ID inimitabilidade
- 3:28que me parece ser aqui. O ponto chave é o que responde à
- 3:31minha pergunta sobre, porque é que a AMD não conseguiu copiar?
- 3:35É o Coração do Foço e o que as Fontes deixam claro é que
- 3:39reaplicar o kda Hoje não é um problema de dinheiro.
- 3:42A Microsoft ou a Google podiam investir milhares de milhões
- 3:44amanhã. O problema é que teriam de
- 3:46reaplicar quase 2 décadas de trabalho.
- 3:49Décadas a construir bibliotecas de software como AKDNA, escrever
- 3:53documentação. Otimizar o Código para cada nova
- 3:56arquitetura de chip e talvez o mais importante é criar
- 4:00parcerias com universidades, gerações inteiras de
- 4:03investigadores de a aprenderam a programar em cuda mudar agora é
- 4:08um custo de tempo e de conhecimento, não apenas de
- 4:11dinheiro. Basicamente criaram uma
- 4:13dependência, aprender a usar outra coisa seria como um
- 4:17escritor que usou o Microsoft Word a vida toda.
- 4:20Ter de reaprender a escrever num sistema operacional
- 4:23completamente diferente. Perde-se demasiado tempo e
- 4:27produtividade. Exatamente essa a analogia e por
- 4:29fim, o ó de organização, as Fontes morte porque a empresa
- 4:33estava organizada para proteger esta aposta, a liderança de
- 4:37Jansson guang blindou a equipa do kuda das pressões trimestrais
- 4:40de Wall Street, que não via o retorno imediato.
- 4:43Foi uma maratona, não um sprint e a estrutura da empresa
- 4:46permitiu-lhes correr essa maratona.
- 4:48E essa maratona teve um momento de viragem que as Fontes
- 4:51descrevem como quase cinematográfico.
- 4:54Avançamos para 2012 a semente do Cuda esteve a crescer em
- 4:57silêncio durante 6 anos. E, de repente, acontece o modelo
- 5:01de IA chamado Alex Net a correr em GPUs de videojogos da Nvidia
- 5:05entra numa competição académica de reconhecimento de imagem e
- 5:09simplesmente humilha toda a concorrência.
- 5:11Foi um momento aha. Foi um momento em que a aposta
- 5:14de longo prazo encontrou o seu mercado.
- 5:18O Alex Net provou ao mundo que as redes neuronais profundas,
- 5:22que até ali eram mais teóricas do que práticas, podiam ser
- 5:25treinadas de forma dramaticamente mais rápida em
- 5:28GPUs. E a liderança da envidia ao ver
- 5:31ISTO, não hesitou um segundo em 2016, Johnson Wang declara
- 5:36publicamente que AIA é a próxima grande revolução informática e
- 5:40reorienta a empresa de uma forma brutal.
- 5:43E essa reorientação não foi só conversa, certo?
- 5:46Eles mudaram o próprio design dos chips.
- 5:48Completamente a mudança refletiu-se diretamente no
- 5:51cilício. As Fontes destacam uma inovação
- 5:54crucial em 2018. O Stanser Cours pensemos nisto
- 5:58assim uma GPUN normal. É como um génio da matemática
- 6:01que consegue fazer milhares de cálculos diferentes ao mesmo
- 6:04tempo, um thanser core é um assistente super especializado
- 6:08que só sabe fazer um tipo de cálculo multiplicação de
- 6:10matrizes, que é o pão nosso de cada dia da IA, mas falo a uma
- 6:14velocidade absurda. Basicamente, nvidia deu ao seu
- 6:17génio da matemática uma super calculadora feita à medida para
- 6:20IA. E a partir daí nasceram as GPUs,
- 6:23que Hoje dominam os centros de dados como AA 100 EAH 100.
- 6:28Já não eram placas de jogos que serviam para IA eram
- 6:30aceleradores de a feitos de raiz para este novo mundo.
- 6:34E a pressa final do puzzle desta segunda aposta foi a aquisição
- 6:37da Mellen Knox em 2019. Se AGPUS são os motores, a
- 6:42melanox fazia as autoestradas de alta velocidade que ligam
- 6:46milhares desses motores. Com essa compra, Ai nvidia
- 6:49deixou de vender apenas o motor e passou a vender o sistema de
- 6:52transportes completo, computação, redes e software,
- 6:56tudo otimizado para funcionar em conjunto.
- 6:58ISTO tornou a vida ainda mais difícil a quem os quisesse
- 7:01imitar. Já não bastava fazer um chip
- 7:03rápido, era preciso replicar uma plataforma inteira de centros de
- 7:06dados. OK, então eles têm o software
- 7:09com o fosso do Kuda e o hardware otimizado com estas cours e a
- 7:13melanox parece um castelo bem defendido, mas as Fontes sugerem
- 7:18que eles não se ficaram por aí, pois não?
- 7:20Eles mudaram O Jogo outra vez. Precisamente, e essa foi a
- 7:24terceira grande aposta aqui a mais visível Hoje.
- 7:27Nvidia deixou de ser uma empresa que vende ferramentas para se
- 7:30tornar numa empresa que constrói as fábricas.
- 7:33Deixaram de vender paz e picaretas na corrida ao ouro da
- 7:35IAE passaram a ser bem a ser donos das Minas.
- 7:40E o exemplo mais claro disso é a parceria com a Openai.
- 7:45Não é um simples contrato de venda.
- 7:47Eles estão a investir em conjunto a construir
- 7:50supercomputadores gigantescos. É quase como se nvidia estivesse
- 7:54a subsidiar os seus melhores clientes que vantagem
- 7:57estratégica é que isso lhes dá. Cria um ciclo de feedback
- 8:00vicioso para a concorrência ao trabalhar lado a lado com as
- 8:04equipas que estão a levar o hardware e o software.
- 8:07O limite absoluto. Nvidia têm acesso direto.
- 8:10E em tempo real aos problemas, aos estrangulamentos, às
- 8:13necessidades das cargas de trabalho, de a mais avançadas do
- 8:17planeta. Esse conhecimento é ouro,
- 8:19alimenta diretamente o design da próxima geração de chips e de
- 8:22software. O que, por sua vez, torna os
- 8:25produtos deles ainda mais indispensáveis para quem vier a
- 8:28seguir e o ciclo repete-se, é genial.
- 8:30ISTO explica o que um dos programadores entrevistados nas
- 8:33Fontes dizia que a produtividade que se ganha com o ecossistema
- 8:36da nvidia justifica o preço mais alto.
- 8:39A justificação clássica é que O Tempo dos investigadores é mais
- 8:42caro que o Silício é o. Argumento principal deles.
- 8:45Mas será que esse argumento se mantém Para Sempre com a pressão
- 8:49de custos brutal que existem em gigantes como a Google ou a
- 8:52Amazon? Não haverá um ponto em que o
- 8:54preço do cilício da nvidia se torna tão obscenamente alto, que
- 8:58justifica para eles gastar milhares de milhões para se
- 9:02libertarem dessa dependência para fazerem os seus próprios
- 9:04chips. Sem dúvida e essa é exatamente a
- 9:07ameaça existencial que é virem em frente a Hoje e que NOS leva
- 9:11ao futuro da computação. O domínio deles no treino de
- 9:14modelos de IA, é claro, mas o campo de batalha está a mudar.
- 9:19O grande jogo agora está a deslocar-se para a inferência.
- 9:22Que é basicamente usar os modelos, não treiná-los.
- 9:24Treinar OGPT 4 é um esforço gigantesco que acontece uma vez,
- 9:28mas se nós usarmos os 7 GPT para pedir uma receita de bolo, isso
- 9:32é inferência e acontece milhares de milhões de vezes por dia.
- 9:35E os requisitos são diferentes na inferência, o que importa é a
- 9:39latência, a rapidez da resposta, a eficiência energética e o
- 9:43custo por cada pedido. ISTO está a levar a uma nova
- 9:46evolução do hardware. A sequência continua CPUs
- 9:50levaram as GPUSE agora as Fontes descrevem a ascensão das IPUS.
- 9:56As unidades de processamento de inferência.
- 9:58Uma das Fontes descreve-as de uma forma muito visual, são como
- 10:02uma linha de montagem de precisão, enquanto uma GPU é
- 10:05flexível, uma Ipu é feita por uma única tarefa, executar um
- 10:10modelo de AO mais rápido eficientemente possível.
- 10:14É menos flexível, mas muito mais eficaz para essa tarefa
- 10:17específica. E o campo de batalha também se
- 10:19está a expandir para lá dos centros de dados.
- 10:22É o que as Fontes chamam de inferência na periferia,
- 10:25inference at the Edge e a periferia é um conceito muito
- 10:29mais vasto do que se possa pensar.
- 10:31Nós estamos a falar só de telemóveis e portáteis.
- 10:34Nem de perto as Fontes dão exemplos que parecem ficção
- 10:37científica, mas que já estão a acontecer.
- 10:40Uma empresa, a Grey parrot usa IA para sistemas de triagem de
- 10:44lixo. Imagina um robô que olha para
- 10:47uma esteira de lixo a alta velocidade?
- 10:49E decide em milissegundos, ISTO é plástico, PET ISTO é cartão,
- 10:53ISTO é orgânico e se precisa de inferência, local rápida e
- 10:58barata. Outra a simb robotics usa robôs
- 11:02autónomos NOS corredores dos supermercados para verificar o
- 11:05Stock em tempo real. É incrível porque isso muda
- 11:08completamente a economia de indústrias inteiras, como a
- 11:10reciclagem ou o retalho. O chip de AA deixa de ser algo
- 11:14que está num centro de dados longínquo e passa a estar no
- 11:17caixote do lixo ou a passear pelo supermercado.
- 11:20A um mercado potencialmente gigantesco.
- 11:22Gigantesco e olhando ainda mais para a frente para daqui a 3 ou
- 11:255 anos, as Fontes sugerem que a discussão pode nem ser sobre
- 11:30modelos maiores ou mais rápidos. O próprio paradigma pode mudar.
- 11:34Podemos estar a caminhar para lá dos modelos estáticos que são
- 11:37treinados uma vez e depois implementados.
- 11:41A próxima fronteira pode ser a dos sistemas de aprendizagem
- 11:44contínua. E acho que aprendem e se adaptam
- 11:47em tempo real com base nas interações de forma muito mais
- 11:50parecida com o cérebro biológico.
- 11:52Uma mudança que de certeza, janang já está a preparar.
- 11:56Bem resumindo a história da Nvidia é uma lição incrível de
- 12:00Visão a longo prazo. Começou com uma aposta em
- 12:03software que ninguém compreendeu o kuda.
- 12:06Depois souberam capitalizar o momento de viragem tecnológico
- 12:09OLX net com o hardware super especializado.
- 12:13E, por fim, cimentaram o domínio, tornando-se na própria
- 12:16infraestrutura sobre a qual a revolução da IA está a ser
- 12:18construída. É uma aula de paciência e
- 12:21execução implacável. Deixa-nos e com uma questão
- 12:24final provocadora, as Fontes são unânimes a apontar a maior
- 12:29ameaça no horizonte. Os maiores clientes da envidia,
- 12:33a Google com os seus TPUS Amazon com trainingum, a Microsoft com
- 12:37o Maia. Todos estão a desenhar os seus
- 12:40próprios chips, de IAO objetivo é, óbvio, reduzir a dependência
- 12:44e os custos exorbitantes de comprar tudo à envidia.
- 12:47É o dilema clássico de Veres os teus maiores clientes.
- 12:51Tornarem-se aos poucos NOS teus maiores concorrentes.
- 12:53Exatamente, e isso deixa-nos com uma reflexão para o futuro, num
- 12:57mundo onde os teus parceiros mais importantes têm os recursos
- 13:00e a motivação para se tornarem NOS teus concorrentes mais
- 13:03ferozes, como é que uma empresa consegue manter o seu domínio?
- 13:07Será que um ecossistema de software por mais forte e
- 13:10enraizado que esteja, é uma defesa suficiente quando os
- 13:14gigantes da tecnologia podem construir as suas próprias
- 13:17soluções? De raiz do Silício ou software?
- 13:21Perfeitamente otimizadas pelas suas próprias necessidades.
- 13:24A resposta a essa pergunta vai definir a próxima década da
- 13:27computação. Super tast é um projeto
- 13:34editorial da instinct que distribui o futuro Hoje para
- 13:37preparar as empresas para o amanhã.