Latest / Entre Chaves / A evolução acelerada da IA será um problema?

Transcript

A evolução acelerada da IA será um problema? · Entre Chaves

• 0:02
  E aí outubro é o último mês, né, que eles fazem de previsão, mas
• 0:07
  além, né, de ter uma, depois eles fazem uma dupla previsão aí
• 0:10
  de um cenário mais de aceleração e de um cenário de
• 0:14
  desaceleração. E aí ele vai é estressando esses
• 0:17
  2 cenários. Mas outubro é o último mês que
• 0:20
  ele fala basicamente que é um mês de preocupações aí com a
• 0:23
  IAC, que antes era, né, mais preocupações de especialistas,
• 0:27
  né, e tudo mais. Mas que essas preocupações.
• 0:30
  Elas explodem publicamente, a galera fica maluca, o governo é
• 0:34
  forçado a intervir. A open, né?
• 0:36
  E as as tão desalinhadas e ao caos?
• 0:40
  Aí tem o comitê de supervisão que foi criado, aí é aí tem a
• 0:44
  fatídica decisão, né? Um momento chave ali, bem
• 0:48
  Matrix, da pílula azul e da pílula vermelha, que é Race
• 0:52
  enging. Seria aceleração, até perda de
• 0:55
  controle humano. Em 2030 ou a gente é tem o slow
• 1:00
  down ending? Seria vamos sentar com calma,
• 1:04
  respirar, parar isso aí pra gente poder focar em alinhamento
• 1:09
  desses modelos, em retomar o controle, pra que a gente
• 1:13
  consiga manter algum poder humano até 2030.
• 1:16
  Então tem esses 2 caminhos, né? Essas dupilas.
• 1:19
  Qual caminho vocês escolhem? Difícil, né?
• 1:23
  Eu acho que a pergunta é assim, se AEA.
• 1:25
  Ela é tão autônoma a ponto de criar outras EAS, né?
• 1:28
  Qual que é o ponto de parada nesse aí?
• 1:30
  Qual até onde a gente pode ir, sabe?
• 1:32
  E. Teve 11 ponto que ele falou até
• 1:34
  foi antes, né? Desse momento realmente de
• 1:37
  parada e de visualização, se vamos continuar ou não, que ele
• 1:40
  falou assim que AOAA sociedade já estava, né?
• 1:44
  As empresas já estavam pressionando para haver essa
• 1:47
  parada, só que. A open brain estava 100%
• 1:51
  alinhada ao governo americano. Então o governo americano já
• 1:55
  estava ali, cara, não, já tinha. É contrato, né?
• 1:58
  Da open brain com o departamento de defesa americano.
• 2:02
  Então, cara, não vamos parar, não vamos parar.
• 2:05
  Não vamos parar até chegar nesse momento aí de rutura entre.
• 2:08
  Poxa, talvez a gente deva parar mesmo.
• 2:11
  Mas eu fico pensando assim, né? Vamos chegar nesse ponto, não
• 2:13
  sei. Mas o fato do governo estar
• 2:16
  subsidiando e de daí a ser usada para objetivos muito maiores
• 2:20
  militares, políticos, faz com que eu eu tenho minhas dúvidas
• 2:23
  se a sociedade teria essa maturidade de parar o.
• 2:26
  Que me preocupa é que sim, a gente está colocando aqui, né,
• 2:28
  nesse nesse narrativa, ou os Estados Unidos como sendo sim, o
• 2:32
  ponto central de tudo, o centro? Do mundo também.
• 2:34
  Em que a gente? Poderia imaginar que poderia
• 2:36
  haver alguma retaliação, alguma tentativa de compensar em
• 2:40
  outros, em outras áreas, né? Como por exemplo, nuclear,
• 2:43
  armamento nuclear, ataques cibernéticos, enfim.
• 2:46
  A gente está falando que a gente está explorando o lado
• 2:49
  apocalipse da coisa, mas assim. É legal a gente pensar também,
• 2:52
  cara, o tanto de coisa boa que isso pode trazer também essa
• 2:54
  super inteligência. Cara, isso pode trazer as coisas
• 2:57
  de câncer, pode trazer 11 ideia cabulosa que cura a fome no
• 3:00
  mundo, apesar de que a fome no mundo é muito mais política do
• 3:02
  que enfim. Pode trazer um Monte de coisa
• 3:04
  boa assim. Então, cara, o debate ele é no
• 3:07
  nível do tipo até onde a gente vai ter controle sobre o que a
• 3:11
  gente está construindo? Até onde a gente entende o que
• 3:14
  que a gente tá construindo, a gente tá construindo um negócio
• 3:16
  que ele é autônomo e ele vai construir a sua próxima versão.
• 3:20
  E aí até onde a gente pode ir com isso, sabe?
• 3:22
  Então, essas previsões que eles fazem, eu acho que no final eles
• 3:26
  dão esses 2 finais No No final da pesquisa, eles propõem 2
• 3:30
  cenários distintos, um de aceleração, um de slow down,
• 3:33
  porque eles mesmos não se atreveram a dar o palpite deles,
• 3:37
  sabe de de tão absurdo, de tão ficção científica, de tão fora
• 3:40
  da imaginação que que isso pode? Pode chegar?
• 3:43
  Eu não consigo ter esse mesmo otimismo que você teve.
• 3:45
  Eu também. Justamente por estar tão
• 3:47
  centrada no governo americano como um poder que só eles vão
• 3:51
  ter, a princípio é o que fala aqui, né?
• 3:54
  Que eles vão estar muito à frente na corrida.
• 3:55
  Você falou otimismo de alguma coisa boa?
• 3:57
  Vai sair disso? Não é possível que não vai sair
• 3:59
  nada de bom disso. Não acho que pode vai sair
• 4:02
  alguma coisa de boa, mas é que vai estar tão alinhado a
• 4:04
  interesses muito específicos que eu não sei se o interesse deles
• 4:08
  são interesse. Interesses comerciais e
• 4:10
  políticos, sempre. Eu tenho minhas dúvidas, eu
• 4:12
  realmente. Não sei nem me posicionar aqui,
• 4:14
  pra ser bem sincera, que é muito é é é meio polêmico mesmo assim
• 4:18
  é muito difícil falar, né? Assim se vai, se não vai.
• 4:21
  Mas o fato é que Oo jeito que a gente vê a sociedade hoje sendo
• 4:26
  movida 100% por interesses políticos, governamentais,
• 4:29
  militares e et cetera, me parece que esse ponto de parada seria
• 4:34
  complexo de uma da da sociedade chegar, mas enfim.
• 4:38
  Talvez não. Talvez eu esteja bem errada, mas
• 4:40
  o fato eu concordo com você nesse ponto é que muita coisa
• 4:43
  boa vai vir disso. Tanto que hoje a gente fala
• 4:46
  isso, né? Hoje a gente fala assim, cara,
• 4:47
  não podemos parar a pesquisa. Outro dia eu vi um Ted talk que
• 4:50
  não era a melhor Ted talk do mundo, mas falava uma coisa como
• 4:54
  não podemos é parar as pesquisas só porque a gente acha que nós.
• 4:59
  No presente estamos sendo prejudicados, já que a gente tem
• 5:03
  uma geração Futura toda pela frente que será ajudada com
• 5:07
  essas pesquisas.