Latest / TIC, Educação e Web / Inteligência Artificial e Machine Learning: O Novo Paradigma tecnológico

Transcript

Inteligência Artificial e Machine Learning: O Novo Paradigma tecnológico · TIC, Educação e Web

0:00
Imaginemos o seguinte cenário, somos viajantes do tempo.
0:04
Certo. Acabámos de aterrar no ano de
0:06
1950. Entramos num escritório
0:08
corporativo ou militar e tipo, o que é que vemos pessoas
0:12
debruçadas sobre secretárias? O som constante das máquinas de
0:16
escrever. Não é exato máquinas de
0:18
escrever, dezenas de analistas a usar réguas de cálculo.
0:23
Calculadoras mecânicas daquelas super pesadas e blocos de notas
0:27
infindáveis, o. Mundo puramente analógico.
0:29
Puramente analógico, e a nossa missão é tentar explicar a estas
0:33
pessoas a revolução iminente da computação digital, tentar
0:37
detalhar que quer dizer, numa questão de décadas.
0:40
Quem não adotar estas máquinas e não dominar a gestão de bases de
0:44
dados ou a programação, vai simplesmente ver a sua
0:46
organização desaparecer do mapa. Pois o problema é que é um Choco
0:49
cultural impossível de processar num só dia.
0:52
Completamente AA infraestrutura física e mental deles
0:56
simplesmente não tem paralelos para o que os estamos a
0:59
descrever. Estás a ver?
1:00
O abismo cognitivo seria total. Estaríamos basicamente a tentar
1:04
explicar a autoestrada da informação em engenheiros que.
1:08
Que ainda estão a tentar otimizar a máquina a vapor e o
1:11
paralelismo é muito mais do que um mero exercício de imaginação,
1:14
porque as dinâmicas de resistência à mudança.
1:17
Há a burocracia instalada. Claro, sim.
1:20
A burocracia e a incapacidade de prever saltos exponenciais são
1:23
características intrinsecamente humanas que se mantêm
1:26
inalteradas até aos dias de hoje.
1:28
E é exatamente por esse motivo que começamos a nossa exploração
1:32
de hoje com esta imagem de 1950. A verdade desconfortável é que.
1:37
Nós somos as pessoas desse escritório.
1:40
Pois somos. Estamos a olhar para uma mudança
1:43
societal e tecnológica que mal conseguimos compreender na sua
1:47
totalidade e temos como base para isto um documento incrível.
1:51
SIM, 1 texto fascinante. Escrito por Steve blank, um
1:54
documento de investigação super denso e revelador saído do
1:57
Guardian not center for National security Innovation da
2:00
universidade de Stanford. Ele argumenta que as nações e as
2:03
organizações que falharem na compreensão profunda desta nova
2:07
arquitetura de poder vão perder a sua relevância global numa
2:10
questão de uma década. É uma janela de tempo muito
2:13
curta. Muito curta mesmo.
2:15
Por isso, a nossa missão nesta análise aprofundada para quem
2:17
nos ouve, é eliminar o jargão corporativo, cortar o ruído
2:21
superficial e dissecar este documento.
2:24
Vamos perceber como inteligência artificial funciona na sua
2:27
essência matemática. AA mecânica da corrida ao
2:30
hardware e como isto vai reescrever o Tabuleiro
2:33
geopolítico. Um roteiro ambicioso.
2:35
Rígidas para sistemas que, na prática, conseguem inferir e
2:39
generalizar soluções. Bem, para compreendermos a
2:43
magnitude arquitetónica desta transição, temos de olhar para a
2:47
evolução da relação entre o ser humano e a máquina.
2:50
Durante os últimos 75 anos, a computação clássica operou sobre
2:54
um paradigma de obediência cega. Regras rígidas.
2:57
Não é exatamente. Um programador escreve código
3:00
explícito delineando uma sequência lógica inquebrável.
3:04
A condição a leva à ação BO computador não tem agência, ele
3:09
apenas compila e executa essas instruções à letra, à velocidade
3:12
da luz. Faz o que lhe mandam e pronto.
3:14
Mas com o machine learning ou a aprendizagem automática, a
3:17
arquitetura inverte, se por completo, o programador já não
3:20
escreve as regras de resolução do problema.
3:23
Então, o que é que ele faz? O que se desenha é uma
3:26
arquitetura capaz de aprender. O sistema é alimentado com
3:30
volumes massivos de dados estruturados ou não estruturados
3:34
e o próprio algoritmo ajusta os seus tipo milhões ou biliões de
3:39
parâmetros internos. Sozinho.
3:42
Sim, ele falo, medindo constantemente a diferença
3:45
matemática entre a previsão que acaba de gerar e a realidade,
3:49
aquela que chamamos a verdade fundamental.
3:52
E através de um mecanismo chamado retropropagação, o
3:55
sistema calibra os seus pesos matemáticos.
3:57
Até que a taxa de erro seja estatisticamente irrelevante, o.
4:01
K, vamos desconstruir isto porque o saldo conceptual aqui é
4:04
o alicerce de tudo o resto? É o ponto chave.
4:07
Na computação clássica, é como se déssemos ao computador a
4:10
receita exata e irrefutável para fazer um bolo com os gramas e as
4:15
temperaturas precisas. A máquina segue os passos e o
4:18
resultado é totalmente previsível.
4:20
O bolo sai sempre igual, desde que a receita esteja certa.
4:23
Exato. Mas no machine learning, nós
4:26
retiramos a receita da equação. É como se mostrássemos ao
4:29
sistema 5000 fotografias de bolos e disséssemos.
4:33
Hum analisa os pixeis, as formas, as texturas e descobre
4:37
sozinho a representação matemática do que constitui um
4:40
bolo. Essa analogia fascinante.
4:42
E o modelo ajusta se. Até perceber que determinada
4:45
configuração de dados representa a cobertura e outra representa a
4:49
massa. E o que é fascinante aqui é a
4:51
propriedade de generalização que resulta desse processo empírico.
4:55
É a capacidade de aplicar isso a coisas novas.
4:57
Exato ao forçar o sistema a deduzir a fórmula através da
5:00
observação dos padrões nos dados.
5:02
Ele desenvolve a capacidade de reconhecer um bolo que nunca viu
5:05
na vida, num contexto completamente novo, com uma
5:08
forma que nem sequer estava no conjunto original de
5:11
fotografias. Uau.
5:12
E o documento de Stanford de estrutura?
5:14
Este processo em 3 fases vitais da engenharia de a.
5:17
Quais são? Primeiro, o treino, que é essa
5:20
fase computacionalmente exaustiva de ajuste de
5:23
parâmetros usando repositórios colossais de dados.
5:26
Aquela fase pesada do que falaste?
5:28
Sim. Segundo vem a poda ou prouning,
5:31
onde a rede neural após aprender, é matematicamente
5:35
comprimida e otimizada. Ela elimina as ligações
5:38
redundantes para se tornar mais ágil.
5:41
Faz uma espécie de? Limpeza, basicamente.
5:43
E por fim, temos a inferência, que é o momento em que o modelo
5:46
destilado é libertado no mundo real para tomar decisões ou
5:50
fazer classificações sobre dados novos e desconhecidos em tempo
5:54
real. Mas repara, há um elefante na
5:56
sala que o documento de Stanford da borda e que precisamos de
5:58
clarificar para as pessoas que nos estão a ouvir.
6:00
Diz, diz. A matemática subjacente a estas
6:03
redes neuronais, os algoritmos de retropropagação que
6:06
mencionaste, não foi inventada ontem.
6:08
Longe disso. Muito disto é a teoria dos anos
6:11
80 e 90. A arquitetura conceptual já
6:15
estava desenhada nos quadros das universidades há imensas
6:18
décadas. Se a matemática era conhecida, o
6:21
que é que esteve a bloquear esta explosão durante tanto tempo?
6:24
O que é que convergiu de repente para destravar este monstro?
6:29
É uma excelente questão. O autor detalha que não houve um
6:32
único milagre, mas sim uma colisão de 4 grandes Placas
6:36
tectônicas, tecnológicas, quase em simultâneo. 4 forças.
6:41
Sim, a primeira foi o advento dos conjuntos de dados massivos.
6:47
A proliferação da internet, associada a biliões de
6:50
smartphones e sensores IoT, criou uma verdadeira mangueira
6:54
inesgotável de dados digitais, a matéria prima, de repente,
6:58
passou a existir em abundância. Os dados tornaram se o novo
7:02
petróleo, como costumam dizer. Precisamente a segunda foi o
7:06
refinamento interativo dos próprios algoritmos, que se
7:09
tornaram incrivelmente eficientes a processar camadas
7:12
profundas de informação, o famoso deep lawing OK?
7:16
E a terceira a. Terceira força foi um modelo de
7:19
inovação open source, o código aberto.
7:21
O facto de investigadores disponibilizarem bibliotecas
7:24
matemáticas publicamente significou que um avanço num
7:27
laboratório era imediatamente integrado e melhorado por outro
7:31
laboratório do outro lado do mundo, criando tipo um efeito de
7:34
juro composto no conhecimento humano.
7:37
É pá. É aqui que a coisa fica mesmo
7:39
interessante. E onde o documento do Steve
7:41
blank introduz uma nuance crucial?
7:44
Sem dúvida. Porque se olharmos para essas 3
7:46
primeiras forças, dados omnipresentes, algoritmos
7:50
otimizados e bibliotecas open source, tudo isto aponta para
7:54
uma democratização da tecnologia.
7:57
Dá aquela ilusão de que qualquer equipa de engenheiros numa
7:59
garagem pode mudar o mundo. Amanhã, uma visão, um bocadinho
8:03
romântica. Exato, mas a quarta força que o
8:06
autor menciona. Destrói completamente essa
8:09
narrativa, não é? Destrói por completo.
8:12
A quarta força é o poder de computação puro e duro.
8:15
O hardware e inferência pode até ser feita num telemóvel banal,
8:19
mas o treino de ponta tornou se um desporto para bilionários.
8:22
É o paradoxo desta revolução. A teoria matemática requer
8:26
multiplicação de matrizes em dimensões impensáveis.
8:29
Coisa que os computadores normais não aguentam.
8:32
Não aguentam porque os processadores centrais
8:34
tradicionais os CPUs. São desenhados para executar
8:37
tarefas complexas de forma sequencial, uma após a outra.
8:40
O machine learning precisa exatamente do oposto, cálculos
8:44
muito mais simples, mas milhões deles feitos ao mesmo tempo.
8:47
Em paralelo. Daí a loucura com as Placas
8:50
gráficas, exatamente daí a dependência absoluta de GPUs,
8:55
unidades de processamento gráfico ou de circuitos
8:58
integrados de aplicação específica, os acic.
9:01
Os chips dedicados. Sim.
9:03
E o documento ilustra isto com uma brutalidade financeira
9:06
impressionante. Por exemplo, o treino do modelo
9:09
de linguagem GPT 3 exigiu mais de 1000 GPUs em vídia da classe
9:13
mais avançada a operar sem parar durante mais de 1 mês.
9:17
Só para o treino? Só para o treino, o custo
9:19
energético e de hardware ultrapassou os 25000000 de
9:23
dólares apenas para realizar o treino uma única vez.
9:26
Uau, 25000000? E se o treino não correr bem ou
9:30
se houver um erro tipo na arquitetura dos dados?
9:33
Deitam se esses 25000000 ao lixo e é preciso recomeçar o processo
9:37
de computação, tudo. De novo, é um risco brutal.
9:40
Isto altera completamente a dinâmica de poder.
9:44
Se a Barreira de entrada deixou de ser o engenho do software e
9:49
passou a ser a capacidade brutal de financiar supercomputadores,
9:53
então a inteligência artificial de ponta?
9:57
Já não é acessível à esmagadora maioria das universidades ou de
10:00
pequenas empresas. Fica restrito a uma elite no
10:03
fundo. Exato, o poder de criar os
10:06
modelos fundacionais de próxima geração concentra se num punhado
10:10
de gigantes tecnológicos e de nações estado é uma autêntica
10:14
corrida ao armamento. O texto descreve isto como um
10:17
fosso estratégico. Um malte no inglês e vai mais
10:20
longe. Não é apenas o capital para
10:22
comprar o Silício físico. Há mais do que o hardware.
10:25
Sim, porque empresas de líderes no fábrico de hardware
10:28
construíram camadas de software fechado e altamente otimizado
10:32
para interagir diretamente com estes chips, criando um
10:35
ecossistema do qual os investigadores não conseguem
10:37
escapar facilmente. Ficam presos àquela
10:40
infraestrutura. Estão presos e as implicações
10:43
disto para a soberania tecnológica de blocos
10:45
geográficos inteiros são imensas, pois quem não tem a
10:48
capacidade de imprimir os seus próprios chips?
10:51
Avançados, fica dependente de cadeias de abastecimento
10:53
extremamente frágeis. Bem, quando passamos desta
10:56
guerra, infraestrutural para o impacto no mundo real.
11:00
O documento de Stanford mapeia o grau de infiltração da IAEO que
11:04
impressiona. Não é apenas a velocidade, mas
11:07
AA profundidade da integração na sociedade e na defesa.
11:11
A forma como penetra em todos os setores.
11:13
Exatamente, o processamento de linguagem natural deixou de ser
11:16
apenas 7 bots básicos de serviço ao cliente.
11:20
Para passar a ser sistemas que ingerem bases de dados legais
11:23
complexas ou escrevem código de programação autónomo, testando
11:27
as suas próprias compilações. Ainda, visão computacional, o
11:30
Salto é idêntico para. Um cão ou um gato numa foto do
11:33
Facebook? O nível atual envolve redes
11:35
neuronais que analisam ressonâncias magnéticas
11:38
oncológicas e detetam, anomalias microcelulares com taxas de
11:43
precisão constantemente superiores às disjuntas médicas
11:47
super experientes. E não podemos esquecer o design
11:50
generativo, que é outro Pilar abordado e que subverte a forma
11:54
como pensamos o desenvolvimento de produtos físicos e de
11:57
engenharia mecânica. Como é que isso funciona na
11:59
prática? Antigamente, o engenheiro
12:01
desenhava uma peça no computador com base na sua experiência e
12:04
intuição humana. Hoje o engenheiro apenas insere
12:07
as restrições no sistema tipo. Esta peça de motor de avião tem
12:12
de pesar menos de 3 kg, tem de suportar uma temperatura DeX
12:15
graus. E os pontos de fixação são
12:17
nestas exatas coordenadas. Dá as regras do jogo, EAIA faz o
12:21
resto. Sim, mas AIA não sugere apenas
12:24
uma solução convencional. Ela gera e simula milhares de
12:27
arquiteturas orgânicas e complexas, apresentando o design
12:30
que quer dizer, assemelha se mais um osso humano otimizado
12:35
pela evolução natural do que é um objeto industrial tradicional
12:38
que estamos habituados a ver. Os ganhos de eficiência de
12:40
materiais são absolutamente assombrosos.
12:43
Mas repara essa capacidade de gerar o que nunca existiu.
12:47
Tem um lado Sombrio, intrínseco, e o documento de Stanford não
12:50
poupa nas palavras quando analisa a intersecção de todas
12:53
estas ferramentas com a segurança nacional.
12:55
Entramos num campo muito sensível aí.
12:57
Sem dúvida, e para quem nos ouve, é vital deixar claro que
13:01
nós estamos apenas a reportar o cenário macroestratégico, tal
13:04
como é apresentado pelo autor Steve Blanc, observando as
13:07
dinâmicas geopolíticas de forma totalmente imparcial, sem
13:11
endossos. Claro que estamos a dissecar a
13:12
visão do autor. O texto destaca o conceito de
13:15
vigilância massiva algorítmica, mencionando diretamente a
13:19
utilização destas tecnologias por parte da China no
13:21
policiamento da minoria uigur. É um caso de estudo pesado no
13:25
documento. Muito pesado, o autor descreve
13:28
como a integração silenciosa de metadados de comunicações
13:32
móveis, leituras de Reconhecimento facial em dezenas
13:34
de milhares de câmaras de video, vigilância e até repositórios de
13:38
ADN. Tudo isto cria um panótico
13:40
automatizado. Quando o sistema cruza?
13:42
Padrões, cruza padrões de comportamento para identificar
13:46
potenciais dissidentes antes mesmo de um humano analisar os
13:49
perfis. É uma escala impensável.
13:52
E o campo de Batalha físico também se transforma num
13:54
ambiente gerido por algoritmos de fusão de sensores.
13:57
O documento fala em enxames de drones autónomos que comunicam
14:00
entre si sem qualquer dependência de um controlo
14:03
central humano, aquele. Swarm drones.
14:05
Exato. E aborda o processamento de
14:08
sinais de inteligência, a capacidade de recolher ondas de
14:11
rádio e radares inimigos e usar machine learning para
14:15
identificar padrões escondidos no ruído de fundo tático
14:18
desencobrindo, movimentações que a inteligência analógica humana
14:22
nunca conseguiria isolar a tempo.
14:24
A velocidade de análise muda. Tudo completamente.
14:28
O ciclo de inteligência reduz se de dias para microsegundos.
14:31
E aqui entra um dos mecanismos mais perturbadores do documento,
14:35
a chamada ya adversaria ou adversarial AI, porque quer
14:40
dizer, a intuição comum, diz nos que, para neutralizar uma rede
14:43
militar destas, teríamos de lançar um ataque cibernético
14:46
tradicional para deitar abaixo os servidores ou cortar energia
14:50
elétrica. Um ataque de força bruta,
14:52
digamos assim. Exato, mas aí a adversária opera
14:56
num plano muito mais insidioso. O objetivo é atacar a própria
15:01
matemática do modelo, os seus pesos internos, e podemos
15:05
explicar como isto funciona na prática para os nossos ouvintes
15:08
usando uma analogia simples de visão computacional.
15:12
Aquela do sinal de trânsito, não é?
15:13
Essa mesmo, imaginem um sistema de condução autónoma num carro
15:18
que depende das câmaras para ler os sinais de trânsito?
15:21
O que aí a adversária faz é calcular uma perturbação visual
15:25
hiper específica, por exemplo, a desenhar um autocolante abstrato
15:30
que parece apenas arte Moderna para o olho humano e colá lo num
15:33
sinal de stop. Para nós, é só um autocolante
15:36
estranho. Mas o sistema ótico do carro lê
15:39
esse autocolante, os pixeis ativam uma sequência pervertida
15:43
na rede neural e a classifica aquele sinal de stop com 99% de
15:48
certeza como sendo um sinal de limite de velocidade de 120 km
15:52
por hora. E o carro acelera em vez de
15:54
parar. Exatamente.
15:56
O servidor não foi atacado, o hardware está intacto, mas a
16:00
perceção da realidade da máquina foi subvertida com apenas tipo,
16:04
um pouco de fita cola, matemática.
16:06
Se ligarmos isto ao Panorama geral, as implicações militares
16:09
dessa fragilidade arquitetónica são profundas.
16:12
Se transferirmos esse exemplo para dares de radar, em que um
16:15
padrão de interferência gerado pelo inimigo faz com que a EAD
16:17
de defesa aérea identifique um míssil de Cruzeiro como sendo
16:20
apenas um bando de aves, o sistema colapsa não por
16:23
destruição mecânica, mas por envenenamento cognitivo.
16:26
É aterrador pensar nisso. E é por isso que o autor do
16:29
documento classifica AEA como uma tecnologia de dupla
16:32
utilização tão Extrema. A mesma abstração matemática que
16:35
descobre novos compostos molculares para curar doenças
16:38
pode ser ligeiramente revertida para maximizar a toxicidade e
16:41
desenhar armas biológicas de forma automatizada.
16:44
A mesma ferramenta, 2 propósitos opostos.
16:47
Sim, e após a fase super cara do treino inicial, o custo marginal
16:52
de usar estes modelos para criar danos assimétricos.
16:55
Cai a pique o que altera completamente o equilíbrio das
16:59
ameaças globais é a arma inteligente de quem tem poucos
17:02
recursos. E, contudo, apesar desta
17:04
descrição de capacidades que são avassaladoras, há uma tese
17:07
central no artigo de Stanford que contraria totalmente a nossa
17:11
intuição sobre os constrangimentos destas
17:13
tecnologias. Que é a parte da burocracia.
17:15
Autor defende de forma bastante contundente que é a maior
17:18
Barreira para a adoção eficaz e defensiva da IA nos aparelhos do
17:22
estado e nas grandes instituições.
17:24
Não é a falta da tecnologia de ponta nem a limitação dos
17:27
algoritmos em si. Então, o quê?
17:29
O estrangulamento principal é pura e simplesmente cultural.
17:33
É a burocracia inerente às organizações pesadas.
17:36
É o processo de contratação público que demora 5 anos a
17:39
estar concluído. É para altura em que o software
17:41
já está completamente obsoleto é a relutância orgânica das
17:45
hierarquias de topo a integrar ferramentas que eles
17:48
simplesmente não compreendem, preferindo os métodos analógicos
17:52
seguros do que apostar na disrupção.
17:55
E a fricção organizacional é monumental.
17:57
As hierarquias baseiam o seu valor na capacidade de tomada de
18:00
decisão. Não é a introdução de um sistema
18:02
artificial que resolve otimizações logísticas globais
18:05
em 2 segundos. Ameaça de morte das cadeias de
18:08
comando tradicionais. Tirem lhes o poder das mãos.
18:11
Tira. Mas há uma validade muito real e
18:13
técnica por detrás desse ceticismo das hierarquias.
18:16
O documento explora precisamente como é que as máquinas aprendem
18:20
e os limites práticos que justificam alguma dessa
18:23
desconfiança. O machine learning não é um
18:25
monolito. Tem várias Vertentes.
18:27
Sim. A abordagem supervisionada, por
18:29
exemplo, exige que equipas inteiras de humanos invistam um
18:33
tempo massivo a rotular dados antecipadamente.
18:36
A dizer o que é o quê nas imagens e nos textos.
18:39
Exatamente, o sistema é treinado para mapear inputs para um
18:42
output predefinido, aprendendo sobre a matriz de respostas
18:45
corretas criadas pelos engenheiros.
18:47
É seguro? Mas é incrivelmente dispendioso
18:50
em termos de mão de obra humana. Exato, mas a ambição real destas
18:54
tecnologias reside nas outras categorias, na aprendizagem não
18:58
supervisionada e na aprendizagem por reforço.
19:02
Onde Os Guardiões humanos dão um grande?
19:04
Passo atrás, precisamente. Na não supervisionada, atira se
19:08
para dentro da máquina uma Montanha de dados brutos de
19:12
transações financeiras tipo, sem qualquer rótulo, e diz, se
19:16
descubra aí a estrutura. E a máquina começa a agrupar
19:19
padrões de comportamento anómulo de contas bancárias em paraísos
19:23
fiscais que 11 investigador humano demoraria décadas a
19:27
conseguir ligar através de todo aquele ruído.
19:30
A máquina vê os padrões invisíveis.
19:32
Vê já a aprendizagem por reforço?
19:34
O reenforcement learning atua quase sob princípios de
19:38
psicologia comportamental. A máquina é colocada num
19:41
ambiente com um objetivo final e um sistema de recompensas e
19:44
penalizações. Aprendendo inteiramente por uma
19:47
tentativa e erro auto gerada. E o caso emblemático que o autor
19:51
cita para ilustrar este último método é fascinante, é o do
19:55
sistema Alpha go. Ah, o do jogo de Tabuleiro.
19:58
Sim, concebido para jogar aquele complexo jogo de Tabuleiro
20:01
milenar, o go. A complexidade de matemática do
20:04
jogo impossibilita a criação de uma árvore de decisões com todas
20:07
as jogadas possíveis, como se fez com o.
20:09
Xadrez são demasiadas combinações.
20:12
Demasiadas. A abordagem do laboratório foi
20:14
desenhar um modelo de aprendizagem por reforço.
20:17
E pô, lo a jogar contra colones de si próprio.
20:19
A jogar contra si próprio. Sim, e em cerca de 3 dias, a
20:23
rede neural processou perto de 5000000 de jogos, otimizando as
20:27
suas próprias estáticas ao tentar maximizar a sua
20:30
recompensa matemática de Vitória.
20:32
O resultado foi um sistema que não apenas atingiu o nível do
20:35
campeão mundial humano, mas que executou movimentos tão
20:38
alienígenas para a teoria do jogo estabelecida.
20:41
Que redefiniu a forma como a própria comunidade humana passou
20:44
a compreender as regras estratégicas do go.
20:46
Isso é brilhante, mas quer dizer, é imperativo não cairmos
20:51
no deslumbramento total aqui na nossa análise.
20:54
O texto gasta uma parte substancial a mapear os abismos
20:58
perigosos onde estes sistemas podem falhar catastroficamente.
21:02
Sim, os limites da IA. O fenómeno do overfiting é um
21:05
risco diário na engenharia de software.
21:07
O modelo torna, se tão incrivelmente preciso nos dados
21:10
com os quais foi treinado, que ele memorizar o ruído
21:14
estatístico. Em vez de apreender a regra
21:16
abstrata subjacente, ele fica sem a capacidade de ser
21:19
flexível. Fica viciado naqueles dados
21:22
específicos. Exato.
21:23
Quando é colocado perante dados ligeiramente diferentes do mundo
21:26
real, a sua eficácia cai a pique de forma dramática.
21:30
E se é isto somarmos a vulnerabilidade à qualidade dos
21:33
dados. Por exemplo, um modelo
21:35
alimentado com históricos clínicos enviesados produzirá
21:38
recomendações médicas estruturalmente discriminatória.
21:41
Herda dos nossos preconceitos. Herda cegamente os preconceitos
21:44
codificados nos números humanos. Temos aqui um cenário propício
21:48
para decisões desastrosas. E isto leva nos à verdadeira
21:52
parede intransponível do atual estado da arte, que é o problema
21:56
da explicabilidade, o famoso dilema da caixa negra.
21:59
A blackbox. Sim, no paradigma da computação
22:02
clássica, se o sistema emitisse um alerta, os auditores podiam
22:06
analisar o código e ler a linha exata de lógica dedutiva que
22:10
despoletou aquele aviso era transparante.
22:12
Estava lá escrito. Mas em redes neuronais
22:14
profundas, com milhares de milhões de parâmetros fluídos
22:17
que interagem em simultâneo, essa transparência mecânica
22:21
desaparece por completo. Ninguém sabe bem o que se passa
22:23
lá dentro. Nós conhecemos os dados que
22:25
entram no sistema e medimos os resultados que saem.
22:28
A rede diz com 98% de certeza que um determinado raio x
22:32
pulmonar apresenta um padrão pré cancerígeno.
22:34
Certo? Mas se exigirmos que a máquina
22:37
de escreva num passo a passo, lógico.
22:40
Qual foi o caminho de intersecções geométricas e
22:43
padrões de densidade que ditou essa conclusão?
22:45
Não conseguimos. A arquitetura interna é
22:50
incompreensível para a mente humana.
22:52
Então, o que é que isto tudo significa na prática
22:55
operacional? Porque o impacto deste dilema da
22:58
caixa negra, especialmente em áreas críticas, é uma âncora
23:02
gigantesca. É um travão enorme.
23:04
Como é que um longologista pode assinar a responsabilidade civil
23:08
e ética? Por um protocolo de tratamento
23:10
super agressivo, baseando se apenas num resultado estatístico
23:14
que ele não consegue auditar visualmente ou debater,
23:16
logicamente não pode. E pior ainda, transferindo isto
23:20
para a esfera da segurança nacional, tratada pelo Steve
23:22
blank. Quer dizer, como é que um
23:24
almirante autoriza o disparo de um sistema de armamento autónomo
23:28
no teatro de operações? Se o software lhe garante que
23:31
identifica um vaso de guerra inimigo, mas não consegue provar
23:35
empiricamente o raciocínio por detrás da identificação antes de
23:38
detonar a arma? Isto levanta uma questão
23:40
importantíssima, que o documento identifica como o paradoxo da
23:43
confiança assimétrica, nós estamos a forjar ferramentas que
23:47
já superam a nossa própria acuidade sensorial ou analítica
23:50
em várias tarefas restritas. No entanto, o tecido da
23:54
integração da tecnologia na sociedade depende essencialmente
23:57
da prestação de contas. Alguém tem que ser responsável.
24:00
Exato, para que o uso em ambientes de risco elevado se
24:03
massifique, a engenharia global terá de investir uma enorme
24:07
quantidade de capital na área da iá explicável, forçando estes
24:11
modelos ou paccos a produzirem relatórios semânticos das suas
24:15
decisões. A explicar o porquê de terem
24:18
decidido aquilo. Sim, até lá, gerir o grau de
24:21
autonomia cedido a estas máquinas e blindar a pureza dos
24:25
dados de treino contra os ataques adversários.
24:28
Será o teste diplomático e de segurança cibernética mais
24:31
severo que os governos enfrentarão nesta década.
24:34
A rede neural não tem moralidade.
24:37
O algoritmo não hesita perante as consequências.
24:39
Chegamos, assim, ao fim desta nossa dissecação.
24:42
Para as pessoas que nos acompanham, a expectativa é que
24:45
este cenário denso tenha agora contornos muito mais definidos e
24:49
úteis. Fomos muito além dos chavões e
24:52
das manchetes genéricas. Sem dúvida.
24:54
Analisamos a transição profunda. Da lógica pré programada para a
25:00
dedução empírica baseada em volumes astronómicos de dados,
25:04
exploramos o pesado fosso financeiro construído com
25:08
Montanhas de unidades de processamento gráfico paralelo e
25:13
dissecámos a mecânica de envenenamento na guerra
25:16
algoritmica. O diagnóstico da universidade de
25:19
Stanford deixa claro que a velocidade em que o mundo
25:22
absorver e regulamentar esta infraestrutura de Silício.
25:26
Ditará a estabilidade ou a fragmentação global nos anos
25:29
vindouros. É um momento de idagem.
25:31
Absoluto e por falar na forma como as organizações reagem à
25:35
velocidade da mudança, o documento encerra com uma
25:38
reflexão filosófica e tática tão cortante que não poderia ficar
25:42
de fora, conta lá, historicamente, os humanos,
25:46
desde os líderes empresariais ou estratégias de guerra, operam e
25:49
sobrevivem baseados num ciclo de decisão clássico, teorizado por
25:53
John boid, o ciclo oda. Observar, orientar, decidir e
25:58
agir. Exatamente.
25:59
Nós detetamos um evento no mercado ou no campo de Batalha,
26:03
processamos a informação, contextualmente, deliberamos
26:07
internamente e executamos a reação.
26:10
Mas o problema inerente a este ciclo milenar é a sua natureza
26:14
reativa. Tudo se desenrola depois de o
26:17
evento acontecer. A velocidade humana dita o
26:20
limite. Estamos sempre um passo atrás.
26:22
Sempre. A arquitetura computacional
26:24
baseada em IA ameaça desmantelar este paradigma biológico por
26:29
completo, empurrando as organizações de ponta para um
26:32
novo ciclo de operação projetado no futuro imediato, o ciclo SPCA
26:38
sense predict agri act sentir, prever, concordar e agir.
26:44
É uma inversão total. É através de sensores ubicos e
26:48
ingestão constante de dados vitais.
26:51
O sistema sente o ambiente global de forma omnisciente,
26:55
utilizando os seus modelos pré treinados.
26:57
Ele prevê com probabilidades altíssimas a ação do adversário
27:01
económico militar antes sequer de este a cometer.
27:05
Quando a inferência está feita, a máquina apresenta a resposta,
27:09
e é nesta exata fase que a natureza do trabalho humano
27:12
sofre o golpe mais profundo. Deixamos de ser os decisores
27:15
principais. Sim, o humano é despromovido do
27:18
papel de observador central e de mestre decisor.
27:22
A nós caberá apenas a penúltima tarefa, tentar compreender uma
27:26
caixa negra insondável e, na grande maioria das vezes, devido
27:30
à pura falta de tempo de processamento, simplesmente
27:33
concordar. Assinar por baixo.
27:35
Concordar, pressionar o botão e deixar a máquina autónoma agir.
27:40
Se regressarmos ao nosso viajante do tempo de 1950, que
27:43
agora espreita para o nosso escritório altamente otimizado,
27:46
ele constata que o papel principal da nossa inteligência
27:51
biológica passou a ser o de apenas validar um futuro
27:55
probabilístico que um cluster de Silício acabou de gerar.
28:01
É assustador e fascinante ao mesmo tempo.
28:03
O que é que isto fará a essência da liderança humana?
28:06
O que é que acontece a nossa intuição quando nos tornarmos
28:09
meros burocratas encarregados de aprovar o raciocínio de
28:13
entidades algoritmicas imensamente superiores, é uma
28:18
sombra densa para levar para casa.
28:20
Continuamos na próxima exploração.