Latest / Entre Chaves / Snippet #22 Federated Learning para treinar modelos com dados descentralizados

Transcript

Snippet #22 Federated Learning para treinar modelos com dados descentralizados · Entre Chaves

• 0:02
  Ei, pessoal, aqui é a Rafa, sua engenheira de dados, o WP
• 0:05
  Research, um time focado em desenvolver pesquisas e soluções
• 0:09
  com IA e muito relacionado ao trabalho do nosso time.
• 0:12
  Hoje eu gostaria de falar sobre um tópico de machine learning,
• 0:15
  que é o federated learning. Também chamado de fl ou em bom
• 0:19
  português, aprendizado federado. Em muitos cenários reais, o
• 0:22
  desafio de se treinar o modelo de machine learning nem é
• 0:26
  puramente arquitetural, mas sim você ter acesso aos dados que
• 0:30
  esse modelo precisa para melhorar, né?
• 0:32
  Uma diversidade de cenários que esse modelo precisa aprender,
• 0:35
  como por exemplo, no marketing, onde os dados relevantes, né?
• 0:38
  Para esse contexto, para a gente prever performance de campanhas
• 0:41
  de marketing. Raramente vão estar no mesmo
• 0:44
  lugar, né? Muito pelo contrário, eles são
• 0:45
  descentralizados em diferentes plataformas, diferentes
• 0:49
  organizações, eles são regidos por regulamentações.
• 0:52
  E também questões contratuais. E na prática, isso cria um
• 0:56
  dilema muito comum em machine learning, que é, quanto mais
• 0:59
  dados, né? Diversos você tem, melhor vai
• 1:02
  ser o seu modelo. Mas ao mesmo tempo, se esses
• 1:04
  dados forem sensíveis, proprietários, regulados e
• 1:08
  descentralizados, mais vai ser difícil você resolver toda a
• 1:12
  burocracia necessária pra você ter isso centralizado, pra um
• 1:17
  modelo poder consumir em um único ambiente e isso pode até
• 1:21
  mesmo inviabilizar. Utilização de machine learning
• 1:24
  em cenários onde isso acontece, né?
• 1:26
  E eu falei de marketing, mas a gente vai ver esse problema
• 1:28
  acontecendo. Por exemplo, na área da saúde,
• 1:30
  quando você tem hospitais que tem dados valiosos de pacientes,
• 1:34
  mas eles não podem compartilhar essas bases clínicas, né?
• 1:37
  Entre si. Ou então, por exemplo, bancos
• 1:40
  onde você tem instituições financeiras com modelos anti
• 1:43
  fraudes que eles não podem compartilhar dados de cliente,
• 1:46
  basicamente em qualquer setor que você tenha esses problemas,
• 1:49
  né? Do dos dados estarem
• 1:51
  distribuídos. Qualquer tentativa de aplicação
• 1:54
  de machine learning vai resultar em um modelo que vai ser muito
• 1:57
  limitado. Então, a partir disso surge um
• 1:59
  problema central, né? Que é como treinar esses modelos
• 2:03
  de machine learning aproveitando esses dados distribuídos e sem
• 2:06
  que eu tenha que centralizar esses dados de alguma forma.
• 2:10
  E é exatamente este o problema que o federated learning resolve
• 2:14
  com essa técnica. Em vez da gente levar os dados
• 2:17
  para treinar o modelo, a gente faz o contrário, a gente leva o
• 2:19
  modelo até os dados. Mas o pulo do gato aqui?
• 2:22
  Que é que não vai ser exportado nenhum dado sensível, nenhum
• 2:26
  dado que foi utilizado no treinamento bruto ou features
• 2:30
  individuais, né? O que vai ser exportado vão ser
• 2:32
  as atualizações do modelo, né? Ou seja, pesos, né, variações os
• 2:37
  parâmetros, dependendo de como seu modelo foi treinado e esse
• 2:40
  processo, ele vai acontecer em várias interações, né, que a
• 2:44
  gente chama de rodadas de comunicação.
• 2:46
  Em que cada uma delas, a cada unidade, os participantes, eles
• 2:50
  vão refinar esse modelo localmente, mandar para o
• 2:52
  servidor. E aí esse servidor ele vai agir
• 2:55
  como um agregador, né? De de cada uma dessas
• 2:58
  contribuições para. Gerar uma nova versão global
• 3:02
  desse modelo, né? Que vai conter o treinamento ali
• 3:05
  de todas as unidades. E uma forma muito comum de fazer
• 3:07
  essa agregação é utilizar o federated everging, que você
• 3:11
  pega todas essas atualizações locais de cada unidade e combina
• 3:15
  isso através de uma média ponderada.
• 3:17
  E na prática, né? Ser ponderado significa que
• 3:21
  unidades que contenham mais dados, elas vão ter um peso
• 3:24
  maior nessa atualização final do modelo global.
• 3:27
  E essa nova versão, né? Gerada nessa rodada de
• 3:30
  comunicação. Ação?
• 3:31
  Ela então vai ser redistribuída para cada um dos participantes
• 3:35
  das unidades que vai poder utilizar, né?
• 3:38
  Esse modelo atualizado para fazer um novo treinamento local
• 3:42
  e assim por diante até que obtenha se a convergência.
• 3:45
  E é exatamente essa ideia que motivou um dos estudos que foram
• 3:49
  feitos no wpiper Research, onde a gente utilizou o federated
• 3:53
  learning. Aplicado no contexto de
• 3:55
  marketing que eu mencionei lá no começo, né, que é um contexto
• 3:58
  onde há muita descentralização e a pergunta principal a ser
• 4:03
  respondida no artigo foi. Será que a performance de um
• 4:06
  modelo confederated learning ela vai chegar perto bastante de um
• 4:10
  modelo que foi treinado de forma convencional, com acesso aos
• 4:15
  dados centralizados? Será que vai haver uma perda de
• 4:18
  performance? E se houver essa perda de
• 4:20
  performance, será que ela vai ser aceitável dentro, né?
• 4:24
  De todos os ganhos que a gente tem ali, com privacidade, com
• 4:28
  segurança. E uma parte muito interessante
• 4:30
  desses experimentos é que a gente utilizou geração de dados
• 4:34
  sintéticos. Pra gente conseguir simular
• 4:36
  diferentes tipos de configurações de campanha, que
• 4:39
  tenham, por exemplo, diferentes públicos, alvos, marcas,
• 4:42
  plataformas, localizações geográficas, pra que a gente
• 4:46
  possa avaliar esse modelo em diferentes condições de
• 4:49
  treinamento. E no geral, os resultados foram
• 4:51
  bem promissores, principalmente avaliando em um número menor de
• 4:56
  participantes, né? Que nesse cenário ele conseguiu
• 4:59
  chegar. Muito perto do resultado do
• 5:01
  modelo centralizado, cara. Isso é muito legal porque o
• 5:04
  modelo treinado com dados centralizados, ele tem uma
• 5:07
  vantagem natural muito grande, porque ele enxerga todos os
• 5:11
  dados que são utilizados no treinamento ao mesmo tempo e
• 5:15
  mesmo assim a perda de performance foi relativamente
• 5:17
  pequena. Que compensou, né?
• 5:19
  Justamente por ter esse benefício da privacidade de
• 5:22
  dados. O estudo também mostrou que a
• 5:24
  medida que você adiciona mais participantes, mais unidades,
• 5:28
  né? E a rede fica mais fragmentada,
• 5:30
  também há uma queda de performance.
• 5:32
  Mas isso também vale, né, para o modelo que foi treinado com
• 5:34
  dados centralizados. Mas ainda assim, né?
• 5:36
  Todos esses resultados. Eles indicam que essa troca faz
• 5:40
  sentido, né? Um trade off, claro, mas que a
• 5:43
  gente tem todos esses benefícios, né, que já foram
• 5:46
  mencionados. Bom, mas eu recomendo muito que
• 5:48
  vocês leem o artigo, porque lá tem todos os detalhes de
• 5:51
  implementação, né? Dos experimentos onde a gente
• 5:54
  utilizou um frame work open source muito conhecido, que é o
• 5:57
  flower. É lá também tem todos os
• 5:59
  resultados, as discussões e também as métricas, né?
• 6:02
  Que foram utilizadas para fazer todas essas comparações.
• 6:05
  Os links vão estar aí na descrição do episódio, tanto a
• 6:07
  versão mais detalhada, mais técnica, quanto uma versão mais
• 6:11
  alto nível. Mas é claro que vale mencionar
• 6:13
  que também existem desafios, né? E os pontos principais que a
• 6:16
  gente pode mencionar é o custo de comunicação, né?
• 6:19
  Entre participantes e servidor. Outro ponto também é a
• 6:22
  heterogeneidade dos dados que você pode ter, porque a gente
• 6:26
  está falando de dados descentralizados que pode.
• 6:28
  Em ter diferentes formatos, que podem ter distribuições
• 6:32
  diferentes. E por fim, também é necessário
• 6:35
  tomar cuidados extras com segurança, porque apesar da
• 6:38
  gente ter comentado que a privacidade é o principal
• 6:40
  benefício, as atualizações desses modelos que são
• 6:43
  transmitidas entre os participantes e o servidor
• 6:48
  principal ou coordenador, é necessário que a gente tenha
• 6:51
  esse cuidado, né? Pra que essas informações sobre
• 6:53
  os modelos não possam ser explorados de alguma forma.
• 6:56
  Por engenharia reversa, então existem mecanismo que podem ser
• 6:59
  adotados para reduzir esse risco.
• 7:01
  E se você quiser se aprofundar mais e tem muito interesse em
• 7:05
  IA, dados e marketing, vou deixar aqui também o link do do
• 7:09
  site da WPP Research, onde a gente tem vários artigos,
• 7:12
  conteúdos relacionados que vão muito além de Federer e
• 7:15
  tedlearning. E aí fica de olho quem sempre tá
• 7:18
  saindo mais coisas lá e acho que é isso até a próxima, muito
• 7:22
  obrigada.