Latest / Entre Chaves / Snippet #34 Como a Anthropic vai provar autoria de IA

Transcript

Snippet #34 Como a Anthropic vai provar autoria de IA · Entre Chaves

• 0:00
  Olá pessoal, está começando mais um snippet do entre chaves.
• 0:03
  Eu sou a Rafaela Milagres, arquiteta de dados aqui na dti
• 0:06
  digital e o assunto de hoje é regulamentação de inteligência
• 0:10
  artificial. E eu sei que parece um assunto
• 0:13
  chato, mas confia em mim que ele é mais complexo interessante do
• 0:17
  que parece. Na união europeia, as obrigações
• 0:19
  de transparências do EAE act passaram a valer em agosto de
• 0:22
  2026 e vai impactar não só as empresas que operam em
• 0:26
  território europeu. Mas qualquer empresa ou
• 0:29
  organização que tenha operação na Europa ou que alcance algum
• 0:33
  mercado europeu. Entre essas obrigações está a
• 0:36
  exigência de você marcar conteúdo gerado por inteligência
• 0:39
  artificial e permitir que você consiga detetar isso por
• 0:43
  máquinas. Claro, com algumas exceções, né?
• 0:45
  A lei fala, por exemplo, é código fonte.
• 0:48
  É comunicação máquina, como por exemplo, agentes se comunicando
• 0:52
  com outros agentes. Foi pra atender essa
• 0:54
  regulamentação que a antrrop, que anunciou novas mudanças no
• 0:57
  cloud. Mas veja bem, não é só pro
• 1:00
  contexto da união europeia, essas modificações, elas valem
• 1:04
  pro mundo inteiro, por isso que a gente precisa ficar de olho,
• 1:06
  né? No que que vai acontecer?
• 1:08
  Bom, essa ideia de marcar conteúdo irado pro iaia ela não
• 1:10
  começou agora, né? A gente já tem marca d'água
• 1:13
  sendo aplicada em vídeos, imagens no gemina e na open a
• 1:17
  gente tem, por exemplo. É marcas invisíveis também, onde
• 1:21
  metadados são modificados para que contenha a origem daquele
• 1:25
  arquivo, né? Que foi gerado por IA.
• 1:27
  Só que essas soluções elas não são 100% infalíveis, né?
• 1:32
  Porque você pode recortar imagem para remover a marca d'água.
• 1:35
  Você pode, por exemplo, dependendo de como você manipula
• 1:37
  o arquivo, você pode remover aquele metadados se você tirar
• 1:41
  um print para contornar parte dessas limitações.
• 1:44
  A Google, né? O deep mind, laboratório de
• 1:46
  pesquisa da Google, desenvolveu uma espécie de impressão digital
• 1:50
  nos arquivos. Eles alteram alguns pixels da
• 1:53
  imagem de forma que seja imperceptível ao olho humano,
• 1:57
  mas que uma máquina consegue perceber ali os pixels de cores
• 2:00
  diferentes e consiga identificar que foi gerado por IAE.
• 2:03
  Isso é chamado de sim IDEE. Foi desenvolvido alguns anos
• 2:07
  atrás. Esse método, claro, ele é bem
• 2:09
  mais difícil de burlar, porque ainda que você manipule.
• 2:12
  A imagem, né? Ele ainda vai continuar lá,
• 2:14
  mesmo que você modifique o conteúdo, os metadados, enfim.
• 2:17
  Porém, quando a gente vai falar de texto é muito mais complexo
• 2:21
  do que parece, né? Até porque o jeito mais trivial
• 2:24
  seria se a gente colocasse simplesmente uma parte no texto
• 2:28
  ali, identificando que aquele conteúdo foi gerado por ya, sei
• 2:31
  lá, uma frase ali falando do conteúdo.
• 2:35
  Mas é isso é trivial demais, né? E se a gente pensa em outras
• 2:38
  formas, talvez sejam mais discretas, como por exemplo.
• 2:41
  Se eu adicionar caracteres ali invisíveis, é especiais ali que
• 2:46
  dependendo do editor de texto que eu tô usando, ele não vai
• 2:48
  aparecer. Pode ser que eu deixe mais
• 2:52
  difícil de da pessoa identificar, porém ainda é muito
• 2:55
  trivial, então qualquer pessoa poderia copiar o texto pra algum
• 2:59
  lugar, remover aquilo ou manipular o texto.
• 3:02
  Então aí vem o desafio, né? O que torna muito complexo
• 3:06
  interessante, que é como deixar uma marca d'água no texto.
• 3:10
  De forma que ele sobreviva se eu copiar e colar esse texto pra
• 3:14
  algum outro lugar. Mas antes de falar sobre a
• 3:17
  solução que a antrrop que trouxe, a gente precisa dar um
• 3:20
  passo atrás e entender como que funciona a geração de palavras
• 3:25
  da inteligência artificial, um LLM, modelo de linguagem de
• 3:28
  larga escala. Ele basicamente gera textos ali,
• 3:31
  né? Em pequenas unidades chamadas
• 3:34
  tokens, que podem ser palavras ou pedaços de palavras, como por
• 3:38
  exemplo, é na frase. O dia estava frio e você pode
• 3:43
  acrescentar ali palavras como é chuvoso, nublado, que seriam
• 3:48
  continuações super plausíveis, né?
• 3:50
  Com alta probabilidade de de continuar essa frase.
• 3:53
  Mas, por exemplo, a palavra quadrado redondo, sei lá, não,
• 3:57
  não é muito, não faz muito sentido naquele contexto.
• 3:59
  Então ela teria uma probabilidade ínfima de aparecer
• 4:02
  ali. Mas o modelo, ele não precisa
• 4:05
  necessariamente escolher sempre a opção de maior probabilidade.
• 4:09
  Porque existe ali, né? Nessa seleção de tokens, um
• 4:12
  componente de aleatoriedade. E é isso que faz as respostas
• 4:16
  serem diferentes, né? Toda vez que você pergunta para
• 4:18
  um modelo uma coisa, ele vai te dar respostas diferentes.
• 4:21
  É isso que torna a inteligência artificial de certa forma,
• 4:24
  criativa. E alguns modelos até mesmo tem.
• 4:27
  É um parâmetro de temperatura onde você consegue variar esse
• 4:30
  componente aleatório para ter respostas.
• 4:33
  Um pouco mais determinísticas e um pouco mais criativas, mas no
• 4:36
  fim pessoal, um texto gerado pro IA.
• 4:38
  Ele é basicamente um conjunto de escolhas de tokens que foram
• 4:42
  feitas baseadas, claro, em probabilidade, mas que existe um
• 4:46
  componente ali de aleatoriedade. E é justamente nesse componente
• 4:50
  de aleatoriedade que a marca d'água pode ser inserida.
• 4:54
  A ideia da antrópic é usar uma chave que somada ao conteúdo que
• 4:58
  já foi escrito. Você consegue guiar ali a
• 5:01
  geração dos próximos tokens e aí o próximo token ou palavra que
• 5:05
  vai ser gerada, ela vai ser sempre selecionada a partir
• 5:08
  desse padrão definido pela chave.
• 5:10
  Ou seja, você vai conseguir fazer uma engenharia reversa e
• 5:14
  descobrir se foi o Cláudio que gerou aquele conteúdo.
• 5:17
  E esse método ele não foi proposto pela antrópica e
• 5:21
  originalmente, né? Ele veio ali, né?
• 5:22
  Como uma versão do sintaid. Pra textos que foi é feito pela
• 5:28
  pela própria Google. Bom, eu sei que parece muito
• 5:30
  complexo, mas a antrrop que fez uma analogia que eu achei muito
• 5:34
  útil, que é, imagine que você esteja jogando monopoli e aí a
• 5:38
  cada rodada você lança o dado, e aí você anda um determinado
• 5:41
  número de casas, né? De forma aleatória por conta do
• 5:44
  dado. Mas e se ao invés de usar o
• 5:47
  dado, você escolhesse 11 posição aleatória?
• 5:52
  Das casas decimais de π e seguisse sempre a ordem de π,
• 5:56
  que seria a nossa chave nesse caso, né?
• 5:58
  E aí seria de certa forma aleatório, porque eu vou começar
• 6:02
  a partir de uma posição de π aleatória, mas o próximo número
• 6:06
  ele sempre vai ser definido pela sequência de π.
• 6:08
  Ou seja, para todos os efeitos, continua sendo aleatório porque
• 6:12
  os jogadores, eles não conhecem a chave.
• 6:15
  E é claro, né? Π aqui é só um exemplo, não vai
• 6:19
  ser essa a chave que antrop que vai usar.
• 6:21
  A chave, né? Vai ser secreta.
• 6:24
  Obviamente eles vão fornecer uma API que a gente vai conseguir
• 6:27
  utilizar pra gente checar os os conteúdos, mas eles vão ser
• 6:31
  proprietários, né? Dessa lógica de de verificação.
• 6:34
  E é claro que essas mudanças, de certa forma geraram uma
• 6:37
  preocupação na comunidade, né? E é justificável que é sobre o
• 6:41
  como isso vai impactar na qualidade dos outputs.
• 6:45
  E principalmente na qualidade da geração de código, né?
• 6:48
  E aí a antrope que ela fala também sobre isso no artigo
• 6:50
  dela, isso não vai impactar de forma alguma no output e que
• 6:54
  inclusive o simpy d No No pay p deles original, né?
• 6:57
  Que eles falam sobre essa marcação de texto.
• 7:00
  Eles fizeram um teste AB, né? Fizeram uma experimentação onde
• 7:04
  eles direcionaram parte do tráfego do geminai com a
• 7:07
  marcação do texto pra alguns usuários, né?
• 7:10
  E outros usuários seguiram com o geminai normal sem a marcação.
• 7:14
  E a partir daqueles joinhas, né e dislikes que tem nas nas
• 7:18
  plataformas, eles conseguiram perceber que não existe uma
• 7:21
  diferença significativa, né? Que seja estatisticamente
• 7:25
  relevante pra que a gente entenda que teve uma degradação
• 7:28
  de performance. Então, pra todos os efeitos é.
• 7:31
  É algo que não vai impactar, mas eu imagino que isso devem estar
• 7:35
  se perguntando, beleza, mas e se eu editar o texto, né?
• 7:37
  O que de fato é muito comum, até porque eu odeio aquelas
• 7:40
  antíteses que as ias ficam colocando, não é isso, é aquilo.
• 7:44
  Enfim, algo que a gente sempre faz é alterar os textos gerados
• 7:48
  por IA. Mas o que antrrop que fala sobre
• 7:51
  esse caso é que se o texto ainda vai ser identificável como IA ou
• 7:55
  não, vai depender do quanto você editou, basicamente.
• 7:58
  E isso é até uma discussão filosófica, porque.
• 8:01
  Se eu editar um texto o suficiente para que ele não seja
• 8:05
  mais detectável, será que, na verdade esse texto agora não é
• 8:09
  gerado por humano? Será que é justo que eu
• 8:12
  identifique como ya porque a origem do texto ou porque foi
• 8:16
  feito por 1 ano com uma ya? Então, assim, é uma discussão
• 8:19
  meio filosófica, a gente ainda não entende muito bem qual que
• 8:22
  vai ser o limiar. Então, no fim das contas, ainda
• 8:25
  tem esses essas limitações, né? E outras, como por exemplo.
• 8:30
  Ah, textos curtos ali não vai ter evidência o suficiente da
• 8:33
  marcação. Se você reescrever parte do
• 8:35
  texto, se você receber um positivo para IA, pode ser que
• 8:39
  ele teve participação do Cláudio, mas que não escreveu
• 8:42
  tudo. E se você não encontrar a marca,
• 8:44
  pode ser que também não prove que foi autoria humana.
• 8:47
  E talvez seja possível até mesmo que um texto seja injustamente
• 8:51
  identificado como gerado por IA, né?
• 8:53
  Ali, se a pessoa for azarada para caramba, então.
• 8:57
  Vai que. Mas eu deixo a reflexão com
• 8:59
  vocês, né, porque acho que é isso gera um debate muito grande
• 9:03
  sobre como a gente vai usar essa informação.
• 9:06
  Se um texto foi ou não gerado por ya é de forma justa, porque
• 9:10
  a gente sabe que ele pode ter ideias humanas ali por trás.
• 9:13
  Pode ser que eu simplesmente escrevi o texto e usei o Cláudio
• 9:16
  para revisar ali, para corrigir erros ortográficos.
• 9:20
  Ou também sei lá, se eu tiver escrito um texto e pedir do
• 9:23
  Cláudio para traduzir, ele ainda vai ter a marca.
• 9:26
  Então será que isso? É justo?
• 9:29
  Como isso vai ser utilizado? Bom, muitas reflexões.
• 9:33
  Então, por favor, não esqueça de deixar um comentário ali com a
• 9:36
  sua opinião. Acho que isso vai gerar um
• 9:38
  debate bem legal e a gente fica por aqui.
• 9:41
  Obrigada e até a próxima.