Latest / LE SAVIEZ-VOUS ? / SOYEZ VIGILANTS AUX HALLUCINATIONS DE L'IA

Transcript

SOYEZ VIGILANTS AUX HALLUCINATIONS DE L'IA · LE SAVIEZ-VOUS ?

• 0:00
  Vous écoutez
• 0:03
  Le saviez-vous ?
• 0:05
  Un podcast produit par l'indépendant et proposé par Diane Laloum.
• 0:10
  L'intelligence artificielle
• 0:12
  impressionné par sa rapidité et son efficacité.
• 0:14
  Pourtant, elle a un énorme défaut
• 0:17
  elle peut inventer des informations
• 0:19
  totalement fausses
• 0:20
  avec un ton parfaitement crédible.
• 0:22
  On appelle ça une hallucination de l'IA.
• 0:25
  Et certaines de ces erreurs
• 0:26
  sont devenues légendaires.
• 0:28
  Le pas le plus connu concerne 2 avocats américains.
• 0:30
  En 2023,
• 0:31
  ils utilisent chat GPT pour préparer un dossier contre la compagnie aérienne Avianca.
• 0:36
  Le problème,
• 0:37
  l'i a
• 0:38
  inventé plusieurs procès qui n'ont jamais existé,
• 0:40
  de faux juges,
• 0:41
  de faux numéros d'affaires et même de
• 0:43
  fausses citations juridiques.
• 0:45
  Naïfs, les avocats déposent
• 0:46
  le dossier au tribunal.
• 0:48
  Le juge Kévin Castel
• 0:50
  découvre finalement que les références
• 0:51
  étaient entièrement fictives.
• 0:53
  Les 2 avocats
• 0:54
  écopent d'une sanction financière de 5000,00
• 0:57
  l'affaire devient un symbole mondial des dangers de l'i a.
• 1:01
  Mais les hallucinations ne
• 1:02
  concernent pas seulement le texte.
• 1:04
  En 2023,
• 1:05
  une image du pape François portant une énorme doudoune blanche de luxe
• 1:09
  devient virale.
• 1:10
  Des 1000000 de personnes pensent qu'il s'agit d'une vraie photo.
• 1:13
  En réalité,
• 1:14
  l'image avait été entièrement générée par l'intelligence artificielle.
• 1:18
  Même phénomène avec les fausses photos montrant Donald Trump
• 1:22
  arrêté par la police
• 1:23
  avant son inculpation officielle.
• 1:25
  Et le plus inquiétant,
• 1:26
  c'est que notre cerveau
• 1:28
  fait naturellement confiance aux images.
• 1:30
  puis les.
• 1:31
  ont commencé à mentir elles aussi.
• 1:33
  En 2024,
• 1:34
  les électeurs américains
• 1:35
  reçoivent un faux appel imitant parfaitement
• 1:38
  la voix de Joe Biden.
• 1:40
  Le message leur conseille de ne pas aller voter.
• 1:42
  C'était un deep fake vocal
• 1:44
  créé par l'i a.
• 1:45
  Aujourd'hui, quelques secondes d'enregistrement suffisent parfois pour copier une voix humaine.
• 1:50
  Des escrocs utilisent cette technologie pour arnaquer les familles
• 1:53
  en imitant un enfant
• 1:54
  ou un proche en détresse.
• 1:56
  Parfois aussi,
• 1:57
  les conséquences de ces
• 1:58
  hallucinations sont immédiates.
• 2:00
  Google Bard,
• 2:01
  l'ancien chatbot de Google,
• 2:03
  avait affirmé qu'un télescope
• 2:05
  spatial avait pris les premières photos d'une exoplanète.
• 2:08
  L'information était fausse.
• 2:10
  Après cette erreur publique,
• 2:11
  l'action de Google a chuté brutalement en bourse,
• 2:14
  faisant perdre plusieurs milliards de dollars à l'entreprise
• 2:17
  en une journée.
• 2:18
  Alors pourquoi l'i a inventé t elle autant de
• 2:21
  choses ? Et bien parce qu'elle ne comprend pas réellement ce qu'elle dit,
• 2:24
  elle fonctionne avec des probabilités statiques.
• 2:26
  elle. Elle cherche
• 2:27
  simplement la réponse qui semble être la plus crédible.
• 2:30
  Et quand elle ne sait pas,
• 2:31
  elle complète les vides.
• 2:33
  Et le problème,
• 2:33
  c'est qu'elle le fait avec énormément d'assurance.
• 2:36
  Des chercheurs parlent même d'un effet d'autorité artificielle.
• 2:40
  Plus une réponse semble intelligente,
• 2:42
  plus les
• 2:42
  utilisateurs ont tendance à lui faire confiance,
• 2:45
  même lorsqu elle est fausse.
• 2:49
  C'était le saviez-vous?
• 2:50
  ? Un podcast produit par l'indépendant et proposé par Diane Laloum.