Latest / Studenti.it / L'intelligenza artificiale ha imparato a mentire e ora bara per ottenere ciò che vuole

Transcript

L'intelligenza artificiale ha imparato a mentire e ora bara per ottenere ciò che vuole · Studenti.it

• 0:00
  Speaker 2: L'intelligenza artificiale può imparare a mentire e a barare per
• 0:03
  Speaker 2: raggiungere i suoi obiettivi, soprattutto quando la sua attività non
• 0:07
  Speaker 2: viene controllata da esseri umani. In alcuni test condotti dal
• 0:12
  Speaker 2: AI Security Institute nel Regno Unito, degli agenti AI collegati
• 0:17
  Speaker 2: a Internet hanno compiuto azioni non autorizzate per superare dei
• 0:21
  Speaker 2: limiti fissati dai ricercatori. In un caso, un agente ha
• 0:26
  Speaker 2: persino creato false identità digitali per cercare di far approvare
• 0:30
  Speaker 2: codice dannoso da un umano. Questi comportamenti non derivano da
• 0:35
  Speaker 2: errori tecnici, ma da come l'AI è addestrata. Quando un
• 0:39
  Speaker 2: modello riceve una ricompensa per aver ottenuto un risultato, può
• 0:42
  Speaker 2: imparare a giocare sporco per massimizzare il successo, anche se
• 0:47
  Speaker 2: questo non era previsto dai suoi creatori. Reward Hacking È
• 0:52
  Speaker 2: diverso dalle cosiddette allucinazioni. Mentre le allucinazioni sono semplici errori
• 0:57
  Speaker 2: di conoscenza, il reward hacking è una scelta consapevole di
• 1:01
  Speaker 2: prendere scorciatoie ingannevoli. Per affrontare questi rischi, è fondamentale la
• 1:07
  Speaker 2: supervisione umana attiva. Serve il monitoraggio continuo, il controllo sulle
• 1:13
  Speaker 2: azioni fatte dall'AI e regole precise su quando deve fermarsi
• 1:17
  Speaker 2: e chiedere conferma a una persona. Senza queste precauzioni, l'intelligenza
• 1:22
  Speaker 2: artificiale può aggirare le regole senza che nessuno se ne accorga.