Latest / M365.FM – Podcast su Microsoft 365, Copilot e IA in italiano / Fermare le allucinazioni dell’IA: RAG ancorato ai dati con Azure AI Search (Doppiaggio IA)

Transcript

Fermare le allucinazioni dell’IA: RAG ancorato ai dati con Azure AI Search (Doppiaggio IA) · M365.FM – Podcast su Microsoft 365, Copilot e IA in italiano

0:00
Hai cliccato perché il podcast diceva che Azure AI Foundry è una trappola, giusto?
0:04
Sei nel posto giusto. Ecco la promessa fin da subito.
0:07
Copilot crollano senza grounding, ma strumenti come la Retrieval Augmented Generation o RAG
0:12
con Azure AI Search ibrida e semantica più valutatori per accuratezza, pertinenza e coerenza
0:17
sono le vere soluzioni per evitare di pubblicare allucinazioni travestite da risposte.
0:22
Supereremo le presentazioni di marketing e ti mostreremo il manuale di sopravvivenza con esempi reali dal campo.
0:26
Iscriviti alla newsletter dell'M365 Show e segui le dirette con gli MVP.
0:32
E' lì che risiedono le cicatrici e le soluzioni.
0:35
E dato che le prime crepe appaiono solitamente nelle app multimodali, iniziamo da lì.
0:38
Perché le app multimodali falliscono al mondo reale?
0:41
Quando vedi una demo multimodale sul palco, sembra impeccabile.
0:44
Il presentatore inserisce un prompt testuale, un'immagine pulita, forse anche un rapido input vocale
0:48
e il modello fornisce un grafico perfetto o un riassunto nitido di un contratto.
0:51
Sembra tutto magia, ma nel momento in cui provi la stessa cosa in un'azienda reale, l'incanto svanisce rapidamente.
0:56
Le demo girano su input perfetto, gli ambienti di lavoro girano su spazzatù.
0:59
Questa è la vera differenza.
1:01
In produzione.
1:01
Nessuno fornisce al tuo modello screenshot preparati con cura o file CSV formattati da un comitato di standardizzazione.
1:07
Le risorse umane caricano documenti di identità sfocati.
1:10
L'ufficio acquisti trascina dentro PDF che sono la quinta generazione di fax.
1:13
Qualcuno in amministrazione scatta una foto a una fattura con la fotocamera rotta di un Android.
1:17
I modelli multimodali possono gestire testo, immagini, voce e video, ma necessitano di dati ben indicizzati e di recupero per funzionare in condizioni disordinate.
1:25
Altrimenti stai solo chiedendo al modello di improvvisare sulla spazzatura.
1:28
E nessuna quantità di spesa in GPU risolve il problema spazzatura in intratto, spazzatura in uscita.
1:31
Qui che la retrieval augmented generation o RUG dovrebbe salvarti.
1:35
Parole povere.
1:36
Il modello non conosce la tua azienda, quindi lo colleghano a fonte di conoscenza.
1:39
Recupera una fetta di dati e modella la risposta attorno ad essa.
1:41
Quando la corrispondenza è precisa ottieni risposte utili e fondate.
1:44
Quando è approssimativa il modello va a braccio sputando assurdità con sicurezza.
1:48
Ed è così che finisci con un chatbot che giura che la tua azienda ha una nuova politica di sconti per il terzo trimestre che non esiste.
1:54
Non è diventato senziente, ha solo estratto i dati sbagliati.
1:58
Azure Rai Studio e Azure Rai Foundry si basano entrambi su questo modello e supportano tutti i tipi di modalità, linguaggio, visione, voce e persino recupero video.
2:05
Ma il punto è che la rag è valida solo quanto i suoi dati.
2:08
Ecco la sorpresa che la maggior parte di ti mino.
2:09
Non puoi semplicemente inserire un metodo di recupero e pensare che basta.
2:13
Se vuoi che i risultati siano coerenti ti serve una ricerca ibrida basata su parole chiave e vettori, completata da un riordinatore semantico integrato in Azure Research.
2:19
Permette al sistema di bilanciare le corrispondenze letterali con il significato semantico, riordinando i risultati per mettere in cima il contesto corretto.
2:26
Integrandolo nella tua configurazione multimodale, il modello riesce improvvisamente a gestire scansioni storte e immagini sfocate invece di inventare la tua polisi di conformità dal nulla.
2:34
Parliamo ora del perché così tante implementazioni falliscono in misura.
2:36
Le aziende si aspettano risultati perfetti fin dal primo giorno, ma non stanziano un budget per i cicli di valutazione.
2:42
Senza controlli di fondatezza, pertinenza e coerenza in background, non ti accorgi dello scostamento finché gli utenti non ne subiscono le conseguenze.
2:48
Molte implementazioni iniziali falliscono rapidamente proprio per questo modo.
2:51
L'output sembra corretto, ma nessuno l'ha verificato rispetto alle leità di dirigente.
2:54
Pensaci, non distribueresti mai un nuovo database senza un monitoraggio.
2:58
Eppure, con l'IA multimodale, i dirigenti la mettono in produzione come se fosse una scatola magica plug and play.
3:03
Non deve per forza finire un fallimento.
3:05
Carvana è una delle storie di successo dei clienti foundry che lo dimostra.
3:08
Hanno reso l'IA self-service davvero utile, ottimizzando il recupero, fondando correttamente i propri agenti e investendo nell'osservabilità.
3:14
Ciò ha trasformato quello che poteva essere solo un altro bot giocattolo in qualcosa di cui i clienti potevano fidarsi.
3:19
Ora, guarda invece le aziende che hanno incollato un chatbot generico alla loro pagina di supporto senza fondatezza né valutazione.
3:26
Hai già visto il risultato.
3:27
Richieste di garanzia scambiate per l'idea di vendita, code di assistenza intasata e credibilità distrutta.
3:31
Stesso stacca azzurro, risultato opposto.
3:33
Quindi, ecco la cruda realtà.
3:35
Multimodale non crolla perché l'IA non è abbastanza intelligente.
3:38
Crolla perché i dati non sono preparati, indicizzati o monitorati.
3:42
Inserisci spazzatura nel sistema di recupero, salta le valutazioni e guarda la fiducia andare in fumo.
3:45
Ma con la ricerca ibrida e il riordinamento semantico e costanti valutazioni
3:49
puoi elaborare fatture, contratti, immagini e persino note audio approssimative
3:53
con risposte che rimangono ancorate alla realtà.
3:56
E una volta che la fondatezza assicurata emerge un altro rischio.
3:59
Perché anche se le pipeline di dati sono pulite, il sistema che le guida può comunque andare fuori controllo.
4:04
E' qui che la domanda cambia.
4:06
La gente che coordina tutto questo sta davvero aiutando la tua azienda
4:08
o sta solo trasformando silenziosamente il tuo budget in combustibile?
4:12
La gente utile o costoso fermacarte?
4:13
Un'agente coordina modelli, dati, trigger e azioni.
4:18
Pensalo come un vigile urbano per i tuoi flussi di lavoro automatizzati.
4:21
A volte dirige tutto senza intoppi, a volte fa passare tre autocarri e un'auto da clown.
4:24
Poi se ne va a pranzo.
4:26
Quel divario tra la definizione pulita e la realtà disordinata è dove la maggior parte il controllo.
4:31
Sulla carta un'agente sembra perfetto.
4:33
Dagli istruzioni puntalo verso i tuoi dati e le tue app
4:35
e dovrebbe eseguire processi, trovare risposte e persino avviare flussi di lavoro.
4:39
Ma questo non è un collega perfetto.
4:41
E' tanto probabile che risolva un problema ricorrente alle due del mattino
4:44
quanto chi non dì la tua coda di ticket fantasma perché ha letto male un registro errori.
4:48
Immaginalo dentro ServiceNow.
4:49
Se limitata correttamente, li ha creati che tre ali solo per problemi autentici
4:53
restituendo ore preziosi agli umani.
4:55
Se lasciata libera, può seppellire il desk sotto una valanga di falsi avvisi
4:58
su critiche falle della stampante su Harder perfettamente funzionante.
5:00
Prova a spiegare questo incremento di produttività al tuo CIO.
5:03
Ecco la distinzione che molti trascurano.
5:05
Copilot e agenti non sono la stessa cosa.
5:07
Copilot è fondamente un assistente per i prompt.
5:09
Tu chiedi, lui risponde e tu mantieni il controllo.
5:11
Gli agenti, d'altra parte, decidono le cose senza aspettare te.
5:14
Seguono le tue vage istruzioni alla lettera anche quando i risultati non hanno senso.
5:19
E' qui che l'automazione o fare risparmiare tempo reale occade nel caos
5:22
che passerà il doppio del tempo a ripulire.
5:24
La verità è che molti team forniscono al proprio agente una descrizione del lavoro
5:27
che sembra una promessa elettorale.
5:28
Ottimizzare i processi, formire insight, aiutare le persone.
5:32
Congratulazioni, è praticamente detto al bot di fare quello che vuole.
5:34
Gli agenti senza limiti non restano educatamente nella loro borsi.
5:37
Vanno nel panico, inventano problemi da risolvere, duplicano i record,
5:41
si bloccano i loop infiniti.
5:42
E poi la dirigenza si chiede perché una demo brillante si sia trasformata in un incubo per la tua.
5:45
Ora facciamo chiarezza.
5:46
Non è che la maggior parte delle organizzazioni falliscano i primi due mesi.
5:50
Questo non emerge dalla ricerca.
5:51
Ciò che accade, velocemente, è che molte aziende incontrano ostacoli presto
5:55
perché non hanno mai limitato bene i loro agenti,
5:57
non hanno aggiunto passaggi di convalida e non hanno implementato la telemetria.
6:00
Senza queste barriere il tuo nuovo strumento scintillante
6:02
è solo uno stagista spericolato con privilegi di amministratore.
6:05
Ed è qui che lo stack Microsoft ti fornisce effettivamente i pezzi necessari.
6:08
Copai lo studio è lo spazio low-code
6:09
dove i creatori progettano il comportamento dell'agente
6:11
e pensano a flussi prompt e trigger di eventi.
6:13
Poi aggiori iFoundries, agent service, l'impalcatura aziendale
6:17
che mette quegli agenti in produzione con osservabilità.
6:20
Agent service è dove aggiungi monitoraggio, log e metriche.
6:24
È deliberatamente progettato per l'automazione con supervisione umana integrata
6:27
perché Microsoft sa cosa succede se ti fidi di un agente non testato.
6:31
Quindi come fai a sapere se il tuo agente è davvero utile?
6:34
Sottoponilo a una lista di controllo a schietta.
6:36
Primo, riduce le ore di lavoro umano
6:38
o trascina il tuo staff in compiti di debugging?
6:40
Due, state acquisendo metriche come fondatezza, fluidità e coerenza
6:44
o state solo fissando le belle dashboard di marketing?
6:47
Tre, avete una telemetria attiva per individuare le derive
6:50
prima che gli utenti inizino a lamentarsi?
6:52
Se avete risposto in modo errato a una qualsiasi di queste
6:54
non avete un agente in tempo.
6:55
Avete solo un costoso salvaschermo.
6:56
La via d'uscita è usare le funzioni di osservabilità
6:59
e i valutatori integrati di Azure AI Foundry, Foundry.
7:02
Questi non sono componenti aggiuntivi observi.
7:04
Sono il metodo documentato per misurare fondatezza, pertinenza alla fonte.
7:08
Senza di essi state solo tirando a indovinare
7:09
se il vostro agente sia intelligente
7:11
o se stia solo inventando cose con tono cortese.
7:13
Con essi potete intervenire con sicurezza
7:15
e ottimizzare quando l'output è via.
7:17
Quindi sì, gli agenti possono cambiare le regole del gioco.
7:19
Se maldimensionati diventano amplificatori di caos
7:21
che sottraggono più tempo di quanto ne facciano risparmiare.
7:23
Se ben dimensionati, con confini chiari, telemetria reale
7:25
e risposte fondate possono gestire compiti
7:27
lasciando agli umani il lavoro a maggior valore.
7:30
È proprio quando pensate di aver trovato il giusto equilibrio
7:31
la storia cambia ancora.
7:33
Microsoft è già spingendo verso gli agenti autonomi
7:35
bot che non aspettano il vostro input per agire.
7:38
Questo porta la posta in gioco da utile o inutile
7:40
a una categoria totalmente diversa
7:42
perché parliamo di sistemi che operano anche quando nessuno guarda.
7:46
La trappola dell'agente autonomo.
7:48
Gli agenti autonomi sono il punto in cui l'hype diventa pericoloso.
7:51
Sulla carta sono il sogno.
7:53
Lasciate che li agisca per voi
7:54
automatizzate la routine
7:55
e smettete di alzarvi dal letto alle 2 del mattino
7:57
per gestire le code dei ticket.
7:59
Suona bene in sala riunioni.
8:00
La trappola è semplice.
8:01
Non aspettano il permesso.
8:03
I copiloti si fermano ad aspettare.
8:04
Gli agenti autonomi no.
8:05
E quando prendono una decisione sbagliata
8:07
il danno è immediato e si propaga in tutto il vostro tenant.
8:09
Concetto abbastanza semplice.
8:11
I copiloti sono reattivi.
8:12
Gli agenti sono pronti.
8:13
Invece di restare in attesa di un prompt
8:14
impostate gli agenti
8:15
per monitorare la salute dei servizi
8:17
gestire segnali di sicurezza
8:18
e eseguire flussi di lavoro automaticamente.
8:20
Microsoft lo presenta come efficienza
8:24
per azioni più fluide.
8:25
La promessa è reale
8:26
ma ecco il contesto importante.
8:29
Gli agenti autonomi in Copilot Studio
8:30
sono attualmente ancora in anteprima.
8:32
Anteprima non significa rotto
8:33
ma significa non ancora testato
8:34
nel caotico mondo reale.
8:36
Persino Microsoft afferma
8:37
che servono presidi di governance
8:38
del ciclo di vita
8:39
e sistema di console Copilot
8:40
prima di pensare a una distribuzione
8:41
su larga scala.
8:42
Considerate un rischio realistico?
8:44
Diciamo che costruite un agente
8:45
di helpdesk autonomo
8:46
gli date l'autorità
8:47
di rispondere alle anomalie di accesso.
8:49
In una demo con 5 utenti
8:50
funziona perfettamente.
8:51
Avvisi generati.
8:52
Account gesti.
8:53
Poi in produzione
8:54
trumorosi.
8:55
Invece di attendere
8:56
inizia a resettare
8:57
in massa centinaia di account
8:58
basandosi su falsi positivi.
9:00
Il risultato non è
9:01
un'interruzione ipotetica.
9:02
Potrebbe realisticamente
9:03
bloccare le operazioni
9:04
di fine mese.
9:05
Non è fantascienza.
9:06
È la modalità di errore
9:07
a cui ti esponi
9:08
se eviti di definire l'ambito.
9:09
La soluzione è abbandonare la tecnologia
9:11
e costruire prima
9:12
una rete di sicurezza.
9:13
Qual è la lista di controllo
9:14
per la sopravvivenza?
9:14
Tre cose da fare
9:15
prima di qualsiasi automazione appariscente.
9:17
1. Ambito di identità e accesso.
9:20
Concedi al tuo agente
9:20
diritti minimi
9:21
niente ruoli di amministrazione totale.
9:22
2. Registrazione e rollback.
9:24
Ogni azione deve lasciare
9:25
una traccia che puoi controllare.
9:27
E ogni azione importante
9:28
necessita di una via di inversione
9:29
quando l'agente sbaglia.
9:30
3. Fili contenuto e comportamento.
9:32
Microsoft lo evidenzia
9:33
con la sicurezza dei contenuti
9:34
di Azure AI
9:35
e la configurazione della conoscenza.
9:36
I filtri che impediscono
9:37
a un bot zelante
9:38
di generare risposte inappropriate
9:39
e uscire da seminato.
9:41
Fai prima questo
9:42
altrimenti l'intelligenza
9:43
del tuo agente
9:43
fosserà il tuo lavoro
9:44
invece di aiutarlo.
9:45
Lo strato etico
9:45
rende tutto ancora più critico.
9:47
Immagina un agente HR
9:48
che segnala automaticamente
9:49
i dipendenti come rischiosi
9:50
o un agente finanziario
9:51
che blocca i pagamenti ai fornitori
9:52
classificandoli erroneamente
9:54
come frodi.
9:55
Questi non sono difetti innocui
9:56
sono fallimenti con impatto umano
9:57
e conseguenze regali
9:58
e di conformità.
9:59
I pregiudizi nei dati
10:00
di addestramento
10:00
o nel recupero
10:01
non svaniscono solo
10:02
perché ora sei
10:02
in anteprima aziendale.
10:05
Senza filtri, controlli
10:05
e alternativi umane
10:06
stai esternalizzando giudizi
10:07
che i tuoi avvocati
10:08
non vogliono certo
10:08
siano presi da un algoritmo
10:09
non supervisionato.
10:11
Il messaggio stesso
10:11
di Microsoft iNight
10:12
è stato scritto su questo
10:13
Guardrail, gestione
10:14
del ciclo di vita
10:15
monitoraggio
10:16
e sistema di controllo
10:17
copilot
10:17
non sono opzionali
10:18
sono requisiti.
10:19
L'anteprima oggi
10:20
riguarda meno le demo brillanti
10:21
e più i tester
10:22
che provano
10:22
dove appaiono le crepe.
10:24
Se vai live
10:25
senza test di fase
10:26
a flussi di approvazione
10:27
e audit
10:27
non stai eseguendo un agente
10:28
stai stressando
10:29
il tuo tenant
10:29
in produzione.
10:31
Ecco perché
10:32
l'osservabilità
10:32
non è facoltativa.
10:33
Hai bisogno di dashboard
10:34
che mostri
10:35
in ogni passo dell'agente
10:36
e verifichino
10:36
se l'output
10:37
sia fondato
10:37
pertinente
10:38
e coerente
10:38
con la tua policy
10:40
e hai bisogno di opzioni
10:41
con intervento umano.
10:42
Microsoft non lo nasconde.
10:44
Fanno riferimento
10:44
a modelli
10:45
in cui l'umano
10:45
rimane il dispositivo
10:46
di sicurezza.
10:47
Pensalo come
10:48
il pilota automatico
10:48
di un aero
10:49
incredibilmente utile
10:50
ma sempre progettato
10:51
con un override manuale.
10:53
Se il bot
10:53
crede che l'atterraggio
10:54
ottimale sia in un lago
10:55
vuoi riprendere
10:55
il controllo
10:56
prima dell'ammaraggio.
10:57
L'analogia corretta qui
10:58
è lasciare che un adolescente
10:59
impare a guidare.
11:00
Il potenziale è reale
11:01
e la velocità è impressionante
11:02
ma non consegni le chiavi
11:03
lasci il vialetto
11:04
e speri per il meglio.
11:05
Ti siedi sul lato passeggero
11:07
stabilisci dei limiti
11:07
e installi i freni
11:08
che puoi premere tu stesso.
11:10
Questa è la governance
11:10
del ciclo di vita in pratica.
11:12
Rotelle di addestramento
11:12
finché non sarai certo
11:13
che il sistema
11:14
non esca distratto.
11:15
E questo ci porta
11:15
al reparto di produzione
11:16
più grande
11:17
dove agenti, copilot
11:18
e ogni flusso di lavoro
11:19
testato si riuniscono.
11:20
Microsoft lo chiama
11:21
Azure AI Foundry
11:22
uno spazio unico
11:23
per creare IA
11:23
con tutti gli strumenti necessari.
11:25
Se diventerà
11:26
un potente centro di produzione
11:27
o il luogo dove
11:28
il tuo progetto va in fumo
11:29
dipende solo da come lo tratti.
11:30
Azure AI Foundry
11:33
la tua fabbrica
11:33
o il tuo campo minato.
11:35
Azure AI Foundry
11:36
è il nuovo fiore
11:37
all'occhiello di Microsoft
11:38
una cosiddetta fabbrica
11:39
per tutto ciò che è IA
11:40
nei problemi.
11:42
Troppi team entrano
11:43
e lo trattano come unichè.
11:45
Si aggirano abbagliati
11:45
dai cataloghi
11:46
prendono un paio
11:47
di modelli linguistici
11:48
brillanti
11:48
aggiungono qualche connettore
11:49
e assemblano tutto
11:50
senza istruzioni.
11:52
Ciò che ottengono
11:53
non è un sistema IA aziendale
11:54
ma un giocattolo da demo
11:55
che crolla
11:55
non appena un utente
11:56
inserisce un PDF disordinato.
11:59
Ecco cosa offre
12:00
realmente Foundry
12:00
direttamente dal manuale ufficiale.
12:03
Un catalogo di modelli
12:03
che spazia tra Microsoft
12:04
OpenAI
12:05
Meta
12:05
Mistral
12:05
DeepSeek e altri.
12:07
Opzioni di personalizzazione
12:08
come la generazione
12:09
aumenta dal recupero
12:10
il fine tuning
12:10
e la distillazione.
12:12
Un servizio di orchestrazione agenti
12:14
strumenti come
12:14
prompt flow
12:15
per valutazione e debug
12:16
funzioni di sicurezza
12:18
controlli di accesso
12:19
filtri di sicurezza
12:19
dei contenuti
12:20
e dashboard di osservabilità.
12:22
In breve
12:22
contiene tutte le parti necessarie
12:24
per creare copiloti
12:25
agenti flussi autonomi
12:26
e mantenerli conformi.
12:27
Questo è l'inventario.
12:28
Il problema
12:29
non è la mancanza
12:30
di strumenti
12:30
ma che troppi amministratori
12:31
pensano
12:32
basta attivare
12:32
un interruttore GPT-4 Turbo
12:34
per essere pronti
12:34
alla produzione.
12:36
La verità è che
12:36
Foundry è una fabbrica
12:37
e non la scatola dei giochi
12:38
per un hackathon.
12:39
Significa stabilire
12:40
i confini di identità
12:41
affinché solo le persone giuste
12:42
cedano ai modelli corretti.
12:44
Significa integrare
12:45
la sicurezza dei contenuti
12:46
in ogni pipeline.
12:47
Significa usare
12:47
l'osservabilità
12:48
per sapere
12:48
quando una risposta
12:49
è basata su fatti
12:50
e quando il modello
12:51
inventa politiche aziendali
12:52
dal nulla.
12:54
E significa
12:54
abbinare il lavoro
12:58
Saltate questi passaggi
13:00
e il caos
13:00
entrerà dalla porta di servizio.
13:02
Ho visto un team
13:02
collegare un copilot
13:03
di Foundry su SharePoint
13:04
che ha esposto dati riservati
13:05
delle risorse umane
13:06
a 20 stagisti.
13:08
Non è stata una genialata
13:08
ma un disastro
13:09
di conformità evitabile
13:10
con regole di accesso integrate.
13:12
Parliamo di reali
13:13
modalità di fallimento.
13:14
Un'organizzazione ha usato
13:15
GPT-4 Turbo
13:15
per l'etichettatura
13:16
di foto di prodotto.
13:18
In laboratorio
13:18
la demo è stata un successo.
13:20
Foto da studio pulite
13:21
tag perfetti
13:22
applausi di tutto.
13:23
In produzione
13:24
gli input non erano
13:25
jpeg lucidi
13:25
ma foto sfocate
13:26
scattate col telefono in magazzino.
13:28
Improvvisamente
13:28
l'IA ha etichettato
13:29
erroneamente passeggi
13:30
come sede d'ufficio
13:31
trasformato codice UPC
13:32
in numeri di serie falsi
13:33
in numeri di serie falsi.
13:35
Oltre al colpo alla fiducia
13:35
i costi hanno iniziato a salire
13:37
e non è una favola
13:38
a 0,1 dollari a messaggio.
13:39
Prezzo di Foundry
13:40
si basa sul consumo
13:41
ed è legato
13:41
ai servizi specifici
13:42
che utilizzi.
13:43
Ogni connettore
13:44
ogni chiamata di recupero
13:45
ogni contatore di messaggi
13:46
viene addebitato
13:46
sul tuo teno.
13:47
Ogni componente
13:48
è una rifatturazione.
13:49
Questa flessibilità
13:50
è ottima
13:51
ma se non fai stime
13:51
con il calcolatore
13:52
dei prezzi a azzurro
13:53
e monitori l'uso
13:54
il tuo team finanziario
13:54
sarà entusiasta
13:55
della tua fattura a sorpresa.
13:57
Questa è la trappola
13:58
della fattura Z.
13:59
Il prezzo basato
13:59
sul consumo funziona
14:00
se pianifichi
14:01
i monitori e ottimizzi.
14:02
Se non lo fai
14:03
sembra di guidare
14:03
una fuoriserie
14:04
come uno scooter
14:04
per consegne
14:05
costoso, rumoroso
14:06
e inutile.
14:07
Siamo passati tutti
14:08
con strumenti
14:08
come Power BI
14:09
ottima demo
14:09
conto fuori controllo.
14:11
Non lasciare che Foundry
14:12
ti porti nella stessa situazione.
14:13
Gli sviluppatori
14:14
amano creare prototipi
14:21
ma ecco il problema fatale.
14:22
I team portano
14:22
quel prototipo in produzione
14:23
senza pipeline di valutazione.
14:25
Se salti i valutatori
14:26
per accuratezza,
14:27
fluidità, pertinenza
14:28
e coerenza
14:28
stai distribuendo al buio.
14:30
Cosa succede?
14:31
Gli utenti notano
14:32
la deriva nell'output
14:33
e la fiducia cala
14:33
e i dirigenti tagliano i fondi.
14:35
Non è Foundry che fallisce
14:36
sono i team
14:36
che falliscono nella governance.
14:38
Molti prototipi Foundry
14:38
si bloccano
14:39
prima della produzione
14:40
proprio per questo motivo.
14:41
Nessuna osservabilità
14:42
nessun controllo qualità
14:43
nessuna telemetria.
14:44
La risposta è proprio lì
14:45
nella piattaforma.
14:45
Usa l'osservabilità
14:47
di Azure e iFoundry
14:48
fin dal primo giorno.
14:49
Colleghi PrampFlow?
14:50
Esegui valutatori integrati
14:51
su ogni test.
14:52
Fondamenta il tuo sistema
14:53
con Azure e iSearch
14:53
usando la ricerca ibrida
14:54
e il semantic re-ranking
14:55
prima ancora di pensare
14:56
di andare live.
14:57
Microsoft non ha nascosto
14:58
questi strumenti
14:59
in un allegato
14:59
sono documentati
15:00
per la sicurezza in produzione.
15:01
Ma troppo spesso
15:02
gli sviluppatori discorrono
15:03
come semplici note a pilota.
15:04
Questa mentalità
15:05
basata sui checkpoint
15:06
è come evitare il campo minato.
15:08
Tratta Foundry come una fabbrica,
15:09
la governance come primo passo,
15:11
policy di conformità integrate
15:12
come l'accesso condizionato,
15:13
pipeline di osservabilità attiva
15:15
e fin dall'inizio.
15:16
E sì,
15:16
l'ambito dell'identità
15:17
e la sicurezza dei contenuti
15:18
non dovrebbero essere aggiunti dopo,
15:19
fanno parte del pacchetto base.
15:21
Salta la governance
15:21
e rischi molto più
15:22
che semplici di esposta errada.
15:24
Senza di essa
15:24
il tuo bot multimodale
15:25
potrebbe tranquillamente
15:26
esporre gli stipendi
15:27
delle risorse umane
15:27
agli utenti esterni
15:28
o etichettare fatture
15:29
con numeri di polizia in metà.
15:30
Questa non è solo un'ia rotta
15:31
e materiale da prima pagina
15:32
che il tuo ufficio conformità
15:33
non vorrà dover spiegare.
15:34
Ed è qui che l'attenzione si sposta
15:36
perché il prossimo ostacolo
15:37
non è affatto tecnico.
15:39
E se la tua IA
15:39
si è responsabile?
15:41
Tutti amano inserire queste parole
15:42
in una slide di presentazione
15:44
ma in pratica si tratta
15:45
di audit, filtri,
15:45
conformità
15:46
e della montagna di scelta
15:47
da fare prima del lancio.
15:48
Ed è qui che iniziano
15:49
davvero i grattacap.
15:50
Iscriviti e seguici
15:51
sulla newsletter
15:52
m365.show
15:53
per le soluzioni dirette
15:54
e seguici su m365.
15:55
Pagina LinkedIn
15:56
dello show
15:56
per i live streaming
15:57
con MVP
15:58
che hanno testato Foundry
15:59
in produzione
15:59
e visto cosa può andare storto.
16:01
IA responsabile
16:02
o grattacapi responsabili.
16:04
Tutti amano inserire
16:04
IA responsabile
16:05
in un discorso.
16:06
Fa un figurone accanto
16:07
a termine alla moda
16:08
come correttezza e trasparenza.
16:10
Ma sul campo
16:10
non è una filosofia di ispirazione.
16:12
Sono configurazioni,
16:13
audit, filtri
16:14
e procedure di governance
16:15
che sembrano più manutenzione
16:16
di server che innovazione.
16:18
IA responsabile
16:18
è la cintura di sicurezza
16:19
non l'auto sportiva.
16:21
Saltano una volta
16:21
e l'incidente arriva in fretta.
16:23
Microsoft parla di etica
16:24
e sicurezza fin da subito
16:25
ma per gli amministratori
16:26
che la implementano
16:27
significa barriere pratiche.
16:29
Servono polissi di accesso
16:30
che non cedano sotto pressione,
16:32
filtri che blocchino
16:32
davvero i prompt dannosi
16:33
e log
16:34
abbastanza dettagliati
16:35
da soddisfare
16:35
un ispettore con caffeina
16:36
e mandato.
16:38
Non è un lavoro affascinante.
16:39
Significa isolare
16:40
i copiloti a carre
16:40
dai dati finanziari,
16:42
impostare regole di ambito
16:43
affinché i team
16:44
non sbircilano
16:44
i segreti di SharePoint
16:45
e taggare i log
16:46
per provare
16:46
come è stata formata
16:47
una risposta.
16:49
Se lo fai bene
16:49
è responsabile,
16:50
non è uno slogan aziendale,
16:51
è sopravvivenza.
16:53
La versione è brutta
16:53
se si salta tutto.
16:54
Collegare un bot
16:55
direttamente
16:55
il repository a share
16:56
senza delimitare il tenant.
16:59
Un utente chiede informazioni
17:00
sui benefit assicurativi.
17:01
Il bot pubblica gentilmente
17:02
le fasce salariali
17:03
dei dipendenti
17:04
nella chat.
17:05
Ora hai una violazione
17:06
della privacy,
17:07
un incubo per il morale
17:07
e forse le autorità
17:09
le calcagna.
17:10
Il modo più veloce
17:11
per uccidere l'adozione
17:12
non è una cattiva UX,
17:13
è una fuga di dati sensibili.
17:14
Quindi cosa ti lontano
17:15
con questo disastro?
17:15
Inizia con Azure AI Content Safety.
17:17
È progettato
17:18
per filtrare prompt
17:19
e risposte violente
17:20
o scene offensive
17:20
prima che raggiungano gli utenti.
17:23
Ma questo è solo
17:23
e gene di base.
17:25
Aggiungono pipeline di valutazione
17:27
che gestiscono il livello successivo.
17:29
Controlli di fondatezza,
17:30
punteggi di pertinenza,
17:32
dashboard di trasparenza
17:33
e spiegabilità.
17:34
In parole povere
17:35
puoi regolare le soglie,
17:37
filtrare input e output
17:38
e far mostrare il lavoro ai bot.
17:40
Senza queste
17:41
stai solo tirando i dadi
17:42
su ciò che li ha sputa fuori.
17:43
Ed ecco la realtà delle risorse.
17:45
Microsoft ci punta molto.
17:47
34.000 ingegneri
17:48
a tempo pieno
17:49
dedicati alla sicurezza
17:50
più 15.000 partner
17:51
con profonda competenza
17:52
in materia.
17:53
Una fortezza.
17:54
Ma non adagiarti sugli allori.
17:55
nessuno di quegli ingegneri
17:57
dentro il tuo tenant
17:57
a definire le tue regole di accesso.
17:59
Microsoft ti fornisce le barriere.
18:01
Ma aspetta ancora a te
18:01
blindare l'identità,
18:02
isolare i dati,
18:03
applicare la criptografia
18:04
e configurare le policy.
18:05
E configura le policy.
18:07
Se la tua perimetrazione
18:07
è approssimativa
18:08
sarai comunque responsabile
18:09
della fatta.
18:09
La vera soluzione
18:10
è la governance
18:10
del ciclo di vita.
18:11
Pensala come la ricetta
18:12
che Microsoft stessa raccomanda.
18:14
Testa,
18:15
approva,
18:16
rilascia,
18:17
controlla,
18:18
itera.
18:18
Con Checkpoint
18:19
ogni ciclo
18:20
continui a notare,
18:21
deriva prima che diventino
18:22
titoli di giornale.
18:23
I team che rilasciano una volta
18:24
e poi abbandonano
18:25
finisco sempre per esplodere.
18:26
I modelli evolvono,
18:27
i prompt cambiano
18:27
e gli output vagano.
18:29
La governance
18:30
non è burocrazia.
18:31
È come impedisce
18:32
un bot interno
18:32
di inventare policy su teams
18:33
mentre tutti dormono.
18:35
Alcuni amministratori
18:36
brontano che
18:36
responsabile
18:37
significhi solo più meno.
18:38
Prospettiva errada.
18:40
Responsabile
18:40
non uccide la velocità,
18:41
impedisce alla velocità
18:42
di uccidere te.
18:42
Una buona governance
18:44
significa poter superare
18:45
gli audit
18:45
e far proseguire i progetti.
18:47
Se salti questa fase
18:48
ti stai lanciando nel volo.
18:49
La velocità senza controlli
18:50
ti garantisce solo
18:50
un tipo di regola.
18:51
Menor tempo possibile
18:52
per arrivare a posto.
18:53
Pensa a guidare
18:54
sui tornanti di montagna.
18:55
Non maledici quadrelle
18:56
e li ringrazio
18:57
quando la strada
18:57
precipita per 60 metri.
18:59
È la stessa cosa.
19:00
Perimetri,
19:01
policy,
19:01
filtri,
19:01
log
19:02
non bloccano la tua velocità
19:03
e tengono la tua auto
19:03
lontana dai notiziari.
19:05
In sintesi,
19:06
Microsoft ti ha fornito
19:07
una potenza notevole.
19:09
Sicurezza dei contenuti,
19:10
pipeline di valutazione,
19:11
framework di sicurezza,
19:12
guardare il SDK.
19:14
Ma aspetta ancora te
19:14
delimitare i tenant,
19:15
configurare gli accessi
19:16
e integrare quei cicli
19:17
nel tuo processo di produzione.
19:19
Fallo
19:19
e avrai un IA
19:20
che sopravviva alla conformità
19:21
invece di crollare sotto di essa.
19:23
Ignoralo
19:24
e non sarà solo
19:24
un rischio di interruzione.
19:25
Saranno carriera a rischio.
19:27
L'IA responsabile
19:27
non è lenta.
19:28
L'IA responsabile
19:29
è sostenibile
19:30
e la sostenibilità
19:31
è il vero test
19:32
perché ciò che conta
19:32
non sono le funzionalità
19:33
ma se tratti questa piattaforma
19:34
come un plug and play
19:35
o la rispetti
19:36
come un'infrastruttura
19:36
basata sulla governance.
19:38
Questa distinzione
19:39
decide chi resiste
19:40
e chi brucia le tappe.
19:41
Ecco il punto ventale.
19:42
La trappola non è Foundry
19:43
o Copilot Studio
19:44
e pensare che siano plug and play.
19:46
Il principio da ricordare
19:47
è semplice.
19:48
Prima la governance
19:48
per la sperimentazione
19:49
e infine la produzione.
19:50
Trascorre identità
19:51
e osservabilità
19:52
a tuo rischio e pericolo.
19:53
Gli strumenti ci sono
19:54
ma solo la governance
19:54
trasforma i prototipi
19:55
in vera produzione.
19:57
Quindi se vuoi
19:57
le soluzioni dirette
19:58
che mantengono davvero
19:59
in vita al tuo tenant
19:59
iscriviti al podcast
20:00
e lasciami una recensione.
20:02
e di cuore quotidiana
20:04
a questo progetto
20:04
il tuo supporto
20:05
è davvero utile.
20:06
Gli strumenti cambieranno
20:07
tanti che sopravvivenza resta.