Latest / M365.FM – Podcast su Microsoft 365, Copilot e IA in italiano / Agenti AI in Microsoft Teams: più produttività o rischio per la sicurezza? Governance per i colleghi digitali (Doppiaggio IA)

Transcript

Agenti AI in Microsoft Teams: più produttività o rischio per la sicurezza? Governance per i colleghi digitali (Doppiaggio IA) · M365.FM – Podcast su Microsoft 365, Copilot e IA in italiano

0:00
Immagina di accedere a Teams e di essere accolto da uno sciame di agenti AI, ognuno dei quali promette di snellire la tua giornata lavorativa.
0:05
Puntano alla produttività, eppure senza regole possono fraintendere gli obiettivi ed espandere l'accesso in modi che ti rendono responsabile.
0:11
È come dare a uno stagista la carta di credito aziendale, sperando che il rapporto spese non torni con l'acquisto di uno yacht.
0:16
Con una notizia.
0:17
In questo episodio scoprirai un framework semplice, tre controlli pratici e alcuni primi passi, per mantenere questi agenti utili, sicuri e allineati.
0:25
Perché prima di poterti fidare di loro, devi capire che tipo di colleghi stanno per diventare.
0:30
Vi presento i vostri nuovi colleghi digitali.
0:31
Vi presento i vostri nuovi colleghi digitali.
0:33
Non siedono in cubicoli, non usano il badge e sicuramente non leggono mai il manuale del dipendente.
0:38
Queste non sono le vecchie macro di Excel che dobbiamo monitorare costantemente.
0:40
Gli agenti osservano, pianificano e agiscono perché combinano tre elementi fondamentali, memoria, autorizzazioni e accesso agli strumenti.
0:46
Questo è il framework di Microsoft BCG, ed è la vera differenza.
0:49
Il tuo nuovo collega può tenere traccia delle interazioni passate, passare da un sistema all'altro che già utilizzi e usare le app proprio come farebbe una persona.
0:57
Certo, la tentazione è di scherzare di nuovo sugli stagisti.
0:59
Si presentano pieni di energia ma non hanno idea di dove sia la spillatrice.
1:02
Stesso vale per gli agenti, si lanciano nei tuoi flussi di lavoro senza comprendermi veramente i confini,
1:06
ma a differenza di uno stagista possono accedere a Outlook, SharePoint o Dynamics nel momento stesso in cui lo implementi.
1:10
Questo potere non è solo curioso, è un problema di governance.
1:13
Senza un'adeguata prevenzione della perdita di dati e le giuste autorizzazioni è praticamente ampliato la superficie di attacco su tutto il tuo stack.
1:19
Se vuoi un assaggio di quanto velocemente diventi realtà, guarda la roadmap.
1:22
Microsoft ha già anticipato agenti SharePoint che gestiscono i documenti direttamente nei siti, non solo nei risultati di ricerca.
1:29
Immagina di chiedere a un assistente di riordinare i file di progetto e che lui riorganizzi davvero le cartelle condivise tra i vari team.
1:34
Impressionante su una slide, manca un passo da un'interpretazione errata che archiverebbe i dati finanziari del trimestre sbagliato.
1:39
Non è un rischio teorico, è il ticket operativo del prossimo anno.
1:43
L'automazione della vecchia scuola somigliava a un distributore automato.
1:45
Premivi un tasto, il Twix cadeva, esseri fortunato, non si incastrava.
1:48
Le agenti non sono affatto così.
1:50
Possono notare lo stato del tuo flusso di lavoro, valutare le opzioni disponibili e generare passaggi che nessuno ha programmato in anticipo.
1:55
È adattivo e questo è sia il fascino che il pericolo.
1:58
In caso di errore il risultato non è una barretta di cioccolato incastrato.
2:01
È un report sicuro che attinge da tre sistemi con definizioni errate presentate come evangelo mesi dopo.
2:06
Indovina chi deve firmare quando l'ufficio finanziario chiede da dove provenga l'esca.
2:10
Eppure i loro vantaggi sono evidenti.
2:11
Un singolo agente può creare connessioni tra le parti isolati in modo che il tuo team umano fatica a eguagliare.
2:16
Non gli importa se i dati si trovano in Teams, SharePoint o in qualche modulo Dynamics in Background.
2:20
È...
2:21
Passerà da uno all'altro e compilerà i risultati senza bisogno di allegati email, promemoria o di quel mago di Excel nel tuo dipartimento.
2:28
Dal punto di vista della produttività è come assumere qualcuno che lavora dieci volte più velocemente e non si ferma mai a scaldare pesce in pausa pranzo.
2:34
Ma la velocità senza allineamento è pericolosa.
2:36
Gli agenti non condividono i tuoi obiettivi aziendali, seguono solo le istruzioni letterali che fornisci loro.
2:40
Questo disallineamento è il problema principale agente in veste tecnologica.
2:44
Tu vuoi precisione e conformità, loro offrono un'interpretazione simile con una sicurezza mal riposta.
2:49
Non è ostilità, è inconsapevolezza.
2:51
L'inconsapevolezza con privilegi di sistema può causare danni peggiori della mani.
2:53
È così che ti ritrovi un assistente troppo zelante che invia fogli di calcolo riservati a contatti esterni solo perché gli hai chiesto di condividere l'aggiornamento.
3:00
La realtà è questa.
3:02
Gli agenti non sono semplici curiosità, sono colleghi digitali che si insinuano nei flussi di lavoro, incredibilmente capaci ma totalmente ignari del contesto.
3:09
Potresti innamorarti delle loro demo, ma la prova del 9 arriva quando li inserisci in processi reali senza i limiti della formazione o della supervisione.
3:17
Ed ecco dove nasce la tua curiosità.
3:19
Resta con me perché tra pochi minuti analizzeremo i tre elementi necessari a ogni agente, memoria, privilegi e strumenti e perché ognuno di essi ha un superpotere ma anche un punto critico se non gestito.
3:29
Questo definisce il tuo prossimo lavoro, non solo usare strumenti ma gestire i lavoratori digitali come se fossero parte del tuo team.
3:34
E tutto ciò senza manuale HR ma con una grande responsabilità.
3:37
Manager come capi di lavoratori digitali
3:40
Immagina di aprire la tua valutazione delle prestazioni e leggere una nuova riga.
3:43
Ha gestito 12 dipendenti umani e 48 agenti IA.
3:46
Non è fantascienza, sta diventando una metrica reale della capacità gestionale.
3:50
Gli esperti dicono che il valore di un manager sarà giudicato anche da quanti lavoratori digitali sa guidare perché prompting, verifica e supervisione stanno diventando competenze di leadership fondamentali.
4:00
Il capo del futuro non delega solo alle persone, orchestra un mix di personale e software.
4:05
Questo cambiamento è cruciale perché gli agenti IA non funzionano come strumenti che lasci inattivi finché non servono.
4:10
Si muovono da soli una volta avviati e non alzano la mano quando sono confusi.
4:14
Il tuo ruolo di manager ora richiede abilità che somigliano meno alla scrittura di memo e più alla definizione di soglie di escalation.
4:20
Quando l'agente deve fermarsi a consultarti e quando deve proseguire.
4:22
Secondo PwC e i World Economic Forum le tre azioni manageriali critiche sono istruzioni chiare, supervisione umana costante e verifica dell'output.
4:32
Se ne trascuri una il rischio aumenta rapidamente.
4:34
Con i dipendenti umani il feedback è costante.
4:36
Tono di voce è una domanda rapida, una sottile esitazione.
4:39
Le agenti non offrono nulla di tutto.
4:40
Consegneranno il lavoro finito indipendentemente dal fatto che le loro supposizioni hanno senso.
4:43
Ecco perché dare istruzioni non è una frase casuale, progettazione di sistema.
4:48
Una singola istruzione vaga può portare a dati archiviati male, accesso imprudente ai record o rapporti sicuri, ma errati.
4:54
Testare le istruzioni prima di implementarle diventa importante quanto rivedere i piani di progetto.
4:58
La verifica è la del processo.
5:00
I leader sono abituati a controllare a campioni sulla qualità ma potrebbero dare per scontato che la dà per scontato che l'automazione equivalga alla precisione.
5:04
Un presupposto erato.
5:05
Gli agenti improvvisano e l'improvvisazione senza revisione può essere incredibilmente dannosa.
5:09
Come sottolinea Yumi Muraoki, gli ha il talento di generare sciocchezze ben formulate.
5:13
I manager non possono dare per scontato che un tono professionale significhi correttezza dei fatti.
5:18
Verifica, convalida delle fonti e controllo dei flussi di dati sono la nuova leadership.
5:22
La supervisione chiude il cerchio.
5:23
Pensala meno come un micromanagement vecchio a scuola è più come un controllo degli accessi.
5:27
Baba Kogjat la definisce come la conoscenza dei confini della fiducia.
5:30
Quando assegni un agente diritti e accesso agli strumenti rimani responsabile di ciò che produce.
5:34
I manager devono decidere in anticipo quanta autonomia sia appropriata e stabilire dei limiti.
5:38
Tale supervisione spesso significa richiedere l'approvazione umana
5:41
prima che un agente apporti modifiche potenzialmente rischiose come inviare dati esternamente
5:45
o modificare record nei sistemi centrali.
5:48
Ecco l'aspetto scomodo.
5:49
La tua reputazione come manager dipende ora da quanto bene bilanci le persone e i colleghi digitali.
5:53
Troppo controllo e soffochi i benefici.
5:56
Troppo poco controllo e verrai colto di sorpresa da errori di cui non ti sei nemmeno accorto.
6:00
La sfida non è scegliere uno stile di leadership ma gestirli entrambi contemporaneamente.
6:03
Le persone richiedono motivazione ed empatia.
6:04
Gli agenti richiedono confini rigorosi e una calibrazione costante.
6:08
Mantenere il loro allineamento affinché non interrompano i reciproci flussi di lavoro
6:11
diventa parte del tuo riflesso gestionale quotidiano.
6:13
Pensa al tuo ruolo ora come un direttore d'orchestra,
6:15
non nel senso del dipartimento risurso umano ma letteralmente nel tenere il tempo con due sezioni diverse.
6:19
I dipendenti umani apportano creatività ed empatia.
6:21
Gli agenti A apportano velocità e portata ma se nessuno li dirige il risultato è la discordia.
6:25
I migliori leader del futuro saranno giudicati non solo dal morale del loro team
6:28
ma dal fatto che il personale umano e digitale mantengano lo stesso ritmo
6:32
senza divulgare dati sensibili o distorcere il processo decisionale.
6:35
In un caso critico un disallineamento qui non interrompe solo un flusso di lavoro
6:38
ma crea un'indagine di conformità.
6:40
La conclusione è semplice.
6:41
Il tuo titolo di lavoro non è cambiato ma il contenuto del tuo ruolo si.
6:44
Non gestisci più solo persone, gestisci assistenti operativi integrati in ogni sistema che utilizzi.
6:50
Ciò richiede nuove competenze, creare prompt precisi,
6:52
testare le istruzioni per evitare conseguenze indesiderate,
6:55
convalidare i risultati con fonti attendibili e imporre controlli umani.
6:58
Il successo in questo ambito distingue i manager rispettati di domani
7:01
da quelli che verranno silenziosamente mandati in pensione anticipata.
7:04
E poiché?
7:05
La teoria è bella ma la pratica è meglio.
7:07
Ecco la tua sfida di un giorno.
7:10
Apri le impostazioni del tuo copilota o agente
7:12
e cerca dove si trovano i controlli per l'approvazione o la supervisione umana.
7:15
E se non riesci a trovarli, questa lacuna è già di per sé un problema.
7:18
Significa che non sai ancora come fermare un processo fuori controllo.
7:21
Ora, se gestire le persone è sempre iniziato dall'onboarding,
7:23
è lecito chiedersi come funziona l'onboarding per un agente AI.
7:26
Ogni agente che distribuisce è dotato di un proprio kit di avvio.
7:30
Il contenuto di quel kit, memoria, autorizzazione e strumenti,
7:33
decide se il tuo nuovo collega digitale ti farà apparire brillante
7:36
o ti costringerà a passare il weekend a riparare danni.
7:39
I tre elementi di cui un agente ha bisogno.
7:41
Se dovessi analizzare ciò che alimenta davvero un agente,
7:44
Microsoft BCG lo chiamano starter kit,
7:46
tre elementi essenziali, memoria, autorizzazione e strumenti.
7:49
Se ne manca uno, invece di un collega digitale affidabile,
7:52
avrai un bot improvvisato che vaga per il tuo ambiente.
7:54
Se sbagli a configurarli, ti stai preparando al lavoro di pulizia
7:57
per cui non avevi previsto budget.
7:59
Per prima cosa la memoria.
8:00
È ciò che permette agli agenti di collegare le attività tra loro
8:02
invece di ricominciare da capo ogni volta come un pesce rosso alla tastiera.
8:06
Con la memoria, un agente può mantenere la tua preferenza
8:08
di fare sempre i grafici in blu da un report al successivo.
8:11
Il vantaggio è la continuità, lo svantaggio è la persistenza.
8:14
Errori e indicazioni sbagliate vengono trasmessi con la stessa facilità di un contesto utile.
8:18
Microsoft lo evidenzia con il proprio lavoro di chunking e chaining.
8:20
Gli agenti conservano frammenti di interazioni per creare un filo conduttore.
8:24
Ma PwC avverte che la persistenza trascina con sé rischi per la privacy
8:27
poiché dati sensibili potrebbero rimanere archiviati oltre il dovuto.
8:32
Se non fai attenzione, non ottieni solo un assistente utile,
8:35
ma uno che ripete all'infinito i tuoi peggiori refusi.
8:37
Le autorizzazioni.
8:38
Considerale come il badge di accesso dell'agente.
8:40
Con gli esseri umani non dai a chiunque una chiave universale
8:43
e limiti l'accesso in base al ruolo.
8:44
La stessa regola vale qui.
8:46
Se tieni le autorizzazioni troppo strette,
8:48
l'agente continuerà a sbattere contro porte chiuse e a tormentarti per avere permessi.
8:51
Troppo larghe e avrai praticamente consegnato il tuo sistema HR
8:54
e documenti finanziari a qualcosa che non comprende la conformità.
8:56
La guida di PwC riguarda diretta.
8:58
Usa il controllo degli accessi basato sui ruoli.
9:00
Erbeac imponi l'autenticazione a più fattori per le azioni elevate
9:03
e protegge le aree sensibili con la prevenzione della perdita di dati.
9:05
Ad esempio, se un agente deve interrogare il web,
9:07
PwC consiglia di passare attraverso un proxy con policy DLP
9:10
per evitare fuga di dati dei clienti nelle ricerche.
9:13
Con un 20 naturale, Erbeac e MFA mantengono l'agente limiti.
9:17
Con un 1 naturale, privilegi eccessivi lo trasformano nel più veloce insider accidentale.
9:21
Poi ci sono gli strumenti.
9:22
Sono le app, le API, i connettori che gli agenti usano concretamente per agire.
9:25
Senza strumenti fissano solo il vuoto.
9:28
Con gli strumenti sbagliati fanno più danni che altro,
9:30
come dare a uno stagista il primo giorno i diritti di deployment
9:32
invece di una dashboard di reportistica sicura.
9:34
Gli strumenti determinano l'ambito di ciò che un agente può toccare.
9:38
Microsoft crea dei guardrail inserendo i connettori copilot in canali di controllo
9:41
invece di dare all'agente un accesso diretto e grezzo.
9:44
La best practice ma è la stessa.
9:45
Limita l'ambito, valida le impostazioni predefinite
9:47
e collega gli strumenti rivolte all'esterno alla registrazione LEP.
9:49
Tieni ben serrati i bulloni,
9:51
altrimenti costruirai una macchina di Rube Goldberg fuori controllo
9:53
che installa componenti su sistemi che non avrebbe mai dovuto toccare.
9:56
Un piccolo promemoria in questo caso.
9:57
La memoria e l'esperienza, ciò che il lavoratore già ricorda.
10:00
I diritti sono il badge identificativo e i luoghi in cui è autorizzato mobile.
10:03
Gli strumenti sono il laptop e le app in licenza,
10:05
ciò che puoi effettivamente usare, breve ma efficace.
10:08
Il parallelo con l'onboarding umano ha senso,
10:09
ma con gli agenti la posta in gioco è più veloce,
10:11
è meno visibile e più difficile da controllare a posteriori.
10:13
E quelli più a conto.
10:14
Bilanciare la memoria garantisce continuità
10:16
senza salvare indefinitamente dati personali.
10:18
Diritti limitati forniscono solo le chiavi necessarie per il lavoro,
10:21
senza aprire il cavo.
10:23
Dimensionare gli strumenti amplifica la produttività
10:24
senza espandere il raggio d'azione dei danni.
10:26
Troppo di uno o qualsiasi di questi
10:28
trasforma il risultato da utile a rischioso in un solo colpo.
10:30
E proprio come nelle cose reali,
10:31
non puoi sottrarti la tua responsabilità.
10:33
La guida di Microsoft sull'Ie responsabile
10:35
ci ricorda che gli agenti alzano l'asticella.
10:37
Una minore tolleranza agli errori,
10:39
una trasparenza più rigorosa, controlli più nitili.
10:41
Sei sempre tuo a dover rispondere
10:42
se l'accesso è sbagliato a un diritto o a uno strumento
10:43
causa la fuga di un report.
10:45
Con un 20 naturale,
10:46
la memoria fornisce un contesto più intelligente.
10:47
I diritti si allineano perfettamente alle poli
10:49
se gli strumenti sbloccano solo azioni sicure.
10:51
Con un 1 naturale,
10:52
l'agente ricorda istruzioni errate,
10:54
possiede troppe chiavi
10:55
e usa il connettore sbagliato con totale sicurezza.
10:57
Non è un'ipotesi,
10:58
è la curva di rischio su cui stai viaggiando.
11:00
Ed ecco la parte che sfugge alla maggior parte delle verità.
11:05
Questi tre elementi sbloccano anche
11:06
un pericolo più silenzioso e sottile.
11:08
La gente finisce per saperne più di te
11:10
su ciò che ha appena fatto.
11:11
E quando non riesci a vedere il ragionamento
11:13
dietro le sue scelte,
11:14
un nuovo tipo di problema gestionale
11:16
si insinua sotto il tuo naso.
11:18
Il problema è invisibile.
11:19
La simmetria è informativa.
11:20
Ti è mai capitato che un dipendente
11:22
ti consegnasse un lavoro dicendo con leggerezza?
11:23
Non preoccuparti, ci ho pensato ecco.
11:25
Ora immagina la stessa frase
11:26
detta da un agente IA,
11:27
solo che non puoi porre domande
11:28
e non puoi sbirciare il suo processo di pensiero.
11:31
Ottieni un risultato rifinito e ben confezionato,
11:33
ma il percorso decisionale al suo interno è opaco.
11:36
Questo è il gattacapo invisibile,
11:37
la simmetria informativa.
11:39
Gli agenti dispongono di più dati
11:40
e potenza di calcolo di quanti ne avrai mai tu,
11:42
ma sei tu quello che deve rispondere dei risultati.
11:44
La California Management Review
11:45
definisce questo il classico problema.
11:47
Principale agente?
11:47
Il sistema possiede informazioni private
11:49
che non puoi osservare,
11:50
mentre tu ti fai carico della responsabilità.
11:52
È come se il tuo collega digitale
11:54
tirasse i dadi dietro lo schermo
11:55
mostrandoti solo il numero finale
11:56
e non i modificatori accumulati lungo il percorso.
11:59
E il problema non si annuncia in modo gentile.
12:02
Gli agenti producono output con sicurezza,
12:03
non tentennano, non pongono riserve,
12:05
non ti lasciano vedere le loro cuciture.
12:06
Così resti a fissare un report finito
12:08
chiedendoti questo artefatto rifinito
12:09
è affidabile o è silenziosamente errato.
12:11
Nel tempo che impieghi per analizzarlo,
12:13
i team a valle potrebbero già aver costruito
12:15
il proprio lavoro sopra un errore.
12:16
Prendi un caso comune.
12:18
Un agente classifica erroneamente
12:19
come priorità bassa
12:20
una fattura legata a un contratto di fornitura critico.
12:23
In superficie il report si sembra impeccabile.
12:25
Nulla segnala un problema.
12:26
Mesi dopo la compliance bussa la porta
12:28
per via di pagamenti mancati.
12:29
Risali alla causa
12:30
e scopri l'erata classificazione sepolta fin dall'inizio.
12:32
Questa è la simmetria informativa in azione.
12:34
L'agente sapeva cosa aveva fatto
12:35
ma tu non avevi alcuna visibilità sul suo ragionamento.
12:37
PBOC evidenzia esattamente questo scenario
12:39
nelle sue raccomandazioni di LP.
12:41
I sistemi di protezione come l'accesso basato sui ruoli,
12:43
controlli di classificazione e le soglie di escalation
12:45
impediscono a un piccolo scivolone
12:46
di diventare una sanzione finanziaria.
12:49
Questa dinamica alimenta direttamente
12:50
il problema principale agente.
12:52
Tu, il principale, stabilisci un obiettivo
12:54
come organizzare le fatture dei fornitura.
12:55
L'agente ottimizza per un'obbedienza letterale,
12:58
classificare e archiviare,
13:00
non vede l'intento più ampio,
13:01
non interpreta le sfumature
13:02
e certamente non valuta le implicazioni strategiche.
13:04
Ciò che sembra sabotaggio
13:05
è spesso solo cieca lealtà
13:06
e istruzioni prese troppo alla lettera
13:08
o raggiungi la zona di formazione morale.
13:10
Quando le cose si rompono
13:11
la responsabilità risale inevitabilmente verso di te.
13:13
I revisori non incolpano l'algoritmo invisibile
13:15
e chiedono perché tu non te ne sei accorto.
13:18
La macchina si scrolla di dosso la responsabilità
13:20
mentre l'essere umano assorbe il danno reputazionale.
13:22
L'effetto è come fare da airbag in un incidente.
13:25
Tu subisci l'impatto e incassi il colpo
13:26
mentre il vero conducente prosegue ignaro.
13:28
Quindi cosa fai?
13:29
Non puoi scrutare magicamente
13:31
nel ragionamento neurale di un modello generativo
13:33
ma puoi costruire visibilità ai margini.
13:35
Primo passo, insisti su log dettagliati
13:37
per corsi di provenienza.
13:38
Non l'illusione di un pensiero interno
13:41
ma un registro concreto dei dati accessi
13:43
delle azioni attivate e in quale ordine.
13:45
Secondo passo, implementa dashboard di trasparenza.
13:48
Queste mostrano le variabili decisionali chiave
13:50
chi, cosa, quando
13:50
così puoi almeno vedere i contorni
13:52
di come è stato assemblato l'output.
13:54
Terzo passo, richiedi motivazioni
13:55
in linguaggio semplice per le azioni ad alto impatto.
13:58
Il CMR lo sottolinea in contesti come le assunzioni.
14:01
Obbligare gli agenti a fornire criteri leggibili
14:03
per ogni decisione crea uno strato di spiegabilità.
14:05
Quarto passo, stopponi i tuoi agenti a redire.
14:07
Alimentali con casi di test insoliti,
14:09
rompili apposta e documentali crepe.
14:11
Se non metti alla prova quei difetti tu stesso
14:12
appariranno quando la posta in gioco sarà molto più alta.
14:15
Ognuna di queste mitigazioni
14:16
non risolve la simmetria interamente
14:18
ma insieme diradano la nebbia.
14:20
I log di audit danno potere di ricostruzione,
14:22
le dashboard consapevolezza situazionale,
14:24
le motivazioni obbligatorie
14:25
ancorano le decisioni in un linguaggio valutabile.
14:28
Redteaming rivela i punti ciechi
14:29
prima che lo facciano clienti e autorità di regolamentazione.
14:31
E come sottolinea Microsoft,
14:33
inserire approvazioni umane nei punti di escalation
14:35
garantisce che le decisioni più rischiose
14:37
passino al vaglio di una persona prima dell'esecuzione.
14:40
Il punto non è inseguire una trasparenza perfetta
14:42
perché il ragionamento generativo sarà sempre parzialmente opaco.
14:44
Il punto è darsi abbastanza dati superficiali
14:46
per monitorare schemi,
14:47
cogliere anomalie
14:48
e far rispettare la responsabilità
14:50
prima che i problemi sfuggano al controllo.
14:52
Senza queste misure
14:52
finisci per essere responsabile di scelte invisibili
14:54
che non hai mai autorizzato
14:56
mentre i tuoi agenti continuano a produrre output
14:57
a velocità folle.
14:59
Il che ci porta alla vera decisione che per affrontare.
15:01
Puoi lasciare questi sistemi senza vincoli
15:02
sperando che nulla bruci
15:03
oppure puoi iniziare a trattare il loro comportamento
15:05
come una policy di gruppo
15:06
con regole, limiti ed escalation integrati
15:08
fin dal primo giorno.
15:10
Perché se salti lo strato di governance
15:12
il caos non accadrà solo un giorno.
15:14
Arriva la prima volta che il tuo collega digitale
15:16
intraprende una missione secondaria
15:17
che non hai mai approvato.
15:19
Prevenire l'agente a Gheddon.
15:21
Prevenire ciò che amare l'agente a Gheddon
15:22
non è paranoia.
15:24
Si tratta di gestire i meccanismi
15:25
che impediscono la tua flotta di EA
15:26
e di trasformarsi in un pericolo d'incendio.
15:29
Questo è lo strato tattico
15:30
dove si incontrano governance, rischio e infrastruttura.
15:32
P. Brucci lo spiega chiaramente.
15:34
Se vuoi agenti che scalino
15:35
senza distruggere il tuo ambiente
15:36
ti servono 5 rapide tattiche.
15:38
Adatta la governance,
15:39
aggiorna la gestione dei rischi,
15:41
costruisci l'infrastruttura,
15:42
imponi test e monitoraggio
15:43
e mantieni sempre un umano
15:44
nel ciclo per le decisioni critiche.
15:46
Inizia con la governance.
15:47
Gli attuali programmi di EA responsabile
15:48
sono stati creati per i modelli
15:49
non per i lavoratori autonomi.
15:50
Devi adattare la supervisione
15:51
affinché i comitati di rischio
15:52
a livello di consiglio
15:53
includono chiaramente il rischio di...
15:54
Gli agenti devono avere
15:55
regole di escalation integrate.
15:57
Quando la posta in gioco
15:58
raggiunge un certo livello
15:59
il lavoro si ferma
16:00
finché un umano non approva.
16:01
Pensala come l'albero di escalation
16:03
nel tuo sistema di help desk.
16:04
In condizioni ottimali
16:05
l'agente chiude ticket tutto il giorno.
16:07
In condizioni critiche
16:08
sa di doversi fermare immediatamente
16:09
e richiedere l'approvazione
16:10
prima di toccare pago
16:11
o comunicazioni esterne sensibili.
16:13
Le spinte normative
16:14
come le UI Act
16:15
non fanno che amplificare questa necessità.
16:17
Stanno formalizzando le aspettative
16:19
secondo cui la supervisione
16:20
deve essere dimostrabile
16:20
e che devi documentare
16:21
chi ha provato cosa e quando
16:22
per la gestione del rischio.
16:24
Gli agenti non hanno
16:25
lo stesso livello di rischio
16:26
quindi classificali
16:27
come fai con i sistemi.
16:28
I bot a basso rischio
16:29
che lavorano all'interno
16:29
di cellulose ristretti
16:30
possono muoversi velocemente.
16:31
Gli agenti ad alta autonomia
16:32
che toccano dati dei clienti
16:33
o record finanziari
16:34
necessitano di un controllo più rigoroso.
16:36
Il framework di PVC
16:36
è pragmatico in questo senso.
16:38
Traccia l'utilizzo
16:38
misura l'autonomia
16:39
rispetto al potenziale impatto
16:40
e sottopone gli agenti
16:41
di livello superiore
16:42
a cicli di approvazione
16:43
e test più lenti.
16:43
Se un bot scrive
16:45
promemoria sul calendario
16:46
una supervisione minima
16:47
è sufficiente.
16:48
Se un bot invia pagamento
16:49
ai fornitori
16:49
dovrebbe presentare
16:50
segnali di allarme
16:50
e registri in grado
16:51
di superare un onore.
16:52
L'infrastruttura
16:52
è blocco successivo.
16:53
Questi strumenti
16:54
non appaiono dal nulla.
16:55
Hai bisogno di RBA
16:56
per limitare ciò
16:57
che gli agenti
16:57
possono toccare
16:58
MFA ogni volta
16:59
che aumentano i privilegi
17:00
DLP per prevenire
17:01
fughe accidentali
17:02
e anonimizzazione
17:02
affinché i log
17:03
non portino silenziosamente
17:04
identificatori utenti
17:05
nell'archivio sbagliato.
17:06
Tratta ogni identità
17:07
di agente
17:07
come un account umano.
17:09
Principio del privilegio
17:10
minimo registrato
17:11
e revisionato.
17:11
Dare a un agente
17:12
diritti illimitati
17:13
perché ha reso i test
17:14
più veloci
17:14
è l'equivalente
17:15
nell'automazione
17:16
di dare un accesso
17:16
amministratore temporaneo.
17:18
Questa non è innovazione
17:18
è un incidente di sicurezza
17:19
che aspetta solo di accadere.
17:21
Guarda test e monitoraggio
17:22
Presumi che l'output
17:23
prima o poi fallirà.
17:24
Il tuo compito
17:25
è cogliarlo
17:25
prima che faccia Dami.
17:26
Ciò significa
17:27
rilevamento di anomalie
17:27
in tempo reale
17:28
per segnalare
17:28
strane deviazioni
17:29
nel comportamento.
17:31
Significa sottoporare
17:32
al teaming
17:32
i tuoi agenti
17:32
non solo i tuoi firewall.
17:34
Invia input insoliti
17:34
per trovare le crepe
17:35
quando la posta in gioco
17:36
è bassa.
17:37
Anche il monitoraggio
17:37
continua in portare.
17:38
Il log dell'accesso ai dati
17:39
le azioni intraprese
17:40
e la frequenza
17:40
dei chiamati ad alto rischio
17:41
dovrebbero essere tutti risolute.
17:43
PwC e Microsoft
17:43
sottolineano entrambi
17:44
che le tracce di audit
17:45
e le revisioni regolari
17:46
sono la tua macchina del tempo.
17:48
Senza di esse
17:48
sei cieco rispetto a ciò
17:49
che l'agente effettivamente fa.
17:50
La quinta tattica
17:51
è che la supervisione umana
17:52
non scompare mai.
17:53
Anche con l'orchestrazione
17:54
le protezioni più sofisticate
17:55
e le decisioni ad alto rischio
17:56
richiedono ancora una persona.
17:58
Stabilisci i sogli che hai.
17:59
Se un agente approva
17:59
una transazione
18:00
oltre una certa soglia
18:01
modifica record sensibili
18:02
o avvia comunicazioni
18:03
che coinvolgono dati regolamentati
18:05
deve fermarsi
18:05
e passare la palla a te.
18:08
Il sistema Copilot
18:08
di Microsoft
18:09
ha questo approccio integrato.
18:11
L'IA può bozzare un mail
18:12
ma è l'umano
18:13
cliccare su invio
18:14
quel tocco finale
18:15
è la rete di sicurezza
18:16
tra produttività
18:16
ed esposizione
18:17
e rischi di conformità.
18:18
Quando si scannano le agenti
18:19
tutto ciò diventa orchestrazione.
18:20
Un singolo botto è semplice.
18:22
Gli shami possono trasformarsi
18:23
in stranezze emergenti
18:24
ecco avvicendo
18:25
a inseguire loop bizzarri.
18:27
Senza ordine
18:28
sembra un thread slack
18:28
non moderato
18:29
che va fuori controllo.
18:30
L'antidoto è un orchestratore
18:31
sia esso un agente di coordinamento
18:33
o un team centrale
18:33
di revisione umana.
18:35
Immaginalo come il direttore d'orchestra
18:36
che impedisce di stonare.
18:38
Un primo passo concreto
18:39
inizia con un modello
18:40
orchestratore singolo
18:41
prima di aprire le porte
18:42
a shami multiagente.
18:44
Quello strato
18:45
può coordinare gli specialisti
18:46
sopprimere i loop di feedback
18:47
e allinearli agli obiettivi aziendali
18:49
invece di lasciarli improvvisare
18:50
le proprie regole.
18:51
Nessuno di questi controlli
18:53
esiste per rallentarti.
18:54
Se implementati bene
18:55
sono esattamente
18:55
ciò che ti permette
18:56
di scalare i sicurei.
18:57
PwC, BCG, McKinsey
18:58
convergono tutti
18:59
sullo stesso punto.
19:00
Gli agenti governati
19:01
e orchestrati
19:01
diventano un moltiplicatore di forze.
19:03
Sbrigano il lavoro ripetitivo
19:04
collegano i silos
19:05
e permettono al tuo team umano
19:06
di concentrarsi
19:07
su sforzi strategici
19:08
ad alto valore.
19:09
Nel caso migliore
19:10
questo significa
19:11
maggiore produttività
19:11
meno attrito manuale
19:12
e conformità integrata nel processo.
19:14
Limitare gli agenti
19:15
non è catastrofismo
19:16
è installare barriere protettive
19:17
per ottenere i vantaggi reali
19:18
senza subire le conseguenze peggiori.
19:20
Controlla memoria
19:21
permessi e strumenti
19:21
e ridurrà i rischi nascosti.
19:24
Adatta governance
19:24
gestione del rischio
19:25
infrastruttura
19:26
monitoraggio e supervisione
19:27
e manterrà intatta
19:28
la visibilità gestionale.
19:29
Fai tutto questo
19:30
e ciò che sembrava caos
19:31
diventerà la base
19:31
per un lavoro più veloce
19:32
economico e conforme.
19:34
E alla fine della giornata
19:35
la responsabilità torna a te.
19:37
Questi non sono strumenti
19:38
senza volto
19:39
sono colleghi
19:39
senza fascicolo
19:40
del personale
19:41
il vero test
19:41
non è se gli agenti
19:42
sostituiranno il tuo ruolo
19:43
ma se saprai guidare
19:44
la loro autonomia
19:45
con la stessa supervisione
19:46
che usi per le persone
19:47
senza far squilibrare
19:48
gli incentivi.
19:50
E ecco la conclusione.
19:51
Gli agenti
19:52
non stanno sostituendo i manager
19:53
ti stanno costringendo
19:54
ad affinare la gestione stessa.
19:55
La ricerca è chiara
19:56
è solo il problema
19:56
principale agente
19:57
sotto mentite spoglie.
19:59
Loro detengono i dati
19:59
tu detieni la responsabilità
20:00
e l'unica vera soluzione
20:01
è autonomia guidata
20:02
unita a supervisione costante.
20:04
Ecco le tue prime tre mosse.
20:06
Censisci i tuoi agenti
20:07
e classificali per rischio
20:08
e autonomia
20:08
imposta a soglie di escalation
20:12
timido o un caso limite
20:13
su un agente critico.
20:15
Questa è la tua missione iniziale.
20:16
Se questa lista ti è stata utile
20:17
iscriviti e lascia un commento
20:19
su quale agente
20:19
inventerai per primo.
20:21
Con un 20 naturale
20:21
preverai il caos
20:22
prima ancora che nasca.
20:24
Con un 1 naturale
20:24
beh, almeno saprai
20:25
dove è iniziato l'incendio.