Latest / M365.FM – podcast o Microsoft 365, Copilot i AI po polsku / Agenci AI w Microsoft Teams: wzrost produktywności czy ryzyko bezpieczeństwa? Nadzór nad cyfrowymi pracownikami (Dubbing AI)

Transcript

Agenci AI w Microsoft Teams: wzrost produktywności czy ryzyko bezpieczeństwa? Nadzór nad cyfrowymi pracownikami (Dubbing AI) · M365.FM – podcast o Microsoft 365, Copilot i AI po polsku

• 0:00
  Wyobraź sobie, że logujesz się do Teams i wita Cię ruj agentów, a i z których każdy obiecuje usprawnić Twój dzień pracy.
• 0:05
  Obiecują wzrost produktywności, ale bez odpowiednich zasad mogą błędnie zinterpretować cele i rozszerzyć dostęp w sposób, który narazi Cię na odpowiedzialność.
• 0:11
  To jak wręczenie starzyście firmowej karty kredytowej w nadziei, że w raporcie wydatków nie pojawi się jacht.
• 0:16
  Oto dobra wiadomość.
• 0:17
  W tym odcinku poznasz prosty schemat, trzy praktyczne mechanizmy kontroli i pierwsze kroki, dzięki którym Ci agenci będą użyteczni, bezpieczni i odpowiednio ukierunkowani.
• 0:25
  Bo zanim im zaufasz, musisz zrozumieć, jakimi współpracownikami się staną.
• 0:29
  Poznaj swoich nowych cyfrowych współpracowników.
• 0:31
  Poznaj swoich nowych cyfrowych współpracowników.
• 0:33
  Nie siedzą w boksach, nie odbijają karty wejścia i na pewno nigdy nie czytali regulaminu pracownika.
• 0:38
  To nie są zakurzone makra w Excelu, którymi musieliśmy się opiekować.
• 0:41
  Agenci obserwują, planują i działają, ponieważ łączą trzy kluczowe składniki, pamięć, uprawnienia i dostęp do narzędzi.
• 0:46
  To schemat Microsoftu i BCG, który stanowi o prawdziwej różnicy.
• 0:49
  Twój nowy kolega może śledzić poprzednie interakcje, przełączać się między systemami, którym już zaufałeś i faktycznie używać aplikacji tak, jak zrobiłby to człowiek.
• 0:56
  Jasne, kuszące jest, by znów zażartować ze starzystów.
• 0:59
  Pojawiają się pełni energii, ale nie mają pojęcia, gdzie leży zszywacz.
• 1:02
  Podobnie jest z agentami wpadają w twoje procesy robocze, nie rozumiejąc do końca granic.
• 1:06
  Ale w przeciwieństwie do starzysty, mogą uzyskać dostęp do Outlooka, SharePointa czy Dynamics w momencie, gdy ich uruchomisz.
• 1:10
  Ta moc to nie tylko ciekawostka, to problem z zarządzaniem.
• 1:13
  Bez właściwej ochrony przed utratą danych i odpowiednich uprawnień, w zasadzie zwiększasz powierzchnię ataku w całym swoim stosie technologicznym.
• 1:19
  Jeśli chcesz poczuć, jak szybko staje się to rzeczywistością, spójrz na plan rozwoju.
• 1:23
  Microsoft zapowiedział już agentów SharePoint, którzy zarządzają dokumentami bezpośrednio w witrynach, a nie tylko w wynikach wyszukiwania.
• 1:29
  Wyobraź sobie, że prosisz asystenta o uporządkowanie plików projektu, a on faktycznie reorganizuje udostępnione foldery w wielu zespołach.
• 1:34
  Imponujące na slajdach, ale dzieli go tylko jedna błędna interpretacja od zarchiwizowania finansów z niewłaściwego kwartału.
• 1:39
  To nie jest ryzyko teoretyczne, to zgłoszenie operacyjne na przyszły rok.
• 1:43
  Staromodna automatyzacja przypominała automat z przekąskami.
• 1:45
  Naciskałeś jeden przycisk, baton wypadał, a jeśli miałeś szczęście, nie zacinał się.
• 1:48
  Agenci nie przypominają tego w niczym.
• 1:50
  Potrafią dostrzec stan twojego procesu, sprawdzić dostępne opcje i wygenerować kroki, których nikt wcześniej nie zakodował.
• 1:55
  Jest to adaptacyjne, co stanowi jednocześnie zaletę i zagrożenie.
• 1:58
  Przy niefortunnym wyniku nie skończy się na zablokowanym batonie.
• 2:01
  Skończy się na pewnym siebie raporcie, pobierającym dane z trzech systemów, w którym błędne definicje będą po miesiącach prezentowane jako pewnik.
• 2:06
  Zgadnij, kto składa podpis, gdy dział finansowy pyta, skąd wzięły się rozbieżności.
• 2:09
  Mimo to, płynące z nich korzyści są oczywiste.
• 2:12
  Pojedynczy agent potrafi łączyć odizolowane dane w sposób, któremu twój zespół nie jest w stanie dorównać.
• 2:16
  Nie obchodzi go, czy dane są w Teams SharePoint, czy w jakimś module Dynamics ukrytym w tle.
• 2:21
  Będzie przeskakiwać między nimi i zestawiać wyniki bez potrzeby używania załączników, przypomnień w kalendarzu czy tego jednego eksperta od Excela w dziale.
• 2:28
  Jeśli chodzi o wydajność, to tak, jakby zatrudnić kogoś, kto pracuje 10 razy szybciej i nigdy nie podgrzewa ryby w mikrofalówce w pokoju socjalnym.
• 2:33
  Ale szybkość bez spójności celów jest niebezpieczna.
• 2:36
  Agenci nie podzielają twoich celów biznesowych, podzielają jedynie dosłowne instrukcje, które im przekazujesz.
• 2:40
  To rozbieżność, którą można nazwać problemem pryncypał agent w technologicznym wydaniu.
• 2:44
  Ty oczekujesz dokładności i zgodności, oni dostarczają interpretację najbliższego dopasowania z błędną pewnością siebie.
• 2:49
  To nie wrogość, to zwykła nieświadomość.
• 2:50
  A nieświadomość z uprawnieniami na poziomie systemu może być groźniejsza niż złe intencje.
• 2:54
  W ten sposób nadgorliwy asystent wysyła poufne arkusze kalkulacyjne do osób z zewnątrz, bo poprosiłeś go o udostępnienie aktualizacji.
• 3:01
  Rzeczywistość jest taka, agenci to niedziwaczny dodatek, to cyfrowi współpracownicy wkraczający w kluczowe procesy, niezwykle zdolni, a jednocześnie całkowicie nieświadomi kontekstu.
• 3:10
  Możesz zachwycić się ich działaniem w wersji demo, ale prawdziwy test zaczyna się, gdy wdrożysz je w żywe procesy bez zabezpieczeń w postaci szkoleń czy nadzoru.
• 3:17
  I tu pojawia się luka w Twojej wiedzy. Zostań ze mną, bo za chwilę przejdziemy przez trzy rzeczy, których potrzebuje każdy agent, pamięć, uprawnienia i narzędzia, oraz dlaczego każda z nich jest supermocą, ale i punktem awarii, jeśli nie jest zarządzana.
• 3:29
  To wyznacza Twoje kolejne zadanie, nie tylko używanie narzędzi, ale zarządzanie cyfrowymi pracownikami, jakby byli częścią Twojego zespołu.
• 3:34
  A do tego nie ma instrukcji HR, za to jest ogromna odpowiedzialność.
• 3:38
  Menedżerowie jako szefowie cyfrowych pracowników, wyobraź sobie, że otwierasz ocenę roczną i widzisz nowy punkt zarządzanie 12 pracownikami ludzkimi i 48 agentami AI.
• 3:46
  I to nie jest przechwałka z science fiction, to staje się prawdziwym miernikiem umiejętności menedżerskich.
• 3:50
  Eksperci twierdzą, że wartość menedżera będzie częściowo oceniana przez pryzmat tego, iloma cyfrowymi pracownikami potrafi kierować, ponieważ promptowanie, weryfikacja i nadzór stają się kluczowymi kompetencjami przywódczymi.
• 4:00
  Przyszły szef nie tylko deleguje zadania ludziom, on koordynuje współpracę między personelem a oprogramowaniem.
• 4:05
  Ta zmiana jest istotna, ponieważ agenci AI nie działają jak narzędzia, które zostawiasz w stanie spoczynku do czasu, gdy będą potrzebne.
• 4:10
  Gdy dostaną instrukcję, działają samodzielnie i nie podnoszą ręki, gdy czegoś nie rozumieją.
• 4:14
  Twoja rola jako menedżera wymaga teraz umiejętności, które mniej przypominają pisanie notatek, a bardziej definiowanie progów eskalacji.
• 4:20
  Kiedy agent ma się zatrzymać i skonsultować z tobą, a kiedy ma działać dalej?
• 4:23
  Według PUC oraz Światowego Forum Ekonomicznego, trzema kluczowymi działaniami menedżerskimi są jasne wydawanie poleceń, nadzór człowieka oraz weryfikacja wyników.
• 4:32
  Jeśli pominiesz któryś z nich, ryzyko szybko rośnie.
• 4:34
  W przypadku ludzkich pracowników informacje zwrotne są stałe.
• 4:37
  Ton głosu, szybkie pytanie, subtelne zawahanie.
• 4:39
  Agenci tego nie zapewniają.
• 4:40
  Dostarczą gotową pracę bez względu na to, czy ich założenia miały sens.
• 4:44
  Dlatego promptowanie to nieswobodne formułowanie zdań, to projektowanie systemów.
• 4:47
  Jedna niejasna instrukcja może prowadzić do błędów w danych, nieostrożnego dostępu do rejestrów czy pewnych siebie, lecz błędnych raportów.
• 4:54
  Testowanie poleceń przed ich wdrożeniem staje się tak ważne, jak przeglądanie planów projektowych.
• 4:58
  Weryfikacja to druga połowa sukcesu.
• 5:00
  Liderzy są przyzwyczajeni do wyrywkowej kontroli jakości, ale mogą zakładać, że automatyzacja równa się precyzji.
• 5:04
  Błędne założenie.
• 5:05
  Agenci improwizują, a improwizacja bez kontroli może być spektakularnie szkodliwa.
• 5:09
  Jak zauważa Ayumi Mur Aoki, Aima talent do generowania wygładzonego nonsensu.
• 5:14
  Menedżerowie nie mogą zakładać, że profesjonalny ton oznacza faktyczną poprawność.
• 5:18
  Weryfikacja, sprawdzanie źródeł i ścieżek danych to dziś przywództwo.
• 5:21
  Nadzór zamyka cały proces.
• 5:23
  Myśl o tym nie jak o mikrozarządzaniu w starym stylu, lecz jak o kontroli dostępu.
• 5:26
  Babak Hodiad określa to jako znajomość granic zaufania.
• 5:30
  Gdy dajesz agentowi uprawnienia i dostęp do narzędzi, nadal odpowiadasz za to, co on wygeneruje.
• 5:34
  Menedżerowie muszą z góry zdecydować, jaki zakres uprawnień jest właściwy i wprowadzić odpowiednie zabezpieczenia.
• 5:38
  Nadzór ten często oznacza konieczność uzyskania zgody człowieka, zanim agent wprowadzi ryzykowne zmiany,
• 5:43
  takie jak wysyłanie danych na zewnątrz czy modyfikacja rekordów w kluczowych systemach.
• 5:47
  Oto niewygodny zwrot akcji.
• 5:49
  Twoja reputacja menedżera zależy teraz od tego, jak dobrze równoważysz pracę ludzi i cyfrowych współpracowników.
• 5:52
  Zbyt duża kontrola tłumi korzyści.
• 5:55
  Zbyt mała kontrola sprawia, że zaskoczą cię błędy, o których istnieniu nawet nie wiedziałeś.
• 5:59
  Wyzwanie polega nie na wyborze jednego stylu przywództwa, lecz na jednoczesnym prowadzeniu obu.
• 6:03
  Ludzie wymagają motywacji i empatii.
• 6:05
  Agenci wymagają ścisłych granic i ciągłej kalibracji.
• 6:08
  Dbanie o ich zgodność, by nie zakłócali swoich przepływów pracy, staje się częścią twojego codziennego odruchu menedżerskiego.
• 6:13
  Pomyśl o swojej roli jak o dyrygencie nie w sensie działu HR, ale dosłownie utrzymującym tempo dla dwóch różnych sekcji.
• 6:18
  Ludzcy pracownicy wnoszą kreatywność i empatię.
• 6:21
  Agenci AI wnoszą szybkość i zasięg, ale jeśli nikt nimi nie kieruje, wynikiem jest dysonans.
• 6:26
  Najlepsi liderzy przyszłości będą oceniani nie tylko po morale zespołu, ale po tym, czy ludzie i cyfrowi pracownicy trzymają to samo tempo, nie wyciekając przy tym danych i nie wypaczając procesu decyzyjnego.
• 6:35
  W sytuacjach krytycznych brak synchronizacji nie tylko przerywa pracę, ale prowadzi do dochodzenia w sprawie zgodności z przepisami.
• 6:40
  Wniosek jest więc prosty. Twój tytuł zawodowy się nie zmienił, ale treść twojej roli tak. Nie zarządzasz już tylko ludźmi, zarządzasz operatorami pomocniczymi wbudowanymi w każdy system, którego używasz.
• 6:50
  Wymaga to nowych umiejętności tworzenia precyzyjnych poleceń, testowania instrukcji pod kątem niepożądanych skutków, weryfikacji wyników z zaufanymi źródłami i egzekwowania nadzoru człowieka.
• 6:59
  Sukces w tym obszarze odróżnia szanowanych menedżerów przyszłości od tych, którzy po cichu odchodzą na wcześniejszą emeryturę.
• 7:04
  A ponieważ teoria jest dobra, ale praktyka lepsza, oto wyzwanie na jeden dzień. Otwórz ustawienia swojego kopilota lub agenta i sprawdź, gdzie znajdują się opcje zatwierdzania przez człowieka lub kontroli nadzorczej.
• 7:15
  A jeśli nie możesz ich znaleźć, sam ten brak jest już ważnym wnioskiem. Oznacza to, że nie wiesz jeszcze, jak zatrzymać proces, który wymknął się spod kontroli.
• 7:22
  Skoro zarządzanie ludźmi zawsze zaczynało się od onboardingu, warto zapytać, jak wygląda wdrażanie agenta AI.
• 7:26
  Każdy wdrażany przez Ciebie agent posiada własny zestaw startowy. Zawartość tego zestawu pamięć, uprawnienia i narzędzia decyduje o tym, czy Twój nowy cyfrowy współpracownik sprawi, że będziesz wyglądać na geniusza, czy zepsuje Ci weekend naprawianiem szkód.
• 7:39
  Trzy elementy, których potrzebuje każdy agent. Jeśli chcesz sprawdzić, co napędza agenta Microsoft i BCG, nazywają to zestawem startowym trzy podstawy – pamięć, uprawnienia i narzędzia.
• 7:49
  Pominj jeden z nich, a zamiast godnego zaufania cyfrowego współpracownika, otrzymasz niedopracowanego bota, który błąka się po Twoim środowisku.
• 7:55
  Jeśli zrobisz to źle, skazujesz się na porządki, na które nie przeznaczyłeś budżetu.
• 7:59
  Po pierwsze – pamięć. To dzięki niej agenci mogą łączyć zadania, zamiast zaczynać od nowa za każdym razem, jak złota rybka przy klawiaturze.
• 8:05
  Dzięki pamięci agent może zapamiętać Twoje preferencje, na przykład tworzenie wykresów na niebiesko, przenosząc je z jednego raportu do drugiego.
• 8:11
  Zaletą jest ciągłość, wadą trwałość. Błędy i złe instrukcje są przenoszone równie łatwo, co przydatny kontekst.
• 8:17
  Microsoft podkreśla to w swojej pracy nad dzieleniem na fragmenty i łańcuchowaniem danych.
• 8:21
  Agenci przechowują wycinki interakcji, aby budować wątek.
• 8:24
  Jednak Puc ostrzega, że ta trwałość niesie ze sobą ryzyko dla prywatności, ponieważ wrażliwe dane mogą pozostać w systemie dłużej niż powinny.
• 8:31
  W efekcie nie otrzymujesz pomocnego asystenta, lecz kogoś, kto bez końca powtarza Twoją najgorszą literówkę.
• 8:37
  Po drugie – uprawnienia. Pomyśl o nich jak o identyfikatorze dostępu dla agenta.
• 8:41
  W przypadku ludzi nie dajesz każdemu głównego klucza do centrali, lecz ograniczasz dostęp według roli.
• 8:44
  Ta sama zasada obowiązuje tutaj. Jeśli zbyt mocno ograniczysz uprawnienia, agent będzie odbijał się od zamkniętych drzwi i nękał Cię prośbami o dostęp.
• 8:51
  Jeśli będą zbyt luźne, w efekcie powierzysz swój system kadrowy i dane finansowe komuś, kto nie rozumie zasad zgodności z przepisami.
• 8:56
  Wskazówki Puc w tej kwestii są bardzo dosadne.
• 8:59
  Stosuj kontrolę dostępu opartą na rolach RBAC, wymuszaj uwierzytelnianie wieloskładnikowe dla działań podwyższonego ryzyka i zabezpieczaj wrażliwe obszary za pomocą systemów DLP.
• 9:05
  Na przykład, jeśli agent musi przeszukać sieć, Puc zaleca użycie proxy z polityką DLP, aby zapobiec wyciekowi danych klientów do wyszukiwarek.
• 9:13
  Przy wyrzuceniu naturalnej dwudziestki RBAC i MFA utrzymują go w ryzach.
• 9:17
  Przy wyrzuceniu jedynki nadmierne uprawnienia zmieniają go w najszybszego nieumyślnego insajdera na świecie.
• 9:21
  Są jeszcze narzędzia. To aplikacje API i konektory, których agenci faktycznie używają do działania.
• 9:26
  Bez narzędzi tylko patrzą w próżnie.
• 9:27
  Z niewłaściwymi narzędziami wyrządzają więcej szkód niż pożytku, jak starzysta w pierwszy dzień z dostępem do środowiska produkcyjnego zamiast bezpiecznego pulpitu raportowego.
• 9:35
  Narzędzia określają zakres tego, czego agent może dotknąć.
• 9:38
  Microsoft tworzy tu zabezpieczenia, umieszczając konektory kopilota w kanałach kontrolnych, zamiast dawać agentowi bezpośredni dostęp.
• 9:44
  Dobra praktyka jest taka sama.
• 9:45
  Ogranicz zakres, sprawdź ustawienia domyślne i powiąż narzędzia zewnętrzne z logowaniem oraz DLP.
• 9:49
  Trzymaj zestaw narzędzi pod kontrolą, inaczej zbudujesz maszynę Ruba Goldberga, która bezmyślnie przykręca części do systemów, których nie powinna dotykać.
• 9:56
  Pomoże tu prosta mnemotechnika.
• 9:57
  Pamięć to doświadczenie, czyli to, co pracownik już zapamiętał.
• 10:00
  Uprawnienia to identyfikator określający, gdzie może się poruszać.
• 10:03
  Narzędzia to laptop i licencjonowane aplikacje, czyli to, czego może faktycznie użyć.
• 10:06
  Kompaktowe, ale zapada w pamięć.
• 10:08
  Analogia do wdrażania ludzi ma sens, ale w przypadku agentów stawka jest wyższa.
• 10:11
  Działania mniej widoczne i trudniejsze do późniejszego audytu.
• 10:13
  Równowaga ma znaczenie.
• 10:14
  Zrównoważona pamięć zapewnia ciągłość bez bez końca zapisywanych danych osobowych.
• 10:18
  Ograniczone uprawnienia dają im klucze potrzebne do pracy, nie otwierając przy tym całego skarbca.
• 10:22
  Odpowiednio dobrane narzędzia zwiększają produktywność bez zwiększania potencjalnego pola rażenia.
• 10:27
  Przesada, w którymkolwiek z tych obszarów jednym rzutem kości zmienia korzyść w ryzyko.
• 10:30
  I tak jak w prawdziwym życiu, nie unikniesz odpowiedzialności.
• 10:33
  Wytyczne Microsoftu dotyczące odpowiedzialnej sztucznej inteligencji przypominają, że agenci podnoszą poprzeczkę.
• 10:37
  Mniejsza tolerancja na błędy, bardziej rygorystyczna przejrzystość, ostrzejsza kontrola.
• 10:41
  To wciąż Ty odbierasz telefon, gdy błędne uprawnienie lub dostęp do narzędzia powoduje wyciek raportu.
• 10:45
  Przy naturalnej dwudziestce pamięć dostarcza inteligentniejszy kontekst.
• 10:48
  Uprawnienia są zgodne z polityką, a narzędzia odblokowują tylko bezpieczne działania.
• 10:52
  Przy jedynce agent pamięta złe instrukcje, ma za dużo kluczy i z pełną pewnością używa niewłaściwego konektora.
• 10:57
  To nie kwestia, czy to krzywa ryzyka, po której się poruszasz.
• 11:00
  I tu pojawia się część, którą większość pomija.
• 11:02
  Nawet jeśli poprawnie skonfigurujesz zestaw startowy, nie jesteś jeszcze bezpieczny.
• 11:05
  Te trzy elementy odsłaniają również cichsze, bardziej subtelne niebezpieczeństwo.
• 11:08
  Agent ostatecznie wie więcej od Ciebie o tym, co właśnie zrobił.
• 11:11
  A gdy nie widzisz uzasadnienia stojącego za jego wyborami, nowy rodzaj problemu zarządczego pojawia się tuż pod Twoim nosem.
• 11:18
  Niewidzialny problem, asymetria informacji.
• 11:21
  Czy zdarzyło Ci się, że pracownik wręczył Ci pracę z beztroskim?
• 11:23
  Nie martw się, zająłem się tym.
• 11:25
  Wyobraź sobie teraz to samo zdanie wypowiedziane przez agenta, a i tyle, że nie możesz zadać pytań uzupełniających ani podejrzeć procesu myślowego.
• 11:31
  Otrzymujesz wygładzony wynik, ładnie zapakowany, ale ścieżka decyzyjna wewnątrz jest nieprzejrzysta.
• 11:36
  To właśnie niewidzialny ból głowy, asymetria informacji.
• 11:38
  Agenci dysponują większą ilością danych i mocy obliczeniowej niż Ty kiedykolwiek, ale to Ty ponosisz odpowiedzialność za wyniki.
• 11:44
  California Management Review nazywa to podręcznikowym problemem pryncypał agent.
• 11:48
  System posiada prywatne informacje, których nie widzisz, podczas gdy Ty bierzesz na siebie odpowiedzialność.
• 11:52
  To tak, jakby Twój cyfrowy współpracownik rzucał kostką za ekranem i pokazywał Ci tylko ostateczny wynik, a nie modyfikatory, które dodał po drodze.
• 11:59
  A ten problem nie ogłasza się delikatnie.
• 12:01
  Agenci działają z pewnością siebie, nie asekurują się, nie stosują zastrzeżeń, nie pozwalają zobaczyć swoich szwów.
• 12:06
  Więc zostajesz, patrząc na gotowy raport, zastanawiając się, czy ten wygładzony artefakt jest wiarygodny, czy po cichu uszkodzony?
• 12:12
  Zanim się w to zagłębisz, zespoły na dalszym etapie mogą już budować pracę w oparciu o błąd.
• 12:16
  Weźmy częsty przypadek, agent błędnie klasyfikuje fakturę powiązaną z kluczowym kontraktem dostawcy jako priorytet niskiego rzędu.
• 12:23
  Na pierwszy rzut oka raport wygląda bezbłędnie, nic nie świeci się na czerwono.
• 12:26
  Miesiące później audyt puka do drzwi w sprawie nieuregulowanych płatności.
• 12:29
  Śledzisz to wstecz i odkrywasz błędną klasyfikację ukrytą na samym początku.
• 12:32
  To właśnie asymetria informacji w praktyce.
• 12:34
  Agent wiedział, co zrobił, ale Ty nie miałeś wglądu w jego rozumowanie.
• 12:37
  PUC podkreśla ten właśnie scenariusz w swoich rekomendacjach DLP.
• 12:41
  Zabezpieczenia takie jak dostęp oparty na rolach, kontrola klasyfikacji i progi eskalacji zapobiegają przerodzeniu się drobnego potknięcia w karę finansową.
• 12:49
  Ta dynamika bezpośrednio wpisuje się w problem pryncypał-agent.
• 12:52
  Ty, pryncypał, wyznaczasz cel, zorganizuj faktury dostawców.
• 12:55
  Agent optymalizuje pod kątem dosłownego posłuszeństwa, sklasyfikuj i zarchiwizuj.
• 13:00
  Nie widzi szerszej intencji, nie interpretuje niuansów i z pewnością nie rozważa implikacji strategicznych.
• 13:04
  To, co wydaje się sabotażem, jest często tylko ślepą lojalnością wobec instrukcji traktowanych zbyt dosłownie.
• 13:08
  Teraz dodajmy moralną strefę zgniotu. Gdy coś się psuje, odpowiedzialność spada na ciebie.
• 13:13
  Audytorzy nie winią niewidzialnego algorytmu, pytają, dlaczego tego nie wyłapałeś.
• 13:17
  Maszyna uchyla się od odpowiedzialności, podczas gdy człowiek przyjmuje na siebie uszczerbek na reputacji.
• 13:22
  Efekt jest jak bycie poduszką powietrzną w trakcie wypadku.
• 13:24
  Odczuwasz skutki i ponosisz konsekwencje, podczas gdy prawdziwy sprawca jedzie dalej, nieświadomy niczego.
• 13:28
  Co więc robisz?
• 13:29
  Nie możesz magicznie zajrzeć w głąb pełnego rozumowania modelu generatywnego, ale możesz zapewnić widoczność na jego obrzeżach.
• 13:35
  Krok pierwszy. Wymagaj szczegółowych logów i ścieżek pochodzenia danych.
• 13:39
  Nie iluzji wewnętrznych przemyśleń, lecz konkretnego zapisu tego, do jakich danych uzyskano dostęp, jakie akcje wywołano i w jakiej kolejności.
• 13:45
  Krok drugi. Wdrażaj panele przejrzystości.
• 13:48
  Ujawniają one kluczowe zmienne decyzyjne kto, co, kiedy, dzięki czemu możesz przynajmniej dostrzec zarys tego, jak powstał wynik.
• 13:54
  Krok trzeci. Wymagaj uzasadnień prostym językiem dla działań o dużym wpływie.
• 13:57
  CMR podkreśla to w kontekstach takich jak rekrutacja.
• 14:01
  Zmuszanie agentów do podawania czytelnych dla człowieka kryteriów każdej decyzji tworzy warstwę wyjaśnialności.
• 14:05
  Krok czwarty. Przetestuj swoich agentów metodą red teaming.
• 14:08
  Podsuwaj im dziwaczne przypadki testowe, celowo je psuj i dokumentuj wszystkie luki.
• 14:11
  Jeśli sam nie sprawdzisz tych błędów, ujawnią się one, gdy stawka będzie znacznie wyższa.
• 14:15
  Każde z tych działań mitygacyjnych nie rozwiązuje problemu asymetrii w całości, ale razem rozrzedzają mgłę.
• 14:20
  Dzienniki audytu dają moc rekonstrukcji, panele świadomość sytuacyjną, a obowiązkowe uzasadnienia zakotwiczają decyzje w języku, który możesz ocenić.
• 14:28
  Red teaming ujawnia martwe punkty, zanim zrobią to klienci lub organy regulacyjne.
• 14:31
  I jak podkreśla Microsoft, wprowadzenie zatwierdzeń przez człowieka w punktach eskalacji gwarantuje, że najryzykowniejsze decyzje trafią na biurko przed realizacją.
• 14:39
  Nie chodzi o dążenie do doskonałej przejrzystości, ponieważ rozumowanie generatywne zawsze będzie częściowo nieprzejrzyste.
• 14:44
  Chodzi o to, by mieć wystarczająco dużo danych powierzchniowych, aby monitorować wzorce, wyłapywać anomalie i egzekwować odpowiedzialność, zanim problemy wymkną się spod kontroli.
• 14:52
  Bez tych środków kończysz jako odpowiedzialny za niewidzialne wybory, których nigdy nie zatwierdziłeś, podczas gdy agenci szybko generują kolejne wyniki.
• 14:58
  Co prowadzi nas do prawdziwej decyzji, przed którą stoisz.
• 15:01
  Możesz zostawić te systemy bez ograniczeń i mieć nadzieję, że nic nie spłonie, albo zacząć traktować ich zachowanie jak politykę grupową, z zasadami, limitami i eskalacją od pierwszego dnia.
• 15:10
  Bo jeśli pominiesz warstwę zarządzania, chaos nie wydarzy się dopiero kiedyś.
• 15:14
  Pojawi się, gdy twój cyfrowy współpracownik po raz pierwszy ruszy na misję poboczną, której nigdy nie zatwierdziłeś.
• 15:19
  Zapobieganie agent o kalipsie.
• 15:21
  Zapobieganie temu, co lubię nazywać agent o kalipsą, nie wynika z paranoi.
• 15:24
  Chodzi o zadbanie o podstawy, które powstrzymają twoją flotę, a i przed zamianą w zagrożenie pożarowe.
• 15:28
  To warstwa taktyczna, w której spotykają się zarządzanie, ryzyko i infrastruktura.
• 15:32
  PWC przedstawia to jasno.
• 15:34
  Jeśli chcesz agentów, którzy skalują się, nie niszcząc twojego środowiska, potrzebujesz pięciu szybkich taktyk.
• 15:38
  Dostosuj nadzór, zaktualizuj zarządzanie ryzykiem, zbuduj infrastrukturę, wprowadź testy i monitoring oraz zawsze utrzymuj człowieka w pętli przy krytycznych decyzjach.
• 15:45
  Zacznij od ładu korporacyjnego.
• 15:47
  Obecne programy odpowiedzialnej sztucznej inteligencji zostały stworzone dla modeli, a nie dla autonomicznych pracowników.
• 15:51
  Musisz dostosować nadzór tak, aby komitety ryzyka szczebla zarządczego wyraźnie uwzględniały ryzyko związane z agentami.
• 15:54
  Agenci muszą mieć wbudowane reguły eskalacji.
• 15:57
  Gdy stawka osiągnie określony poziom, praca zostaje wstrzymana do momentu uzyskania zgody człowieka.
• 16:01
  Pomyśl o tym, jak odrzewie eskalacji w swoim systemie obsługi zgłoszeń.
• 16:04
  Przy naturalnym dwudziestka agent zamyka zgłoszenia przez cały dzień.
• 16:07
  Przy naturalnej jedynce wie, że musi się zatrzymać i poprosić o akceptację przed dotknięciem płac lub wrażliwej komunikacji zewnętrznej.
• 16:13
  Regulacje, takie jak Unijny Akt o sztucznej inteligencji EUA i ACT, tylko wzmacniają tę potrzebę.
• 16:17
  Formalizują one oczekiwania, że nadzór musi być wykazywalny, a ty musisz udokumentować, kto zatwierdził co i kiedy.
• 16:23
  Następnie zarządzanie ryzykiem.
• 16:24
  Agenci nie są równi pod względem ryzyka, więc przypisuj ich do poziomów, tak jak robisz to z systemami.
• 16:28
  Boty niskiego ryzyka, pracujące w wąskich siłosach, mogą działać szybko.
• 16:31
  Agenci o wysokiej autonomii, którzy mają dostęp do danych klientów lub rejestrów finansowych, wymagają dokładniejszej kontroli.
• 16:36
  Ramy operacyjne PWC są tutaj pragmatyczne.
• 16:38
  Monitoruj użycie, mierz autonomię względem potencjalnego wpływu i kieruj agentów wyższego szczebla przez wolniejsze cykle zatwierdzania i testowania.
• 16:47
  Jeśli bot wysyła płatności do dostawców, powinien posiadać zabezpieczenia i logowanie odporne na audyt.
• 16:52
  Infrastruktura to kolejny blok.
• 16:53
  Te narzędzia nie pojawiają się z powietrza.
• 16:55
  Potrzebujesz kontroli dostępu opartej na rolach RBAC, aby ograniczyć zakres działań agentów, uwierzytelniania wieloskładnikowego MFA,
• 17:00
  przy podnoszeniu uprawnień ochrony przed wyciekiem danych DLP oraz anonimizacji, aby logi nie przenosiły identyfikatorów użytkowników do niewłaściwego archiwum.
• 17:06
  Traktuj każdą tożsamość agenta jak konto ludzkie.
• 17:09
  Zasada minimalnych uprawnień musi być rejestrowana i weryfikowana.
• 17:11
  Przyznanie agentowi nieograniczonych uprawnień tylko dlatego, że przyspieszyło to testy to w automatyzacji odpowiednik nadania tymczasowych praw administratora domeny.
• 17:17
  To nie jest innowacja, to zgłoszenie naruszenia, które tylko czeka na realizację.
• 17:21
  Teraz testowanie i monitorowanie.
• 17:22
  Załóż, że wyniki w końcu będą błędne.
• 17:24
  Twoim zadaniem jest wyłapanie ich, zanim wyrządzą szkody.
• 17:26
  Oznacza to wykrywanie anomalii w czasie rzeczywistym, aby sygnalizować dziwne odchylenia w zachowaniu.
• 17:30
  Oznacza to testy penetracyjne red teaming Twoich agentów, a nie tylko firewali.
• 17:33
  Testuj ich dziwnymi danymi wejściowymi, aby znaleźć luki, gdy stawka jest niska.
• 17:37
  Ciągłe monitorowanie również ma znaczenie.
• 17:38
  Logi dostępu do danych, podjęte działania i częstotliwość operacji wysokiego ryzyka powinny być regularnie przeglądane.
• 17:43
  Zarówno PUC, jak i Microsoft wskazują, że ścieżki audytu i regularne przeglądy to Twój wehikuł czasu.
• 17:48
  Bez nich nie wiesz, co agent faktycznie zrobił.
• 17:50
  A piąta taktyka – nadzór ludzki nigdy nie znika.
• 17:53
  Nawet przy najlepszej orkiestracji i zabezpieczeniach, decyzje o wysokiej stawce nadal wymagają człowieka.
• 17:57
  Ustal wyraźne progi.
• 17:59
  Jeśli agent zatwierdza transakcję powyżej określonej kwoty, edytuje wrażliwe rekordy lub inicjuje komunikację zewnętrzną dotyczącą danych regulowanych, musi się zatrzymać i przekazać kontrolę Tobie.
• 18:07
  System Kopilot firmy Microsoft ma wbudowane takie podejście.
• 18:10
  Sztuczna inteligencja może przygotować projekt wiadomości, ale to człowiek klika – wyślij.
• 18:14
  Ten ostatni ruch to zabezpieczenie między produktywnością a ryzykiem naruszenia przepisów.
• 18:18
  Kiedy skalujesz liczbę agentów, staje się to orkiestracją.
• 18:21
  Jeden bot to nic trudnego.
• 18:22
  Rój agentów może prowadzić do nieprzewidzianych dziwnych zachowań, naśladowania się nawzajem czy zapętlania w dziwnych procesach.
• 18:27
  Bez kontroli wygląda to jak niezarządzany, wymykający się spod kontroli wątek na slaku.
• 18:30
  Antidotum jest orkiestrator, jeden koordynujący agent lub centralny zespół ludzkich recenzentów.
• 18:35
  Pomyśl o tym jak o dyrygencie, który dba, by instrumenty ze sobą nie kolidowały.
• 18:38
  Praktyczny pierwszy krok zacznij od wzorca pojedynczego orkiestratora, zanim otworzysz śluzy dla wieloagentowych rojów.
• 18:44
  Ta warstwa potrafi koordynować specjalistów, płumić pętle zwrotne i dostosowywać je do celów biznesowych, zamiast pozwalać im improwizować własne zasady.
• 18:51
  Żadna z tych kontroli nie istnieje po to, by cię spowalniać.
• 18:54
  Wdrożone właściwie pozwalają bezpiecznie skalować działania.
• 18:57
  PUC, BCG, McKinsey, wszyscy zgadzają się w tym jednym punkcie.
• 19:00
  Zarządzań i orkiestrowani agenci stają się mnożnikiem siły.
• 19:03
  Usuwają powtarzalną pracę, łączą silosy i pozwalają twojemu ludzkiemu zespołowi skupić się na bardziej wartościowych działaniach strategicznych.
• 19:09
  Przy idealnym wykonaniu oznacza to większą przepustowość, mniejszy nakład pracy ręcznej i pełną zgodność z przepisami wbudowaną w proces.
• 19:14
  Ograniczanie agentów to nieczarnowictwo, to instalowanie barier, dzięki którym czerpiesz realne korzyści, unikając najgorszych scenariuszy.
• 19:20
  Kontroluj uprawnienia do pamięci i narzędzi, a zmniejszysz ukryte ryzyko.
• 19:23
  Dostosuj ład korporacyjny, zarządzanie ryzykiem, infrastrukturę, monitoring i nadzór, a zachowasz pełną przejrzystość zarządzania.
• 19:29
  Zrób to wszystko, a to, co wyglądało na chaos, stanie się fundamentem szybszej, tańszej i bardziej zgodnej z przepisami pracy.
• 19:34
  I ostatecznie, cała ta odpowiedzialność spoczywa na tobie.
• 19:37
  To nie bezosobowe narzędzia, to współpracownicy bez akt osobowych, co oznacza, że prawdziwym testem nie jest to, czy agenci zastąpią twoją rolę,
• 19:44
  ale czy potrafisz pokierować ich autonomią z takim samym nadzorem, jaki stosujesz wobec ludzi, dbając o równowagę zachęt.
• 19:50
  Oto podsumowanie.
• 19:51
  Agenci nie zastępują menedżerów, zmuszają cię do udoskonalenia samego zarządzania.
• 19:55
  Badania są jasne, to po prostu problem pryncypał agent w nowym wydaniu.
• 19:58
  Oni mają dane, ty masz odpowiedzialność, a jedynym realnym rozwiązaniem jest kierowana autonomia plus stały nadzór.
• 20:04
  Oto twoje pierwsze trzy ruchy.
• 20:06
  Zrób inwentaryzację agentów, podziel ich według ryzyka i autonomii, ustaw progi eskalacji wymagające zgody człowieka
• 20:10
  i przeprowadź jeden test typu Red Team lub analizę przypadku brzekowego na krytycznym agencie.
• 20:15
  To twoje zadanie startowe.
• 20:16
  Jeśli ta lista była pomocna, zasubskrybuj kanał i daj znać w komentarzu, którego agenta sprawdzisz w pierwszej kolejności.
• 20:21
  Przy naturalnej dwudziestce zapobiegniesz Chaosowi, zanim jeszcze powstanie.
• 20:24
  Przy naturalnej jedynce, cóż, przynajmniej będziesz wiedzieć, gdzie wybuchł pożar.