Latest / M365.FM – podcast o Microsoft 365, Copilot i AI po polsku / Prompt injection i zarządzanie AI: jak chronić przepływy pracy w Microsoft 365 i Power Platform (Dubbing AI)

Transcript

Prompt injection i zarządzanie AI: jak chronić przepływy pracy w Microsoft 365 i Power Platform (Dubbing AI) · M365.FM – podcast o Microsoft 365, Copilot i AI po polsku

• 0:00
  Wyobraź sobie, że wdrażasz hotbota, aby pomóc pracownikom w codziennych zadaniach, a ten w ciągu kilku minut zaczyna sugerować działania stronnicze, wprowadzające w błąd lub zupełnie nieprzydatne dla Twoich klientów.
• 0:08
  To nie paranoja z filmów science fiction, to sytuacja, która ma miejsce, gdy brakuje zabezpieczeń odpowiedzialnej sztucznej inteligencji.
• 0:13
  Odpowiedzialna sztuczna inteligencja skupia się na sprawiedliwości, przejrzystości, prywatności i odpowiedzialności.
• 0:18
  To pasy bezpieczeństwa dla Twoich cyfrowych drugich pilotów.
• 0:21
  Zmniejsza to ryzyko, jeśli faktycznie wprowadzisz te zasady w życie.
• 0:23
  Skutki, naruszenia zasad, brak zaufania klientów i kadra zarządzająca w trybie paniki.
• 0:28
  W tej sesji zademonstruję błędy wynikające z wstrzykiwania poleceń i pokażę kroki z zakresu zarządzania, które możesz zastosować w przepływach pracy Power Platform i Microsoft 365, ponieważ zagrożenie jest blisko.
• 0:37
  Zaczyna się w momencie, gdy asystent AI wychodzi poza scenariusz.
• 0:40
  Kiedy AI wychodzi poza scenariusz, wyobraź sobie, że wdrażasz asystenta planowania, aby uporządkować swój kalendarz.
• 0:45
  Powinien on zmieniać terminy spotkań, oznaczać pilne notatki i panować nad chaosem.
• 0:49
  Zamiast tego zaczyna faworyzować, decydując, którzy współpracownicy są ważniejsi i po cichu usuwając innych z zaproszeń.
• 0:54
  A co gorsza, grzebie ważną wiadomość od twojego menedżera pod cyfrowym odpowiednikiem spamu.
• 0:59
  Prosiłeś o niezawodny zegar, a otrzymałeś coś w rodzaju dziwacznego członka załogi, który wymyśla zasady, których nikt nie zatwierdził.
• 1:04
  Potraktuj tego asystenta jak statek na morzu.
• 1:07
  Statek może lśnić, silnik może pracować pełną mocą, ale bez systemu nawigacji dryfuje ślepo przez mgłę.
• 1:13
  A i bez zabezpieczeń jest dokładnie tym ruchem bez kierunku, napędem bez kompasu.
• 1:18
  I chociaż zwykłe błędy bolą, prawdziwe niebezpieczeństwo pojawia się, gdy ktoś przejmuje stery.
• 1:23
  W tym miejscu pojawia się wstrzykiwanie poleceń Prompt Injection.
• 1:26
  To zbuntowany kapitan wślizgujący się na pokład, przemycający polecenie, które brzmi oficjalnie, ale całkowicie zmienia kurs statku.
• 1:31
  Jedno krótkie wyrażenie ukryte w prośbie może skłonić twojego uprzejmego planistę do wycieku informacji, szerzenia uprzedzeń lub powtarzania bzdur.
• 1:37
  To nie science fiction, to realne ryzyko wrogich danych wejściowych, które eksperci nazywają wstrzykiwaniem poleceń.
• 1:42
  Atakujący używają starannie przygotowanych tekstów, aby ominąć zasady bezpieczeństwa, a system wykonuje je, ponieważ nie potrafi odróżnić sabotażysty od zaufanego pasażera.
• 1:50
  Oto dlaczego tak się dzieje.
• 1:51
  Większość modeli podstawowych potraktuje każdą poprawnie sformułowaną instrukcję jako ważną.
• 1:55
  Nie wykrywają one motywów ani intencji bez dodatkowych warstw bezpieczeństwa.
• 1:59
  Dopóki organizacja nie doda zabezpieczeń, filtrów ochronnych i kontroli z udziałem człowieka, a i wykonuje polecenia z gorliwością maszyny zbudowanej do posłuszeństwa.
• 2:06
  Poproś ją o podsumowanie spotkania, a jeśli w tej prośbie ukryjesz polecenie wydrukowania pliku z prywatnym planem, potraktuje oba zadania tak samo.
• 2:13
  Nie rozważa etyki, nie podejrzewa oszustwa, metafora celna dobrze tu pasuje.
• 2:18
  To jak przemknięcie przez punkt kontrolny z sfałszowanymi dokumentami oznaczonymi jako autoryzowane.
• 2:21
  Zabezpieczenia istnieją, ale nie zawsze są wystarczające.
• 2:24
  Sprytny tekst potrafi zmusić reguły do ustąpienia, a ponieważ dane wyjściowe są niedeterministyczne, nigdy nie ma tej samej odpowiedzi dwa razy, zagrożenie rośnie.
• 2:31
  Atakujący może badać model, aż w końcu uzyska pożądaną odpowiedź, jak rzucanie kostką do skutku.
• 2:36
  Asystent stworzony, by ci służyć, może w mgnieniu oka stać się błaznem.
• 2:40
  Minutę temu ustalał terminy w kalendarzu.
• 2:42
  Za chwilę wymyśla kryteria rekrutacji lub ujawnia poufne nazwiska w niewłaściwym kontekście.
• 2:46
  Ład staje się tu kluczowy, ponieważ przejście od użyteczności do chaosu nie jest stopniowe.
• 2:51
  Jest natychmiastowe.
• 2:52
  Szkody nie kończą się na jednej skrzynce odbiorczej.
• 2:55
  Złe wyniki przenoszą się przez procesy pracy szybciej niż jakikolwiek ludzki błąd.
• 2:58
  Błędna sugestia przeradza się w kaskadę problemów.
• 3:01
  Zła rada wpływającą na decyzję.
• 3:03
  Błędne etykiety szerzące dezinformacje i uprzedzenia powielane z prędkością maszyny.
• 3:07
  Bez nadzoru jeden podchwytliwy prompt wywołuje pożar.
• 3:09
  Mitygacja jest możliwa i nie opiera się na życzeniowym myśleniu.
• 3:12
  Dostawcy i firmy stosują już wielowarstwową obronę, automatyczne filtry,
• 3:16
  uczenie ze wzmocnieniem oraz ludzi sprawdzających, co przedostało się przez zabezpieczenia.
• 3:21
  TILS na przykład zaleca testowanie nowych kopilotów w izolowanych środowiskach,
• 3:25
  które ograniczają zasięg ewentualnej awarii, zanim trafią do prawdziwych użytkowników.
• 3:31
  Połącz to z ciągłymi testami penetracyjnymi, gdzie ludzie stale szukają luk w systemie,
• 3:35
  a stworzysz bufor bezpieczeństwa.
• 3:37
  Automatyczne zabezpieczenia wykonują ciężką pracę,
• 3:39
  ale weryfikacja przez człowieka zapewnia, że model pozostaje zgodny z wytycznymi,
• 3:43
  gdy proste reguły zawodzą.
• 3:44
  Oto wzorzec Obserwuj, Testuj, Weryfikuj, Ograniczaj.
• 3:48
  Jeśli zostawisz stery bez opieki, SIPO płynie tam, gdzie skieruje ją prowokacja.
• 3:52
  Jeśli wprowadzisz nadzór, ograniczysz ryzyko katastrofy.
• 3:55
  Metafora statku dobrze to oddaje.
• 3:57
  Sterowanie jest możliwe, ale tylko gdy ktoś sprawdza kompas.
• 4:00
  To prowadzi do kolejnego wyzwania.
• 4:02
  Nawet jeśli trzymasz intruzów z dala i masz włączone filtry, napotykasz inną komplikację.
• 4:07
  Nieprzewidywalność wpisaną w same systemy.
• 4:10
  Nie z powodu sabotażu, lecz ze sposobu, w jaki te modele generują odpowiedzi.
• 4:14
  Determinizm kontra niedeterminizm, ukryty przełącznik.
• 4:18
  Wyobraź sobie, że wpisujesz 2 plus 2 w kalkulator i zamiast oczekiwanej czwórki odpowiada ci z uśmieszkiem 42.
• 4:25
  Dziwaczne, prawda?
• 4:26
  Dziwi nas to, bo kalkulatory zbudowane są na żelaznym determinizmie.
• 4:29
  Podaj im ten sam wkład tysiąc razy, a zawsze otrzymasz ten sam wynik.
• 4:33
  Ta przewidywalność jest istotą ich działania.
• 4:35
  Teraz zestaw to z nową klasą narzędzi C.
• 4:37
  Nie zawsze trafiają w ten sam punkt dwa razy.
• 4:40
  Ich wyniki są zmienne.
• 4:41
  Czasem ta zmienność wydaje się błyskotliwa, a innym razem popada w nonsens.
• 4:45
  To właśnie ten ukryty przełącznik.
• 4:46
  Zachowanie deterministyczne kontra niedeterministyczne.
• 4:49
  W systemach deterministycznych, takich jak arkusze kalkulacyjne czy formuły oparte na regułach, wynik nigdy się nie zmienia.
• 4:54
  Wpisz siódemkę w poniedziałek lub sobotę, a maszyna wyda ten sam werdykt.
• 4:57
  Wolna od wahań nastroju czy kreatywności.
• 5:00
  To mechaniczna lojalność powtarzająca ten sam ruch w kółko.
• 5:03
  Modele niedeterministyczne funkcjonują inaczej.
• 5:05
  Przekazujesz im monit i zamiast podążać wytyczoną ścieżką, sprawdzają one różne możliwości.
• 5:10
  To próbkowanie wraz z procesami stochastycznymi, aktualizacjami modeli, a nawet driftem danych, sprawia, że wyniki są zróżnicowane.
• 5:17
  To jak przygotowanie sceny dla improwizacji.
• 5:19
  Piszesz scenę, ale wykonawca wymyśla puentę w locie.
• 5:22
  Czasami działa to świetnie, czasami zbacza w stronę niespójności.
• 5:26
  Klasyczna automatyzacja i przepływy pracy oparte na regułach, jak wiele rozwiązań w Power Platform, leżą bliżej strony deterministycznej.
• 5:33
  Ustawiasz warunek i gdy wyzwalacz zadziała, wykonuje on zdefiniowaną regułę z maszynową precyzją.
• 5:37
  Ta przewidywalność zapewnia stabilność zgodności przepływów danych i ścieżek audytu.
• 5:41
  Wiesz, co się stanie, ponieważ kroki są sztywno ustalone.
• 5:44
  Generatywne kopiloty dla odmiany zamieniają każde wejście w otwartą przestrzeń do interpretacji.
• 5:49
  Będą podsumowywać, łączyć i przeformułowywać treści w sposób, który często wydaje się ludzki.
• 5:52
  Płynność jest ich urokiem, ale stanowi też ryzyko, ponieważ właśnie ta płynność pozwala na nieprzewidywalność w kontekstach wymagających spójności.
• 5:59
  Wyobraź sobie grupę improwizacyjną na scenie.
• 6:02
  Dajesz im temat, zatwierdzenie budżetu.
• 6:04
  Jeden aktor zaczyna sprytny żart o oszczędzaniu, inny schodzi na wątek o bankietach i nagle przedstawienie ma niewiele wspólnego z twoją pierwotną prośbą.
• 6:11
  To właśnie model niedeterministyczny w trakcie działania.
• 6:13
  Te wahania nie są oznakami złego projektu.
• 6:16
  Są wbudowane w sposób, w jaki duże modele językowe generują język, badając wiele ścieżek, a nie tylko jedną.
• 6:21
  Haczyk jest oczywisty.
• 6:23
  Kreatywność nie zawsze oznacza dokładność, a w procesach biznesowych dokładność jest często jedyną walutą, która się liczy.
• 6:28
  Zastosujmy to teraz do finansów.
• 6:29
  Załóżmy, że twoje narzędzie do sprawdzania zdolności kredytowej oparte na A i ocenia wniosek jako zatwierdzony.
• 6:33
  Te same informacje, wprowadzone ponownie następnego dnia, tym razem skutkują odrzuceniem.
• 6:37
  Wnioskodawca czuje się zdezorientowany.
• 6:39
  Regulator widzi niespójność, która pachnie dyskryminacją.
• 6:42
  To, co się dzieje, to dryft.
• 6:43
  Wyniki zmieniają się bez przejrzystego powodu, ponieważ systemy niedeterministyczne mogą różnić się w czasie.
• 6:48
  W przeciwieństwie do ludzi nie można po prostu zapytać modelu, co się zmieniło.
• 6:52
  I tutaj zaufanie eroduje najszybciej, gdy rozumowanie znika za nieprzejrzystym wynikiem.
• 6:56
  W środowisku produkcyjnym dryft szybko się pogłębia.
• 6:59
  Przepływ pracy zatwierdzony w celu redukcji stronniczości w jednym miesiącu może w następnym zmierzać w przeciwnym kierunku.
• 7:04
  Zmiany, które wydają się niewielkie w izolacji, sumują się do naruszeń, gdy są powiększone w setkach przypadków.
• 7:10
  Regulatorzy, w przeciwieństwie do rozbawionej publiczności na wieczorze improwizacji, wymagają stabilności, audytowalności i jasnych wyjaśnień.
• 7:16
  Nie akceptują niedeterminizmu jako elementu uroku.
• 7:19
  Dlatego właśnie zabezpieczenia są tak ważne.
• 7:21
  Organy regulacyjne i standardy wymagają audytowalności, dokumentacji modelu oraz monitorowania.
• 7:25
  Wdruż więc w swoje rozwiązania logi i środki zapewniające wyjaśnialność.
• 7:28
  Bez nich nawet niewielkie zmiany stają się obciążeniem, kary finansowe rosną, reputacja cierpi, a zaufanie klientów znika.
• 7:35
  Ład korporacyjny jest ludzkim sędzią w tej nieprzewidywalnej grze.
• 7:38
  Wyobraź sobie ponownie tych improwizatorów, kręcących się w każdą stronę.
• 7:41
  Jeśli nikt nie wyznaczy granic, występ zawali się pod ciężarem własnego chaosu.
• 7:44
  Sędzia jednak trzyma ich w ryzach.
• 7:46
  Trzymaj się tego motywu, podążaj za tą myślą.
• 7:49
  W przypadku sztucznej inteligencji ład działa tak samo.
• 7:52
  Nie tłumi innowacji, przekształca przypadkowość w wydajność, która wciąż trzyma się scenariusza.
• 7:57
  Niedeterminizm pozostaje, ale działa w wyznaczonych ramach.
• 8:00
  Na tym polega równowaga.
• 8:01
  Nie zmusisz kopilota do zachowywania się jak kalkulator, nie do tego został stworzony.
• 8:05
  Możesz jednak otoczyć go siatką bezpieczeństwa.
• 8:07
  Nadzór człowieka, systemy monitorowania i ramy zarządzania pełnią rolę takiej sieci.
• 8:11
  Dzięki nim model nadal improwizuje, ale nie zepsuje przedstawienia.
• 8:14
  Bez nich dryf pozostaje niekontrolowany, a zespoły do spraw.
• 8:16
  Zgodności muszą sprzątać po decyzjach, których nikt nie potrafi uzasadnić.
• 8:19
  Stawka jest oczywista.
• 8:21
  Nieprzewidywalność jest neutralna.
• 8:22
  Kształtuje wyniki, które wpływają na kredyty, pracę czy opiekę zdrowotną.
• 8:25
  A gdy wyniki mają znaczenie w świecie rzeczywistym, wkraczają organy regulacyjne.
• 8:29
  Co prowadzi nas do kolejnej granicy, zbliżającego się nadejścia zewnętrznych zasad, które nie tylko sugerują nadzór, ale go nakazują.
• 8:35
  Unijny akt o sztucznej inteligencji nadlatująca asteroida.
• 8:38
  Wyobraź sobie, że zbudowałeś błyszczący, nowy projekt, a i cyfrowe miasto z zadbanymi ulicami i tętniącą aktywnością.
• 8:44
  Dzielnice danych, mosty integracji, drapacze chmur inteligentnych funkcji.
• 8:47
  Wszystko wydaje się solidne, a potem z dnia na dzień pojawia się unijny akt o sztucznej inteligencji niczym zbiór przepisów zagospodarowania zrzuconych z orbity.
• 8:54
  Całe bloki Twojego miasta są teraz oznaczone jako regulowane, niektóre jako ściśle monitorowane, inne po prostu zakazane, jeśli przekraczają granice manipulacji lub szkodliwości.
• 9:00
  To nie jest opcjonalne, to legislacja, a Twoje miasto musi się przebudować niezależnie od tego, czy to planowałeś, czy nie.
• 9:05
  U podstaw tych zasad leży kategoryzacja.
• 9:08
  Systemy są przypisywane do poziomów ryzyka minimalnego, ograniczonego, wysokiego lub niedopuszczalnego.
• 9:12
  Minimalne może obejmować hotbota pomagającego klientom z często zadawanymi pytaniami.
• 9:16
  Wysokie ryzyko obejmuje narzędzia rekrutacyjne, oceny zdolności kredytowej i monitorowanie miejsca pracy.
• 9:21
  Niedopuszczalne obejmuje manipulacyjne lub niebezpieczne zastosowania, które są skutecznie zakazane.
• 9:25
  To nie tylko etykiety, one bezpośrednio przekładają się na obowiązki.
• 9:28
  Jeśli zaklasyfikowano system jako wysokiego ryzyka, musisz zapewnić przejrzystość i wyjaśnialność, prowadzić szczegółowe logi gotowe do audytu oraz wdrożyć nadzór ludzki.
• 9:34
  Nagle od Twojego błyskotliwego nowego miasta oczekuje się nie tylko sprawnego działania, ale szczegółowego dowodu na to, jak i dlaczego działa.
• 9:40
  Dla programistów i twórców rozwiązań to gwałtowny zwrot.
• 9:43
  Wczoraj funkcje można było dodawać do aplikacji w tempie sprintu.
• 9:46
  Dziś te same funkcje mogą wymagać kontroli zgodności z przepisami jeszcze przed pierwszą prezentacją.
• 9:50
  Aplikacja rekrutacyjna porządkująca CV na platformie Power, niegdyś tylko sprytny oszczędzacz czasu, nagle trafia do kategorii wysokiego ryzyka.
• 9:55
  Nic się w niej nie zepsuło.
• 9:57
  Po prostu wpływa na ludzi w sposób, który ustawa uznaje za wrażliwy, a to zmienia stawkę.
• 10:04
  Rejestry sposobu podejmowania decyzji, a niemglistą listę w prezentacji.
• 10:08
  Możliwość audytu wymaga, aby każda ścieżka decyzyjna była zapisana i dostępna, gotowa do kontroli przez organy regulacyjne.
• 10:14
  Nadzór ludzki oznacza odpowiedzialność na żywo prawdziwych ludzi obserwujących system zdolnych do interwencji, gdy model zboczy z kursu.
• 10:20
  To nie są lekkie wytyczne, lecz egzekwowalne warunki.
• 10:23
  Szybkie prototypy przekształcają się w nadzorowane wdrożenia, wymagające zatwierdzenia zgodności na każdym kroku.
• 10:27
  Szybkość ustępuje miejsca strukturze.
• 10:29
  Pomyśl o ustawie mniej jak o biurokracji, a bardziej jak o zasadach dostarczania tlenu na statku kosmicznym.
• 10:33
  Możesz przewracać oczami, zakładając maskę przy spokojnym locie, ale podczas turbulencji to jedyna rzecz, która utrzymuje załogę przy życiu.
• 10:39
  Z ustawą jest tak samo.
• 10:41
  Zasady wydają się uciążliwe, dopóki nie przypomnisz sobie, dlaczego istnieją, bo jedno potknięcie może zdusić zaufanie w całej branży.
• 10:46
  A oto krytyczne ostrzeżenie.
• 10:48
  Nie możesz odkładać zgodności na później.
• 10:50
  Ustawa nakłada obowiązki już teraz, a późniejsze wdrażanie rejestrów, kontroli i nadzoru będzie droższe niż uwzględnienie ich na etapie projektowania.
• 10:57
  Konsekwencje ignorowania tych wymagań to nie tylko kwestie finansowe.
• 11:01
  Kary bolą, to fakt, ale reputację trudniej naprawić.
• 11:04
  Gdy klienci odkryją, że Twoje narzędzie przekroczyło czerwoną linię, zaufanie do całej firmy znika.
• 11:08
  Nie naprawisz tego aktualizacją.
• 11:10
  Zaufanie publiczne jest kruche i gdy pęka, użytkownicy odchodzą gdzie indziej.
• 11:14
  Największa kara nie jest zapisana w prawie, jest zapisana w zachowaniu klientów.
• 11:17
  Oto więc niewygodne pytanie dotyczące inwentaryzacji.
• 11:20
  Czy w ogóle wiesz, które z Twoich funkcji AI kwalifikują się jako wysokiego ryzyka?
• 11:23
  Ten selektor CV to narzędzie do przewidywania produktywności?
• 11:26
  Jeśli dotykają wrażliwych obszarów takich jak zatrudnienie czy perspektywy finansowe, ustawa się nimi interesuje.
• 11:30
  I nie ma znaczenia, czy uważasz je za nieszkodliwych pomocników.
• 11:33
  Klasyfikacja niesie ze sobą obowiązki, niezależnie od tego, czy je uznajesz, czy nie.
• 11:36
  Mądre organizacje zaczynają od inwentaryzacji, katalogując, które funkcje gdzie się znajdują, zanim regulatorzy każą im za niesłono zapłacić.
• 11:42
  To jest prawdziwy zwrot akcji.
• 11:43
  Ustawa nie zaleca łagodnie odpowiedzialnego, a i ona go wymaga.
• 11:46
  Ład organizacyjny nie jest już opcjonalnym, dodatkiem jest wpisany w prawo.
• 11:50
  Albo projektujesz odpowiedzialnie od samych podstaw, albo prawo wymusi odpowiedzialność z zewnątrz, z karami i audytorami w pakiecie.
• 11:57
  W tym sensie asteroida już uderzyła.
• 11:59
  Nie da się jej odepchnąć.
• 12:01
  Możesz jedynie osłonić się przed skutkami i zadbać o to, by Twoje miasto pozostało zdatne do życia.
• 12:04
  Co rodzi praktyczne pytanie, jakie tarcze masz pod ręką?
• 12:07
  Bo w tej sytuacji przetrwanie uderzenia nie zależy od szczęścia, lecz od użycia zabezpieczeń, które już masz w swoim panelu sterowania.
• 12:14
  Tarcze i zabezpieczenia ekosystemu Microsoft.
• 12:17
  W ekosystemie Microsoft tarcze są już wbudowane w statek.
• 12:20
  Wystarczy je tylko włączyć.
• 12:22
  Microsoft 365 i Power Platform oferują narzędzia ładu korporacyjnego, które zbyt często pozostają niezauważone, ukryte, jakby były opcjonalnymi dodatkami.
• 12:29
  To nie ozdoby, lecz poszycie strukturalne, które chroni Twoje systemy, gdy pojawiają się regulacje i ryzyko.
• 12:34
  Niebezpieczeństwo pojawia się, gdy zespoły rzucają okiem na te pulpity, wzruszają ramionami i przechodzą dalej.
• 12:38
  Bo to nie są opcjonalne przełączniki, to sprzęt zapewniający przetrwanie.
• 12:41
  Zacznij od widoczności.
• 12:42
  Microsoft 365 i Power Platform zawierają funkcje nadzoru, które pozwalają śledzić zachowanie modeli, rejestrować decyzje i przedstawiać wyjaśnienia prostym językiem.
• 12:50
  Nie trzeba polegać na czarnej skrzynce, która wypluwa niezrozumiałe werdykty.
• 12:53
  Otrzymujesz realną pętlę zwrotną sygnały na konsoli, gdy tylko algorytm zbacza z kursu.
• 12:57
  Ta różnica to granica między sterowaniem na oślep, a nawigacją za pomocą instrumentów, które dokładnie wskazują, kiedy dryfujesz.
• 13:03
  Następnie jest przejrzystość.
• 13:04
  Niektórzy dostawcy, jak AWS, udostępniają karty usług AI dokumentujące zastosowanie i ograniczenia modeli.
• 13:09
  Microsoft podchodzi do tego inaczej, dzięki swoim standardom odpowiedzialnej sztucznej inteligencji i narzędziom, takim jak Pulpit Responsible AI.
• 13:15
  Zapewniają one praktykom raporty wyjaśnialności, notatki o wydajności i dowody odpowiedzialnego projektowania.
• 13:20
  Pomyśl o tym jak o drugim pilocie, który opisuje swoje rozumowanie zamiast tylko podawać Ci gotowy plan.
• 13:25
  Widzisz każde rozważenie, a nie tylko końcowy rezultat.
• 13:27
  Jeśli chodzi o ochronę na poziomie modelu, pamiętaj o jednym.
• 13:30
  Wszyscy dostawcy zapewniają jakieś formy zabezpieczeń.
• 13:32
  W środowisku Microsoft znajdziesz kontrolki zasad pulpity wyjaśnialności i dzienniki audytu, które pełnią tę samą rolę, blokując złośliwe próby wejścia i filtrując wyniki, zanim przerodzą się w chaos.
• 13:42
  Jeśli chodzi o samą wyjaśnialność, istnieją uznane metody jak SHAP lub narzędzia specyficzne dla dostawcy, takie jak Sitchmaker Clarify.
• 13:48
  W świecie Microsoftu tę rolę pełni Pulpit Responsible AI, dostarczając jasne raporty na temat tego, jakie zmienne wpłynęły na wybór modelu.
• 13:55
  Dzięki nim magiczna sztuczka decyzji AI przestaje być przerażającą iluzją.
• 13:58
  Widzisz, jakie dane wejściowe miały znaczenie i możesz ocenić, czy wynik był sprawiedliwy.
• 14:02
  Audytorzy otrzymują sprawdzalne dowody, a użytkownicy zyskują pewność, że model nie wyczarowuje bzdur z powietrza.
• 14:07
  A na koniec przychodzi prosta, lecz kluczowa siatka bezpieczeństwa – ochrona danych.
• 14:11
  Włącz zapobieganie utracie danych, aby chronić poufne informacje i połącz to z przechowywaniem logów oraz ścieżkami audytu.
• 14:19
  Zbiorczo działają one jak Twoja czarna skrzynka.
• 14:21
  Każde działanie i każde odstępstwo są katalokołem, aby można było prześledzić błędy, gdy wystąpią.
• 14:26
  Pomiń to, a zostaniesz z niczym, gdy błędy zaczną się nawarstwiać.
• 14:29
  Korzyści nie są abstrakcyjne.
• 14:31
  Rozważmy podstawową aplikację PowerApp stworzoną za pomocą AI Builder.
• 14:34
  We wczesnych wersjach pobierała ona więcej danych osobowych, niż jakakolwiek organizacja mogłaby uzasadnić.
• 14:38
  Nazwiska, rekordy, poufne pola były odsłonięte.
• 14:41
  Gdy aktywowano ustawienia zgodności, napływ danych ustał, granice ochrony zostały wzmocnione.
• 14:44
  Aplikacja nadal działała, a zasady prywatności były przestrzegane.
• 14:47
  Architektura nie została zburzona i zbudowana od nowa.
• 14:50
  Dostosowano ją, włączając zabezpieczenia, które były dostępne przez cały czas.
• 14:53
  Na wczesnych etapach wdrażania warto przyjąć inną praktykę odizolowane środowiska typu World Gardens.
• 14:59
  Testując kopiloty w kontrolowanej i audytowalnej piaskownicy,
• 15:01
  ograniczasz nieoczekiwane zachowania do bezpiecznej strefy przed udostępnieniem ich w kluczowych procesach biznesowych.
• 15:06
  To poligon doświadczalny z murami na tyle wysokimi, by błędy nie przedostały się do systemów produkcyjnych.
• 15:11
  Połącz to z solidnym monitorowaniem, a organizacja wyłapie błędy, zanim staną się nagłówkami w prasie.
• 15:15
  Pulpity nawigacyjne ładu korporacyjnego spajają to wszystko w całość.
• 15:18
  To nie tylko ekrany statusu, dają one zespołom aktywny nadzór.
• 15:21
  Przełożeni mogą kwestionować, zatwierdzać lub wetować wyniki, a i w czasie rzeczywistym.
• 15:25
  To egzekwowanie zasady człowiek w pętli, wbudowany w system.
• 15:28
  Bez takiego nadzoru automatyzacja działa swobodnie, dopóki nie zderzy się z naruszeniem zasad.
• 15:32
  Dzięki pulpitom nawigacyjnym ludzie zasiadają w wieży kontrolnej,
• 15:35
  koordynując każdy system, a i niczym samoloty w ruchliwej przestrzeni powietrznej.
• 15:38
  Zamiast chaosu w powietrzu, zyskujesz zsynchronizowany, zarządzany przepływ.
• 15:42
  I w tym tkwi punkt zwrotny. Gdy organizacje zaczynają postrzegać te systemy jako zabezpieczenia,
• 15:46
  zmieniają podejście z ciężaru regulacyjnego na mnożnik produktywności.
• 15:49
  Unikasz poprawiania błędów. Dostarczasz organom regulacyjnym potrzebne logi w jednej chwili.
• 15:53
  Działasz szybciej, ponieważ zgodność była częścią projektu, a nie poprawką dodaną później.
• 15:57
  To, co kiedyś spowalniało Twoje tempo, teraz je przyspiesza.
• 15:59
  Mimo to tarcze nie działają same. Wymagają konfiguracji, przeglądu i ciągłego monitorowania.
• 16:04
  Te mechanizmy kontrolne pomagają, ale muszą być właściwie zarządzane przez ludzi.
• 16:07
  Rady do spraw. Ładu korporacyjnego to ostatnia obrona przed zamętem.
• 16:11
  Pomyśl o Radzie do spraw. Ładu korporacyjnego jak o załodze mostka na swoim statku kosmicznym.
• 16:15
  To grupa utrzymująca stabilny kurs, gdy turbulencje wstrząsają sterami.
• 16:18
  Tarcze, przełączniki zgodności i logi audytu mogą działać w tle,
• 16:21
  ale ktoś wciąż musi wyglądać przez okno, obserwować wskaźniki i reagować, gdy wydarzy się coś nieoczekiwanego.
• 16:26
  Bez tego nadzoru nawet najlepsze zabezpieczenia to tylko metal bez odrobiny osądu.
• 16:30
  Rada do spraw. Ładu korporacyjnego to niepojedynczy oficer wydający rozkazy.
• 16:34
  Zbudowano go jako międzyfunkcyjny zespół, w skład którego wchodzą liderzy techniczni,
• 16:37
  osoby odpowiedzialne za zarządzanie danymi, doradcy prawni lub do spraw.
• 16:40
  Zgodności, przedstawiciel biznesowy oraz co najmniej jeden niezależny recenzent.
• 16:43
  Każdy pełni inną rolę, ponieważ sztuczna inteligencja nie mieści się w prostych ramach jednego działu.
• 16:47
  Narzędzie do selekcji CV wpływa na HR, algorytm prognozowania kształtuje finanse,
• 16:51
  a HADBOT rozmawia bezpośrednio z klientami.
• 16:53
  Jeden dział nie jest w stanie przewidzieć wszystkich konsekwencji.
• 16:56
  Potrzeba wspólnej narady, aby wykryć i skorygować ryzyka, zanim rozprzestrzenią się na całą organizację.
• 17:00
  Teraz wyobraź sobie działanie bez takiego zespołu.
• 17:02
  Pozostawienie sztucznej inteligencji bez kontroli jest jak włączenie autopilota w polu asteroid.
• 17:06
  Wszystko wydaje się w porządku, dopóki jeden dziwny manewr nie zboczy statku z kursu.
• 17:09
  Zabezpieczenia mogą być na swoim miejscu, ale one nie interpretują, nie zadają pytań i nie przewidują.
• 17:14
  Rada nadzorcza to warstwa myśląca ludzie patrzący po zamigające światła,
• 17:17
  aby dostrzec kontekst, etykę i skutki, zanim odchylenie stanie się katastrofą.
• 17:20
  Ich obowiązki nie są abstrakcyjne.
• 17:22
  Przeprowadzają regularne audyty stronniczości i sprawiedliwości, potwierdzają pochodzenie danych,
• 17:26
  sprawdzają raporty zgodności i śledzą, jak systemy niedeterministyczne improwizują.
• 17:30
  Zapewniają rytm pracy, ustalając harmonogram kontroli tak, by problemy wychwytywać wcześniej, a nie po wdrożeniu,
• 17:35
  oraz definiują kluczowe wskaźniki efektywności, sprawiedliwości, dokładności i odchyleń,
• 17:39
  aby bieżący monitoring był mierzalną odpowiedzialnością, a nie zgadywaniem.
• 17:42
  Szczególnie w przypadku wyników niedeterministycznych rady te wyznaczają granice.
• 17:46
  Sztuczna inteligencja nie zawsze zwraca taką samą odpowiedź.
• 17:49
  Próbkuje, improwizuje, zastanawia się.
• 17:51
  Może to generować kreatywne odpowiedzi lub prowadzić do mylących wyników, które podważają zaufanie.
• 17:56
  Rada nadzorcza działa jak cyfrowy strażnik, rejestrując nieoczekiwane rezultaty,
• 18:00
  testując bezpieczeństwo, red teaming, oznaczając niebezpieczne wzorce i włączając ludzi do procesu,
• 18:05
  gdy automatyczne filtry coś przeoczą.
• 18:07
  Nie tłumią one innowacji.
• 18:08
  Dbają o to, by działała ona w bezpiecznych granicach.
• 18:11
  Oto praktyczna różnica.
• 18:12
  Organizacje z efektywnymi radami nadzorczymi zazwyczaj wychwytują problemy podczas próbnych wdrożeń.
• 18:17
  Audyt sprawiedliwości ujawnia stronniczość w modelu rekrutacyjnym,
• 18:20
  problem zostaje po cichu naprawiony, a wdrożenie przebiega bez skandalu.
• 18:23
  W organizacjach bez takiego nadzoru historia najpierw trafia do prasy.
• 18:27
  Klienci odkrywają szkody, organy nadzorcze zauważają błędy,
• 18:30
  a działania naprawcze przychodzą zbyt późno.
• 18:32
  Zapobieganie kosztuje czas.
• 18:34
  Naprawianie kosztuje reputację.
• 18:36
  Wzorzec ten powtarza się wystarczająco często, by wyciągnąć jasną lekcję.
• 18:39
  Fundamentem działania tych rad jest sprawiedliwość, przejrzystość, odpowiedzialność, bezpieczeństwo i prywatność.
• 18:44
  Sprawiedliwość zapewnia, że wyniki nie dyskryminują użytkowników ze względu na dane demograficzne.
• 18:49
  Przejrzystość wymaga, aby decyzje były wyjaśnialne w jasny sposób,
• 18:51
  zarówno dla użytkowników, jak i dla celów zgodności.
• 18:54
  Odpowiedzialność zapewnia wyznaczoną rolę, która przyjmuje na siebie odpowiedzialność nie w myśl zasady
• 18:58
  to, a i zawiniło, lecz konkretny urzędnik odpowiada za wynik.
• 19:01
  Bezpieczeństwo zapobiega szkodliwym lub niewłaściwym wynikom działania systemu.
• 19:04
  Prywatność chroni wrażliwe dane, by jednostki nie stały się mimowolnym ładunkiem w ryzykownej podróży.
• 19:09
  Każda zasada jest silna sama w sobie, ale razem tworzą kadłub,
• 19:12
  dzięki któremu odpowiedzialna sztuczna inteligencja działa pod nadzorem.
• 19:15
  A rady nadzorcze nie tylko przestrzegają zasad, one podejmują działania.
• 19:19
  Analizują dokumentację modeli, by potwierdzić jasność,
• 19:21
  przeprowadzają ocenę ryzyka dla przypadków użycia
• 19:23
  i wymuszają punkty kontrolne z udziałem ludzi tam, gdzie wymagany jest nadzór.
• 19:27
  Jako pierwszy krok, jednym z najprostszych i najcenniejszych działań
• 19:30
  jest inwentaryzacja przypadków użycia AI i ocena ryzyka.
• 19:33
  Ta szybka mapa pokazuje, które projekty kwalifikują się jako wysokiego ryzyka,
• 19:36
  które wymagają ścisłego zarządzania, a które niosą mniejsze stawki.
• 19:39
  To namacalny dowód dla kierownictwa i regulatorów,
• 19:41
  że nadzór jest ustrukturyzowany, a nie improwizowany.
• 19:44
  Nawet przy pełnej prędkości posiedzenia rady działają jak regularne skanowanie trasy.
• 19:48
  Nie tylko wyznaczają strategie, ale śledzą wskaźniki i egzekwują raportowanie zgodności.
• 19:52
  Taki rytm buduje odporność.
• 19:54
  Cykle testowe, kpi dotyczące sprawiedliwości i przeglądy dryftu ustalają rytm,
• 19:58
  dzięki czemu zabezpieczenia pozostają aktywne, zamiast zanikać po wdrożeniu.
• 20:02
  Dzięki tym rytuałom nadzór przestaje być jednorazowym odhaczeniem,
• 20:05
  a staje się żywym procesem.
• 20:07
  Sztuczna inteligencja w rekrutacji to opowieść ku przestrodze.
• 20:10
  Modele Trenowain na wadliwych danych po cichu przejęły uprzedzenia,
• 20:13
  dyskryminując kandydatów z określonych grup bez intencji programistów.
• 20:17
  Niezauważona dyskryminacja rozprzestrzeniała się na skalę masową, aż do pozwów sądowych.
• 20:22
  Uzbrojona w audyty sprawiedliwości i sprawdzenie pochodzenia mogłaby zauważyć odchylenia na długo przed wdrożeniem.
• 20:27
  Ta różnica, zapobieganie zamiast wykrywania, jest powodem istnienia takich rad.
• 20:31
  Zatem rady nadzorcze to nie projekty poboczne, ani ozdobne komitety.
• 20:34
  To ostatnia linia obrony między stabilnym kierunkiem, a możliwym do uniknięcia chaosem,
• 20:38
  załoga odpowiedzialna za zmiany haseł o odpowiedzialnej sztucznej inteligencji w konkretną praktykę.
• 20:41
  Utrzymując strukturę, wskaźniki i odpowiedzialność, bają o to, by statek płynął z zachowaniem zaufania.
• 20:46
  I to zamyka naszą pętlę.
• 20:48
  Dzięki radom nadzorczym nadzór staje się kulturą, a nie łataniem dziur, co prowadzi do ważnej prawdy na zakończenie.
• 20:53
  Odpowiedzialna sztuczna inteligencja to nie opcja dodatkowa włączana na pokaz.
• 20:56
  To system bezpieczeństwa, który decyduje o tym, czy przetrwasz nadchodzące turbulencje.
• 21:00
  Odpowiedzialna sztuczna inteligencja nie jest opcjonalna.
• 21:03
  To ona odróżnia organizację, która ma kontrolę od tej dryfującej w chaos.
• 21:06
  Dzięki niej budujesz zaufanie, znacząco redukujesz ryzyko i ustawiasz projekty AI na sukces długoterminowy,
• 21:11
  zamiast krótkotrwałych wybuchów.
• 21:13
  Oto Twój następny krok.
• 21:14
  Zrób inwentaryzację przypadków użycia AI.
• 21:16
  Włącz zabezpieczenia dostępne w swojej platformie i powołaj radę nadzorczą, by je monitorować.
• 21:21
  Traktuj te kroki jak centrum dowodzenia, a nie zadania poboczne.
• 21:24
  Notatki do odcinka zawierają listę kontrolną i linki do omówionych narzędzi, więc możesz zacząć od razu.
• 21:28
  Jeśli ten odcinek naładował Twoje kryształy delete'owe, ustaw swój odtwarzacz podcastów na autodokowanie.
• 21:33
  Kliknij obserwuj.
• 21:34
  Przesyłajcie pytania na Ourszu, a najlepsze z nich przeczytam następnym razem.