Latest / M365.FM – podcast o Microsoft 365, Copilot i AI po polsku / Koniec z halucynacjami AI: RAG ugruntowany w danych z Azure AI Search (Dubbing AI)

Transcript

Koniec z halucynacjami AI: RAG ugruntowany w danych z Azure AI Search (Dubbing AI) · M365.FM – podcast o Microsoft 365, Copilot i AI po polsku

0:00
Kliknąłeś, bo w podcaście usłyszałeś, że Azure AI Foundry to pułapka, prawda?
0:04
Dobrze, jesteś w odpowiednim miejscu. Oto obietnica na wstępie.
0:07
Kopiloty bez zakotwiczenia zawodzą, ale narzędzia takie jak rak, hybrydowe i semantyczne wyszukiwanie Azure AI
0:13
oraz ewaluatory wiarygodności, trafności i spójności to rzeczywiste rozwiązania,
0:18
które zapobiegają serwowaniu halucynacji przebranych za odpowiedzi.
0:22
Pominiemy marketingowe slajdy i pokażemy praktyczny poradnik przetrwania z prawdziwymi przykładami z terenu.
0:27
Zasubskrybuj newsletter M365 Show i śledź transmisję na żywo z MVP.
0:32
To tam kryją się doświadczenia i gotowe poprawki.
0:34
A ponieważ pierwsze pęknięcia zwykle pojawiają się w aplikacjach multimodalnych, zacznijmy od tego.
0:38
Dlaczego aplikacje multimodalne zawodzą w rzeczywistym świecie?
0:41
Kiedy widzisz demo multimodalne na scenie, wygląda bezbłędnie.
0:44
Prezenter wrzuca tekst, czysty obraz, może szybkie wejście głosowe,
0:48
a model dostarcza idealny wykres lub trafne podsumowanie kontraktu.
0:51
Wszystko wydaje się magią, ale w momencie, gdy próbujesz tego samego w prawdziwej firmie,
0:55
blask szybko pryska. Dema działają na nieskazitelnych danych wejściowych.
0:58
Miejsca pracy działają na śmieciach. To jest prawdziwy podział.
1:01
W środowisku produkcyjnym nikt nie daje Twojemu modelowi starannie przygotowanych zrzutów ekranu
1:04
czy plików CSV sformatowanych przez Komitet Standaryzacyjny.
1:07
Dział kadr karmi go niewyraźnymi skanami dowodów osobistych.
1:10
Dział zakupów wciąga PDFY, będące piątą kopią z faksu.
1:13
Ktoś w finansach robi zdjęcie faktury pękniętym aparatem w Androidzie.
1:17
Modele multimodalne obsługują tekst, obrazy, głos i wideo,
1:20
ale wymagają dobrze zaindeksowanych danych i sprawnego wyszukiwania, by działać w niechlujnych warunkach.
1:24
W przeciwnym razie prosisz model jedynie o improwizację na śmieciowych danych
1:27
i żadne wydatki na GPU nie naprawią zasady garbage in, garbage out.
1:31
Tutaj z pomocą ma przyjść Retrival Augmented Generation, czyli RAC.
1:35
Mówiąc prościej, model nie zna Twojego biznesu, więc podłączasz go do źródła wiedzy.
1:39
Pobiera fragment danych i kształtuje na ich podstawie odpowiedź.
1:42
Gdy dopasowanie jest precyzyjne, otrzymujesz użyteczne, zakotwiczone odpowiedzi.
1:45
Gdy jest niedbałe, model improwizuje, wypluwając pewne siebie bzdury.
1:48
I tak kończysz z hadbotem przysięgającym, że Twoja firma ma nową politykę rabatową na Q3, która nie istnieje.
1:54
Nie zyskał świadomości, po prostu pobrał błędne dane.
1:57
Azure, AI Studio i Azure, AI Foundry opierają się na tym wzorcu i wspierają wszystkie rodzaje modalności,
2:02
język, wizję, mowę, a nawet wyszukiwanie wideo.
2:05
Ale haczyk w tym, że RAC jest tylko tak dobry jak jego dane.
2:08
Oto kluczowa sprawa, którą pomija większość zespołów.
2:10
Nie można po prostu wdrożyć jednej metody wyszukiwania i uznać, że to wystarczy.
2:13
Jeśli chcesz, by wyniki były spójne, potrzebujesz wyszukiwania hybrydowego słów kluczowych i wektorowego uzupełnionego o semantyczny reranker wbudowany w Azure, AI Search.
2:19
Pozwala to systemowi zrównoważyć dosłowne trafienia słów kluczowych ze znaczeniem semantycznym,
2:23
a następnie uporządkować wyniki tak, by najważniejszy kontekst był na górze.
2:26
Wprowadź to do swojego systemu multimodalnego, a model poradzi sobie z krzywymi skanami i niewyraźnymi obrazami,
2:31
zamiast zmyślać politykę firmy z powietrza.
2:34
Porozmawiajmy teraz o tym, dlaczego tak wiele wdrożeń kończy się porażką.
2:37
Przedsiębiorstwa oczekują świetnych rezultatów od pierwszego dnia, ale nie przeznaczają budżetu na pętlę ewaluacyjne.
2:42
Bez kontroli rzetelności, trafności i spójności działających w tle nie zauważysz błędów, dopóki użytkownicy nie poczują się zawiedzeni.
2:48
Wiele wczesnych wdrożeń kończy się niepowodzeniem właśnie z tego powodu.
2:51
Wynik brzmi poprawnie, ale nikt nie zweryfikował go z prawdą źródłową.
2:55
Pomyśl, nigdy nie wdrożyłbyś nowej bazy danych bez monitoringu.
2:57
A jednak w przypadku multimodalnej sztucznej inteligencji kierownicy wrzucają ją do produkcji, jakby to było magiczne pudełko typu plug and play.
3:03
To nie musi skończyć się porażką.
3:05
Carvana to jedna z historii klientów Foundry, która to potwierdza.
3:08
Uczynili samoobsługową sztuczną inteligencję użyteczną dzięki dopracowaniu wyszukiwania, odpowiedniemu osadzeniu agentów i inwestycji w obserwowalność.
3:15
To zmieniło coś, co mogło być tylko kolejnym zabawkowym botem w narzędzie, któremu klienci mogą zaufać.
3:20
Teraz spójrzmy na firmy, które dokleiły generycznego chatbota do strony wsparcia bez żadnego osadzenia czy ewaluacji.
3:25
Znasz już rezultat. Reklamacje gwarancyjne pomylone z leadami sprzedażowymi, przepełnione kolejki wsparcia i zniszczona wiarygodność.
3:31
Ten sam stos technologiczny Azure odwrotny wynik.
3:34
Oto gorzka prawda. Systemy multimodalne nie zawodzą dlatego, że AI jest mało inteligentna.
3:38
Zawodzą, ponieważ dane nie są przygotowane, zaindeksowane ani monitorowane.
3:42
Wprowadź śmieci do systemu wyszukiwania, pomiń ewaluację i patrz, jak zaufanie płonie.
3:46
Dzięki wyszukiwaniu hybrytowemu, semantycznemu rerankingowi i ciągłym testom możesz przetwarzać faktury, umowy, zdjęcia,
3:51
a nawet niewyraźne notatki głosowe z odpowiedziami, które trzymają się rzeczywistości, a nie fantazji.
3:56
A gdy osadzenie danych jest już uporządkowane, pojawia się kolejne ryzyko.
3:59
Bo nawet jeśli potoki danych są czyste, system, który nimi steruje, może nadal wymknąć się spod kontroli.
4:04
I tutaj zmienia się pytanie.
4:06
Czy agent koordynujący to wszystko faktycznie pomaga firmie?
4:09
Czy po cichu zmienia Twój budżet i tw paliwo dla ogniska?
4:12
Pomocny agent, czy drogi przycisk do papieru?
4:14
Agent koordynuje modele, dane, wyzwalacze i akcje.
4:17
Potraktuj go jak policjanta kierującego ruchem w Twoich zautomatyzowanych przepływach pracy.
4:21
Czasem kieruje wszystkim płynnie, a czasem wpuszcza trzy wywrotki i samochód cyrkowy, po czym idzie na lunch.
4:26
Ta luka między czystą definicją a chaotyczną rzeczywistością to moment, w którym większość zespołów traci kontrolę.
4:31
Na papierze agent wygląda doskonale.
4:33
Podaj mu instrukcje, wskaż dane i aplikacje, a powinien uruchamiać procesy, znajdować odpowiedzi, a nawet inicjować przepływy pracy.
4:39
To jednak nie jest idealny współpracownik.
4:41
Równie prawdopodobne jest, że rozwiąże powtarzający się problem o drugiej nad ranem, jak to, że zasypie kolejkę setką fałszywych zgłoszeń, bo źle odczytał dziennik błędów.
4:47
Wyobraź sobie to wewnątrz serwiseno. Gdy zakres działania jest ściśle określony, sztuczna inteligencja tworzy prawdziwe zgłoszenia tylko dla realnych problemów, oszczędzając ludziom godziny pracy.
4:55
Pozostawiona sama sobie może pogrzebać dział wsparcia pod lawiną błędnych alertów o krytycznych awariach drukarek, które działają bez zarzutu.
5:00
Spróbuj wyjaśnić taki wzrost produktywności swojemu CIO.
5:03
Oto rozróżnienie, które wielu pomija.
5:05
Kopiloty i agenci to nie to samo.
5:07
Kopilot to w zasadzie pomocnik do promptów.
5:09
Ty pytasz, on odpowiada, a ty zachowujesz kontrolę.
5:11
Agenci natomiast podejmują decyzje, nie czekając na ciebie.
5:14
Realizują twoje niejasne instrukcje co do joty, nawet gdy wyniki nie mają sensu.
5:19
Wtedy automatyzacja albo realnie oszczędza czas, albo wpada w chaos, którego sprzątanie zajmie ci dwa razy więcej czasu.
5:24
Prawda jest taka, że wiele zespołów daje swojemu agentowi opis stanowiska brzmiący jak obietnica wyborcza.
5:29
Optymalizuj procesy, dostarczaj analizy, pomagaj ludziom.
5:31
Gratulacje, w zasadzie kazałeś botowi działać bez ograniczeń.
5:34
Agenci bez określonego zakresu nie trzymają się grzecznie swojego miejsca.
5:37
Wpadają w panikę, wymyślają problemy do naprawienia, duplikują rekordy, zapętlają się bez końca,
5:42
a potem kierownictwo dziwi się, dlaczego efektowne demo zamieniło się w produkcyjny koszmar.
5:45
Wyjaśnijmy sobie jedno.
5:47
To nie tak, że większość organizacji ponosi porażkę w ciągu pierwszych dwóch miesięcy.
5:50
Nie wynika to z badań.
5:51
To, co się dzieje i to szybko, to fakt, że wiele organizacji trafia na przeszkody,
5:55
ponieważ nigdy nie określiły ściśle zakresu działania agentów,
5:57
nie dodały kroków weryfikacji i nie wdrożyły telemetrii.
6:00
Bez tych zabezpieczeń twoje lśniące, nowe narzędzie to tylko lekko myślny stażysta z uprawnieniami administratora.
6:04
I tutaj stos Microsoftu faktycznie dostarcza ci odpowiednich elementów.
6:08
Copilot Studio to środowisko low-code, w którym twórcy projektują zachowania agenta,
6:12
przepływy, prompti, wyzwalacze zdarzeń.
6:13
Z kolei Agent Service w Azure i Foundry to szkielet korporacyjny,
6:17
który wdraża tych agentów na produkcję z pełną obserwowalnością.
6:20
Agent Service to miejsce, gdzie dodajesz monitorowanie, logi i metryki.
6:24
Jest celowo zaprojektowany do automatyzacji z wbudowanym nadzorem człowieka,
6:27
ponieważ Microsoft wie, co się dzieje, gdy ufasz niesprawdzonemu agentowi wypuszczonemu na wolność.
6:31
Jak więc sprawdzić, czy twój agent jest rzeczywiście użyteczny?
6:34
Przepuść go przez prostą listę kontrolną.
6:36
Po pierwsze, czy redukuje liczbę godzin pracy ludzi,
6:38
czy wciąga pracowników w mozolne usuwanie błędów?
6:40
Dwa, czy mierzysz takie wskaźniki jak ugruntowanie, płynność i spójność?
6:44
Czy tylko wpatrujesz się w ładne marketingowe pulpity?
6:47
Trzy, czy masz wdrożoną telemetrię, aby wykryć odchylenia,
6:50
zanim użytkownicy zaczną składać reklamacje?
6:52
Jeśli na którekolwiek z tych pytań odpowiedziałeś źle,
6:54
nie masz inteligentnego agenta.
6:55
Masz drogi wygaszacz ekranu.
6:57
Rozwiązaniem jest wykorzystanie funkcji obserwowalności
6:59
i wbudowanych ewaluatorów Azure i Foundry.
7:02
To nie są opcjonalne dodatki.
7:04
To udokumentowany sposób na pomiar ugruntowania,
7:06
trafności, spójności i zgodności ze źródłem.
7:08
Bez nich zgadujesz, czy twój agent jest mądry,
7:10
czy tylko zmyśla uprzejmym tonem.
7:12
Dzięki nim możesz pewnie wkroczyć i dokonać korekty,
7:15
gdy dane wyjściowe odbiegają od normy.
7:17
Więc tak agenci mogą być przełomem.
7:19
Źle zdefiniowani stają się wzmacniaczami chaosu,
7:21
które zabierają więcej czasu niż oszczędzają.
7:23
Dobrze zdefiniowani, z jasnymi granicami zadań,
7:24
realną telemetrią i ugruntowanymi odpowiedziami
7:26
mogą przejąć obowiązki, podczas gdy ludzie skupią się na pracy
7:28
o wyższej wartości.
7:29
I właśnie wtedy, gdy myślisz, że znalazłeś tę równowagę,
7:32
sytuacja znów się zmienia.
7:33
Microsoft promuje już autonomicznych agentów boty,
7:36
które nie czekają na Ciebie przed podjęciem działania,
7:38
co przenosi stawkę z poziomu pomocny lub bezużyteczny
7:40
w zupełnie inną kategorię,
7:42
bo teraz mówimy o systemach,
7:43
które działają nawet wtedy, gdy nikt nie patrzy.
7:46
Pułapka autonomicznego agenta.
7:48
Autonomiczni agenci to punkt,
7:49
w którym szum medialny staje się niebezpieczny.
7:51
Na papierze to marzenie.
7:53
Pozwól AI działać za siebie,
7:54
zautomatyzuj żmudne zadania
7:55
i przestań zrywać się z łóżka o drugiej w nocy,
7:57
by obsługiwać kolejki zgłoszeń.
7:58
Brzmi świetnie w sali konferencyjnej.
8:00
Pułapka jest prosta.
8:01
Oni nie czekają na pozwolenie.
8:03
Kopiloty zatrzymują się, czekając na Ciebie.
8:05
Autonomiczni agenci nie.
8:06
A kiedy podejmą złą decyzję,
8:07
szkody są natychmiastowe
8:07
i rozprzestrzeniają się w całym Twoim środowisku.
8:09
Koncepcja jest dość prosta.
8:11
Kopiloty są reaktywne.
8:12
Agenci są proaktywni.
8:13
Zamiast czekać w bezczynności,
8:14
aż ktoś wpisze polecenie,
8:15
określasz zakres zadań agenta,
8:16
monitorowanie stanu usług,
8:18
obsługę sygnałów bezpieczeństwa
8:19
lub automatyczne uruchamianie przepływów pracy.
8:20
Microsoft promuje to jako wydajność
8:22
mniej ludzkiej pracy,
8:23
szybsze wykrywanie i płynniejsze operacje.
8:25
Obietnica jest prawdziwa,
8:27
ale oto ważny kontekst.
8:28
Autonomiczni agenci w Kopilot Studio
8:30
są obecnie w fazie podglądu, preview.
8:32
Podgląd nie oznacza, że system jest zepsuty,
8:34
ale oznacza, że nie został przetestowany
8:35
w nieprzewidywalnym świecie rzeczywistym.
8:36
Nawet Microsoft twierdzi,
8:38
że przed szerokim wdrożeniem
8:39
potrzebujesz zabezpieczeń zarządzania
8:40
cyklem życia i konsoli Kopilot.
8:42
Rozważmy realistyczne ryzyko.
8:44
Załóżmy, że tworzysz
8:44
autonomicznego agenta pomocy technicznej
8:46
i dajesz mu uprawnienia do reagowania
8:47
na anomalie logowania.
8:49
W demo z pięcioma użytkownikami działa idealnie.
8:51
Alerty zgłaszane, konta zarządzane.
8:53
A potem na produkcję trafiają
8:54
chaotyczne dane wejściowe.
8:56
Zamiast czekać, zaczyna masowo resetować
8:58
setki kont w oparciu o błędne wyniki.
9:00
Rezultatem nie jest hipotetyczna awaria.
9:02
Może to realnie sparaliżować operację
9:04
na koniec miesiąca.
9:05
To nie jest science fiction.
9:06
To scenariusz awarii, na który się godzisz,
9:08
jeśli pominiesz określenie zakresu.
9:09
Rozwiązaniem nie jest porzucenie technologii.
9:11
Jest nim zbudowanie najpierw sieci bezpieczeństwa.
9:13
Jaka jest zatem lista kontrolna przetrwania?
9:15
Trzy obowiązkowe punkty
9:15
przed jakąkolwiek efektowną automatyzacją.
9:17
Po pierwsze, określenie zakresu tożsamości i dostępu.
9:19
Nadaj swojemu agentowi minimalne uprawnienia
9:21
bez ogólnych ról administratora.
9:22
Po drugie, logowanie i wycofywanie zmian.
9:24
Każde działanie musi pozostawić ślad,
9:26
który można poddać audytowi.
9:27
A każda poważna akcja wymaga ścieżki odwrotu,
9:29
gdy agent popełni błąd.
9:30
Po trzecie, filtry treści i zachowania.
9:32
Microsoft zwraca na to uwagę
9:34
poprzez Azure AI Content Safety
9:35
i konfigurację wiedzy.
9:36
Filtry, które powstrzymują gorliwego bota
9:38
przed generowaniem niestosownych odpowiedzi
9:40
lub wykraczaniem poza scenariusz.
9:41
Zrób to najpierw inaczej.
9:42
Spryt twojego agenta pogrzebie twoje procesy
9:44
zamiast je wspomagać.
9:45
Warstwa etyczna sprawia,
9:46
że jest to jeszcze ważniejsze.
9:47
Wyobraź sobie agenta HR
9:48
automatycznie oznaczającego pracowników
9:50
jako ryzykownych lub agenta finansowego
9:51
wstrzymującego płatności
9:52
dla dostawców błędnie sklasyfikowanej jako oszustwo.
9:54
To nie są nieszkodliwe dziwactwa.
9:56
To awarie o ludzkim wymiarze
9:57
niosące konsekwencje prawne i regulacyjne.
9:59
Stronniczość w danych treningowych
10:01
lub pobieranych nie znika tylko dlatego,
10:02
że działasz w wersji Enterprise Preview.
10:04
Bez filtrów, kontroli i ludzkiej asekuracji
10:06
przekazujesz decyzje,
10:07
których twoi prawnicy z pewnością
10:09
nie chcą powierzać nienadzorowanemu algorytmowi.
10:11
Przekaz Microsoftu na konferencji Ignite
10:12
był w tej kwestii dosadny.
10:14
Mechanizmy zabezpieczające,
10:15
zarządzanie cyklem życia,
10:16
monitorowanie i system kontroli Copilot
10:18
to nie dodatki, to wymogi.
10:19
Wersja Preview nie służy dziś do błyszczących dem,
10:22
lecz do testów, które pokazują,
10:23
gdzie pojawiają się luki.
10:24
Jeśli uruchomisz system bez testów etapowych,
10:26
procedur zatwierdzania i audytów,
10:28
nie używasz agenta,
10:28
tylko przeprowadzasz testy warunków skrajnych na produkcji.
10:31
Dlatego obserwowalność nie jest opcjonalna.
10:33
Potrzebujesz pulpitów nawigacyjnych,
10:35
które pokazują każdy krok agenta
10:36
i sprawdzają, czy jego wynik był rzetelny,
10:38
istotny i zgodny z twoimi zasadami.
10:40
I potrzebujesz opcji z człowiekiem w pętli decyzyjnej.
10:42
Microsoft tego nie ukrywa.
10:44
Wskazują na wzorce,
10:45
w których to człowiek pozostaje zabezpieczeniem.
10:47
Pomyśl o tym jak o autopilocie w samolocie.
10:49
Niezwykle użyteczny,
10:50
ale zawsze projektowany z możliwością ręcznego sterowania.
10:53
Jeśli bot uważa, że optymalne lądowanie jest w jeziorze,
10:55
chcesz przejąć kontrolę przed wodowaniem.
10:57
Właściwą analogią jest tutaj pozwolenie nastolatkowi na naukę jazdy.
11:00
Potencjał jest ogromny, prędkość imponująca,
11:02
ale nie dajesz mu kluczyków,
11:03
nie wychodzisz z podjazdu i nie liczysz na szczęście.
11:05
Siedzisz na miejscu pasażera,
11:06
wyznaczasz granicę i instalujesz hamulec,
11:08
który sam możesz nacisnąć.
11:09
Tak w praktyce wygląda zarządzanie cyklem życia.
11:12
Kółka pomocnicze,
11:12
dopóki nie będziesz mieć pewności,
11:14
że system nie zjedzie z drogi.
11:15
To prowadzi nas do większej hali fabrycznej,
11:17
gdzie spotykają się agenci, kopiloty
11:18
i wszystkie przetestowane przepływy pracy.
11:20
Microsoft nazywa to Azure AI Foundry,
11:22
kompleksową przestrzenią do tworzenia AI
11:24
ze wszystkimi narzędziami.
11:25
To czy stanie się potęgą produkcyjną,
11:27
czy miejscem, w którym projekt płonie,
11:29
zależy wyłącznie od Twojego podejścia.
11:31
Azure AI Foundry,
11:33
Twoja fabryka,
11:34
czy Twoje pole minowe?
11:35
Azure AI Foundry to nowy flagowy produkt Microsoftu,
11:38
tak zwana fabryka wszystkiego,
11:40
co związane z AI.
11:41
W czym problem?
11:42
Zbyt wiele zespołów wchodzi tam
11:43
i traktuje to jak IKEA.
11:45
Wędrują oczarowani katalogami,
11:46
chwytają błyszczące duże modele językowe,
11:49
dorzucają łączniki
11:50
i skręcają coś bez instrukcji.
11:52
To, co otrzymują,
11:52
nie jest systemem AI klasy korporacyjnej,
11:55
lecz zabawką pokazową,
11:56
która pada przy pierwszym niechlujnym PDF i E od użytkownika.
11:59
Oto, co faktycznie oferuje Foundry,
12:01
prosto z oficjalnego podręcznika.
12:03
Katalog modeli obejmujący Microsoft,
12:04
OpenAI, Meta, Mistral, Dipsig i inne.
12:07
Opcje dostosowywania,
12:09
takie jak rak, dostrajanie i destylacja.
12:12
Usługa agentowa do orkiestracji,
12:14
narzędzia typu Prompt Flow do ewaluacji i debugowania,
12:16
podstawy bezpieczeństwa,
12:18
kontrola tożsamości i dostępu,
12:19
filtry treści oraz panele obserwacyjne.
12:22
Krótko mówiąc,
12:22
to wszystkie części potrzebne do budowy kopilotów,
12:24
agentów i autonomicznych procesów
12:26
oraz utrzymania ich zgodności.
12:27
To cały inwentarz.
12:29
Problem nie polega na tym,
12:29
że skrzynka z narzędziami jest pusta,
12:31
ale na tym, że zbyt wielu administratorów
12:32
traktuje to jak pstryknięcie przełącznikiem GPT-4 Turbo
12:34
i uznanie gotowości produkcyjnej.
12:35
Prawda jest taka, że Foundry to hala fabryczna,
12:38
a nie twoje pudełko z zabawkami z hackathonu.
12:39
Oznacza to wyznaczenie granic tożsamości,
12:41
aby tylko odpowiednie osoby miały dostęp do odpowiednich modeli.
12:44
Oznacza to otoczenie każdego potoku przetwarzania
12:46
zabezpieczeniami treści.
12:47
Oznacza to użycie narzędzi obserwacji,
12:49
aby wiedzieć, kiedy odpowiedź jest rzetelna,
12:51
a kiedy model wysysa politykę firmy z palca.
12:53
Oznacza to również dopasowanie zadania do właściwego modelu
12:56
zamiast wybierania największego tylko dlatego,
12:58
że brzmi mądrze.
12:59
Pomiń te kroki,
13:00
a chaos wejdzie tylnymi drzwiami.
13:01
Widziałem zespół, który podłączył kopilota z Foundry do SharePointa,
13:04
co radośnie ujawniło ograniczone dane HR20 starzystom.
13:07
To nie było sprytne,
13:08
to była katastrofa zgodności,
13:09
której można było uniknąć dzięki wbudowanym regułom dostępu.
13:12
Porozmawiajmy o rzeczywistych awariach.
13:14
Pewna organizacja uruchomiła GPT-4 turbo do takowania zdjęć produktów.
13:18
W laboratorium demo wypadło znakomicie.
13:20
Czyste zdjęcia studyjne, idealne, tagi,
13:22
wszyscy bili brawo.
13:23
W produkcji danymi wejściowymi nie były błyszczące JPEG,
13:26
lecz rozmyte zdjęcia z telefonu w magazynie.
13:28
Nagle sztuczna inteligencja błędnie oznaczyła wózki dziecięce jako krzesła biurowe,
13:32
a kody UPC zamieniła w fikcyjne numery seryjne.
13:34
Oprócz utraty zaufania, zaczęły rosnąć koszty.
13:37
I nie jest to bajka o cenie zera i jednej setnej dolara za wiadomość.
13:39
Cennik Foundry opiera się na zużyciu
13:41
i jest powiązany z konkretnymi usługami, z których korzystasz.
13:43
Każdy łącznik, każde wywołanie pobierania danych
13:45
i każdy licznik wiadomości jest rozliczany w ramach twojego najemcy.
13:47
Każdy element ma własny model rozliczeniowy.
13:49
Ta elastyczność jest fajna,
13:51
ale jeśli nie oszacujesz kosztów za pomocą kalkulatora Cenazur
13:53
i nie będziesz śledzić zużycia,
13:54
twój dział finansowy będzie zachwycony niespodziewaną fakturą.
13:57
To właśnie pułapka rozliczeniowa.
13:59
Model płatności za zużycie sprawdza się,
14:00
jeśli planujesz, monitorujesz i optymalizujesz.
14:02
Jeśli tego nie robisz, wygląda to jak używanie sportowego samochodu
14:05
do rozłożenia pizzy drogo, głośno i bez sensu.
14:07
Wszyscy byliśmy w takiej sytuacji z usługami typu PowerB.
14:09
Świetne demo, ogromny rachunek.
14:11
Nie pozwól, aby Foundry wpędziło cię w to samo miejsce.
14:13
Programiści uwielbiają prototypować we Foundry,
14:15
bo środowisko testowe wydaje się sprawne.
14:16
I w środowisku testowym faktycznie takie jest.
14:18
Czyste dane demo, zero bałaganu, efekt wow od razu.
14:21
Ale tu pojawia się problem.
14:22
Zespoły wdrażają prototyp na produkcję bez potoków ewaluacyjnych.
14:25
Jeśli pomijasz ewaluację pod kątem ugruntowania,
14:27
płynności, trafności i spójności,
14:29
wdrażasz projekt na ślepo.
14:30
I co się dzieje?
14:31
Użytkownicy widzą błędy w wynikach,
14:33
zaufanie spada, a zarząd obcina finansowanie.
14:35
To nie wina Foundry, to porażka zespołów w kwestii zarządzania.
14:38
Wiele prototypów we Foundry utyka przed wdrożeniem dokładnie z tego powodu.
14:41
Brak możliwości obserwacji, brak kontroli jakości, brak telemetrii.
14:44
Odpowiedź jest dostępna w samej platformie.
14:46
Korzystaj z możliwości obserwacji Azure A i Foundry od pierwszego dnia.
14:49
Podłącz przepływy promptów.
14:50
Uruchamiaj wbudowane narzędzia ewaluacyjne przy każdym teście.
14:52
Ugruntuj swój system za pomocą Azure A i Search,
14:54
używając wyszukiwania hybrydowego oraz semantycznego przerankingowania,
14:56
zanim w ogóle pomyślisz o uruchomieniu.
14:57
Microsoft nie ukrył tych narzędzi w załączniku.
14:59
Są udokumentowane w celu zapewnienia bezpieczeństwa produkcji.
15:01
Jednak twórcy zbyt często traktują je jak mało istotne przypisy.
15:04
Takie podejście oparte na punktach kontrolnych pozwala uniknąć pola minowego.
15:08
Traktuj Foundry jak fabrykę, zarządzanie jak pierwszy krok polityki zgodności,
15:12
jako wbudowane elementy, a potoki obserwacji jako system działający od początku.
15:16
I tak określanie tożsamości oraz bezpieczeństwo treści
15:18
nie powinny być dodawane później i muszą być częścią specyfikacji.
15:21
Pomijając zarządzanie, ryzykujesz coś więcej niż tylko błędne odpowiedzi.
15:24
Bez tego twój multimodalny bot może przez przypadek ujawnić pensję HR
15:27
użytkownikom zewnętrznym lub opisać faktury fikcyjnymi numerami POLIS.
15:30
To już nie tylko niedziałająca sztuczna inteligencja,
15:32
to nagłówki prasowe, których twój dział zgodności nie będzie chciał tłumaczyć.
15:34
I właśnie tu przesuwa się punkt ciężkości,
15:36
bo kolejna przeszkoda wcale nie jest techniczna.
15:38
Chodzi o to, czy twoja sztuczna inteligencja jest odpowiedzialna.
15:41
Wszyscy uwielbiają wrzucać te hasła na slajdy,
15:43
ale w praktyce chodzi o audyty, filtry, zgodność i górę decyzji,
15:47
które podejmujesz przed startem.
15:48
I właśnie wtedy zaczynają się prawdziwe problemy.
15:50
Zasubskrybuj i śledź nasz newsletter M365 Show,
15:53
aby poznać konkretne rozwiązania i obserwuj nas w serwisie M365.
15:55
Odwiedź stronę LinkedIn, by obejrzeć transmisję na żywo z MVP,
15:58
którzy testowali foundry w środowisku produkcyjnym i widzieli,
16:00
co może pójść nie tak.
16:01
Odpowiedzialna sztuczna inteligencja czy odpowiedzialne kłopoty?
16:03
Każdy lubi wstawić odpowiedzialną AI do prezentacji.
16:06
Wygląda świetnie obok modnych słów, jak sprawiedliwość czy przejrzystość.
16:10
Jednak w codziennej pracy nie jest to inspirująca filozofia.
16:12
To konfiguracja audyty, filtry i kroki nadzorcze,
16:15
które bardziej przypominają konserwację serwerów niż innowacje.
16:18
Odpowiedzialna AI to pasy bezpieczeństwa, a nie samochód sportowy.
16:20
Zignoruj je raz, a wypadek nastąpi błyskawicznie.
16:23
Microsoft mówi o etyce i bezpieczeństwie,
16:25
ale dla administratorów wdrażających to w życie oznacza to praktyczne zabezpieczenia.
16:29
Potrzebujesz polityk dostępu, które nie ugną się pod presją
16:32
filtrów blokujących szkodliwe zapytania i logów na tyle szczegółowych,
16:35
by zadowolić regulatora z wezwaniem w ręku.
16:37
To nie jest efektowna praca.
16:39
Polega na izolowaniu kopilotów HR od danych finansowych,
16:42
ustalaniu reguł zakresu, by boty nie wyciekały do tajemnic SharePointa
16:45
i oznaczaniu logów, by dowieść, jak powstała odpowiedź.
16:48
Zrób to dobrze, a odpowiedzialność przestanie być korporacyjnym sloganem,
16:52
stanie się kwestią przetrwania.
16:53
Czarny scenariusz pominięcia tego, podpięcie bota prosto do bazy HR
16:56
bez ograniczenia zakresu wewnątrz tenanta.
16:59
Użytkownik pyta o świadczenia ubezpieczeniowe.
17:01
Bot uczynnie publikuje na czacie widełki płacowe pracowników.
17:05
Masz naruszenie prywatności, koszmar dla morale
17:07
i prawdopodobnie regulatorów na karku.
17:10
Najszybszym sposobem na zniechęcenie użytkowników
17:11
nie jest słaby interfejs, lecz wyciek poufnych danych.
17:14
Więc co chroni przed takim bałaganem?
17:15
Zacznij od Azure AI Content Safety.
17:17
Jest stworzone, by odfiltrowywać agresywne, wulgarne i obraźliwe zapytania
17:21
oraz odpowiedzi, zanim dotrą do użytkowników.
17:23
To jednak tylko podstawowa higiena.
17:24
Foundry i Copilot Studio dokładają potoki ewaluacyjne,
17:27
które obsługują kolejną warstwę.
17:29
Weryfikacja rzetelności, ocena trafności,
17:31
pulpity przejrzystości i wyjaśnialność modelu.
17:34
W prostych słowach możesz dostosować progi,
17:36
filtrować wejścia i wyjścia
17:37
oraz zmusić boty do uzasadniania swoich działań.
17:40
Bez tego po prostu rzucasz kostką w kwestii tego,
17:41
co wypluje sztuczna inteligencja.
17:43
A oto rzeczywistość związana z zasobami.
17:45
Microsoft przykłada do tego dużą wagę.
17:47
34 tysiące inżynierów pełnoetatowych zajmujących się bezpieczeństwem
17:50
oraz 15 tysięcy partnerów z ogromnym doświadczeniem w tej dziedzinie.
17:53
To prawdziwa twierdza.
17:54
Mimo to, nie popadaj w samozadowolenie.
17:56
Żaden z tych inżynierów nie jest w Twoim tenancie,
17:58
by ustalać Twoje reguły dostępu.
17:59
Microsoft daje Ci narzędzia ochronne,
18:01
ale to nadal Twoim zadaniem jest zabezpieczenie tożsamości,
18:04
izolacja danych, szyfrowanie i konfiguracja polityk.
18:06
Jeśli Twoje określenie zakresu jest niedbałe
18:08
i tak odpowiadasz za wyciek.
18:09
Prawdziwym rozwiązaniem jest zarządzanie cyklem życia.
18:12
Potraktuj to jak przepis, który zaleca samo Microsoft.
18:15
Testuj, zatwierdzaj, wdrażaj, audytuj i teruj.
18:18
Dzięki punktom kontrolnym w każdym cyklu
18:20
wykrywasz odchylenia, zanim trafią na pierwsze strony gazet.
18:23
Zespoły, które wdrażają raz i zapominają,
18:25
zawsze kończą porażką.
18:26
Modele ewoluują, promptie się zmieniają,
18:28
a wyniki odbiegają od normy.
18:29
Zarządzanie to nie biurokracja.
18:31
To sposób, by powstrzymać bota
18:32
przed tworzeniem własnych polityk w Teams,
18:34
gdy wszyscy śpią.
18:35
Niektórzy administratorzy narzekają,
18:36
że odpowiedzialność oznacza po prostu wolniejsze tempo.
18:38
Błędne podejście.
18:40
Odpowiedzialność nie zabija tempa,
18:41
ona chroni Cię przed skutkami tego tempa.
18:43
Dobre zarządzanie sprawia,
18:44
że przechodzisz audyty i utrzymujesz projekty w ruchu.
18:47
Pomiń to, a rzucasz się w przepaść.
18:49
Szybkość bez kontroli prowadzi tylko do jednego rodzaju rekordu.
18:51
Najkrótszego czasu do analizy powypadkowej.
18:53
Pomyśl o jeździe górskimi serpentynami.
18:55
Nie przeklinasz barierek dziękujesz im,
18:57
gdy droga kończy się 60-metrową przepaścią.
18:58
Z odpowiedzialną sztuczną inteligencją jest tak samo.
19:01
Zakresy, polityki, filtry,
19:02
logi nie hamują Twojej pracy,
19:03
one trzymają Cię z dala od wieczornych wiadomości.
19:06
Podsumowując,
19:06
Microsoft dał Ci potężne narzędzia.
19:09
Bezpieczeństwo treści,
19:10
potoki oceny,
19:10
ramy bezpieczeństwa,
19:11
zabezpieczenia SDK,
19:13
ale to wciąż Twoim zadaniem jest określenie zakresu tenantów,
19:15
konfiguracja dostępu
19:16
i wpięcie tych pętli w cykl produkcyjny.
19:19
Jeśli to zrobisz,
19:20
masz AI,
19:20
które przetrwa zgodność z przepisami,
19:22
zamiast pod nią upaść.
19:23
Zignoruj to,
19:24
a ryzykujesz nie tylko awarię,
19:25
ale i utratę kariery.
19:27
Odpowiedzialna sztuczna inteligencja nie jest wolna.
19:29
Odpowiedzialna sztuczna inteligencja zapewnia przetrwanie,
19:31
a przetrwanie to prawdziwy sprawdzian,
19:32
ponieważ nie chodzi o funkcję,
19:33
ale o to,
19:34
czy traktujesz te platformy jak plug and play,
19:35
czy szanujesz ją jako infrastrukturę opartą na zarządzaniu.
19:38
To rozróżnienie decyduje o tym,
19:39
kto przetrwa,
19:40
a kto wypali się zawodowo.
19:41
Oto najważniejszy wniosek.
19:42
Pułapką nie jest Foundry,
19:43
czy kopilot studio,
19:44
lecz myślenie,
19:45
że działają na zasadzie plug and play.
19:46
Zasada jest prosta,
19:47
najpierw zarządzanie,
19:48
potem eksperymenty,
19:49
na końcu produkcja.
19:50
Pomijasz tożsamość i obserwowalność na własne ryzyko.
19:53
Narzędzia są dostępne,
19:54
ale tylko zarządzanie zmienia prototypy w prawdziwą produkcję.
19:57
Więc jeśli chcesz konkretnych rozwiązań,
19:59
które faktycznie utrzymają twój tenant przy życiu,
20:01
zasubskrybuj podcast i zostaw recenzję.
20:03
Wkładam w to codziennie dużo pracy,
20:04
a twoje wsparcie naprawdę pomaga.
20:06
Narzędzia się zmienią,
20:07
taktyki przetrwania pozostaną.