Latest / M365.FM – Microsoft 365, Copilot & AI 팟캐스트 (한국어) / SharePoint Knowledge Agent의 실체: 메타데이터, 규칙, 질문 기능과 거버넌스 위험 (AI 더빙)

Transcript

SharePoint Knowledge Agent의 실체: 메타데이터, 규칙, 질문 기능과 거버넌스 위험 (AI 더빙) · M365.FM – Microsoft 365, Copilot & AI 팟캐스트 (한국어)

0:00
아마 이미 들어보셨을 겁니다.
0:01
이제 AI가 셰어포인트를 운영할 수 있다는 말이죠.
0:03
아니요, 그렇지 않습니다.
0:04
그저 그런 척할 수 있을 뿐이죠.
0:06
마이크로소프트의 자동화 서커스에 새로 등장한 건
0:08
바로 셰어포인트 지식 에이전트인데
0:09
콘텐츠를 정리하고 메타 데이터를 생성하며
0:12
질문에 답해주겠다고 약속하는 아주 똑똑한 보조원이라 주장합니다.
0:15
홍보문구는 아주 훌륭합니다.
0:17
지치지 않고 일하는 로봇 사서 같은 모습이죠.
0:19
하지만 현실에서의 행동은 검색 필터를 막 배운
0:21
지나치게 자신감 넘치는 인턴에 가깝습니다.
0:24
이 에이전트는 코파일럿 기반의 셰어포인트 프리미엄 안에 살고 있으며
0:27
1년차 분석가의 낙관론과 크레용을 든 어린아이의 규율을 갖추고 있습니다.
0:31
마이크로소프트는 마치 이제 셰어포인트 관리자를 해고하고
0:34
AI에게 문서 정리를 맡길 수 있는 것처럼 마케팅합니다.
0:37
사용자들은 드디어 메타 데이터 지옥에서 해방이다.
0:39
라며 환호하죠.
0:40
그런데 스포일러를 하나 드리자면
0:41
이 친구는 규정 준수 폴더를 이모지 사용 순서대로 다시 정리해버립니다.
0:45
분명히 해두죠.
0:46
강력한 건 맞지만 자율적인가요?
0:48
천만에요.
0:49
파일럿이라기보다 보조 파일럿에 가까우며
0:51
이는 여전히 어른의 지도가 필요하다는 점잖은 표현입니다.
0:53
사실 메타 데이터 업무를 없애기는 커녕 3배로 늘려놓죠.
0:56
모든 문서가 10명명 규칙에 대한 신학적 논쟁거리로 변해버립니다.
1:00
영상이 끝날 때쯤이면
1:01
이게 실제로 뭘 하는지 어디서 실수를 하는지
1:03
왜 거버넌스 담당자들이 뒤에서 식은땀을 흘리고 있는지 알게 되실 겁니다.
1:06
그러니 이 디지털 인턴이 할 수 있다고 장담하는 기능부터 살펴보죠.
1:10
판매 홍보와 현실의 차이입니다.
1:12
모든 것을 그냥 정리해준다는 말이죠.
1:14
마이크로소프트의 마케팅과 몇몇 지나치게 열정적인 유튜버들에 따르면
1:18
지식 에이전트가 알아서 다 정리해준다고 합니다.
1:21
그 4단어에는 데이터 센터만큼 거대한 별표를 달아야 할 겁니다.
1:24
실제로 하는 일은 메타 데이터 열을 생성하고
1:26
자동화 규칙을 만들고
1:27
필터링된 뷰를 구축하며
1:29
사이트 전반의 질문에 답하는 것 뿐입니다.
1:31
다시 말해
1:31
시어포인트를 재구성하는 게 아니라
1:33
문서의 인격장애만 더 심어주는 꼴 있죠.
1:35
책상을 정리하겠다고 고집하는 인턴을 고용한 상황이라고 생각해보세요.
1:39
2시간 뒤에 돌아와 보니
1:40
세금 영수증이 종이 두께 순으로 정리되어 있는 시기입니다.
1:43
깔끔하긴 하겠지만
1:44
세금 신고가 제대로 될지는 의문이죠.
1:46
이게 제대로 작동하기 전까지
1:47
여러분은 여러 관료적 신들을 달래야 합니다.
1:50
유료 마이크로소프트 365호 파일럿 나이선스
1:52
시어포인트 프리미엄을 활성화해줄 관리자
1:55
그리고 왜 절반의 열이 같은 데이터를
1:57
대소문자만 바꿔 반복하고 있는지
1:58
상사에게 설명할 수 있는 참을성 있는 누군가가 필요하죠.
2:01
소환된 에이전트는
2:02
세 가지 주요 기술을 선보입니다.
2:05
라이브러리 정리
2:06
규칙 설정
2:07
질문하기입니다.
2:08
이 편리함의 3위일체는
2:09
코파일럿으로 학습된 메타 데이터가
2:11
365 앱 전반에서
2:12
더 나은 질의 응답 경험을 제공할 것이라는
2:14
마이크로소프트의 장기적인 도박입니다.
2:16
본질적으로
2:17
오늘 여러분이 시어포인트가 파일을 이해하도록 가르치면
2:19
내일 코파일럿이 그 파일들에 대한 질문에
2:20
답할 수 있게 되는 것입니다.
2:21
감탄스럽지만
2:22
약간은 겁이 납니다.
2:23
이제 현실을 직시할 시간입니다.
2:25
네
2:25
자동으로 메타 데이터를 제한할 수는 있죠.
2:27
네
2:27
문서를 분류할 수도 있습니다.
2:29
하지만 아니요
2:30
정책 소유자와
2:31
소유자 정책 사본 2
2:32
를 구분하지는 못합니다.
2:33
자동화의 모든 성과는
2:34
기존 데이터가 얼마나 깔끔한지에 달려있습니다.
2:36
쓰레기를 넣으면
2:37
이름표 붙은 쓰레기가 나옵니다.
2:39
그리고 모든 수정 작업에는
2:39
예상하셨겠지만
2:40
사람이 필요합니다.
2:41
가장 유혹적인 부분은
2:42
자율성에 대한 환상입니다.
2:44
권한을 부여하고
2:44
잠시 자리를 비웠다 돌아오면
2:46
라이브러리는 새로운 열과
2:47
알록달록한 색상으로 화려하게 빛납니다.
2:49
하지만 그 화려한 겉모습 뒤에는
2:50
조용한 혼란
2:51
중복된 필드
2:52
일관성 없는 태그
2:53
어설픈 사이드뷰가 숨어있죠.
2:55
자동화는 무질서를 없애지 않습니다.
2:57
그저 세련된 거칠애로 덮어버릴 뿐이죠.
2:59
그게 바로 진짜 마술입니다.
3:00
엉망진창인 상태를 매끄럽게 보이게 만드는 것이죠.
3:03
그렇다면 인턴에게 문서 라이브러리를 완전히 맡기면
3:05
어떤 일이 벌어질까요?
3:06
자 알아서 정리해봐
3:07
라고 말했을 때 말이죠.
3:08
그때부터 코미디가 시작됩니다.
3:10
자동 태깅
3:10
숙제를 잊어버리는 천재
3:12
여기서 우리의 재능있는 인턴이
3:14
디지털 소매를 걷어붙이고
3:15
라이브러리를 정리하겠다고 다짐합니다.
3:17
그 문구는
3:18
마치 온 우주를 알파벳 순으로
3:19
정리할 것처럼
3:20
자신감이 넘쳐 흐릅니다.
3:21
조화를 기대하며 버튼을 누르죠.
3:24
하지만 얻게 되는 결과물은
3:25
엑셀을 막 배운 신경망이 만든 추상화에 가깝습니다.
3:28
이 라이브러리 정리 기능은
3:30
겉보기엔 매우 간단해 보입니다.
3:31
문서를 스캔한 뒤
3:32
새로운 메타 데이터열을 제안하죠.
3:34
검토 날짜
3:35
부서 담당자
3:36
문서 유형 같은 것들 말입니다.
3:38
하지만 때때로 파일 이름에서
3:40
숫자 2를 발견했다는 이유로
3:41
중요한 숫자 2
3:42
라는 열이 필요하다고 결정하기도 합니다.
3:44
네 진짜로요.
3:45
마치 수학시험에서 만점을 받은 영재가
3:47
자기 이름 철자를 잊어버리는 것을 보는 기분입니다.
3:49
처음 실행하면 당황해서 어쩔 줄 모르게 됩니다.
3:52
제안들은 무작위 같고
3:53
미리 보기 창은 의미 없는 필드들로 가득하며
3:54
무엇 하나 일관성 있는 게 없어 보이죠.
3:56
그건 아직 준비가 안 됐기 때문입니다.
3:58
엔진은 조용히 백그라운드에서
3:59
인덱신과 콘텐츠 분석을 수행하는데
4:00
이 과정은 몇 시간이 걸릴 수 있습니다.
4:02
그때까지는 기본적으로 추측을 하는 셈이죠.
4:04
다시 말해
4:05
열 생성
4:05
을 바로 클릭하면
4:06
디지털 헛소리만 얻게 됩니다.
4:08
하룻밤 자게 두세요.
4:09
인공지능조차도 의미 있는 결과를 내놓으려면
4:11
꿈을 꿀 시간이 필요한 모양입니다.
4:12
마침내 잠에서 깨어나면
4:13
마법같은 일이 벌어집니다.
4:15
열 제안들이 실제로 구조를 반영하기 시작하죠.
4:17
수십 개의 정책 헤더에서
4:18
올바르게 추출된 검토 날짜를 확인할 수 있을지도 모릅니다.
4:21
텍스트를 읽고
4:22
패턴을 감지하여
4:23
메타데이터로 바꿨다는 것을 깨닫게 됩니다.
4:25
약 10초 동안은 감탄하게 됐죠.
4:27
그런데 곧
4:27
정책 소유자
4:28
정책 소유자
4:29
정책 소유자를 각각 별도의 필드로 만든 것을 발견하게 됩니다.
4:31
셰어포인트가 이제 세 가지 방언의 영어를 구사하게 된 겁니다.
4:34
이것이 첫 번째 진짜 교훈입니다.
4:36
AI는 질서를 만드는 게 아닙니다.
4:38
이미 존재하는 혼란을 증폭시킬 뿐이죠.
4:40
엉망인 문서 서식이요.
4:42
축하합니다.
4:42
이제 구조화된 데이터로 영원히 박제되었습니다.
4:44
악의는 없습니다.
4:45
그저 지나치게 문자 그대로 받아들일 뿐이죠.
4:47
모든 불일치가 하나의 열이 됩니다.
4:49
모든 서식의 기벽이 하나의 온톨로지가 됩니다.
4:51
인턴이 당신의 실수를 전부 기록해뒀군요.
4:54
다행히 마이크로소프트는
4:55
당신의 실전적 위기를 예상하고의
4:56
과정을 선택사항으로 만들었습니다.
4:58
어떤 변경사항도 자동으로 적용되지 않습니다.
5:01
인간 성인인 당신이 모든 제안을 검토하고
5:03
어떤 열을 유지할지 직접 선택해야 합니다.
5:05
인터페이스는 대기중인 변경사항을 파란색 표시기로 강조하며
5:08
정말 이렇게 할까요?
5:10
라고 넌지시 묻습니다.
5:11
코파일럿은 자동 조종이 아니라
5:12
예측 텍스트로 포장된 수작업입니다.
5:15
각 변경사항을 승인하고
5:16
중복을 제거하고
5:17
이름을 바꾼 뒤에야 메타 데이터를 뷰에 적용합니다.
5:19
아이러니한가요?
5:20
그냥 직접 열을 만드는 게 더 빨랐을 겁니다.
5:23
그래도 잘 작동할 때는 정말 영리합니다.
5:25
샘플 세트에서 값을 미리 보고
5:26
정책 소유자가 부서 이름으로 채워지거나
5:28
문서 헤더에서 검토 날짜가 어떻게 입력되는지 확인할 수 있죠.
5:32
엉망인 상태를 빠르게 감사하는 방법입니다.
5:34
그런 다음 라이브러리 전체에 적용하고
5:35
자동 채우기 과정이 시작되는 것을 지켜봅니다.
5:38
백그라운드 작업이 돌아가고
5:39
메타 데이터가 서서히 채워지면
5:40
잠시 AI에게 감사 쪽지라도 보낼까 고민하게 됩니다.
5:43
그러지 마세요.
5:44
곧 다시 당신을 배신할 테니까요.
5:46
지연 시간이 기다리고 있기 때문이죠.
5:47
메타 데이터 업데이트와 채우기는 비동기식으로 진행됩니다.
5:50
작업이 처리되는 동안
5:51
여름 몇 분 혹은 몇 시간 동안 빈칸으로 표시됩니다.
5:54
사용자는 아무 일도 일어나지 않았다고 생각해서
5:56
작업을 다시 실행하고
5:57
혼란을 두 배로 만듭니다.
5:58
그러고는 몇 분 뒤
5:59
두 업데이트가 충돌하면서
6:01
부분적으로 채워진 데이터를 덮어서버립니다.
6:03
버그가 아니라 믿음을 시험하는 겁니다.
6:05
에이전트는 인내심에 보상하고
6:06
열정을 처벌합니다.
6:07
당신이 보지 않을 때만
6:08
빠르게 일하는 천재를 고용했다고 생각하세요.
6:10
버전 관리 기능은 코미디 요소를 더합니다.
6:12
정책 V2, 도크X를 업로드한다고 가정해보죠.
6:15
AI는 성실하게 정책 V1이 메타 데이터를 복사하는데
6:17
여기엔 구식 소유자 필드도 포함되어 있습니다.
6:19
그리고 잠시 숨을 고릅니다.
6:20
얼마 후
6:21
내용이 변경된 것을 알아차리고
6:22
다시 메타 데이터 추론을 시작하죠.
6:24
결국 따라잡기는 합니다.
6:25
결국엔 말이죠.
6:31
이 타이밍 문제를 이해하게 되면
6:32
그저 기이 한 특징으로 대하게 됩니다.
6:34
재인덱싱을 야간에 예약하고
6:35
자동 채우기 대기열을 모니터링하며
6:37
이 기능이 이를 줄여준다고 생각했던 사람들을 비웃게 되죠.
6:40
그것이 바로 루프 안에 인간
6:41
휴먼 인 더 루프 모델이 작동하는 방식입니다.
6:43
AI가 제안하고 인간이 처리합니다.
6:45
당신이 AI 위 추측을 수정합니다.
6:46
철자를 수정합니다.
6:47
그 과도한 열정을 억제합니다.
6:49
에이전트는 판단력을 대체하는 게 아니라
6:50
감독을 요구하는 겁니다.
6:52
좋은 데이터 세트에서 결과는 놀라울 정도로 유용할 수 있습니다.
6:54
정책 라이브러리에 통일된 필드가 생깁니다.
6:56
다른 팀들이 소유자별로 문서를 필터링할 수 있습니다.
6:59
다음 분기에 검토할 문서를 검색하면
7:01
태그가 올바르게 지정된 모든 항목이 갑자기 나타납니다.
7:03
기계는 당신의 혼돈에 구조를 부여하지만
7:05
그것은 당신이 절반을 직접 재구성한 후에야 가능합니다.
7:08
자동화의 역설입니다.
7:09
효율성과 어리, 소금을 동시에 확장합니다.
7:12
사실이 도구는 광범위한 분류에서 빛을 발합니다.
7:15
계약서와 템플릿, 정책과 양식을 구분할 수 있습니다.
7:18
하지만 규정 준수 태그 지정, 기록 관리, 민감도 레이블,
7:22
보존 범주에 관해서 라면 역부족입니다.
7:25
콘텐츠를 읽지만 맥락은 파악하지 못합니다.
7:27
단어는 인식하지만 책임은 인식하지 못합니다.
7:29
캐주얼 한커리 N은 괜찮지만 법적 보존에는 재앙이 될 수 있습니다.
7:32
그럼에도 불구하고 당신은 계속 이 도구를 사용할 것입니다.
7:35
부분적인 정리만으로도 진전처럼 느껴지기 때문입니다.
7:37
인턴은 숙제를 잊을지 몰라도
7:38
적어도 당신이 잠든 사이에 나타나 무언가를 해냈습니다.
7:41
상부에 보고서를 보내기 전에
7:42
계산 결과를 확인하는 것만 잊지 마세요.
7:44
물론 우리 인턴은 서류 정리만으로는 만족하지 않습니다.
7:46
아니요, 더 큰 책임을 원합니다.
7:52
이제 그것을 시도하게 하려 합니다.
7:53
자연어 규칙, 초보자를 위한 거버넌스입니다.
7:56
우리 드라마의 2막, 규칙을 소개합니다.
7:58
지식 에이전트는 이제 자연어를 사용하여
8:00
규칙을 설정할 수 있다고 주장합니다.
8:02
코딩도 파워 오토 메이트의 마법도 필요 없는
8:04
그저 친근한 대화일 뿐입니다.
8:06
일반 사용자에게는 아주 훌륭하게 들립니다.
8:08
관리자에게는 다가올 편두통처럼 들립니다.
8:10
단순함 이면에 숨겨진 본질은
8:12
생산성으로 포장된 거버넌스 룰렛이기 때문입니다.
8:15
작동 방식은 이렇습니다.
8:16
쉬운 영어로 새 파일이 추가되면 이메일을 보내줘
8:19
라고 말합니다.
8:20
에이전트는 미소를 지으며
8:22
조용히 고개를 끄덕이고 한 줄짜리 규칙을 만듭니다.
8:25
조건, 동작, 완료
8:26
이는 샌드위치를 만들어져서 수준의 자동화입니다.
8:29
귀엽지만 영양학적으로는 부족합니다.
8:32
전문 관리자들은 이 기능이 동작 감지 현관 등만큼의
8:34
정교함 밖에 없다는 것을 금방 깨닫습니다.
8:36
바람이 불기 전까지만 잘 작동합니다.
8:39
중첩된 논리도 트리거당 여러 동작도 없습니다.
8:42
파워 오토 메이트를 맡기기
8:44
앤 믿없지 않은 시민 개발자 용의 단순한 규칙일 뿐입니다.
8:48
그리고 그 취약함이란
8:49
아, 정말 취약합니다.
8:50
이 규칙들은 당신과 인턴이 이전에 만들어낸
8:53
메타데이터 열에 전적으로 의존합니다.
8:55
파일이 업로드될 때 메타데이터 처리가 끝나지 않으면
8:57
트리거는 이를 놓칩니다.
8:59
인턴 버전의
8:59
같음은 딱 한 번만 평가되는데
9:01
너무 빠르거나 너무 늦거나
9:03
정작 필요할 때는 작동하지 않습니다.
9:05
예지력에 의한 자동화인 셈입니다.
9:07
결과는 무엇일까요?
9:08
이론상 존재하지만
9:09
인덱싱 악령이 기분 내키는 격주 목요일에만 실행되는 규칙들이죠.
9:13
이제부터는 순진한 수준을 넘어 위험해지는 지점입니다.
9:15
조금 더 똑똑한 명령을 시도한다고 가정해보죠.
9:18
휴가와 관련된 새 파일이 추가되면
9:20
나에게 이메일을 보내죠.
9:21
에이전트는 휴가 관련 필드를 찾을 수 없으니
9:23
열정적으로 하나 만들겠다고 제안합니다.
9:26
휴가 관련 일하는 새로운 예
9:27
아니요 열이 생기죠.
9:29
그저 대화 몇 마디로 스키마를 확장해버린 겁니다.
9:31
AI가 스키마의 소유자가 누구인지
9:33
기존 필드와 충돌하지는 않는지 묻지도 않았기에
9:36
거버넌스 위원회는 구석에서 조용히 눈물을 흘립니다.
9:39
그냥 바로 만들어버린 거죠.
9:40
인상적이군요.
9:41
대화 도중에 말 그대로 스스로 데이터베이스 권한을 부여한 셈입니다.
9:44
어딘가에 있을 당신의 셰어포인트 아키텍트가
9:46
이유도 모른 채 갑자기 가슴 통증을 느꼈을 겁니다.
9:49
이것이 바로 탈중앙화된 규칙 생성의 시작입니다.
9:51
선의를 가진 사용자가 가벼운 규칙을 하나 만듭니다.
9:54
바른 사람이 그걸 복사하죠.
9:55
곧 모든 부서가 각자 자신들만의 진실을 만들어냅니다.
9:58
정책 담당자 대 소유자 정책 검토 1대
10:01
다음 검토 1처럼 말이죠.
10:03
각자의 규칙이 매일함을 핑핑 울리고
10:04
카페인 과다 복용한 요정들처럼 문서를 이리저리 옮깁니다.
10:07
얼마 지나지 않아 깔끔하던 라이브러리는 스스로 변형되는 생태계가 됩니다.
10:11
AI는 단순히 규칙을 따르는 것이 아니라 규칙을 양산합니다.
10:13
2000년대 중반에 액세스 데이터베이스 폭발을 겪어본 사람이라면
10:16
누구나 대 자비를 느낄 겁니다.
10:18
마이크로소프트는 매크로를 머신러닝으로 대체했지만
10:20
문제는 동일합니다.
10:21
열정만 앞선 사용자들이 작성한 체계없는 논리들입니다.
10:24
거버넌스 관점에서 볼 때 이것은 악몽 같은 시나리오입니다.
10:27
이제 아무도 모니터링하지 않는 사용자 생성 메타 데이터를 기반으로
10:29
규칙이 작동할 수 있습니다.
10:30
이 규칙들은 알림을 보내고 파일을 복사하며
10:33
라이브러리 전체의 소유권 필드를 덮었습니다.
10:35
자동화 드리프트 현상이죠.
10:36
조용하고 눈에 보이지 않으며
10:37
제한까지 셰어포인트 마이그레이션 한 번 거리만큼 남아있는 상태입니다.
10:40
가장 기이한 점은 일반 비즈니스 사용자에게는
10:42
이것이 권한을 부여받는 느낌을 준다는 겁니다.
10:44
과연 인사 업데이트를 자동화했어요.
10:46
그들은 5분마다 스스로에게 알림을 보내는
10:48
재기적 이메일 루프를 만들었다는 사실 조차 모른 채 기뻐합니다.
10:51
아이러니하게도 너무 복잡하다는 이유로
10:53
조롱받던 파워 오토 메이트는
10:55
바로 이런 혼란을 막기 위해 존재하는 것입니다.
10:57
인증, 역할, 표준화된 명명 규칙을 강제하죠.
11:00
하지만 지식 에이전트는 접근성을 내세워
11:02
그 모든 구조를 내다버립니다.
11:04
그게 바로 사람을 현혹하는 점입니다.
11:06
비즈니스 사용자들은 즐겁게 그것을 도입할 겁니다.
11:08
단순 자동화에는 IT 부서가 필요 없다고 주장하면서요.
11:11
어떤 면에서는 그 말이 맞습니다.
11:13
필요 없죠.
11:14
나중에 그 엉망이 된 상황을 수습해줄 IT 부서가 필요할 뿐입니다.
11:17
기술적으로 이 기능을 현명하게 사용하는 방법은 있습니다.
11:19
규칙 생성을 관리되는 라이브러리로 제안하고
11:21
콘텐츠 소유자의 검토를 거치게 하는 것이죠.
11:24
하지만 실제로는 일상적인 문서보기 화면 안에서
11:26
인터페이스가 작동하니 유혹을 뿌리치기 어렵습니다.
11:29
무엇을 할까요?
11:30
라고 묻는 깜빡이는 커서를 외면할 사용자는 거의 없습니다.
11:34
그건 권한 부여가 아니라 설계된 함정입니다.
11:36
네, 이 도구는 규칙을 따를 수는 있지만
11:38
그 규칙이 왜 존재하는지 혹은 누가 승인했는지는 기억하지 못합니다.
11:41
이해 없이 거버넌스를 흉내내기만 하는데
11:43
이는 모든 과신에 찬 인턴들의 전형적인 특징이죠.
11:46
스키마를 재작성하느라 바쁜 와중에도
11:48
자신 있게 질문에 답할 수 있다고 주장합니다.
11:50
당연히 그러겠죠.
11:52
데이터와 대화하는 것이 책임 소재로 변질되는 순간
11:54
질문을 던져보세요.
11:56
이제 모두가 좋아하는 묘기가 나옵니다.
11:58
디지털 인턴이 모니터를 똘망 똘망하게 쳐다보며 말하죠.
12:01
무엇이든 물어보세요.
12:08
마법과 의료 과실이 섞인 셈입니다.
12:11
인공지능에게 지식 베이스의 열쇠를 건네는 것은
12:13
단순히 검색 기능을 강화하는 게 아니라
12:15
백락을 걸고 도박을 하는 것이니까요.
12:17
원래 위도된 기능은 이렇습니다.
12:18
새로운 휴가 관련 법규에 영향을 받는 정책은 무엇인가요?
12:21
와 같은 자연어 프롬프트를 입력합니다.
12:23
혹은 재무 핸드북 버전 1과 버전 2의 차이점은 무엇인가요?
12:28
라고 묻죠.
12:29
지식 에이전트는 문서 내용, 메타 데이터, 관계를 성실히 훑어본 뒤
12:33
때로는 섬뜩할 정도로 정확한 답변을 내놓습니다.
12:37
실제 문서 제목을 인용하고 관련 변경 사항을 요약하며
12:39
정책이 다른 부분을 강조하기도 합니다.
12:42
잠시 빛나는 순간 여러분은 생각하죠.
12:44
드디어 제대로 작동하는 셰어포인트, 셰어포인트를 만났구나.
12:48
실제로 도움이 될 때도 있습니다.
12:49
감사를 준비하는 법무팀은 관련 정책을 즉시 상호참조할 수 있습니다.
12:53
컴플라이언스 담당자는 3월 이후 업데이트된 문서 중 개인정보 보호조항을 언급한 문서를 보여줘
12:57
라고 물을 수 있죠.
12:58
그리고 유용한 정보를 얻습니다.
13:00
버전 기록을 끝없이 클릭할 필요가 없습니다.
13:02
AI는 사람이 반나절 동안 모아야 할 맥락을 순식간에 엮어냅니다.
13:06
생산성은 급증합니다.
13:08
평판은 올라갑니다.
13:09
누군가는 책임 있는 AI로 지식 업무를 혁신한다는 내용의 링크된 게시물을 작성하겠죠.
13:14
하지만 그때 현실이 끼어듭니다.
13:15
에이전트는 여러분의 의미를 실제로 이해하는 것이 아니라
13:17
무엇을 의미할지 예측하는 것입니다.
13:19
질문이 조금만 어긋나도 마음대로 즉흥적으로 처리합니다.
13:21
성과 평가와 관련된 절차는 무엇인가요?
13:24
라고 물었을 때 텍스트에서 자주 함께 등장한다는 이유로
13:27
징계 지침까지 함께 보여줄지도 모릅니다.
13:29
축하합니다.
13:30
방금 멘토링과 처벌을 동일시 해버렸네요.
13:33
자연어 해석은 논리가 아닙니다.
13:35
확률에 기반한 추측일 뿐이죠.
13:37
컴플라이언스 아카이브 안에서 그런 추측이 이루어지면
13:39
대충 맞겠지?
13:40
라는 생각의 대가는 빠르게 불어납니다.
13:42
재앙의 가능성은 가정이 아닙니다.
13:44
열정적인 관리자가 급여 조정과 관련된 모든 문서를 보여줘
13:47
라고 검색하는 상황을 상상해보세요.
13:49
AI는 행복하게도 급여 요약, 인사 고충 사항,
13:52
그리고 2022년 임원 보상 기밀이라는 pdf까지 전부 가져옵니다.
13:56
완벽한 회상이지만 판단력은 제로입니다.
13:59
민감도 레이블은 에이전트의 컨텍스트 창에서
14:01
깔끔하게 변환되지 않는다는 점을 기억하세요.
14:03
그것은 권한일 뿐 이해가 아닙니다.
14:04
AI는 무엇이 비밀인지 모릅니다.
14:06
그저 급여라는 글자가 적힌 텍스트를 읽을 뿐이죠.
14:09
당신은 지능형 검색을 원했지만
14:10
당신이 얻은 건 가십 엔진입니다.
14:11
이 철학적 아이러니는 참으로 절묘합니다.
14:14
우리는 AI에게 질문에 답하도록 훈련시키지만
14:15
셰어포인트 거버넌스에서 가장 안전한 답변은 종종
14:18
그런 질문은 하지 않는 것이 좋습니다.
14:19
입니다.
14:20
하지만 에이전트에게는 그런 필터가 없습니다.
14:22
에이전트는 사용자의 접근 권한 내에 있는 모든 파일을
14:25
정당한 대상으로 간주합니다.
14:26
멀티 테넌트 환경에서 이는 조용한 보안 침해의 원인이 됩니다.
14:30
내부에서 발생하고 잠금장치도 없으며
14:31
사용자의 권한 내에 있다는 이유로 완벽하게 설명 가능하니까요.
14:34
AI는 결백하지만 데이터 노출은 치명적입니다.
14:36
공정하게 말하자면
14:37
마이크로소프트는 에이전트가 거버넌스 프레임워크를 대체한다고 주장한 적이 없습니다.
14:40
그것은 편리한 기능일 뿐
14:41
컴플라이언스 담당자가 아닙니다.
14:43
문제는 인식의 차이입니다.
14:45
일반 사용자는 대화형 인터페이스가 권위를 가진다고 가정합니다.
14:48
답변이 유창하면 신뢰할 수 있다고 느끼는 것입니다.
14:50
그래서 정중한 산문으로 포장된 불완전한 요약이 조직의 진실이 됩니다.
14:54
잠시 후 누군가 그 환각적인 반락을 바탕으로 보고서를 작성하고
14:58
정책은 수정되어 버립니다.
15:00
지식 에이전트를 사생활 개념이 없는 사서라고 생각해보세요.
15:03
자신있게 물어보기만 하면
15:04
미소지으며 제한된 바인더를 건네줄 것입니다.
15:07
악의가 있는 게 아니라 그저 문자 그대로 따르는 것 뿐입니다.
15:09
부문을 통한 권위부여인 셈이죠.
15:11
그래서 진정한 거버넌스 위험은 유출이 아니라 오해에 있습니다.
15:14
AI는 정보 검색을 일관되게 들리는 모든 것을 신뢰하는 행위로 바꿔놓습니다.
15:18
메타데이터의 정확성은 언어적 매력 앞에서 무너집니다.
15:21
편리하긴 하죠.
15:22
심지어 중독적이기까지 하지만
15:23
자신감 넘치는 질문 하나하나가 추론된 메타데이터를 쌓고
15:27
검토되지 않은 관계와 보이지 않는 변화를 만들어냅니다.
15:30
인턴이 대화할 때마다 학습하듯
15:31
셰어포인트 분류체계가 배경에서 멋대로 변형됩니다.
15:35
축하합니다.
15:36
당신은 그럴듯함에 최적화된 자기복제식 루머 공장을 만드셨군요.
15:40
그리고 그 편리함은
15:41
메타데이터 인플레이션이라는 예측 가능한 질병을 낳습니다.
15:44
숨겨진 거버넌스 위험
15:45
바로 메타데이터 인플레이션과 AI 드리프트입니다.
15:48
IT위 모든 세대는 자신만의 방식으로 기록을 파괴하는 새로운 방법을 발명합니다.
15:52
지식 에이전트가 기여한 것은 무엇일까요?
15:54
바로 메타데이터 인플레이션입니다.
15:55
시작은 꽤나 순진해 보입니다.
15:57
모든 프롬프트, 규칙, 열 제한 하나하나가 작은 스키마 변경을 생성하니까요.
16:02
얼마 지나지 않아 정교했던 정보 구조는 중고 난방인 상태가 됩니다.
16:07
중복된 소유자 필드, 기한이 지난 검토 날짜 열, 그리고 출처 불명의 임시 파일들까지 말이죠.
16:14
이것이 AI 드리프트의 가장 순수한 형태입니다.
16:17
에이전트를 많이 사용할수록 에이전트는 사용자의 즉흥적인 입력을 법칙으로 믿게 됩니다.
16:21
변형된 사항을 감지하면 사용자가 오류를 수정하는 게 아니라 분류체계를 확장하려 한다고 가정하죠.
16:25
그리고 그런 변형들로부터 패턴을 만들어내기 시작합니다.
16:28
한때 정책 소유자를 위한 단일필드였던 것이 라이브러리마다 미묘하게 다른 사계의 계보로 나뉩니다.
16:33
코파일럿은 혼란스러워하면서도 충실하게 그것들을 모두 색인화하고, 결국 회사의 HR이라는 부서가 오게나 있다고 결론 내립니다.
16:40
정말 대단하지 않나요?
16:42
관리자들은 항상 전파 엔진의 힘을 과소평가합니다.
16:45
자동 생성된 가결은 로컬에만 머물지 않습니다.
16:48
템플릿, 콘텐츠 형식, 사이트 간 커리 전반으로 스며듭니다.
16:52
마치 곰팡이처럼 복사에서 붙여넣기를 즐기는 사람들과 동기화 작업을 통해 목록 전체로 조용히 퍼져나갑니다.
16:58
그리고 다음 코파일럿 인덱스가 재구축될 때 이 새로운 현실에 맞춰 조정됩니다.
17:02
그 시점부터 AI 위 답변은 당신이 자신도 모르게 가르친 혼란을 그대로 반영합니다.
17:06
사람의 언어로 쉽게 설명해보겠습니다.
17:08
모든 직원이 각자의 라벨링 방식을 고집하는 창고를 상상해보세요.
17:11
어떤 이는 상자를 파손주의로, 다른 이는 조심히 다룰 거도로, 또 어떤 이는 잘 깨짐으로 표시합니다.
17:16
일주일 뒤 아무도 무엇이 들어있는지 알 수 없게 되지만 모두가 자신이 절차를 잘 따르고 있다고 확신합니다.
17:20
지식 에이전트는 이러한 심리를 증폭시킵니다.
17:23
중앙에 검토 없이 메타 데이터 생성을 민주화함으로써 거버넌스를 체계적인 시스템이 아닌 해깅 습관의 인기 투표로 전락시킵니다.
17:30
그 뒤에 따르는 결과는 뻔합니다.
17:32
일관성 없는 분류체계는 코파일럿 위 혼란으로 이어집니다.
17:35
AI 요약자료는 구식 소유자, 중복된 프로젝트, 혹은 모순된 보존 표시를 참조하게 됩니다.
17:40
승인됨을 의미하는 열이 3개나 되는 탓의 규정 준수 대시보드는 문서 수치를 잘못 보고합니다.
17:45
그러면 경영진은 왜 코파일럿 위 정책 브리핑이 보안 매뉴얼을 작성자 미상, 날짜 미상으로 요약하는지 묻게 되는데,
17:52
인턴이 자기 과제를 3번이나 다시 라벨링 했기 때문입니다.
17:55
이 문제는 교육만으로는 해결할 수 없습니다.
17:57
데이터 표류는 구조적인 문제입니다.
17:59
사람들이 질문을 많이 할수록 데이터 세트의 일관성은 떨어집니다.
18:02
마이크로소프트는 악당을 설계한 것이 아니라 브레이크 없는 열정을 설계한 것입니다.
18:06
네, 지식 에이전트는 영리하지만 동시에 자동 조종 장치가 달린 스키마 생성 기계이기도 합니다.
18:11
관리자 권한을 가진 어린아이를 다루듯 제어하십시오.
18:14
샌드박스에 가두고 감독하며 매일 백업해야 합니다.
18:17
여기 억제 체크리스트가 있습니다.
18:19
먼저, 디지털 방식의 안전한 놀이터와 같은 파일럿 라이브러리에 가두십시오.
18:23
실수를 복구할 수 있는 곳에서 실험하게 하십시오.
18:26
둘째, 시어포인트 관리자 포털이나 API를 통해 열 생성 이벤트를 모니터링하십시오.
18:30
새로운 필드가 생성될 때마다 연기처럼 즉시 경고를 띄워야 합니다.
18:33
셋째, 열의 계보를 문서화하십시오. 각 필드가 언제 어떤 라이브러리에서 탄생했는지 추적하십시오.
18:37
다음 감사 때 스스로에게 고마워하게 될 것입니다.
18:40
마지막으로, 상위 수준에서 명명 규칙을 강제하십시오.
18:43
AI가 생성 한혈 앞에는 AI라는 적도사를 붙여 모두가 그것이 인터넷 심야 열정에서 비롯되었음을 알게 하십시오.
18:48
이 규칙들을 따르면 AI 데이터 표류는 사후 분석의 대상이 아닌 가벼운 일화로 남을 것입니다.
18:52
이를 무시하면 분기말이 지날 때쯤 당신의 분류체계는 엉망이 될 것입니다.
18:55
문제는 선의가 아니라 멈추지 않는 관성에 있습니다.
18:57
에이전트는 도움되는 행동이 해가 될 때까지 계속해서 돕습니다.
19:00
그러니 이 에이전트가 당신을 대체하는 것이 아니라 기계적인 속도로 당신의 골칫거리를 배가시키는 것입니다.
19:04
결론 및 생존 가이드, 걱정 많은 시어포인트 관리자라면 꼭 들어야 할 결론입니다.
19:08
지식 에이전트는 유능한 보조자일 뿐 당신의 후계자가 아닙니다.
19:11
단조로운 업무는 자동화하지만 의미를 파악할 수는 없습니다.
19:14
이를 자율적인 존재로 취급하는 것은 거버넌스 상의 과실입니다.
19:17
방치해두면 에이전트는 기쁜 마음으로 당신의 스키마를 재창조하고
19:20
기록을 잘못 분류하며 금지된 질문에도 확신에 찬 글 머리 기호로 답변할 것입니다.
19:23
인사팀의 가장 똑똑한 인턴에게 아무런 감독 없이 글로 계약서를 다시 쓰게 한다고 생각해보세요.
19:28
일은 일찍 끝내고 형식은 멋지게 갖추겠지만
19:30
위도치 않게 혼란을 법제화할 겁니다.
19:32
한계 없는 영리함은 그저 가속화된 오류일 뿐입니다.
19:35
당신의 생존 계획은 다행히도 간단합니다.
19:37
첫째, 큐레이팅된 라이브러리로 제안하세요.
19:40
실험이 프로덕션 분류 체계를 망가뜨리지 않을 시험장을 구축하세요.
19:43
파일럿을 실행하고 편차를 측정하며 동작이 안정된 후에만 확장하세요.
19:47
둘째, 메타데이터 변경사항을 중앙에서 모니터링하세요.
19:50
새로운 열, 규칙, AI 생성규는 모두 검토 과정을 거쳐야 합니다.
19:54
특히 예, 아니오필드가 기하급수적으로 늘어난다는 사실을 아는 사람이어야 합니다.
19:58
셋째, 사용자를 교육하세요.
20:00
뻔한 준법 슬라이드가 아니라 승인 절차라는 원칙으로 교육해야 합니다.
20:04
변경사항 저장 버튼을 누르는 모든 행위는 단순한 정리가 아니라
20:07
스키마를 수술하는 일임을 분명히 하세요.
20:09
이 세 가지를 실행하면 인턴은 방화범이 아닌 조력자가 될 것입니다.
20:13
이를 건너뛰면 다음 회계 연도 내내 감사 로그에서 유령열을 추적하며 시간을 보내게 될 겁니다.
20:18
근본적인 진실을 기억하세요.
20:20
자동화는 업무를 없애지 않습니다.
20:22
업무에 대한 인식을 옮겨놓을 뿐입니다.
20:24
더 화려한 대시보드 아래 숨겨진 노동도 여전히 노동이며
20:27
그것은 바로 당신의 것입니다.
20:28
그러니 메타데이터 작업으로부터 얻은 자유를 축하하기 전에
20:31
누가 대걸레를 쥐고 있는지 확인하세요.
20:33
스포일러를 드리자면
20:33
주의력이 부족한 알고리즘을 감독하는 건 여전히 당신입니다.
20:36
이 내용이 시어포인트 환경을 유지하는 데 도움이 되었다면 보답을 해주세요.
20:40
구독과 알림 설정을 하고 다음 에피소드가 자동으로 배포되게 하세요.
20:43
구조화된 지식이 일정에 맞춰 전달됩니다.
20:46
무질서가 아닌 질서입니다.
20:47
진행하세요.