Latest / M365.FM – Microsoft 365, Copilot & AI 팟캐스트 (한국어) / Copilot Studio 거버넌스: Power Platform DLP와 Purview로 AI 에이전트의 내부 데이터 유출 막기 (AI 더빙)

Transcript

Copilot Studio 거버넌스: Power Platform DLP와 Purview로 AI 에이전트의 내부 데이터 유출 막기 (AI 더빙) · M365.FM – Microsoft 365, Copilot & AI 팟캐스트 (한국어)

0:00
여러분은 지금 이 순간 에더 코파일럿 스튜디오를 통해 데이터가 유출되고 있다는 사실을 모르고 있습니다.
0:04
네, 새로운 AI 어시스턴트가 정보를 가져오고 요약하며 자동화하는 것에 모두가 환호하는 동안
0:08
그 친절한 책봇은 여러분의 이사회 회의록과 재무 스프레드 시트를 즐겁게 인덱싱하고 있을지도 모릅니다.
0:13
악의가 있는 게 아닙니다. 그저 고분고분할 뿐이죠. 아주 지독할 정도로요.
0:17
코파일럿 스튜디오 에이전트는 여러분과 동일한 권한을 상속받습니다.
0:20
즉, 여러분이 CEO의 급여 파일을 볼 수 있다면 책봇도 볼 수 있다는 뜻입니다. 축하합니다.
0:24
에이저 위 속도로 움직이는 전지전능 한 인턴을 만들어내셨네요.
0:27
그런데도 사람들은 코파일럿 보안을 마치 다 해결된 문제처럼 이야기합니다.
0:30
스포일러를 하나 드리자면 전혀 그렇지 않습니다.
0:33
여러분의 AI 에이전트는 독립적인 안전장치를 갖춘 존재가 아니라 사용자 아이디 위 확장판입니다.
0:37
그들은 여러분의 액세스 토큰을 빌려 데이터 영역을 누비며 여러분이 하지 말라고 한 일을 정확히 수행합니다.
0:42
사실 여러분은 데이터 유출방지 규칙을 설정해 녀석들을 통제하지 않아더니 하지 말라고 말한 적조차 없는 셈이죠.
0:48
자, 이제 본눈으로 들어갑시다.
0:49
앞으로 몇 분 동안 이 유출을 막는 방법과 파워 플랫폼 DLP 정책을 적용하는 방법을 배워서
0:55
코파일럿 에이전트가 회사의 신용카드를 잃어버리는 수다스러운 인턴처럼 민감한 데이터를 실수로 흘리지 않게 하는 방법을 알아보겠습니다.
1:02
코파일럿 에이전트가 왜 권한을 남용하는지, 커넥터를 통해 데이터 흐름을 어떻게 제어하는지,
1:06
그리고 마이크로소프트의 동의모델이 마크에서 실제로 무엇을 허용하는지 파헤쳐보겠습니다.
1:10
그리고 관리자 10명 중 9명이 무시하는 안전한 조직과 뉴스거리가 되는 조직을 조용히 구분짓는 아주 특별한 DLP 규칙이 하나 있습니다.
1:17
영상이 끝날 때 쯤이면 여러분은 해결책을 알게 될 것이고, 더 이상 변명할 여지도 없을 겁니다.
1:21
코파일럿 이 알아서는 안 될 정보를 무엇을 알고 있는지 파헤쳐봅시다.
1:24
숨겨진 문제, 너무 많은 것을 알고 있는 에이전트들입니다.
1:27
불편한 진실을 말씀드리죠.
1:28
여러분의 코파일럿 스튜디오 에이전트는 동료가 아니라 실리콘으로 복제된 여러분 자신입니다.
1:33
그 파일이 시어포인트에서 가져와야 할 파일인지, 데이터버스 테이블을 엿봐도 되는지 묻지 않습니다.
1:37
그저 여러분의 권한이 그렇기 때문에 그대로 실행할 뿐입니다.
1:40
대부분의 관리자는 마이크로소프트 생태계에서 아이디 복제가 곧 권한 복제와 같다는 사실을 잊곤 합니다.
1:46
에이전트는 본질적으로 여러분의 보안 컨텍스트를 통해 액세스 권한을 부여받은 고분고분한 복제본이지만,
1:51
여러분이 가진 판단력은 전혀 없습니다.
1:52
자, 코파일럿 스튜디오는 아울룩, 데이터버스, 시어포인트, 팀제 및 파워 플랫폼,
1:57
페넌트가 허용하는 기타 모든 통합과 같은 커넥터를 통해 이러한 기능을 결합합니다.
2:00
각 커넥터는 데이터 소스와의 AI 어시스턴트 사이에 뚫린 터널과 같은 역할을 합니다.
2:05
터널을 많이 열수록 에이전트가 돌아다닐 수 있는 범위는 넓어집니다.
2:08
편리하고 심지어 매혹적이기까지 하죠.
2:10
하지만 누군가, 지난 분기 채용 패턴이 어땠지, 라고 입력하는 순간,
2:13
에이전트가 기밀 인사문서를 기분 좋게 요약해줄 때는 상황이 달라집니다.
2:16
카페인을 과다 복용한 인턴이 직원 폴더를 속독하는 것과 디지털적으로 동일한 상황이죠.
2:21
진정한 역설이 무엇인지 아십니까?
2:23
마이크로소프트는 실제로 데이터 유출방지 정책이라는 안전장치를 제공하고 있다는 사실입니다.
2:26
DLP는 본래 비즈니스 핵심 데이터와 그 외의 혼란스러운 데이터를 구분해주는 입구의 보안요원 같은 존재였습니다.
2:32
하지만 대부분의 환경에서 그 안전장치는 코파일럿이 작동하는 공간보다 훨씬 아래쪽에서 멈춰버립니다.
2:37
사용자들은 페넌트 수준의 정책이 자동으로 적용될 것이라 생각하지만,
2:40
코파일럿 에이전트는 파워 플랫폼 환경과 페넌트 경계 사이 어딘가에 존재합니다.
2:44
기술적으로는 문제가 없어 보이지만,
2:46
모든 것이 조용히 잘못되어가고 있는 거버넌스의 사각지대 인셈이죠.
2:49
이 점을 고려해보세요.
2:50
아울룩과 시어포인트 커넥터는 비즈니스용으로,
2:53
일부 외부 API는 비즈니스 외 용도로 설정했다고 가정합시다.
2:56
이러한 분리가 제대로 시행된다면 데이터가 카테고리 간에 흐르는 것을 막을 수 있습니다.
3:01
그러나 적절한 DLP 세트와 연결되지 않은 환경 내의 코파일럿 에이전트는 결국 두 영역 모두에서 실행되게 됩니다.
3:08
갑자기 여러분의 비즈니스 데이터가 비즈니스 외 연결 경로를 통해 흘러나가게 되는 것이죠.
3:12
마치 로비만 지키는 보안 정책 때문에 정작 중요한 금고문을 열어두고 있는 것과 같습니다.
3:17
일반적인 실패 경로들은 모두 같은 실수를 원인으로 합니다.
3:20
첫째, 에이전트가 기밀목록에서 가져온 정보를 유약하거나 위협합니다.
3:25
둘째, 서로 다른 소스를 하나의 대화로 통합하여 위도치 않게 데이터 분류 규정을 위반합니다.
3:31
셋째, 관리자가 정책 상속을 당연하게 생각합니다.
3:34
하지만 코파일럿 에이전트는 고유한 DLP 경계를 가진 환경에 배포되기 때문에 그런 상속은 절대 일어나지 않습니다.
3:40
마이크로소프트 각어버넌스 작업을 대신해줄 것이라는 기적 같은 가정, 그런 일은 일어나지 않습니다.
3:45
여러분의 코파일럿 이 재무 데이터를 볼 수 있다면 축하합니다.
3:48
책보세션을 열어 예산 세부 정보를 캐묻는 선의위 직원들 모두가 같은 데이터를 볼 수 있다는 뜻이니까요.
3:54
이것이 바로 악의적 인위도 없이 내부적으로 발생하는 침해 사고의 조용한 경로입니다.
3:58
해커는 필요 없습니다.
4:00
그저 너무 관대한 권한과 컨텍스트 격리의 부재가 문제일 뿐이죠.
4:03
이런 유형의 침해는 누군가 대화 기록을 내보내기 전까지는 뉴스에 나오지도 않습니다.
4:07
그러니 당황하거나 마이크로소프트를 탓하기 전에 여러분의 아키텍처부터 살펴보세요.
4:11
에이전트는 규칙을 어기는 것이 아니라 그 규칙을 정확히 따르고 있는 것입니다.
4:14
단지 여러분이 올바른 규칙을 정의하지 않았을 뿐입니다.
4:16
DLP는 모든 계층에 자동으로 적용되지 않습니다.
4:18
환경별로 범위를 지정하고 적용하고 테스트해야 합니다.
4:21
그리고 그거 아시나요?
4:22
코파일럿 스튜디오 에이전트는 기본적으로 개발 환경에 존재하는데
4:25
여러분은 아마 테스트용이라는 이유로 그곳을 한 번도 강화하지 않았을 겁니다.
4:29
에이전트가 너무 많은 것을 알고 있다는 증상을 확인했습니다.
4:32
이제 누출을 막기 위해 데이터가 사용자에서 커넥터,
4:36
대화 로그로 어떻게 이동하는지 맵핑해야 합니다.
4:39
박물의 흐름을 알아야 땜을 쌓을 수 있으니까요.
4:42
그러니 그 흐름을 먼저 분석해봅시다.
4:44
여러분의 친절한 챗봇이 실수로 연간 전망을 참여하지 말아야 할 팀 채팅방에 유출하기 전에 말이죠.
4:50
코파일럿 스튜디오를 통한 데이터 흐름.
4:52
여러분의 데이터가 어디로 향하는지 추적해봅시다.
4:54
여러분과 달리 데이터는 커피 브레이크도 같지 않으니까요.
4:56
사용자가 코파일럿 스튜디오 에이전트와 대화를 시작하는 순간,
5:00
백그라운드에서 여러 장치가 가동되기 시작합니다.
5:02
먼저 엔트라 아이디를 통해 인증된 사용자 아이디가 식별됩니다.
5:05
이 아이디에는 내가 볼 수 있는 모든 것을 너도 볼 수 있다는 의미를 내포한 리임 권한이 포함되어 있습니다.
5:11
그런 다음 에이전트는 커넥터를 통해 해당 자격 증명을 가져오는데,
5:14
이는 셰어포인트, 아울록, 데이터버스 또는 해당 환경에서 사용 가능한 다른 서비스 등 데이터 소스로 향하는 논리적 가교 역할을 합니다.
5:20
데이터를 검색한 후에도 출력값이 사라지는 것은 아닙니다.
5:24
데이터는 대화 맥락, 생성된 응답, 그리고 마지막으로 기록 및 분석을 위한 분석 스토리지 등 여러 계층을 거쳐 이동합니다.
5:31
마치 작은 데이터 이어 달리기 같지만, 바통이 기밀 정보라는 점이 다릅니다.
5:35
이제 이어 달리기의 모든 단계에는 취약한 연결고리가 존재합니다.
5:38
커넥터가 첫 번째 위험 구역입니다.
5:40
파워 플랫폼 위 커넥터는 표준형, 일반적인 마이크로소프트 서비스, 프리미엄, 타사 또는 향상된 기능, 그리고 사용자 지정 API 위 세 가지 유형으로 나뉩니다.
5:49
각 유형은 다르게 관리됩니다.
5:51
표준 커넥터는 내장된 DLP 범주 내에 깔끔하게 분류됩니다.
5:54
하지만 프리미엄 및 사용자 지정 커넥터는 분류를 할당하기 전까지 규제 사각지대에 놓이는 경우가 많습니다.
5:59
관리자가 이를 소홀히 하면 코파일럿 에이전트는 이를 모두 자유롭게 사용할 수 있는 대상으로 간주합니다.
6:03
파일 캐비닛 절반에는 1급 비밀 라벨을 붙이고 나머지는 비워두는 상황을 상상해보십시오.
6:07
인터넷에 흥미로워 보이는 것은 무엇이든 열어볼 수 있는 권한을 준 셈입니다.
6:10
두 번째 취약점은 시스템 커넥터에 있습니다.
6:13
이들은 제작자 캔버스에는 보이지 않지만, 팀즈 메시징이나 적응형 카드 렌더링과 같은 기능을 조용히 수행합니다.
6:18
기술적으로 사용자가 아닌 시스템이 소유하기 때문에 종종 DLP 필터를 우회합니다.
6:23
성아래로 지나가는 유지 보수용 터널이라고 생각하면 됩니다.
6:26
순찰은 거의 없고 항상 열려있죠.
6:28
데이터가 이들을 통해 이동할 때 대부분의 조직은 이를 전혀 알아차리지 못합니다.
6:32
기본적으로 마이크로소프트는 기본적인 기능 유지를 위해 일부 커넥터를 정책 적용해서 제외합니다.
6:37
가동시간 측면에서는 훌륭하지만, 격리 측면에서는 치명적입니다.
6:40
그 다음은 분석, 디버깅, 지속적인 개선을 위해 저장되는 코파일럿의 대화 기록인 대화로그가 있습니다.
6:45
많은 사람이 원격 분석을 비활성화하면 이것도 꺼질 것이라 가정합니다.
6:48
그렇지 않습니다.
6:49
대화 데이터는 환경의 분석 저장소에 계속 남아있을 수 있으며,
6:53
이는 민감한 재무지표를 참조하는 프롬프트가 보존 설정이 구성되지 않는 한 로그에 무기한 남아있을 수 있음을 의미합니다.
6:58
벌써부터 규정 준수 부서가 떨고 있는 모습이 느껴지시나요?
7:01
데이터 흐름이 겉보기보다 복잡해지는 지점이 바로 여기입니다.
7:04
단일 코파일럿 호출이 여러 커넥터를 순차적으로 건드릴 수 있습니다.
7:08
예를 들어, 에이전트가 아웃룩을 사용하여 최근 이메일을 추출하고, 해당 내용을 텍스트 분석 커넥터에 전달한 다음, 팀즈에서 요약을 반환할 수 있습니다.
7:15
각 단계가 DLP 경계를 넘나드는 것입니다.
7:18
만약에 커넥터 중 하나라도 서로 다른 분류에 속한다면, 예를 들어 아웃룩은 비즈니스용이고, 인지 서비스는 비 비즈니스용이라면 전체 흐름이 정책을 위반하게 됩니다.
7:25
시스템은 비명을 지르지 않습니다.
7:27
그저 실행될 뿐입니다.
7:28
교차 연결은 소리 없이 치명적인 결과를 낳습니다.
7:30
더 큰 문제는 DLP 정책이 테넌트 전체가 아닌 환경별로 적용되어, 각 파워 플랫폼 환경이 독립적 인경계를 가진다는 점입니다.
7:37
정책을 명시적으로 복제하지 않으면, 새로 생성되는 모든 환경은 잠재적인 유출 경로가 됩니다.
7:41
운영 환경에서는 완벽한 거버넌스를 유지하면서도, 개발 환경에서는 완전한 혼란이 벌어질 수 있습니다.
7:46
그리고 질문하면, 마이크로소프트는 환경 격리가 의도된 설계라고 정중하게 답변할 것입니다.
7:51
결국 당신의 문제라는 뜻이죠.
7:52
경각심을 주는 사례를 하나 공유하겠습니다.
7:54
한 고객이 테스트 환경에 재무용 코파일럿 에이전트를 배포하면서, 글로벌 DLP 정책이 자동으로 적용될 것이라 가정했습니다.
8:01
위계질서를 전혀 모르느니 에이전트는 내부 셰어포인트 라이브러리와 실험용 타사 API 모두의 접근 권한을 가지고 있었습니다.
8:08
법무팀이 샘플 대화 로그를 검토했을 때, 기밀분기 별 수치가 API 대화에 섞여 들어간 것을 발견했습니다.
8:13
침입도, 해킹도 없었습니다.
8:15
단지 정책이 부재했을 뿐입니다.
8:17
시스템은 설정된 대로 정확히 잘못된 방식으로 작동했습니다.
8:20
이제 데이터 유출의 구조를 시각화할 수 있을 것입니다.
8:22
아이디는 권한을 위임하고, 커넥터는 데이터를 연결하며, 대화 로그는 흔적을 남기고, 분석 도구는 이벤트를 기록합니다.
8:28
경계 하나만 놓쳐도 정보는 틈새로 새어나갑니다.
8:31
방어선을 구축하기 전에의 흐름을 기억하십시오.
8:33
사용자, 커넥터, 에이전트, 로그, 그리고 분석입니다.
8:36
모든 화살표가 잠재적 인탈출 경로입니다.
8:38
다음으로 우리는 벽을 쌓을 것입니다.
8:40
가장 과도하게 의욕적인 코파일럿조차 통제할 수 있을 만큼 강력한 DLP 정책 말이죠.
8:44
DLP 요새 구축하기, 그 올바른 설정법입니다.
8:46
대부분의 관리자는 여기서 살짝 당황합니다.
8:48
좋습니다.
8:49
당황한다는 것은 당신의 에이전트가 결코 무해하지 않다는 사실을 깨달았다는 뜻이니까요.
8:52
그들은 기업 금고에 접근할 수 있는 감독받지 않는 어린아이와 같습니다.
8:55
이제 이 요새를 제대로 처음부터 다시 세워봅시다.
8:57
파워 플랫폼에서 DLP 정책을 만드는 것 자체는 어렵지 않으니까요.
9:01
하지만 정책이 실제로 무엇을 제어하는지 파악하는 데는 대부분의 문서가 인정하는 것보다 훨씬 더 세밀한 접근이 필요합니다.
9:06
첫째, 당신의 전장인 코파일럿 스튜디오 프로젝트가 호스팅된 환경을 식별하십시오.
9:10
많은 조직이 개발, 테스트, 운영 등 다수의 파워 플랫폼 환경을 생성합니다.
9:14
대개는 환경을 창의력을 위한 샌드박스라고 생각하는 열정적인 시민 개발자들이 만듭니다.
9:19
그렇지 않습니다.
9:20
각 환경은 독립적인 보안섬입니다.
9:22
테넌트 수준에서 설정한 정책은 이러한 섬을 자동으로 보호하지 않습니다.
9:26
즉, 운영 환경은 포트녹스처럼 관리될지 몰라도 개발 환경은 태평양 위에 땜목처럼 떠돌 수 있다는 뜻입니다.
9:31
따라서 첫 번째 단계는 정찰입니다.
9:33
누군가가 코파일럿 만들기를 클릭한 모든 환경을 찾아내십시오.
9:36
무해한 것은 없다고 가정하십시오.
9:38
이제 첫 번째 벽을 쌓습니다.
9:40
파워 플랫폼 관리센터 내의 데이터 정책 섹션에서 새로운 데이터 손실방지 정책을 만드십시오.
9:44
영향을 받는 환경을 정의하라는 메시지가 나타날 것입니다.
9:47
신중하게 선택하십시오.
9:49
사용하지 않는 공간까지 정책을 흩뿌리는 것은 불일치만 초래할 뿐입니다.
9:53
각 정책은 사후가 아닌 배포 시점에 적용됩니다.
9:56
따라서 해당 환경 내의 모든 신규 또는 기존 커넥터는 정책이 개시된 후에만 준수 상태가 됩니다.
10:02
다음은 DLP 커넥터 분류의 핵심 요소입니다.
10:04
비즈니스용, 비 비즈니스용, 차단됨이라는 나벨이 붙은 버킷을 상상해보세요.
10:08
그것들은 자기들끼리 자유롭게 소통합니다.
10:10
비 비즈니스용 커넥터는 같은 그룹 내에서만 데이터를 공유할 수 있습니다.
10:13
차단된 커넥터는 완전히 격리됩니다.
10:15
이것이 바로 귀하의 AI가 따라야 할 계층 구조입니다.
10:18
그렇습니다.
10:18
커넥터 하나를 잘못된 그룹에 배치하면 안전한 책보시에 순식간에 가십거리를 퍼뜨리는 존재로 변할 수 있습니다.
10:23
이제 고위험 그룹을 격리하십시오.
10:25
AI 및 외부 커넥터가 그 대상입니다.
10:27
카그너티브 서비시즈, 오픈 AI 또는 범용 HTTP라고 표시된 모든 것은 기본적으로 비 비즈니스용 또는 차단됨으로 설정해야 합니다.
10:33
이러한 커넥터는 데이터가 마이크로소프트의 보호된 환경을 떠나 타사처리 영역으로 들어가는 아웃바운드 게이트웨이 역할을 합니다.
10:38
이를 차단한다고 해서 코파일럿이 무력화되는 것이 아니라 오히려 통제되는 것입니다.
10:42
지능형 흐름은 그대로 구축하되 원시 고객 데이터를 먼저 응답하는 엔드포인트에 넘기지 않을 수 있습니다.
10:48
다음으로 보이지 않는 살인자인 교차 연결 문제를 다루겠습니다.
10:51
이는 하나의 대화 나 흐름이 비즈니스용 커넥터와 비 비즈니스용 커넥터를 모두 사용할 때 발생합니다.
10:56
예를 들어 에이전트가 비즈니스용인 시어포인트 목록을 가져온 다음 그 요약을 웹워너 API, 비 비즈니스용으로 보내는 경우입니다.
11:03
각 커넥터가 개별적으로 허용되더라도 그 연결 지점은 정책상 금지된 데이터 브릿지를 형성합니다.
11:08
커넥터를 올바르게 분류했다면 파워 플랫폼 위 DLP 시행 기능이 이러한 흐름을 자동으로 차단합니다.
11:14
그렇지 않으면 아무 일도 없었다는 듯이 진행됩니다.
11:16
그룹화 내용을 검증하십시오.
11:18
분류를 하나라도 잘못하면 경비원이 도둑을 정중하게 배웅해주는 꼴이 됩니다.
11:22
DLP 계층 구조 자체는 중첩된 방패 더미처럼 작동합니다.
11:25
최상위의 테넌트 수준 정책이 그 아래의 모든 것을 우선합니다.
11:28
그 아래 환경 수준 정책은 특정 공간을 관리합니다.
11:31
마지막으로 개별 앱이나 에이전트 제안은 해당 환경 범위 내에서만 적용됩니다.
11:36
이를 관리 계층 구조로 생각해보십시오.
11:38
테넌트 규칙은 기업법, 환경 규칙은 부서 정책, 앱 수준 설정은 큐비클의 포스트잇과 같습니다.
11:44
상충되는 내용이 발생하면 기업법이 우선합니다.
11:47
따라서 의심스러울 때는 테넌트 경계에서 엄격한 기본값을 적용한 다음 예외사항을 아래로 좁혀나가십시오.
11:52
앱 제작자가 스스로를 통제할 것이라고 믿지 마십시오.
11:54
그들은 버전 관리 없이 파워 오토메이트를 운영 환경에 배포해도 괜찮다고 생각했던 바로 그 사람들입니다.
11:59
축하하기 전에 반드시 샌드박스 환경에서 모든 것을 테스트하십시오.
12:03
코파일럿 스튜디오 에이전트는 여러 암시적 연결에 의존하며 새로 만든 멋진 정책이 이를 조용히 차단하여 핵심 기능을 깨뜨릴 수 있습니다.
12:09
DLP 조정 사항을 테스트 환경에 배포하고 샘플 에이전트를 가져와 일상적인 커리에 잘 응답하는지 확인하십시오.
12:15
그렇지 않다면 노출 범위를 널리지 않으면 서 기능이 복구될 때까지 커넥터 그룹을 조정하십시오.
12:20
사용 편해성과 보안에 대한 강박 사이에서 균형을 맞추되 약간은 강박적으로 치우치는 것이 좋습니다.
12:24
그게 소송보다 비용이 적게 듭니다.
12:25
방금 우리가 무엇을 했는지 주목하십시오.
12:28
데이터를 분리하고 경계를 정의했으며 출구를 봉쇄했습니다.
12:31
이것이 당신의 요새입니다.
12:33
엄격한 분류, 범위가 지정된 환경, 계층적 구조, 검증된 방벽이죠.
12:38
하지만 아무리 견고한 요새라도 권한을 이해하는 경비병이 필요합니다.
12:41
누군가 마스터키를 건네주는 순간 요새는 무너지기 때문이죠.
12:44
마이크로소프트 왕국에서 그 키는 엔트라 아이디를 통해 발급됩니다.
12:48
자, 이제 성벽은 높고 혜자는 가득 차드니 관리자들을 안심시키는 매력적인 위임된 권한이라는 문제기에 대해 이야기해봅시다.
12:55
엔트라와 그 그다지 마법같지 않은 권한 모델을 소개합니다.
12:58
권한, 엔트라, 그리고 안전이라는 신화.
13:01
누군가 엔트라니까 안전해 라고 말할 때 마다 1달러씩 받는다면
13:04
마이크로소프트 주식을 사고제가 직접 문제를 해결할 만큼 충분한 돈이 모였을 겁니다.
13:09
이 신화를 제대로 파헤쳐보죠.
13:10
예전에는 에이저 액티브 디렉토리로 알려졌던 엔트라는 인증을 처리한다는 이유만으로
13:15
당신의 아이디에 마법가루를 뿌려주지 않습니다.
13:17
그것은 중계자일 뿐 수호자가 아니면
13:19
당신의 코파일럿 에이전트는 겉모습은 귀여울지 몰라도 고유한 계정, 비밀번호, 양심을 가지고 있지 않습니다.
13:25
당신의 것을 빌렸을 뿐이죠.
13:27
이를 위임된 권한이라고 합니다.
13:28
로그인하여 코파일럿 에이전트와 상호작용하면
13:30
해당 에이전트는 당신을 대신해 액세스 토큰을 요청합니다.
13:33
그 토큰에는 당신의 마이크로소프트 365 환경을 통해 부여받은 모든 권한이 포함됩니다.
13:37
SharePoint 라이브러리 포함됩니다.
13:39
데이터버스 테이블 포함됩니다.
13:41
상사와의 비공개 팀즈 채팅도 만약 당신이 접근 권한이 있다면 포함됩니다.
13:45
에이전트는 중요한 정보와 치명적인 정보를 구분하지 않습니다.
13:48
단지 당신의 아이디 아래 당신의 범위 안에서 실행될 뿐입니다.
13:51
당신에게 재무 관련 권한이 있다면 당신의 알고리즘 비서도 마찬가지이며
13:54
녀석은 망설임 없이 그 권한을 사용합니다.
13:57
이 설계는 제어 범위 내에서는 사용자 경험을 원활하게 만들어 훌륭하게 작동하지만
14:01
위험은 묵시적 동의에서 비롯됩니다.
14:04
아울룩이나 데이터버스 등을 위한 커넥터를 승인하면
14:06
그 동의는 환경 내에 저장됩니다.
14:08
그곳에서 호스팅되는 모든 코파일럿 에이전트는 그 신뢰를 상속받습니다.
14:12
한 번만 승인해도 사실상 향후 모든 에이전트에게
14:14
동일한 접근 범위를 허용하게 되는 셈이죠.
14:16
축하합니다.
14:16
개별적인 감독 없이 전지전능 한 책봇 군단을 배포하셨군요.
14:20
무모하게 들린다면 실제로 무모하기 때문입니다.
14:23
해결책은 사람에게 하듯 에이전트에게도 최소 권한 액세스를 구현하는 것입니다.
14:28
엔트라 아이디 내에서 코파일럿 관련 구성 요소가
14:30
커리할 수 있는 범위를 제한하는 사용자 지정 보안 그룹과 역할 할당을 만드세요.
14:35
예를 들어 각 에이전트의 기능에 필요한 데이터 커넥터에
14:38
하위 집합으로만 액세스를 제한하십시오.
14:40
마케팅 비서가 인사기록을 조회할 이유는 없는데도
14:42
많은 관리자가 편의를 위해 동일한 범위로 묶어버립니다.
14:46
편의는 노출을 낳습니다.
14:47
감사관에게 데이터 개보를 설명하는 일을 즐기지 않는다면 그렇게 하지 마십시오.
14:51
그렇다면 관리 아이디는 어떨까요?
14:53
네, 존재합니다.
14:54
그리고 네, 유용하죠.
14:55
관리 아이디를 사용하면 애플리케이션이 사용자의 아이디에 의존하지 않고
14:58
자체 서비스 주체를 사용하여 에이전 리소스를 인증할 수 있습니다.
15:01
하지만 대부분이 놓치는 미묘한 점이 있습니다.
15:03
코파일럿 스튜디오 에이전트는 주로 관리 아이디가 아닌 사용자 위임 방식으로 실행됩니다.
15:08
관리 아이디를 성급하게 할당하면
15:10
위도했던 것보다 더 넓은 에이전 권한이 서비스 주체에 부여되어
15:13
과도한 권한 문제가 발생할 수 있습니다.
15:15
관리 아이디는 기본 옵션이 아니라 수술용 메스처럼 정밀하게 다뤄야 합니다.
15:19
자동화가 곧 자율성을 의미하는 것은 아닙니다.
15:21
여러분은 아마 이렇게 생각할지도 모릅니다.
15:22
아, 알겠어.
15:23
그냥 감사, 오디팅, 기능에 의존하면 되지.
15:25
실제로 수행만 한다면 아주 훌륭한 태도입니다.
15:27
엔트라는 어떤 서비스 주체가 누구의 아이디로
15:29
언제 어떤 리소스에 액세스했는지 보여주는
15:31
로그인 로그와 앱 동의보고서를 제공합니다.
15:33
이를 파워 플랫폼 관리 센터의 분석 기능과 결합하면
15:36
에이전트 별 커넥터 활동을 추적할 수 있습니다.
15:38
만약 커넥터가 지정된 환경 밖에서 데이터를 가져오는 것을 발견했다면
15:42
그건 호기심 때문이 아닙니다.
15:43
설정을 게을리 한 결과가 드러난 것이죠.
15:46
해당 이벤트를 포착하고 모니터링 플랫폼으로 내보내어 조치를 취해야 합니다.
15:49
신뢰하되 검증하라는 이제 구식이 되었습니다.
15:51
코파일러 시대에는 제한하고 확인하라 다 정답입니다.
15:54
그러니 엔트라만으로는 에이전트를 보호할 수 없습니다.
15:56
엔트라는 그저 예의 바르고 효율적이며 무관심하게 인증을 처리할 뿐입니다.
16:00
보안은 아이디 자체가 아니라 아이디를 둘러싼 아키텍처입니다.
16:03
보호벽인 DLP, 열쇠인 권한, 그리고 감시자인 감사기능이 삼각편대를 이룹니다.
16:09
하나라도 무너지면 전체 구조가 흔들리게 됩니다.
16:12
마이크로소프트가 책임을 다시 여러분에게 넘겼다는 사실을 깨닫는 순간
16:15
안전하다는 착각은 깨집니다.
16:16
여러분은 셀프서비스 AI를 요구했습니다.
16:18
그들은 정확히 그 요구대로 모든 것을 셀프서비스로 제공했죠.
16:21
여기에는 스스로 초래한 데이터 유출도 포함됩니다.
16:23
이제 아이디를 강화하고 범위를 제한했다고 해서 자만하지 마십시오.
16:27
작성만 되고 테스트되지 않은 정책은 관료주의적인 위약금에 불과합니다.
16:30
여러분의 요새가 압박 속에서도 실제로 버틸 수 있다는 증거가 필요합니다.
16:34
즉 시스템을 찌르고 도발하고 때로는 직접 망가뜨려보라는 의미입니다.
16:38
여러분이 하지 않으면 다른 누군가가 실수로든 의도적으로든 언젠가는
16:40
그렇게 할 것이기 때문입니다.
16:42
테스트와 모니터링이 중요합니다.
16:43
완벽하게 봉인되었음을 증명하십시오.
16:45
코파일럿 에이전트 테스트는 단순히 안녕하세요라는 인사를 잘 받아치는지
16:48
보는 것이 아닙니다.
16:49
보안벽에 막혀 야할 질문을 던졌을 때 어떻게 반응하는지 확인하는 것입니다.
16:54
극적인 해커 흉내를 내는 것이 아니라 위도적이고 통제된 프롬프트로
16:58
레드팀 테스트를 시작하십시오.
17:00
접근해서는 안 될 기밀 데이터를 요청하거나 임원급여 요약, 전체
17:03
고객 기록 내보내기, 재무팀에 저장된 계약서 보여주기 등을 시도해보세요.
17:08
에이전트가 정중히 거절하거나 접근 제한을 표시한다면 잠시 축하해도
17:11
좋습니다.
17:12
만약 요청을 수행한다면 공격자들이 꿈꾸는 정확한 구멍을 발견한
17:16
것입니다.
17:16
이 방식은 가상의 테스트가 아니라 실제 적용되는 거버넌스입니다.
17:19
금지된 프롬프트 카탈로그를 구축하고 각 코파일럿 환경에서 실행해보십시오.
17:24
응답을 추적하십시오.
17:25
거부응답은 dlp와 권한계층이 제대로 작동하고 있음을 나타냅니다.
17:29
데이터 유출은 잘못된 분류나 커넥터 중첩을 의미합니다.
17:31
코파일럿 위 장점은 투명성입니다.
17:33
로그는 모든 것을 기록합니다.
17:35
무서운 점은 그 로그가 사용자의 실수까지도 고스란히 보존한다는 것입니다.
17:38
다음으로 커넥터 사용 분석을 모니터링 하십시오.
17:41
파워 플랫폼 관리센터에서 환경 분석 창을 여십시오.
17:44
커넥터 볼륨, 빈도, 사용자 출처에 대한 지표를 확인할 수 있습니다.
17:48
이상 징후를 찾으십시오.
17:50
외부 api를 사용해서는 안되는 에이전트의 http 커넥터 호출 급증이나
17:54
새로운 챗봇 배포와 맞물린 시어포인트 쿼리의 갑작스러운 증가 등을 살피십시오.
17:58
이는 우연이 아니라 잘못된 구성의 흔적입니다.
18:01
이들을 포렌식 단서처럼 다루십시오.
18:03
모든 이상 징후는 상위 단계 어딘가에 누락된 제어 장치가 있음을 나타냅니다.
18:06
그 다음은 증거 추적을 위한 감사 로깅입니다.
18:08
파워 플랫폼에서 감사 이벤트를 활성화하고
18:10
마이크로소프트 퍼뷰 또는 마이크로소프트 센티널과 동기화하십시오.
18:13
이렇게 하면 모든 작업, 프롬프트, 커넥터 호출이 더 넓은 규정 준수체계에 인덱싱됩니다.
18:18
퍼뷰를 사용하면 맥락을 파악할 수 있습니다.
18:20
어떤 데이터 세트에 접근했는지, 어떤 사용자가 프롬프트를 시작했는지,
18:23
데이터가 지리적 연계를 벗어났는지 확인하십시오.
18:25
반면 센티널은 상관관계를 추가하여
18:27
이러한 활동을 비정상적인 로그인, 인하 권한 상승 같은
18:30
더 광범위한 보안 이벤트와 연결합니다.
18:32
이 두 가지는 보이지 않는 AI 동작을 측정 가능한 텔레메트리로 변환합니다.
18:36
반과하기 쉬운 규칙 중 하나는 보존기간 조정입니다.
18:39
감사 데이터는 종종 대화 데이터보다 더 오래 유지됩니다.
18:42
대화 로그를 30일 후에 삭제하면서
18:44
감사 이벤트는 1년간 보관한다면
18:46
이벤트 발생 원인을 설명하는 맥락적 연결고리를 잃게 됩니다.
18:49
맥락 없는 정책 강제는 무의미합니다.
18:52
코파일럿 로그, 분석, 감사 추적 간의 보존 정책을 동기화하여
18:57
증거가 일관된 스토리를 전달하도록 하십시오.
19:01
이제 가장 무시되기 쉬운 작업인 정기적 재분류가 필요합니다.
19:04
마이크로소프트는 커넥터 정의를 지속적으로 업데이트합니다.
19:07
이전에는 안전했던 표준 커넥터가 하룻밤 사이에
19:09
프리미엄 또는 외부 커넥터로 변경되어
19:11
데이터 처리 방식이 달라질 수 있습니다.
19:13
분기별로 커넥터 인벤토리를 검토하고
19:15
작년의 가정이 아닌 현재 마이크로소프트 문서에 따라 재분류하십시오.
19:19
이를 소홀히 하는 것은
19:20
누군가 경첩을 몰래 옮기고 있는데 문을 잠그는 것과 같습니다.
19:23
마지막으로 지속적인 거버넌스를 도입하십시오.
19:26
새로운 커넥터, 플러그인, 타사 확장이 추가될 때
19:29
마다 위험 영역은 다시 열립니다.
19:30
DLP를 정적인 규정 준수 체크리스트가 아닌
19:33
진화하는 경계로 취급하십시오.
19:34
분기별 감사를 예약하고
19:36
분석 내보내기를 자동화하며
19:37
보안 정보 및 이벤트 관리 파이프라인으로
19:39
경고를 보내십시오.
19:40
거버넌스는 수동으로 전환되는 순간 기능을 상실합니다.
19:43
테스트를 마치면 만족스러운 결과를 확인하게 될 것입니다.
19:45
목표는 규정 준수가 아니면
19:47
결코 그런 적도 없었습니다.
19:48
목표는 통제입니다.
19:49
보호된 경계 내에서만 답변하는 코파일럿 에이전트는
19:52
예측 가능하고 관리 가능하며
19:53
비즈니스 사용에 진정으로 안전해집니다.
19:55
그때가 바로 AI 가부채에서 자산으로 전환되는 시점입니다.
19:58
단, 편집증을 선택사항이 아닌
19:59
체계로 만들었을 때만 가능하죠.
20:01
데이터 유출이 멈추면
20:02
당신은 코파일럿 스튜디오를 다르게 보게 될 것입니다.
20:05
생산성을 위한 화려한 장난감이 아니라
20:07
실내 공학의 도구로 말이죠.
20:08
에이전트가 올바르게 행동하는 이유는
20:10
당신이 그렇게 규칙을 세웠기 때문입니다.
20:11
그제야 비로소 반업법 없이
20:13
당신의 환경이 완전히 봉쇄되었다고 말할 수 있습니다.
20:16
코파일럿 스튜디오 에이전트는
20:17
악당이 아니라 거울입니다.
20:19
그들은 설정된 지시대로만 행동하며
20:21
보통은 예의 바르게 정보를 과도하게 공유하죠.
20:24
그들이 활용하는 모든 권한
20:25
통과하는 모든 커넥터
20:26
노출하는 모든 데이터 세트는
20:27
결국 당신의 거버넌스를 비추는 거울입니다.
20:29
발의를 놓은 것은 당신이고
20:30
그들은 그저 건너갔을 뿐입니다.
20:32
그러니 기억하세요.
20:33
코파일럿 에이전트의 신뢰도는
20:35
DLP 설정 수준만큼이며
20:36
그 이상도 이하도 아닙니다.
20:37
낙관주의에 기댄 보안은 전략이 아닙니다.
20:40
강제된 경계를 통한 보안이 진정한 전략입니다.
20:43
따라서 AI가 임원급 권한으로
20:44
셰어포인트, 데이터버스, 아웃룩을 조회할 수 있을 때
20:47
거버넌스는 선택사항이 아닙니다.
20:49
코파일럿의 유혹적인 부분은 바로 편리함입니다.
20:51
요청하면 무엇이든 복종하죠.
20:53
위험한 점은 아무도 제지하지 않을 때
20:54
그 복종이 기밀 스프레드 시트와
20:56
인사 데이터까지 이어진다는 것입니다.
20:58
유일한 해결책은 규율 뿐입니다.
20:59
커넥터를 분류하고 권한을 제한하며
21:01
실패가 불가능해질 때까지 그 제한을 테스트하세요.
21:04
무해한 파일럿 프로젝트가
21:06
규정 준수 조사로 변질되기 전에 실행하세요.
21:08
코파일럿이 너무 많은 것을 배우기 전에
21:10
데이터를 잠그세요.
21:11
DLP를 관료주의가 아닌 지적 통제 수단으로 생각하세요.
21:15
지능이 정보 유출로 변질되지 않도록 막아주는
21:17
일련의 디지털 방벽입니다.
21:18
이 규칙들을 강제하면 코파일럿은 부채가 아닌
21:21
광고에서 보았던 신뢰할 수 있는 어시스턴트가 됩니다.
21:24
이 내용이 규정 준수팀의 공황 상태를 막아주었다면
21:26
구독해주세요.
21:27
감사보다 저렴하며
21:28
책봇이 왜 급여 데이터를 팀즈에 올렸는지
21:30
법무팀에 설명하는 것보다 훨씬 덜 어색할 테니까요.
21:33
마이크로소프트 퍼뷰를 활용한
21:35
고급 코파일럿 에이전트 거버넌스에 관한
21:37
다음 에피소드를 팔로우하고
21:38
자동화 기능을 영리하고 안전하며 완벽하게 통제하세요.