Latest / M365.FM – Microsoft 365, Copilot & AI 팟캐스트 (한국어) / 사용자를 위한 EU AI Act: Copilot vs ChatGPT 위험 등급, 의무, 컴플라이언스 체크리스트 (AI 더빙)

Transcript

사용자를 위한 EU AI Act: Copilot vs ChatGPT 위험 등급, 의무, 컴플라이언스 체크리스트 (AI 더빙) · M365.FM – Microsoft 365, Copilot & AI 팟캐스트 (한국어)

0:00
모두가 AI 규제 준수는 마이크로소프트의 문제라고 생각합니다.
0:03
틀렸습니다.
0:03
이후 AI법은 코파일럿이나 챗GPT 같은 도구의 개발자에게만 국한되지 않습니다.
0:08
이 법은 AI 공급망 전반에 걸쳐 위무를 할당합니다.
0:11
즉, 귀하와 같은 배포자도 원하든 원치 않든 책임을 공유하게 됩니다.
0:14
이런 상황을 상상해보세요.
0:15
인사팀에서 챗GPT를 도입하는 순간, 귀하는 편향성 모니터링, 설명 가능성, 문성화에 대한 책임을 지게 됩니다.
0:20
세부 조항은 어떨까요?
0:22
위무사항은 단계적으로 도입되지만 집행은 즉시 시작됩니다.
0:25
매출의 최대 7%가 걸려있습니다.
0:26
마이크로소프트 트러스트 센터를 통해 업데이트를 추적하는 것은 선택이 아닙니다.
0:30
생존이 걸린 문제입니다.
0:31
기억하는 일은 버튼에게 맡기세요.
0:33
구독하고 알림을 설정하여 감사 로그만큼이나 체계적인 일정으로 규제 준수 브리핑을 받아보세요.
0:37
업데이트를 놓칠 일도 변명할려지도 없습니다.
0:40
이제 이것이 이론만이 아님을 이해했으니,
0:42
EU가 모든 AI 시스템을 4단계 위험 등급으로 어떻게 체계화했는지 알아보겠습니다.
0:46
AI 법의 위험 등급 사다리는 장식이 아닙니다.
0:49
이 위험 등급은 대충 훑어보고 넘길 부가적인 그래픽이 아닙니다.
0:52
EU AI 법의 핵심 운영원칙입니다.
0:54
모든 AI 시스템은 수용 불가능, 고위험, 제한적, 최소 위험이라는 4가지 범주 중 하나로 분류됩니다.
1:00
이 분류는 단순히 거칠애가 아닙니다.
1:02
비하가 짊어져야 할 규제 준수의 무게, 문서와 수준, 인간의 감독, 보고 및 투명성 요건을 결정합니다.
1:08
첫 번째 놀라운 사실이 있습니다.
1:10
대부분의 사람은 화려한 생산성 도구를 보고 당연히 최소 위험 등급에 해당할 것이라 생각하지만,
1:15
분류는 시스템의 외관과는 상관없습니다.
1:16
시스템이 무엇을 하는지, 어떤 맥락에서 사용하는지가 중요합니다.
1:20
최소 위험이라고 해서 영원한 면제부를 의미하는 것은 아닙니다.
1:22
소셜 게시물을 작성하는 책보순 위험도가 낮을 수 있지만, 동일한 엔진을 채용, 규제 준수 보고서, 신용평가에 연결하는 순간 규제 당국은 이를 고위험 등급으로 즉시 격상시킵니다.
1:31
점진적인 상승이 아니라 즉각적인 격상입니다.
1:33
또한 이유는 이 판단을 전적으로 귀하의 재량에 맡기지 않았습니다.
1:36
특정 용도는 귀하가 정당성을 입증하기도 전에 이미 고위험군으로 분류됩니다.
1:40
자동화된 이력서 심사, 채용평가, 생체 인식, 법 집행이나 국경 통제에 사용되는 AI는 설계 단계부터 고위험군으로 관리됩니다.
1:47
따지는 것이 아니라 준수해야 합니다.
1:49
한편, 채 GPT나 코파일럿과 같은 범용 또는 생성형 모델은 그에 따른 특별한 투명성 요건이 적용됩니다.
1:55
이들이 자동으로 고위험군에 속하는 것은 아니지만, 배포자는 해당 도구가 AI임을 명확히 공개해야 하며, 모델이 민감한 결정에 영향을 미칠 경우 추가적인 책임을 다해야 합니다.
2:04
이러한 단계적 구조는 중요합니다.
2:06
이 법은 모든 규정을 하룻밤 사이에 일괄 적용하지 않습니다.
2:08
조작적인 행동 AI나 사회적 점수 산정처럼 금지된 관행은 신속하게 차단됩니다.
2:13
투명성 의무와 라벨링 의무는 그 직후에 뒤따릅니다.
2:16
고위험 시스템에 대한 무거운 의무사항은 수년 뒤에나 완전히 적용되지만, 그 기간을 관대한 조치로 오해해서는 안 됩니다.
2:23
배포자는 지금 당장 사용 사례를 맵핑해야 합니다.
2:26
일정이 빠르게 다가오고 있으며, 감사관이 들이닥쳤을 때 무지는 법적 방어수단이 되지 못하기 때문입니다.
2:31
간단히 말해, 프로젝트가 위험 사다리에서 높이 위치할수록 체크리스트는 더욱 까다로워집니다.
2:36
낮은 단계 라면 투명성 고지문 하나를 작성하는 정도로 충분할지 모릅니다.
2:39
높은 단계 라면 위험관리 파일, 감사준비 로그, 감독 메커니즘, 직원 교육 문서 등을 모두 갖춰야 합니다.
2:45
그리고 의무사항을 이행하지 않았을 때의 페널티는 결코 가벼운 경고문처럼 들리지 않을 것입니다.
2:49
경영진을 긴장하게 만들 정도의 과징금으로 명시될 것입니다.
2:52
이는 이론적인 이야기가 아닙니다.
2:54
회의로 교약에 코파일럿, 코파일럿을 활용하는 것은 제한적 또는 최소 수준의 분류에 해당합니다.
2:58
하지만 코파일럿을 거버넌스 서류나 규제 준수 보고에 직접 활용한다면,
3:02
이제 당신은 모든 의무가 따르는 높은 단계에 놓인 것입니다.
3:04
생성형 AI 도구는 이 점을 더욱 복잡하게 만듭니다.
3:07
같은 시스템이라도 배포 환경에 따라 여러 분류에 걸쳐 적용될 수 있기 때문입니다.
3:10
규제당국은 당신이 그것을 무해하다고 느끼는지 여부에는 관심이 없습니다.
3:14
그들은 안정과 기본권에 대한 입증 가능한 위험에 관심을 둡니다.
3:17
결국 위험사다리는 당신의 의견을 묻지 않는다는 불편한 사실을 깨닫게 됩니다.
3:21
사다리는 구조를 강요하며, 당신은 그 무게를 감당할 준비를 하거나 그 아래에서 짓눌릴 위험을 감수해야 합니다.
3:26
도구가 단지 재미를 위한 것이라고 주장해도 분류 등급이 낮아지지는 않습니다.
3:30
시스템은 마케팅 문구나 내부 발표 자료가 아닌 실제 사용 방식과 영향력으로 평가받습니다.
3:34
따라서 현명한 대처는 지시를 기다리는 것이 아니라,
3:37
사다리와 대립하지 않고 통합되는 도구를 선택하는 것입니다.
3:40
일부 AI는 도입 시점부터 법의 규정 한 카테고리에 맞는 안전장치가 설계되어 있습니다.
3:45
반면 어떤 도구는 관리되지 않은 엔진 상태로 주어져,
3:49
처음부터 직접 규제 준수 체계를 구축하도록 요구하기도 합니다.
3:52
모든 도구가 같은 사다리를 마주하지만,
3:54
모든 도구가 동일하게 등반 준비가 되어 있는 것은 아니기에,
3:58
이 차이가 매우 실질적인 문제가 됩니다.
4:00
코파일럿은 규제 준수 기능을 기본적으로 내재하고 있습니다.
4:03
당신의 AI 도구가 처음부터 검사에 대비한 상태로 제공된다면 어떨까요?
4:06
규제 당국이 들이 닥치기 전에 허둥지둥 구멍을 메울 필요도 없습니다.
4:09
그것이 마이크로소프트가 코파일럿을 떠올릴 때 당신의 머릿속에 심어주고 싶은 이미지입니다.
4:12
단순히 신기한 책보수로 마케팅하는 것이 아닙니다.
4:15
기업용으로 준비되었으며, 거버넌스를 위해 설계되었고,
4:18
즉각적인 페널티 없이 규제 환경 안에서 운용될 수 있다는 점을 강조합니다.
4:22
EU AI 법 시대에 이는 단순한 수식어가 아닙니다.
4:25
치밀하게 계산된 규제 준수 전략입니다.
4:28
보통 기업용으로 준비되었다는 말은 샹푸 광고처럼 들리곤 합니다.
4:31
중간 관리자들에게 그럴듯한 제품을 사는 것이라고 설득하기 위해 만들어낸 무의미한 나벨일 뿐이죠.
4:35
하지만 여기서는 그 말이 정말 중요합니다.
4:37
코파일럿을 배포하면 여러분은 마이크로소프트 365, 규제 대상 업무 공간, 규정 준수 인증,
4:43
그리고 수십 년간 다져온 보안 기반의 구축된 인프라를 활용하게 됩니다.
4:46
범용 모델을 워크플로우에 억지로 끼워 맞추는 것과 비교해보십시오.
4:49
그것은 결국 정신없는 서류 작업과 매우 불안해하는 변호사들로 끝날 기술적 무리수일 뿐입니다.
4:53
사무용 책상을 산다고 상상해보세요.
4:55
고철로 직접 용접해서 만들고 소방 점검관이 너무 자세히 보지 않기를 기도할 수도 있습니다.
4:59
아니면 이미 소방 규정을 통과해 검증된 제품을 구매할 수도 있죠.
5:02
마이크로소프트는 코파일럿이 바로 그 두 번째 선택지라는 점을 분명히 합니다.
5:05
거버넌스 보호장치가 프레임 자체에 내장되어 있으니까요.
5:08
막판에 부랴부랴 규정 준수를 덧붙이는 방식이 아닙니다.
5:10
청구서가 처리되기도 전에 안전장치가 제자리에 딱 맞춰집니다.
5:13
세부사항으로 들어가면 더 흥미로운 사실이 드러납니다.
5:15
마이크로소프트는 코파일럿 위 프롬프트, 은답,
5:18
그리고 마이크로소프트 그래프를 통해 액세스한 데이터가 기반 LLM을 학습시키는데 사용되지 않음을 명시합니다.
5:23
또한 코파일럿은 마이크로소프트 365 서비스 경계 내에서 호스팅되는 에이저 오픈아이에서 실행됩니다.
5:28
쉽게 말해, 여러분이 입력한 내용은 조직의 권한에 따라 패넌트 내에 머무르며 무작위 학습 루프로 유출되지 않습니다.
5:35
그러한 분리는 GDPR과 AI 법안 모두에서 중요합니다.
5:38
물론 절대적인 것은 아닙니다.
5:39
마이크로소프트는 데이터를 해당 지역 내에 보관하기 위해 EU 데이터 경계를 시행하지만,
5:43
실내 센터의 문서에 따르면 수요가 몰릴 경우 용량 확보를 위해 다른 지역으로 요청이 유연하게 전달될 수 있습니다.
5:48
그 미묘한 차이가 중요합니다.
5:50
규제 당국은 항상 EU 내와 EU 우선 및 필요시 외부 처리 위 차이를 구분합니다.
5:54
그 밑바닥에는 조용히 작동하는 안전 시스템이 있습니다.
5:57
분류기, 클래시파이어스, 가유해하거나 편향된 출력을 걸러내어 여러분의 매일 조안에 도달하지 못하게 합니다.
6:01
일부는 민감한 개인 속성에 대한 추론을 완전히 차단하기까지 합니다.
6:05
입력하는 동안에는 이 과정이 보이지 않지만,
6:07
보이지 않느니 제동 장치들 이야말로 잘못된 출력 하나가 규정 위반이나 소송으로 확대되는 것을 막아줍니다.
6:12
이 접근 방식은 단지 가설이 아닙니다.
6:15
마이크로소프트 위 법무 수뇌부도 직접 나서서,
6:17
그들이 어떻게 코파일럿 에이전트를 구축해 팀들이 AI 법안 자체를 해석하도록 도왔는지 공개적으로 시연했습니다.
6:22
그 시연은 단순한 마케팅 홍보가 아니었습니다.
6:24
그것은 코파일럿 이 규정을 강화한다고 주장하는 그 컴플라이언스 범위 안에서 운영되는 기업용 보조 도구로 기능함을 보여주었습니다.
6:30
그리고 배포를 고민 중이라면, 길을 잃을 걱정은 하지 않아도 됩니다.
6:33
마이크로소프트 퍼뷰는 코파일럿 환경 전반에 걸쳐 데이터 탐색, 분류, 보존 제어를 직접 시행하여 개인정보가 단순한 희망사항이 아닌 정책으로 보호되도록 합니다.
6:43
책임 있는 AI 대시보드의 투명성 노트는 모델의 한계를 설명하고, 배포자에게 위험을 모니터링할 지표를 제공합니다.
6:50
마이크로소프트 신뢰센터에는 감사관이 방문할 경우 필요한 문서, 영향평가, 그리고 템플릿이 마련되어 있습니다.
6:57
이는 선택사항이 아니라 여러분이 실제로 사용해야 할 기본 툴킷입니다.
7:00
하지만 여기서 정확한 이해가 중요합니다.
7:02
코파일럿이 여러분의 의무를 면제해주는 것은 아닙니다.
7:05
AI 법안은 공동 책임 모델을 시행하고 있기 때문입니다.
7:07
마이크로소프트는 비계를 제공하지만, 이를 구성하고 기록하며 운영하는 것은 여전히 여러분의 목입니다.
7:11
감사관들은 마이크로소프트의 기록뿐만 아니라 여러분의 기록을 요구할 것입니다.
7:15
코파일럿을 구매한다는 것은 언덕의 절반까지 올라왔다는 뜻이지만, 여전히 직접 올라가야 합니다.
7:18
그 가치는 효율성에 있습니다.
7:20
코파일럿을 사용하면 콘크리트 작업의 대부분이 이미 완료된 셈입니다.
7:23
밤새 긴급 보안 통제를 작성할 필요도 없고, 규정 준수 담당자가 마지막 순간에 정책을 급조할 필요도 없습니다.
7:30
더 높은 수준에서 시작하여 바퀴를 다시 발명하는 수고를 덜 수 있습니다.
7:34
첫날부터 안전장치를 갖추는 그 차이가 감사를 계단처럼 쉽게 만들지, 절벽처럼 힘들게 만들지를 결정합니다.
7:39
물론 코파일럿만이 유일한 생성형 AI는 아닙니다.
7:43
거버넌스나 데이터 거주지 보장, 기업용 규정 준수 프레임워크에 상속 없이 무작정 도입되는 도구와 비교하면 그 차이는 더욱 극명해집니다.
7:51
그런 도구는 개인용 앱에서는 눈부셔 보이지만, 인사업무 흐름에서는 혼란을 야기합니다.
7:55
그리고 바로 거기서 골치 아픈 문제들이 시작됩니다.
7:58
J-GPT, 유연함과 관료적 골치 덩의의 만남입니다.
8:01
창의성으로 모두에게 사랑받는 모델이지만, 서류 작업이 닥치면 이야기는 달라지는 J-GPT를 소개합니다.
8:06
그 강점은 유연함입니다.
8:08
거의 무엇이든 지시할 수 있고, 명령에 따라 유창한 텍스트를 생성해냅니다.
8:12
하지만 EUAI 법에 따르면 그 유연함은 곧바로 여러분의 규정 준수 문제가 됩니다.
8:17
기본적으로 일반 소비자용 앱 형태의 J-GPT는 제한적 위험으로 분류됩니다.
8:21
이는 가벼운 사용 사례, 나 아이디어 브레인스토밍, 노트 요약, 무해한 주말 레시피 생성 등을 포함합니다.
8:28
이를 사람과 관련된 의사 결정, 채용, 신용 승인, 건강 관련 분야로 확장하는 순간
8:34
더 높은 위험 영역으로 이동하며 무거운 의무가 따르게 됩니다.
8:37
변수는 도구의 코드가 아니라 사용 맥락입니다.
8:41
여기서 코파일럿과의 차이가 뼈저리게 느껴집니다.
8:44
코파일럿은 네이저 오픈아이 통제가 포함된 마이크로소프트 365 내부에서 작동함으로
8:47
마이크로소프트의 거버넌스 스택을 그대로 상속받습니다.
8:50
프롬프트와 응답은 마이크로소프트의 서비스 경계 내에서 처리되며,
8:54
문서상으로도 파운데이션 모델 학습에 사용되지 않음이 명시되어 있습니다.
8:58
공개 버전 인체 GPT 자체는 이러한 보장을 기본적으로 제공하지 않습니다.
9:02
도입하는 측인 여러분은 데이터가 어떻게 저장되고 사용되는지, 추가적인 안전장치가 있는지 확인하기 위해 오픈아이의 문서, 약관 및 계약을 검토해야 합니다.
9:12
해당 법은 안전할 것이라고 생각했다 는 변명을 받아들이지 않습니다.
9:16
기업 워크플로우에서 제 GPT를 사용하는 것은 멀티탭을 꽂는 것보다 처음부터 전력망 전체를 구축하는 것과 비슷합니다.
9:22
직접 비계를 세우고 프롬프트를 관리할 정책, 사용기록을 위한 감사 로그, 개인정보보호 경계, 오류나 사고에 대한 보고 절차를 모두 마련해야 합니다.
9:31
코파일럿을 사용하면 이러한 구조의 대부분이 이미 갖춰진 상태로 제공됩니다.
9:35
채찌PT를 사용하면 당신은 설계자이자 계약자, 그리고 규정준수 책임자를 모두 겸하게 됩니다.
9:39
비유가 필요하다면 채찌PT를 차체 없는 고성능 엔진이라고 생각해보세요.
9:44
강력하고 설계가 정교하며 놀라운 결과물을 만들어낼 수 있습니다.
9:48
하지만 그 자체로는 도로주행에 필요한 안전벨트, 에어백, 규제인증 스티커 같은 것은 제공하지 않습니다.
9:55
이후 규제당국이 사실상 운전면허 시험관이나 다름없는 상황에서 그런 원형 엔진만 가지고 현장에 나서는 것은 차체와 대시보드를 제작하고 충돌 테스트까지 직접 해야 한다는 의미입니다.
10:04
마력은 인상적이지만 말이죠.
10:06
나머지 작업을 완료하기 전까지는 도로주행이 불가능합니다.
10:09
AI 법의 투명성 요구사항으로 인해 규제 준수의 어려움은 더 커집니다.
10:12
텍스트, 이미지, 오디오를 포함한 생성형 AI 위 결과물은 AI가 생성했음을 명확히 밝혀야 합니다.
10:18
프롬프트를 추적하고 시스템의 동작 방식을 설명하는 것도 필수입니다.
10:22
말은 쉽지만 실천은 그리 간단하지 않습니다.
10:24
채찌PT가 토큰 발생 확률을 예측한다고 규제기관에 설명하는 것만으로는
10:28
채용 추천에 왜 영향을 미쳤는지 법적으로 충분한 설명을 제공했다고 볼 수 없습니다.
10:33
공개 의무는 합성 미디어까지 확대됩니다.
10:35
채찌PT가 실제 인물과 유사한 음성이나 영상 콘텐츠를 생성할 경우
10:39
딥페이크로 분류되어 훨씬 더 엄격한 감독을 받게 될 위험이 있습니다.
10:44
개인정보는 규제 준수 부담을 더욱 무겁게 만듭니다.
10:47
GDPR 준수는 피할 수 없는 과제입니다.
10:49
프롬프트의 식별자가 포함되는 순간
10:51
비안은 합법적이고 공정하며 투명한 처리를 보장해야 할 책임이 있습니다.
10:55
이는 필요한 경우 동의를 얻고 저장된 데이터를 최소화하며
10:58
정보주체의 권리를 존중해야 함을 뜻합니다.
11:00
오픈아이위 공개 서비스는 그러한 보호장치를 자동으로 구성해주지 않습니다.
11:04
이를 구현할 책임은 전적으로 배포자에게 있습니다.
11:07
최소한 귀하는 구속력 있는 계약과 문서화된 관행을 통해
11:10
데이터를 넘겨준 후 어떤 일이 발생하는지 확인해야 합니다.
11:14
하지만 중간 지점도 있습니다.
11:16
에이저 오픈아이와 같은 관리형 플랫폼이나
11:18
엔터프라이즈 환경에 통합된 커넥터를 통해
11:20
채찌PT위 기능을 사용하면 규제 준수 환경이 개선됩니다.
11:24
귀하의 테넌트 경계 내에서 감사 로그, 데이터 거주지 보장,
11:27
모니터링 기능을 얻을 수 있습니다.
11:29
이것이 귀하의 책임을 없애주는 것은 아니면
11:31
단지 스프레드 시트 대신 도구를 통해 해결할 수 있게 해줄 뿐입니다.
11:34
이제 대화의 방향은 감독할 방법이 없다에서
11:37
계약상 약속된 감독 기능이 실제로 작동하는지 검증해야 한다.
11:41
로 바뀝니다.
11:42
아이러니한 점은 많은 조직이 여전히 채찌PT를 비공식 보조 도구로 취급하며
11:46
공개 라벨 없이 원고를 작성하거나
11:48
편향성 검사 없이 이력서를 입력하고
11:50
데이터 경계 없이 민감한 메모를 처리한다는 것입니다.
11:53
이러한 무심한 사용들은 하룻밤 사이에
11:55
제한적 위험 등급을 고위험, 배포로 바꿀 수 있습니다.
11:58
그리고 AI 법은 위도가 아닌 영향력을 기준으로 판단합니다.
12:01
무예해 보이는 테스트라도 개인의 생계에 영향을 주는 순간
12:04
규제 대상 시스템으로 재분류될 수 있습니다.
12:06
네, 맞습니다.
12:07
채찌PT는 다재다능합니다.
12:09
적응력도 뛰어납니다.
12:10
직원들이 이메일 제목을 쓰는 것보다
12:12
더 빨리 콘텐츠를 생성할 수 있죠.
12:14
하지만 적절한 규정 준수 환경 없이 배포하면
12:16
이후 AI 법이 요구하는 거의 모든 부담을 혼자 떠안게 됩니다.
12:20
문서와 위험평가, 투명성 관리, 인간의 감독까지
12:23
감독관들이 밖에서 체크리스트를 들고
12:25
서성이는 동안 벽돌을 하나하나 직접 쌓아야 하는 셈입니다.
12:28
결국 피할 수 없는 결론에 도달하게 됩니다.
12:30
코파일럿을 선택하든 채찌PT를 선택하든
12:32
법은 당신을 책임자로 지명했습니다.
12:34
프레임워크와 안전장치는 다를 수 있지만
12:36
규제기관은 공급업체의 약속이 아닌
12:38
당신의 배포 방식을 조사할 것입니다.
12:40
기술은 훌륭할지 몰라도
12:41
법적으로 그 기술을 운영하는 주체는 바로 당신입니다.
12:44
진정한 업무는 바로 거기서 시작됩니다.
12:46
배포자를 위한 실질적인 생존 가이드
12:48
이제 감사해서 살아남을지
12:50
아니면 반면 교사가 될지를 결정짓는 단계입니다.
12:53
배포자를 위한 생존 지침서입니다.
12:55
규제기관이 압박해온다는 식의 드라마는 잊으세요.
12:58
중요한 것은 바로 이것입니다.
13:00
법은 모호한 안심보다는
13:01
실질적인 운영 체크리스트를 요구합니다.
13:03
모든 것을 명확하게 정리할 필요가 있으니
13:05
아주 뼈아프게 분명히 해두죠.
13:07
세 가지 핵심 요소입니다.
13:08
이것을 놓치면 막대한 벌금을 감수해야 합니다.
13:11
첫째, 데이터 보호 영향평가
13:13
DPIA를 실시하고 처리 활동 기록
13:16
로파을 유지하십시오.
13:18
아니요, 이건 선택사항인 서류 작업이 아닙니다.
13:21
GDPR과 AI 법에 따라
13:22
채용, 건강, 신용평가 등
13:25
개인에게 영향을 미치는 분야의
13:26
AI를 사용할 때는
13:27
위험을 고려하고
13:28
처리 흐름을 문서화했음을 증명해야 합니다.
13:31
DPIA는 위험을 밝혀내고
13:32
로파는 처리 과정을 추적하고 있음을 입증합니다.
13:35
이것들이 바로 거버넌스의 뼈대입니다.
13:37
감사관이
13:37
위험 분석 결과를 보여주세요.
13:38
라고 요구할 때
13:39
그들의 책상 위에 올려두어야 할 문서가
13:41
바로 이것들입니다.
13:42
둘째, 데이터 자체를 분류하고 제어하십시오.
13:44
마이크로소프트 퍼뷰를 도입하세요.
13:46
이건 경영진이 감상하기 위한
13:48
화려한 대시보드가 아닙니다.
13:49
민감한 자료에 자동으로 라벨을 붙이고
13:51
보존 정책을 적용하며
13:53
데이터 DLP를 시행할 수 있게 해주는 시스템입니다.
13:57
퍼뷰는 문서, 이메일,
13:59
저장소에 직접 분류 규칙을 적용합니다.
14:01
최소 권한 액세스 모델과 결합하여
14:03
코파일럿 커리를
14:04
의미론적 인덱스 및 권한 모델로 제안함으로써
14:06
사용자가 볼 권한이 있는 데이터만 참조하도록 하세요.
14:09
이것을 성 주변의 해자를 두르는 것으로 생각하십시오.
14:12
경계가 없으면
14:13
직원이 실수로 제한된 데이터를
14:15
AI 모델에 입력하여
14:17
당신을 즉시 GDPR 위반 상황으로 몰아넣을 수 있습니다.
14:20
셋째, 모든 상호작용을 기록, 보존 및 관리하십시오.
14:24
코파일럿에는 활동 기록이 있으니
14:26
이를 구성하세요.
14:27
에이저와 마이크로소프트 365는
14:29
감사 로그를 제공하므로
14:30
이를 활성화하고 보존하십시오.
14:32
퍼뷰는 보존 정책을 강제하여
14:33
감사관이 방문했을 때
14:34
기록이 사라지지 않도록 도와줍니다.
14:36
추적 가능성은 규정 준수의 필수 요소입니다.
14:39
누가 어떤 AI를
14:40
어떤 목적으로
14:41
언제 사용했는지
14:42
입증하지 못하면
14:42
법정에서 기사의 감독체계는 무너집니다.
14:45
그리고 잊지 마십시오.
14:46
보관은 영원하지 않습니다.
14:47
로그가 유용한 수준으로
14:48
유지되도록 정책을 설정하되
14:50
불필요한 디지털 정보의 홍수에
14:52
빠지지 않도록 조정하십시오.
14:53
규제 당국은
14:54
무분별한 저장이 아닌
14:55
정밀함을 선호합니다.
14:56
좋습니다.
14:56
이것이 체크리스트입니다.
14:58
세 가지 항목이지만
14:58
이것이 끝이라고 생각하지 마십시오.
15:00
직원 교육을 방정식에 추가하십시오.
15:02
제사조 형식의 의무들은
15:03
직원들이 AI 환경에서
15:04
무지한 채
15:05
방황하지 않도록 하기 위해 존재합니다.
15:07
역할 기반 AI 리터러시가 중요합니다.
15:09
기술 담당 직원은
15:10
위험 모델과 로그 기록 메커니즘을
15:12
파악해야 합니다.
15:13
인사 담당 직원은
15:13
편향성, 문서와
15:15
정보 공개에 대해 이해해야 합니다.
15:16
모두가 알아서 잘할 것이라
15:17
기대하는 것은 환상입니다.
15:19
교육은 네 번째 규정 준수 결과물입니다.
15:21
고용이나 개인정보 보호 권리와
15:22
직결된 시스템을
15:23
직원들이 임의로 사용하게 두지 않아듬을
15:25
증명하십시오.
15:26
이제 환상을 걷어내봅시다.
15:27
벤더들은 비계를 제공합니다.
15:29
마이크로소프트는 툴킷,
15:30
투명성 노트,
15:31
대시보드,
15:32
규정 준수 템플릿 등을
15:33
아낌없이 제공합니다.
15:34
오픈 AI는 사용법,
15:35
위험 요소,
15:36
투명성 약속에 관한 문서를 제공합니다.
15:37
하지만 비계가 곧 건물은 아닙니다.
15:39
실질적인 거버넌스 구조를 세우는 책임은
15:41
귀사에게 있습니다.
15:42
규제 당국이 들이닥쳤을 때
15:43
귀사의 건물이 여전히 땅바닥에 쌓인
15:45
비계더미에 불과하다면
15:46
마이크로소프트 대시보드 여부는
15:48
중요하지 않습니다.
15:49
집행의 논리를 생각해보십시오.
15:50
규제 당국은 마이크로소프트
15:52
퍼뷰 위 존재 여부를 묻지 않습니다.
15:53
그들은 귀사가 통제 장치를
15:54
구현했는지를 묻습니다.
15:56
그들은 코파일러 내로깅 옵션이
15:57
있다는 사실을 받아들이지 않을 것입니다.
15:58
그들은 귀사의 로그를 요구할 것입니다.
16:00
귀사의 팀이 이를 제출하지 못하면
16:01
벌금과 부정적인 헤드라인은
16:02
자명한 결과가 됩니다.
16:03
이것이 바로 리더들이
16:04
과소평가하는 부분입니다.
16:05
규정 준수는 단순히
16:06
도구를 소유하는 것이 아닙니다.
16:07
그 도구들이 귀사의 환경에서
16:09
적절히 설정되어
16:10
추적 가능한 결과를 냈다는 증거가
16:11
핵심입니다.
16:12
결과는 추상적인 것이 아닙니다.
16:14
실패하면 수천만 달러의 벌금
16:15
국제적 헤드라인을 장식하는
16:17
공개적 망신
16:18
그리고 왜 귀사의 인사팀이
16:19
해커 포럼처럼 운영되는지
16:21
위고심을 갖는 고객들의
16:22
신뢰상실을 겪게 됩니다.
16:23
이것은 과장된 공포가 아닙니다.
16:25
이것이 지금 귀사가 살고 있는 환경입니다.
16:27
규정 준수는 선택이 아닌 생존입니다.
16:29
비교에 따른 고통은 바로 여기에 있습니다.
16:31
코파일럿 구매자는
16:32
마이크로소프트 365에
16:34
이미 설치된 비계를 물려받습니다.
16:35
배포 프레임 워크, 정책, 활동 기록,
16:37
지역별 경계 등은 이미 존재하며
16:38
귀사는 이를 설정하기만 하면 됩니다.
16:40
채찌 PT를 독립적으로 사용할 경우
16:41
아무런 프레임 없는 엔진부터 시작해야 합니다.
16:44
모든 안전 조치를 수동으로 구축해야 합니다.
16:46
DLP, 감사 로그, 정책, 감독, 정보 공개 등 말입니다.
16:50
비계 설치와 새로운 건축의 차이입니다.
16:52
하나는 중간 지점부터 시작하지만
16:54
다른 하나는 맨땅에서 불편한 부품 더미와
16:56
시름해야 합니다.
16:59
규칙은 도입을 금지하는 것이 아니라
17:01
도입이 어떤 구조로 이루어질지를 결정합니다.
17:03
그리고 그 구조적 명확성이 판도를 바꿉니다.
17:06
이제 중요한 건 AI 사용의 위험성 여부가 아니라
17:08
규제 당국이 이를 부채가 아닌
17:10
안정적인 시스템으로 보게끔
17:11
얼마나 견고하게 구축하느냐입니다.
17:13
많은 이들이 간과하는 사실은
17:15
거버넌스와 혁신이 대립하는 관계가 아니라는 점입니다.
17:18
오히려 이 둘은 AI가 기업 내부에서
17:20
실제로 확장될 수 있는지를 결정하는 기반이 됩니다.
17:23
이것이 진정한 논의의 핵심을 바꿉니다.
17:25
AI가 규제에서 살아남느냐가 아니라
17:27
규제가 어떻게 지름길을 없애
17:28
AI가 끊임없는 사고 없이
17:30
성숙해질 수 있게 하느냐입니다.
17:31
이 법안은 혁신을 죽이는 것이 아닙니다.
17:33
EUAI 법이 혁신을 저해한다고 생각하시나요?
17:36
틀렸습니다.
17:37
그 목적은 개발자의 발을 묶거나
17:38
기업을 서류 작업 속에 파묻는 것이 아닙니다.
17:41
불확실성을 안정적인 체계로 대체하기 위함입니다.
17:43
규칙이 기술을 죽이지는 않습니다.
17:45
오히려 기술을 규모에 맞게 사용할 수 있게 해줍니다.
17:47
규제가 곧 정체라는 가정은
17:48
속도 제한이 자동차 산업을 죽였다고 생각하는 것만큼이나
17:51
잘못된 것입니다.
17:52
안전성, 투명성, 책임성을 강제함으로써
17:54
AI 법안은 기업들이 실제로 반길 만한 일을 합니다.
17:57
프로젝트 확장을 가로막던 내면의 불안감을 해소해줍니다.
18:00
지도부가 무엇이 필요한지 정확히 알게 되면
18:02
구석에서 몰래 실험하던 것을 멈추고
18:04
시스템 전반에 걸친 도입을 시작합니다.
18:06
마이크로소프트는 공개적으로 이 점을 강조합니다.
18:09
이 법안을 신뢰할 수 있는 도입을 이끄는
18:11
동력으로 보고 있습니다.
18:12
그것이 바로 트러스트 센터, 책임 있는 AI 표준,
18:15
그리고 방대한 문서와 자료들이 존재하는 이유입니다.
18:17
이것들은 선의위 제스처가 아닙니다.
18:19
AI를 단순한 신기함에서
18:20
인프라로 전환하기 위해 설계된 도구들입니다.
18:22
물론 대부분의 조직은 벌금, 검사 방문,
18:25
서류 지옥 같은 채찍만을 떠올립니다.
18:27
물론 규정에는 그런 측면도 분명히 명시되어 있지만
18:29
반대 측면을 무시하는 것은 본질을 놓치는 것입니다.
18:32
명확한 의무는 주저함을 만들지 않습니다.
18:34
오히려 주저함을 없애줍니다.
18:36
이력서 스캐너가 합법인지 몰라 프로젝트가 표류하던
18:38
법안 이전의 혼란과
18:39
명확한 체크리스트가 있는 오늘날을 비교해보십시오.
18:42
규칙은 기준점을 제시합니다.
18:44
출시 6개월 후에 규정 위반 판정을 받을 도박을 하지 않고도
18:47
앞으로 나아갈 수 있게 해줍니다.
18:48
다시 교통 상황을 생각해보세요.
18:50
교통법규 때문에 운송수단이 끝났다고 외치는 사람은 없습니다.
18:52
법규 덕분에 복잡한 도시를 주행하는 것이 가능해졌습니다.
18:55
AI 도 같은 논리를 따릅니다.
18:56
구조가 없으면 도입은 불신 속에 무너집니다.
18:59
안전장치가 있다면 사용자나 규제 당국 모두
19:01
경계를 알기에 도입은 가속화됩니다.
19:03
이 법안은 미스터리한 것이 아닙니다.
19:05
안전벨트와 같습니다.
19:06
안전벨트가 있다고 해서 기업이 차를 버리지는 않습니다.
19:09
승객이 마침내 안전함을 느끼고
19:11
차에 올라탈 수 있게 되어 가속도가 붙는 것입니다.
19:13
규제 환경에서도 새로운 활용 사례가 가능하다는 증거를 원한다면
19:17
마이크로소프트의 변호사들을 보면 됩니다.
19:19
그들은 사내에서 코파일럿을 활용해 직원들이
19:21
일상 업무에서 AI 법조항을 해석하도록 돕고 있습니다.
19:25
이것은 마케팅이 아닙니다.
19:26
법무팀이 과거의 규제 불확실성 속에서는
19:28
시도조차 못했을 컴플라이언스 문제의 생성형 AI를
19:32
조용히 활용하고 있는 것입니다.
19:34
혁신은 사라진 것이 아니라 안전장치가 존재하기 때문에
19:36
비로소 번창할 수 있는 프로젝트들로 옮겨갔습니다.
19:39
그렇다고 해서 규제를 너무 낭만적으로만 보지는 맙시다.
19:42
공백은 존재합니다.
19:43
규제 준수 비용과 법적 불확실성으로 인해
19:45
일부 첨단 모델은 유럽에 더 늦게 출시됩니다.
19:47
공급업체들은 감사 문서 작업과 책임 조항이 부담을 가중시키기 때문에
19:50
이곳에서의 서비스 출시를 망설이기도 합니다.
19:53
그 결과 접근성의 불균형이 발생합니다.
19:55
어떤 지역은 최신 도구를 먼저 누리지만
19:56
유럽 고객들은 규제를 준수하는 버전을 기다려야 합니다.
19:59
그것이 바로 프레임워크가 요구하는 비용입니다.
20:01
작은 대가는 아니지만
20:01
장기적인 안정성과 대중의 신뢰를 위해 치르는 막교환인 셈입니다.
20:05
이제 이러한 관점에서
20:05
코파일럿과 채치pt를 비교해봅시다.
20:07
코파일럿은 마이크로소프트 365 내에서
20:10
기업 수준의 규정 준수 및 데이터 경계 안에서 작동합니다.
20:12
규칙들이 도구 안에 설계되어 있습니다.
20:15
독립적인 공개 형태의 채치pt는 가공되지 않은 모델입니다.
20:18
블로그 게시물을 작성하는 데 사용한다면
20:20
위험 수준은 낮게 유지됩니다.
20:21
하지만 채용에 사용한다면
20:23
즉시 막중한 책임이 따르게 됩니다.
20:25
두 시스템 모두 규제 때문에 사라지는 것은 아닙니다.
20:27
차이점은 안전장치가 설치 시 제공되는지
20:30
아니면 스스로 용접해 만들어야 하는지에 있습니다.
20:32
그 보상은 구조적인 것입니다.
20:35
이 법은 도입을 위한 최저 기준을 노립니다.
20:37
기업 들은 음지에서 몰래 실험하지 않고
20:39
명문화된 의무를 근거로 삼아 확신을 가지고 확장합니다.
20:42
마이크로소프트와 같은 공급업체는
20:44
규제가 추적성을 요구하는 곳에 분류, 개보,
20:47
감사추적을 계층화하여 거버넌스를 퍼뷰에 구축합니다.
20:50
에이저 오픈아이와 같은 관리형 플랫폼을 통해
20:52
접속하는 오픈아이도 동일한 구조에 편승합니다.
20:55
추적성과 감독이 마케팅 구호가 아닌
20:58
강제 가능한 기능이 될 때 도입이 뒤 따릅니다.
21:00
명확히 본다면 이 법은 감옥이 아니라 비계입니다.
21:03
비계는 건설을 제한하는 것이 아니라
21:05
건물이 더 높이 올라갈 때 작업자가 추락하지 않도록 돕는 장비입니다.
21:08
그것이 여기서의 진정한 비밀입니다.
21:10
이후 AI 법화에서 혁신과 규제는 서로 대립하지 않습니다.
21:14
두 가치는 함께 나아갑니다.
21:16
유일한 결정은 귀하의 조직이 지원을 갖추고 올라갈 것인지
21:19
아니면 지상에서 즉흥적으로 해결할 것인지입니다.
21:22
모든 도구가 비계와 같은 방식으로 만나는 것은 아니기에
21:25
그 선택은 중요합니다.
21:26
코파일러처럼 설계부터 규정에 맞춰 나오는 도구도 있습니다.
21:30
반면 채찌피티처럼 등반을 시작하기도 전에
21:33
스스로 틀을 짜야 하는 도구도 있죠.
21:35
제공된 안전장치와 직접 조립한 보호장치라는 실질적인 차이가
21:39
순조로운 도입과 무모한 위험 노출을 까릅니다.
21:42
여러분들이 기다리던 결론 부분입니다.
21:45
코파일러는 마이크로소프트 365에 통합되어
21:48
거버넌스와 감사비계가 이미 갖춰져 있으므로
21:50
규정 준수에 훨씬 가깝습니다.
21:52
하지만 이를 만능 해결책으로 착각해서는 안 됩니다.
21:55
여전히 구성하고 문서화하고 모니터링 해야 합니다.
21:57
법적 위험을 낮춰주기는 하지만 완전히 제거해주지는 못합니다.
22:00
그렇다면 다음은 무엇일까요?
22:02
세 가지 단계가 있습니다.
22:03
첫째, 이후 AI 법의 위험 등급에 따라
22:05
귀하의 AI 활용 사례를 분류하십시오.
22:07
둘째, 마이크로소프트 퍼뷰, 코파일럿 활동 기록,
22:10
리스판서블 AI 대시 보드를 활용하여 문서화 및 통제를 시행하십시오.
22:14
셋째, DPIA를 수행하고, ROPIA를 유지하며
22:16
제사조 요구사항에 따라 직원을 교육하십시오.
22:18
이 강의 전체를 다시 보지 않고 내용을 기억하고 싶다면
22:21
지금 구독하세요.
22:22
플랫폼별 정기규정 준수 브리핑이 이곳에서 제공됩니다.
22:25
변명은 없습니다.