Latest / M365.FM – Podcast Microsoft 365, Copilot & AI Bahasa Indonesia / Prompt Injection dan Tata Kelola AI: Cara Melindungi Alur Kerja Microsoft 365 dan Power Platform (Sulih Suara AI)

Transcript

Prompt Injection dan Tata Kelola AI: Cara Melindungi Alur Kerja Microsoft 365 dan Power Platform (Sulih Suara AI) · M365.FM – Podcast Microsoft 365, Copilot & AI Bahasa Indonesia

• 0:00
  Bayangkan Anda menggunakan chatbot untuk membantu staf mengelola tugas harian.
• 0:03
  Dan dalam hitungan melihat chatbot itu mulai menyarankan tindakan yang bias,
• 0:06
  menyesatkan atau sama sekali tidak membantu klien Anda.
• 0:09
  Ini bukan paranoia fiksi ilmiah, ini yang terjadi saat perlindungan AI yang bertanggung jawab tidak ada-ada.
• 0:13
  AI yang bertanggung jawab berfokus pada keadilan, transparansi, privasi, dan akuntabilitas.
• 0:18
  Ini adalah sabuk pengaman untuk popular digital Anda.
• 0:21
  Hal ini mengurangi risiko jika Anda benar-benar menerapkannya.
• 0:23
  Dampaknya, pelanggaran kepatuhan, ketidakpercayaan pelanggan, dan kepemimpinan dalam mode depan.
• 0:27
  Dalam sesi ini, saya akan mendemonstrasikan kegagalan injeksi perintah
• 0:31
  dan menunjukkan langkah-langkah tata kelola yang dapat Anda terapkan dalam alur kerja Power Platform
• 0:34
  dan Microsoft Ticket Power Platform, dan Microsoft Ticket-nya tidak jauh.
• 0:37
  Itu dimulai saat asisten AI melenceng dari skrip.
• 0:40
  Saat AI melenceng dari skrip, bayangkan ini Anda meluncurkan asisten penjadwalan untuk merapikan kalenderan.
• 0:45
  Seharusnya asisten itu mengatur waktu rapat, menandai catatan penting, dan menjaga semua yang tetap terkini.
• 0:49
  Sebaliknya, ia mulai pilih kasih, memutuskan rekan kerja mana yang lebih penting, dan diam-diam menghapus yang lain dari undangan.
• 0:54
  Atau lebih buruk lagi, ia mengubur pesan penting dari manajer Anda di bawah tumpukan surat sampah digital.
• 0:59
  Anda meminta jam yang dapat diandalkan, yang Anda dapatkan justru terasa seperti rekan kru aneh yang membuat aturan yang tidak disetuju siap.
• 1:04
  Anggap asisten itu sebagai kapal di laut.
• 1:07
  Kapal itu mungkin berkilau mesinnya mendorur dengan tenaga, tetapi tanpa sistem navigasi, ia hanyut buta menembus kabut.
• 1:13
  AI tanpa perlindungan persis seperti itu.
• 1:15
  Bergerak tanpa arah, melaju tanpa kompas.
• 1:17
  Dan meskipun kesalahan biasa terasa menyakitkan, bahaya yang sebenarnya datang saat seseorang ikut memegang kemudi.
• 1:24
  Disitulah injeksi perintah berberan.
• 1:26
  Ini seperti kapten akal yang menyelinap ke kapal, menyelipkan perintah yang terdengar resmi, tetapi mengalihkan arah kapal sepenuhnya.
• 1:31
  Satu perasa kecil yang disamarkan dalam permintaan dapat mendorong penjadwal sopan Anda untuk membocorkan informasi, menyebarkan bias, atau meniru omong kosong.
• 1:37
  Ini bukan fiksi ilmiah, ini adalah risiko impel adversarial nyata yang disebut para ahli sebagai injeksi perintah.
• 1:42
  Penyerang menggunakan teks yang dirancang dengan cermat untuk melewati aturan keamanan, dan sistem mematuhinya karena tidak dapat membedakan penyambut dari penumpang terpercaya.
• 1:50
  Nah, mengapa itu terjadi?
• 1:52
  Sebagian besar modal fondasi akan menganggap setiap instruksi yang diformat dengan baik sebaik.
• 1:55
  Mereka tidak mendeteksi motif atau niat tanpa lapisan keamanan di atasnya.
• 1:59
  Kecuali organisasi menambahkan perlindungan, filter keamanan, dan pemeriksaan manusia dalam sistem, AI akan mengikuti perintah dengan ketekunan mesin yang dibuat untuk patuh.
• 2:06
  Minta AI untuk meningkat serapat, dan jika terselip dalam permintaan itu perintah untuk mencetak berkas agenda pribadi, ia akan memperlakukan keduanya sama.
• 2:13
  AI tidak mempertimbangkan. AI tidak mencuriga ading yang penipu.
• 2:16
  Metafora biacoke-cocok di sini.
• 2:18
  Ia seperti menyelinap melalui pas pemeriksaan dengan dokumen palsu yang ditandai resmi.
• 2:21
  Plager pembatas memang ada, tapi tidak selalu cukup.
• 2:24
  Teks yang cerdik bisa mengelabui aturan agar menyingkir.
• 2:26
  Dan karena outputnya non-deterministik, tidak pernah ada jawaban yang sama dua kali bahayanya beripatkan.
• 2:30
  Penyerang bisa terus menguji hingga model memberikan respons yang diinginkan seperti melempar dadu sampai hasil yang diinginkan muncul.
• 2:36
  Menjadi asisten yang dibangun untuk melayani, Anda bisa tiba-tiba berubah menjadi pelawar.
• 2:40
  Satu menit, ia memilih slot kalender.
• 2:42
  Menit berikutnya, ia mengarang kriteria lamaran kerja atau menyebarkan nama sensitif dalam konteks yang salah.
• 2:47
  Tata kelola menjadi krusial di sini karena perubahan dari bermanfaat menjadi kacau tidak terjadi secara bertahap.
• 2:51
  Terjadi seketik, kerusakannya tidak berhenti di satu kotak masuk.
• 2:55
  Output buruk merambat melalui alur kerja lebih cepat daripada kesalahan manusia.
• 2:58
  Saran yang keliru menumpuk menjadi rentetan masalah.
• 3:01
  Saran buruk yang melalui keputusan.
• 3:03
  Pelabelan yang salah menyebarkan bias informasi yang keliru dengan kecepatan.
• 3:06
  Tanpa pengawasan, satu perintah jebakan bisa menunjuk kekacauan besar.
• 3:09
  Mitigasi sangat mungkin dilakukan dan tidak sekadar mengandalkan harap.
• 3:12
  Penyedia dan perusahaan sudah menggunakan pertahanan berlapis, filter otomatis, aturan,
• 3:16
  pembelajaran penguatan dan peninjau manusia yang memeriksa apa yang lolos.
• 3:21
  TILES, misalnya, merekomendasikan pengujian kopilot baru di dalam lingkungan tertutup.
• 3:24
  Lingkungan terisolasi yang bisa diaudit untuk membatasi dampak sebelum dipaparkan ke pengguna atau data nyata.
• 3:30
  Padukan itu dengan red teaming berkelanjutan di mana manusia terus menguji kelemahan sistem dan Anda menciptakan penyangga.
• 3:37
  Pengamanan otomatis melakukan pekerjaan berat tetapi peninjauannya melibatkan manusia memastikan modal tetap selara saat aturan sederhana gagal.
• 3:44
  Inilah polanya. Pantau, uji, injau, kendalikan.
• 3:48
  Jika Anda membiarkan kemuditan pengawasan, hei akan berlahir ke arah menampun provokasi mengarahkannya.
• 3:52
  Jika Anda menerapkan pengawasan, Anda memperkecil celah terjadinya pencet.
• 3:55
  Metafora kapal menggambarkan hal ini.
• 3:57
  Panduan sangat mungkin tetapi hanya jika seseorang memeriksa kompas dan itu menyiapkan tantangan berikutnya.
• 4:02
  Bahkan jika Anda menyingkirkan penyusup dan menjaga filter tetap aktif, Anda masih menghadapi komplikasi lain.
• 4:07
  Ketidakpastian yang tertanam dalam sistem itu sendiri.
• 4:10
  Bukan kerasa botase, tetapi karena cara model-model ini menghasilkan jawaban mereka,
• 4:14
  Deterministik versus non-deterministik saklar tersembunyi itu.
• 4:18
  Bayangkan ini, Anda menekan 2, ditambah 2 pada kalkulator, dan alih-alih angka 4 yang diharapkan ia justru menjawab 42.
• 4:25
  Aneh bukan? Kita tertegun karena kalkulator dibangun di atas determinisme yang kaku.
• 4:29
  Masukkan input yang sama seribu kali dan ia akan memberikan output yang sama setiap saat.
• 4:33
  Prediktabilitas itulah tujuan utamanya.
• 4:35
  Sekarang bandingkan kelas alat AI yang lebih baru, mereka tidak selalu memberikan hasil yang sama 2 kali.
• 4:39
  Output mereka bervariasi.
• 4:40
  Terkadang variasinya terasa cerdas atau berwawasan, di lain waktu ia tergelincir menjadi omokosok.
• 4:45
  Telah saklar tersembunyi.
• 4:46
  Perilaku deterministik versus non-deterministik.
• 4:49
  Dalam sistem deterministik, seperti lembar kerja atau rumus berbasis aturan, hasilnya tidak pernah berubah.
• 4:54
  Masukan angka 7 pada hari Senin atau Sabtu mesin akan memberikan fonis yang sama.
• 4:57
  Bebas dari suasana hati yang berubah-ubah atau kreatif.
• 5:00
  Ini adalah loyalitas mekanis, memutar kembali langkah yang sama berulang kali.
• 5:03
  Wadalam deterministik memiliki cara kerja yang berubah.
• 5:04
  Anda memberi mereka perintah, dan alih-alih berjalan di jalur tetap mereka mengambil sampel dari berbagai kemungkinan.
• 5:10
  Pengambilan sampel tersebut ditambah proses stokastik pembaruan model, bahkan pergeseran data membuat hasil keluarannya bervariasi.
• 5:17
  Ini seperti menyiapkan panggung untuk pertunjukan improvisasi.
• 5:19
  Anda menulis adegannya, tetapi pemerannya menciptakan lelucon secara spontan.
• 5:23
  Terkadang hasilnya luar biasa, terkadang melenceng menjadi tidak koheren.
• 5:26
  Otomatisasi klasik dan alur kerja berbasis aturan, seperti yang banyak dibuat di power platform, lebih condong ke sisi deterministik.
• 5:33
  Anda menetapkan kondisi, dan saat pemicu aktif, sistem menjalankan aturan yang ditentukan dengan presisi-mesin.
• 5:38
  Prediktabilitas itulah yang menjaga patuhan, arus data, dan jejak audit tetap stabil.
• 5:41
  Anda tahu apa yang akan terjadi karena langkahnya sudah terkini.
• 5:44
  Sebaliknya, kopi-lout kineratif mengubah input apapun menjadi ruang terbuka untuk interpretasi.
• 5:49
  Mereka akan meringkas, menggabungkan kembali dan mensun ulang dengan cara yang seringkali terasa seprimat.
• 5:53
  Kefasihan adalah daya tariknya, tetapi juga risikonya.
• 5:55
  Ya, karena kefasihan itulah yang memungkinkan ketidakpastian dalam konteks yang membutuhkan konsistensi.
• 6:00
  Bahkan ke sebuah grup improvisasi di atas, Anda beri mereka temanya persetujuan anggaran.
• 6:03
  Satu aktor melontarkan lelucon cerdas tentang penghematan, yang lain beralih ke seplot tentang jamuan makan,
• 6:08
  dan tiba-tiba pertunjukannya hampir tidak menyerupai permintaan asli Anda.
• 6:11
  Itulah model non-deterministik yang sedang beraksi.
• 6:14
  Perubahan ini bukanlah tanda desain yang buruk.
• 6:16
  Ini sudah ada dalam cara model bahasa besar menghasilkan bahasa, dan menjelajahi banyak jalur, bukan hanya satu.
• 6:21
  Masalahnya jelas, kreativitas tidak selalu sama dengan akurasi,
• 6:24
  dan dalam alur kerja bisnis, akurasi seringkali menjadi satu-satunya mata uang yang berharga.
• 6:28
  Sekarang terapkan ini pada keuangan.
• 6:29
  Misalkan alat pengecekan kredit berbasis AI Anda menilai seorang pemohon sebagai disetujui.
• 6:33
  Informasi yang sama dimasukkan kembali ke esokan harinya, tetapi kali ini hasilnya ditolak.
• 6:37
  Pemohon berasa bingung dan kecewa.
• 6:39
  Regulator melihat ketidak konsistenan yang terdikasi sebagai diskriminasi.
• 6:42
  Yang terjadi adalah pergeseran alat.
• 6:43
  Hasil berubah tanpa alasan yang transparan,
• 6:45
  karena sistem non-deterministik dapat bervariasi seiring waktu.
• 6:48
  Tidak seperti manusia, Anda tidak bisa begitu saja meminta model menjelaskan apa yang buruk.
• 6:54
  Perasaan menghilang tidak jelas, jelas dalam produksi pergeseran tersebut membesar dengan cepat.
• 6:59
  Alur kerja yang disetujui untuk mengurangi biasa bulan ini bisa berbelok ke arah yang berlawanan di bulan berikutnya.
• 7:04
  Variasi yang tampak kecil jika terisolasi akan bertambah menjadi pelanggaran jika diperbesar di ratusan kasus.
• 7:10
  Regulator tidak seperti penonton yang terhibur di malam improvisasi.
• 7:12
  Menuntut stabilitas, auditabilitas, dan penjelasan yang jelas, dan penjelasan yang jelas.
• 7:16
  Mereka tidak menerima non-determinisme sebagai bagian dari data.
• 7:19
  Inilah mengapa batasan bening.
• 7:20
  Regulator dan standar meminta auditabilitas, dokumentasi model, dan pemantauan.
• 7:25
  Jadi sertakan log dan langkah-langkah penjelasan dalam penerapan.
• 7:28
  Tanpanya, perubahan kecil pun menjadi kewajiban, denda finansial menumpuk,
• 7:32
  kerusakan reputasi menyebar, dan kepercayaan pelanggar pun lenyap.
• 7:35
  Tata kelola adalah wasit manusia dalam permainan yang tak terduga ini.
• 7:38
  Bayangkan kembali para pemain improvisasi itu berputar ke segala.
• 7:41
  Jika tidak ada yang menetapkan batasan pertunjukan itu akan runtuh karena kekacauannya sendiri.
• 7:44
  Namun seorang wasit menjaga mereka terterikat.
• 7:47
  Tetaplah pada tema ini, ikuti alur ini.
• 7:48
  Tata kelola bekerja dengan cara yang sama untuk EE.
• 7:51
  Hal ini tidak memadamkan inovasi, tetapi mengubah keacakan menjadi kinerja yang tetap menghormati naskah.
• 7:57
  Non-determinisme tetap ada, tetapi beroperasi di dalam jalur yang ditentukan.
• 8:00
  Disinilah lantai keseimbangannya.
• 8:02
  Anda tidak bisa memaksa kopi loper perilaku seperti kalkulator, karena memang tidak dirancang.
• 8:05
  Tetap bisa memasang jaring pengaman di sekilai.
• 8:07
  Pengawasan manusia, sistem pemantauan, dan kerangka tata kelola berfungsi sebagai jaring tersebut.
• 8:11
  Dengan adanya itu, model tetap berimprovisasi tetapi tidak akan merusup.
• 8:14
  Tanpanya, penyimpangan akan terjadi tanpa kendali dan tim kepatuhan harus memberaskan keputusan yang tidak bisa dibenarkan oleh siapapun.
• 8:19
  Taruhannya sudah jelas.
• 8:20
  Ketidakpastian internetral, hal ini membentuk hasil yang mempengaruhi pinjaman pekerjaan atau layan kesehatan.
• 8:25
  Dan ketika output tersebut memiliki dampak dunia nyata, regulator akan turun tak.
• 8:29
  Hal ini membawa kita ke batas berikutnya.
• 8:31
  Kedatangan aturan eksternal, yang tidak hanya menyarankan pengawasan, tetapi mewajibkannya.
• 8:35
  EEI asteroid yang datang mendekat.
• 8:37
  Bayangkan ini, Anda telah membangun proyek AI baru yang cemberlang kota digital dengan jalanan yang rapi dan aktivitas yang ramai.
• 8:44
  Distrik untuk data, jembatan integrasi, pencakat langit dengan fitur-fitur pintar.
• 8:48
  Semuanya terasa koko.
• 8:49
  Kemudian dalam semalam, EEI aktiba seperti aturan zonasi yang dijatuhkan dari orbit.
• 8:54
  Seluruh blok kota Anda sekarang diberi label sebagai diatur, beberapa dipantau dengan ketat,
• 8:57
  yang lain dilarang jika melintasi ranah manipulatif atau berbahaya.
• 9:01
  Ini bukan pilihan, ini adalah undang-undang, dan kota Anda harus merombak diri sendiri terlepas dari apakah Anda mencenakannya atau tidak.
• 9:05
  Menjadi aturan ini adalah kategorisasi.
• 9:08
  Sistem ditempatkan ke dalam tingkatan risiko minimum terbatas, tinggi, atau sama sekali tidak dapat diterima.
• 9:13
  Minimum mungkin mencakup jetpot yang membantu pelanggan dengan FAQ.
• 9:17
  Risiko tinggi mencakup alat rekrutmen, penilaian kredit, dan peman tempat kerja.
• 9:21
  Tidak dapat diterima mencakup penggunaan manipulatif atau berbahaya yang secara efektif dilarang sama sekali.
• 9:25
  Ini bukan sekadar label, melainkan pemetaan langsung ke wajiban.
• 9:28
  Jika diklasifikasikan sebagai risiko tinggi, Anda harus menyediakan transparansi dan penjelasan menyimpan loktor perinci untuk audit dan menerapkan pengawasan manusia.
• 9:34
  Tiba-tiba kota baru Anda yang cerah tidak hanya diminta untuk berfungsi, tetapi juga diminta buktikan secara rinci bagaimana dan membuktikan secara rinci bagaimana dan mengapa kota itu berfungsi.
• 9:40
  Bagi pengembang dan membuat solusi, itu adalah perubahan yang drastik.
• 9:45
  Hari ini fitur-fitur yang sama mungkin menuntut tinjauan kepatuhan sebelum satu demo pun dilakukan.
• 9:50
  Aplikasi rekrutmen yang meningkat CVD Power Platform yang dulunya hanya penghemat waktu yang rapi tiba-tiba masuk ke wilayah berisiko tinggi.
• 9:56
  Berkasih itu tidak ada rusak.
• 9:56
  Hanya saja dampaknya terhadap orang-orang didefinisikan oleh undang-undang sebagai yang sensitif dan itu mengubah taruhannya.
• 10:01
  Dan disinilah kepanikan mulai melanda banyaknya.
• 10:03
  Transparansi berarti log tentang bagaimana keputusan dibuat bukan daftar poin yang sama dalam sebuah presentasi.
• 10:09
  Auditabilitas mengharuskan setiap jalur keputusan disimpan dan dapat diambil, siap untuk diperiksa oleh regulator.
• 10:14
  Pengawasan manusia berarti tanggung jawab langsung.
• 10:16
  Orang sungguhan yang memantau sistem, yang mampu melakukan intervensi saat modal melenceng dari jalurnya.
• 10:20
  Ini bukan perdoman ringan, melainkan ketentuan yang dapat ditegakkan.
• 10:22
  Prototipe cepat berubah menjadi penyebaran trawasi dengan persetujuan kepatuhan yang diperlukan di setiap langkah.
• 10:27
  Kecepatan beri jalan bagi struktur.
• 10:29
  Anggaplah undang-undang ini bukan sebagai birokrasi, melainkan sebagai aturan oksigen di pesawat luar angkasa.
• 10:33
  Anda mungkin memutar mata saat membuka masker di langit yang tenang,
• 10:36
  tetapi saat turbulensi itu adalah satu-satunya hal yang menjaga klut tetap hidup.
• 10:40
  Undang-undang ini pun sama.
• 10:41
  Aturan-aturannya terasa berat sampai Anda ingat mengapa aturan itu ada karena satu kewalaian dapat mematikan kepercayaan di seluruh industri.
• 10:46
  Dan inilah peringatan penting.
• 10:48
  Anda tidak bisa menunda kepatuhan.
• 10:49
  Undang-undang ini menegakkan kewajiban sekarang dan memasang log, kontrol, serta pengawasan nanti akan jauh lebih mahal daripada menyematkannya sejak tahap desain.
• 10:58
  Konsekuensi karena mengabaikan persyaratan ini bukan hanya finansial.
• 11:01
  Denda memang menyakitkan, tetapi reputasi jauh lebih sulit dari perbaik.
• 11:04
  Begitu pelanggan mengetahui alat Anda melewati garis merah kepercayaan pada seluruh bisnis Anda akan terkikis,
• 11:09
  Anda tidak bisa menambahnya di pembaru.
• 11:10
  Kepercayaan publik itu rapuh dan ketika retak, pengguna akan beralih ke tempat.
• 11:13
  Hukuman terbesar tiap tertulis dalam hukum, mainkan tertulis dalam pelangkuman.
• 11:17
  Jadi inilah pertanyaan inventaris yang tidak mengenakan.
• 11:20
  Apakah Anda bahkan tahu fitur AIMAN dari Anda yang memenuhi syarat sebagai berisiko tinggi?
• 11:23
  Menyortirisi fitur.
• 11:24
  Alat produktivitas peribadi fitur.
• 11:26
  Jika fitur itu menyentuh area sensitif seperti pekerjaan atau prospek keuangan, undang-undang tersebut berduk.
• 11:30
  Dan tidak masalah jika Anda menganggapnya sebagai membantu yang tidak berbahag.
• 11:33
  Klasifikasi membawa kewajiban terlepas dari apakah Anda mengakuinya atau tidak.
• 11:35
  Organisasi cerdas memulai dengan inventaris.
• 11:38
  Mengkatelokan fitur mana yang berada di mana sebelum regulator meminta pertanggung jawaban mereka dengan dendam.
• 11:42
  Telah kejutan yang sebenar.
• 11:43
  Undang tersebut tidak hanya merekomendasikan AIM yang bertanggung jawab secara halus,
• 11:46
  tetapi tata kelola bukan lagi bumbu opsional, melainkan telah menjadi bagian dari hukum.
• 11:50
  Anda harus merancang dengan tanggung jawab sejak awal atau hukum yang akan menegakkannya dari luar dengan penalti dan auditor yang menyertai.
• 11:58
  Dalam artian itu, Astra sebut sudah mendarat.
• 12:00
  Anda tidak bisa menepisnya.
• 12:01
  Anda hanya bisa melindungi diri dari dampaknya dan menjaga kota Anda tetap.
• 12:04
  Hal ini memunculkan pertanyaan praktis perisai apa yang Anda miliki saat ini.
• 12:07
  Karena dalam landscape ini, bertahan dari asteroid bukanlah soal keberuntungan,
• 12:10
  melainkan menggunakan pertahanan yang sudah ada di panah kendali Anda.
• 12:14
  Perisai dan pagar pembatas ekosistem Microsoft
• 12:16
  Di ekosistem Microsoft, perisai sudah terpasang di dalam kapal.
• 12:21
  Anda hanya belum mengaktifkannya.
• 12:22
  Microsoft 365 dan Power Platform memiliki alat tata kelola yang seringkali tidak disadari,
• 12:26
  tersembunyi seolah-olah itu adalah fitur tambahan opsional.
• 12:28
  Itu bukan hiasan, melainkan pelabai struktural yang menjaga sistem Anda tetap utuh saat regulasi dan risiko datang.
• 12:34
  Bahayanya muncul ketika tim hanya melirik dashboard ini, mengabaikannya, lalu menunjukkan pekerjaan.
• 12:38
  Karena ini bukan saklar bonus, melainkan perangkat untuk bertahan hidup.
• 12:40
  Mulai dengan visibilitas.
• 12:42
  Microsoft 365 dan Power Platform menyematkan fitur pengawasan yang memungkinkan Anda
• 12:45
  melacak perilaku model, mencatat keputusan, dan menyajikan penjelasan dalam istilah sederhana.
• 12:50
  Tidak perlu lagi mengandalkan kotak hitam yang memberikan vonis aneh.
• 12:53
  Anda mendapatkan upan balik yang nyata sinyal di konsol kapanpun algoritma menyimpang.
• 12:57
  Perbedaan itu adalah garis antara menyetir, tanpa arah, dan menafigasi dengan instrumen yang memberi tahu Anda saat Anda melenceng.
• 13:03
  Kemudian transparansi.
• 13:05
  Beberapa vendor seperti AWS menyediakan kartu layanan AI untuk mendokumen sesuai penggunaan dan mata sama.
• 13:08
  Microsoft melakukan pendekatan berbeda dengan standar AI yang bertanggung jawab dan alat seperti dashboard AI yang bertanggung jawab.
• 13:15
  Ini memberikan laporan keterjelasan catatan kinerja dan pilihan desain yang bertanggung jawab bagi praktisi.
• 13:20
  Anggaplah ini sebagai kopilot yang menjelaskan alat dibalik rencananya, bukan sekadar memberikannya kepada Anda.
• 13:25
  Anda melihat setiap pertimbangan bukan hanya hasil akhirnya.
• 13:27
  Untuk perlindungan tingkat model, ingatlah ini.
• 13:30
  Semua vendor menyediakan pakar pembatas dalam bentuk tertentu.
• 13:32
  Di lingkungan Microsoft, Anda akan menemukan kontrol kebijakan, dashboard keterjelasan, dan log audit yang menjalankan peran serupa memblokir input jahat dan menyaring hasil sebelum menjadi kacau.
• 13:42
  Untuk keterjelasan itu sendiri, ada metode mapan seperti HP atau alat khusus vendor seperti Signmaker Clarify.
• 13:48
  Di dunia Microsoft, dashboard AI yang bertanggung jawab mengisi peran tersebut memberikan laporan jelas tentang variabel apa yang mendorong pilihan model.
• 13:55
  Dengan alat ini, aksi sulap keputusan AI bukan lagi trik yang menakutkan.
• 13:58
  Anda dapat melihat input mana yang penting dan menimang apakah hasilnya adil.
• 14:01
  Auditor mendapatkan bukti yang dapat dilacak dan pengguna mendapatkan kepercayaan bahwa model tidak mengarang omong kosong.
• 14:07
  Lalu, tibalah jaring pengaman yang sederhana namun vital, yaitu perlindungan data.
• 14:11
  Aktifkan penjagaan kehilangan data agar informasi sensitif tidak bocor ke pihak yang salah dan pasangkan dengan penyimpanan log serta jejak audit.
• 14:19
  Secara kolektif, fitur ini berfungsi sebagai perekam kota hitam.
• 14:21
  Setiap tindakan dan setiap penyimpangan dicatat sehingga Anda dapat menusuri kesalahan saat terjadi.
• 14:26
  Jika dilewati, Anda hanya akan mendapati kepulauan asap saat kesalahan mulai blok.
• 14:29
  Asalnya, bukan sekadar teori.
• 14:31
  Pertimbangkan power app dasar yang diguat dengan iBuilder.
• 14:34
  Pada draft awal, aplikasi ini menyedot lebih banyak informasi pribadi daripada yang bisa dibenarkan oleh organisasi mana.
• 14:38
  Nama catatan dan bidang sensitif terekspos.
• 14:41
  Setelah pengaturan kepatuan diaktifkan, kebocoran terhenti, batasan data diperketat, aplikasi tetap berfungsi, dan aturan privasi dipatuhi.
• 14:48
  Arsitekturnya tidak dibongkar dan dibangun ulang.
• 14:50
  Sistem hanya diselaraskan dengan mengaktifkan pelindung yang sebenarnya sudah tersedia sejak awal.
• 14:53
  Untuk tahap penerapan awal, ada praktik lain yang layak diadopsi, yaitu taman bertembok ala telusi.
• 14:58
  Dengan menguji kopilot dalam sandbox yang terkontrol dan dapat diaudit, Anda membatasi perilaku tak terduga di zona aman sebelum dirilis ke alur kerja bisnis yang kritis.
• 15:06
  Ini adalah tempat pengujian dengan tembok yang cukup tinggi agar kesalahan tidak merembes ke sistem produksi.
• 15:11
  Padukan dengan pemantauan yang kuat, maka organisasi Anda akan mendeteksi kesalahan sebelum menjadi berita utama.
• 15:16
  Dashboard tata kelola menyatukan semua ini.
• 15:18
  Dashboard bukan sekadar layar status, melainkan memberikan pengawasan aktif bagi tim.
• 15:22
  Supervisor dapat mempertanyakan, menyetujui, atau memveto output AI secara waktunya.
• 15:25
  Itulah penegakan manusia dalam sistem yang terintegrasi.
• 15:28
  Tanpa pengawasan tersebut, otomatisasi berjalan bebas hingga menabrak pelanggaran kebijakan.
• 15:31
  Dengan adanya dashboard, manusia duduk di menara kontrol, mengordinasikan setiap sistem AI layaknya pesawat di ruang udara yang sibuk.
• 15:39
  Alik-alik kekacauan di udara, Anda mendapatkan alur yang tersinkronisasi dan terkeluar.
• 15:42
  Dan disinilah otak titik web.
• 15:44
  Begitu organisasi melihat sistem ini sebagai pertahanan, mereka beralih dari beban regulasi menjadi pengganda produktivitas.
• 15:49
  Anda tidak perlu melakukan. Anda dapat memberikan lok yang diinginkan regulator dalam sekejap.
• 15:53
  Anda bergerak lebih cepat karena kepatuhan adalah bagian dari desain, bukan tambalan yang ditambahkan kemudian.
• 15:57
  Apa yang dulu menghambat langkah Anda kini justru mempercepatnya.
• 15:59
  Namun, pelindung tidak beroperasi dengan sendirinya.
• 16:01
  Sistem memerlukan konfigurasi tinjauan dan pemantauan yang stabil.
• 16:04
  Kontrol ini memang bantu, tetapi harus dikelola dengan benar oleh orang-orang.
• 16:08
  Dewan Tata Kelola, pertahanan terakhir melawan kekacauan.
• 16:11
  Anggaplah Dewan Tata Kelola sebagai keruanjungan kapal luar angkasaan.
• 16:14
  Kelompok yang menjaga arah tetap stabil saat turbulensi mengguncang kendali.
• 16:18
  Lindung, tombol kepatuhan, dan log audit mungkin berjalan di latar belakang,
• 16:21
  tetapi seseorang tetap harus melihat keluar jendela, memantau indikator, dan merespon saat hal terduga terjadi.
• 16:26
  Tanpa pengawasan tersebut, bahkan pagar pembatas terbaik hanyalah logam tanpa penilaian dibaliknya.
• 16:31
  Dewan Tata Kelola bukanlah seorang perwiraat milah yang memberi perintah.
• 16:34
  Struktur ini dibangun sebagai tim lintas fungsi yang melibatkan pimpinan teknologi,
• 16:37
  pemilik tata kelola data, penasihat hukum atau kepatuhan,
• 16:40
  perwakilan bisnis, dan setidaknya satu peninjau independen.
• 16:43
  Masing-masing memainkan peran berbeda karena A tidak bisa hanya ditempatkan di satu bidang saja.
• 16:47
  Alat penyari resumo mengaruhi HR, algoritma peramalan,
• 16:49
  membentuk keuangan, dan chatbot berbisara langsung kepada pelanggan Anda.
• 16:53
  Satu fungsi saja tidak bisa mengantisipasi semua konsekuensi.
• 16:55
  Dibutuhkan diskusi bersama untuk menemukan dan memperbaiki risiko sebelum menyebar ke berbagai departemen.
• 17:00
  Sekarang bayangkan menjalankannya tanpa tin tersebut.
• 17:02
  Membiarkan AI tanpa pengawasan seperti mengatur kemudian otomatis di tengah ladang asteroid.
• 17:06
  Terasa aman sampai satu manuver aneh membuat kapal melenceng dari jalur.
• 17:09
  Pagar pengaman mungkin ada, tetapi mereka tidak menafsirkan, tidak mempertanyakan, dan tidak mengantisipasi.
• 17:14
  Dewan Tata Kelola adalah lapisan pemikir manusia yang melihat melampaui lampu berkedip
• 17:17
  untuk memahami konteks, etika, dan dampak sebelum penyimpangan menjadi bencana.
• 17:21
  Tugas mereka tidak bersifat abstrak.
• 17:22
  Mereka menjalankan audit bias dan keadilan secara berkala,
• 17:25
  mengonfirmasi asal data, meninjau laporan kepatuhan,
• 17:27
  dan melacak bagaimana sistem non-deterministik berimprovisasi.
• 17:30
  Mereka mengoperasikan irama kerja, menetapkan jadwal pemeriksaan agar masalah terdeteksi sejak awal,
• 17:34
  bukan setelah peluncuran, dan memperluasnya dengan mendefinisikan indikator kinerja utama,
• 17:37
  keadilan akurasi, serta metrik penyimpangan.
• 17:39
  Sehingga pemantauan berkelanjutan bukan sekadar tebakan,
• 17:41
  dan melainkan akutabilitas yang teruk.
• 17:43
  Khusus untuk keluaran non-deterministik, dewan ini menjaga batas-batasnya.
• 17:46
  AI tidak selalu memberikan jawaban yang sama.
• 17:48
  AI mengambil sampel berimprovisasi dan bereksplorasi.
• 17:51
  Hal itu bisa menghasilkan jawaban kreatif
• 17:53
  atau justru menyimpang kekeluaran menyesatkan yang merusak kepercayaan.
• 17:56
  Dewan Tata Kelola bertindak sebagai pengawas keamanan digital,
• 17:59
  mencatat hasil tak terduga, melakukan retimin pada prompt,
• 18:02
  menandai pola berbahaya, dan menarik kembali manusia
• 18:04
  dalam sistem ketika filter otomatis melewatkan sesuatu.
• 18:07
  Mereka tidak menghambat inovasi.
• 18:08
  Mereka menjaga yang tetap beroperasi yang aman.
• 18:11
  Dan inilah perbedaan praktisnya.
• 18:12
  Organisasi dengan Dewan Tata Kelola yang efektif cenderung
• 18:15
  menemukan masalah saat uji coba.
• 18:17
  Audit keadilan mengungkap bias dalam modal rekrutmen
• 18:19
  masalah diperbaiki secara diam-diam
• 18:21
  dan peluncuran perlanjutan pas skandal.
• 18:23
  Di organisasi tanpa pengawasan seperti itu,
• 18:25
  beritanya muncul di media terlebih dahulu.
• 18:27
  Pelanggan menemukan kerugian,
• 18:28
  regulator melihat kegagalan,
• 18:30
  dan tindakan korektif datang terlambat.
• 18:33
  Pencegahan memakan waktu.
• 18:34
  Pemulihan memakan reputasi.
• 18:36
  Pola ini sering terulang sehingga pelajarannya
• 18:38
  menjadi jelas.
• 18:39
  Fondasi Dewan ini berkisar pada
• 18:40
  keadilan, transparansi, akuntabilitas,
• 18:42
  keamanan, dan privasi.
• 18:44
  Keadilan memastikan hasil tidak merugikan pengguna
• 18:47
  berdasarkan latar belakang demografis.
• 18:49
  Transparansi mengharuskan keputusan
• 18:50
  dapat dijelaskan dalam istilah yang jelas,
• 18:52
  baik bagi pengguna maupun untuk patuh.
• 18:54
  Akuntabilitas memastikan ada peran
• 18:55
  yang ditunjuk untuk bertanggung jawab,
• 18:57
  bukan karena AI yang melakukannya,
• 18:59
  tetapi petugas ini yang menanggung hasilnya.
• 19:01
  Keamanan menjaga agar keluaran
• 19:02
  tidak menyebabkan bahaya atau penyeleng.
• 19:04
  Privasi melindungi data sensitif
• 19:06
  agar individu tidak menjadi muatan yang tidak disengaja
• 19:08
  dalam perjalanan berisiko.
• 19:10
  Setiap prinsip kuat secara mandiri,
• 19:11
  namun bersama-sama prinsip tersebut
• 19:12
  menyatukan kerangka yang membuat AI
• 19:14
  bertanggung jawab bekerja di bawah pengawasan.
• 19:15
  Dan Dewan tidak hanya menjunjung tinggi prinsip,
• 19:17
  mereka juga menjalankan tidak.
• 19:18
  Mereka meninjau dokumentasi model
• 19:20
  untuk memastikan kejelasan,
• 19:21
  menjalankan proses penerimaan risiko
• 19:22
  untuk mengklasifikasikan kasus penggunaan
• 19:24
  dan menekahkan titik pemeriksaan
• 19:25
  yang melibatkan manusia
• 19:26
  di mana pengawasan diperlukan.
• 19:27
  Sebagai langkah awal,
• 19:28
  salah satu tindakan yang paling sederhana
• 19:29
  dan berharga adalah
• 19:30
  inventarisasi kasus penggunaan AI
• 19:32
  dan pemeningkatan risiko.
• 19:33
  Peta singkat ini menunjukkan proyek
• 19:34
  mana yang memenuhi syarat sebagai risiko tinggi,
• 19:37
  mana yang merupakan tata kelola ketatuan,
• 19:38
  mana yang berisiko lebih rendah.
• 19:39
  Ini adalah bukti nyata bagi pimpinan
• 19:40
  dan regulator bahwa pengawasan
• 19:41
  bersifat terstruktur,
• 19:42
  bukan improvisasi.
• 19:44
  Bahkan pada kecepatan penuh rapat
• 19:45
  Dewan bertindak sebagai pemindah rutin
• 19:46
  dalam perjalanan.
• 19:48
  Mereka tidak hanya menetapkan strategi,
• 19:49
  tetapi juga menacak metrik
• 19:50
  dan menegakkan pelaporan kepatuhan.
• 19:52
  Hirama tersebut membangun ketahan.
• 19:54
  Siklus pengujian,
• 19:55
  KPI keadilan
• 19:56
  dan tinjauan penyimpangan
• 19:57
  mengatur ritme
• 19:58
  agar pagar pembatas
• 19:59
  tetap aktif alih-alih memudar
• 20:01
  setelah penerapan.
• 20:02
  Melalui ritual ini,
• 20:03
  pengawasan berhenti
• 20:04
  menjadi sekadar pemeriksaan
• 20:05
  sekali jalan
• 20:05
  dan menjadi proses yang hidup.
• 20:07
  AI rekrutmen memberikan
• 20:08
  pelajaran yang berharga.
• 20:10
  Model yang dilatih dengan data cacat
• 20:11
  secara diam-diam
• 20:12
  menyerap bias
• 20:12
  menurunkan peringkat kandidat
• 20:14
  dari kelompok tertentu
• 20:15
  tanpa niat dari pengembangnya.
• 20:17
  Jika dibiarkan,
• 20:18
  diskriminasi menyebar luas
• 20:19
  hingga berujung pada tuntutan hukum.
• 20:21
  Dewan tetap lola yang dilengkapi
• 20:22
  dengan audit keadilan
• 20:23
  dan pemeriksaan asal usul
• 20:24
  seharusnya dapat mendeteksi
• 20:25
  ketimbangan tersebut jauh
• 20:26
  sebelum terus.
• 20:27
  Perbedaan itulah
• 20:28
  antara pencegahan dan pengungkapan
• 20:29
  yang menjadi alasan keberadaan Dewan ini.
• 20:31
  Jadi Dewan tetap lola
• 20:32
  bukanlah proyek sampingan
• 20:33
  dan bukan pula komite pajangan.
• 20:35
  Mereka adalah pertahanan terakhir
• 20:36
  antara panduan yang stabil
• 20:37
  dan kekacauan yang dapat dihindari
• 20:38
  awak yang bertugas mengubah
• 20:39
  slogan AI yang bertanggung
• 20:40
  dari praktek nyata.
• 20:41
  Dengan menjaga struktur,
• 20:42
  metrik, dan akuntabilitas,
• 20:44
  mereka memastikan kapal melaju
• 20:45
  dengan kepercayaan yang tetap terjaya.
• 20:46
  Dan ini membawa kita kembali
• 20:47
  ke titik awan.
• 20:48
  Dengan adanya Dewan,
• 20:49
  pengawasan menjadi budaya
• 20:49
  bukan sekadar tambal sulam
• 20:51
  yang memunculkan kebenaran
• 20:52
  lebih tajam sebagai penutup kit.
• 20:53
  AI yang bertanggung jawab
• 20:54
  bukanlah pengaturan tambahan
• 20:55
  yang Anda ketipkan hanya untuk Anda.
• 20:56
  Ini adalah perangkat keselamatan
• 20:57
  yang menentukan apakah Anda
• 20:58
  mampu bertahan menghadapi
• 20:59
  turbelian sidup.
• 21:00
  AI yang bertanggung jawab
• 21:01
  bukanlah pilihan.
• 21:02
  Hal inilah yang membedakan
• 21:03
  organisasi yang memegang kendali
• 21:04
  dengan organisasi yang hanya
• 21:05
  dalam kekacauan.
• 21:06
  Dengannya, Anda membangun kepercayaan,
• 21:08
  mengurangi risiko secara signifikan,
• 21:09
  dan memposisikan proyek AI Anda
• 21:11
  untuk kesuksesan jangka panjang
• 21:12
  bukan keberhasilan sesaat.
• 21:13
  Jadi inilah langkah Anda selanjutnya.
• 21:15
  Inventarisasi kasus penggunaan AI Anda,
• 21:16
  aktifkan perlindungan
• 21:17
  yang sudah ada di platform Anda
• 21:18
  dan bentuk Dewan Tata Kelola
• 21:20
  untuk memantaunya.
• 21:21
  Anggap langkah-langkah tersebut
• 21:22
  sebagai pusat kendali misi
• 21:23
  bukan misi sampah.
• 21:24
  Catana cara mencakup
• 21:25
  daftar periksa dan tautan
• 21:26
  ke alat yang telah kami bahas
• 21:27
  sehingga Anda dapat langsung memulai.
• 21:29
  Jika episode ini
• 21:29
  mengisi ulang kristal dirithium Anda,
• 21:31
  atur podcatcher Anda ke dok otomatis,
• 21:33
  klik ikuti.
• 21:34
  Ilimkan pertanyaanmu ke