Latest / M365.FM – Podcast Microsoft 365, Copilot & AI Bahasa Indonesia / Agen AI di Microsoft Teams: Dongkrak Produktivitas atau Risiko Keamanan? Tata Kelola untuk Rekan Kerja Digital (Sulih Suara AI)

Transcript

Agen AI di Microsoft Teams: Dongkrak Produktivitas atau Risiko Keamanan? Tata Kelola untuk Rekan Kerja Digital (Sulih Suara AI) · M365.FM – Podcast Microsoft 365, Copilot & AI Bahasa Indonesia

• 0:00
  Bayangkan saat masuk ke Teams, Anda disambut oleh kawanan agen AI yang masing-masing menjanjikan kelancaran hari kerja Anda.
• 0:05
  Mereka menawarkan produktivitas, namun tanpa aturan, mereka bisa salah menafsirkan tujuan dan memperluas akses dengan cara yang membuat Anda bertanggung jawab.
• 0:11
  Ini seperti memberikan kartu kredit perusahaan kepada anak magang dan berharap laporan pengeluarannya tidak mencantumkan pembelian kapal pesiat.
• 0:16
  Abar baiknya, Dalek.
• 0:17
  Dalam episode ini, Anda akan mendapatkan kerangka kerja sederhana, tiga kontrol praktis, dan langkah awal.
• 0:22
  Agar agen-agen ini tetap berguna aman dan selaras.
• 0:24
  Karena sebelum Anda bisa mempercaya mereka, Anda perlu menghami rekan kerja seperti apa mereka nantinya.
• 0:30
  Temui rekan kerja digital baru Anda.
• 0:31
  Temui rekan kerja digital baru Anda.
• 0:33
  Mereka tidak duduk di bilik, tidak menggunakan kartu akses, dan pastinya tidak pernah membaca buku panduan karyawan.
• 0:38
  Ini bukanlah makro-eksel berduku yang dulu harus kita awasi terus.
• 0:40
  Agen mengamati, merencanakan, dan bertindak karena mereka menggabungkan tiga bahan utama, memori, hub akses, dan akses alat.
• 0:46
  Itulah kerangka kerja Microsoft dan BCG, dan itulah perbedaan yang sebut.
• 0:49
  Rekan kerja baru Anda dapat melacak interaksi masa lalu, berpindah antar sistem yang sudah Anda percayai
• 0:54
  dan benar-benar menggunakan aplikasi layaknya manusia.
• 0:57
  Untuk godaan untuk bercanda tentang anak manggang kembali muncul.
• 0:59
  Mereka datang penuh energi tapi tidak tahu di mana stafler disimpan.
• 1:02
  Sama halnya dengan agen, mereka menyerbu alur kerja Anda tanpa benar-benar memahami batasan.
• 1:06
  Namun tidak seperti anak manggang, mereka bisa menjangkau outlook, sharepoint, atau dynamics begitu Anda menerapkannya.
• 1:10
  Kekuatan itu bukan hanya sekadar keunikan, tapi masalah tetap.
• 1:13
  Tanpa pencegahan kehilangan data dan hak akses yang tepat, Anda pada dasarnya telah memperluas area serangan di seluruh tumpukan sistem Anda.
• 1:18
  Jika Anda ingin tahu seberapa cepat hal ini menjadi nyata, lihat peta jalan pengembangan.
• 1:23
  Microsoft telah memberi gambaran tentang agen sharepoint yang mengelola dokumen langsung di situs, bukan sekadar hasil pencarian.
• 1:29
  Bayangkan meminta asisten untuk merapikan file proyek dan ia benar-benar mengatur ulang folder bersama di seluruh tim.
• 1:34
  Menesangkan di slide presentasi, tapi juga satu kesalahan interpretasi bisa berujung pada pengarsipan data keuangan kuartal yang salah.
• 1:40
  Itu bukan risiko teoretis, itu adalah masa operasional di masa mendatang.
• 1:42
  Otomatisasi model lama terasa seperti mesin penjual.
• 1:45
  Anda menekan satu tombol coklat jatuh dan jika Anda beruntung, ia tidak tersangkut.
• 1:48
  Akin sama sekali tidak seperti itu.
• 1:50
  Mereka bisa memperhatikan status alur kerja Anda, melihat opsi yang tersedia, dan menghasilkan langkah-langkah yang tidak di program sebelumnya oleh siapapun.
• 1:55
  Adaptif dan itulah, daya tarik sekaligus.
• 1:58
  Bahayanya.
• 1:58
  Jika gagal, hasilnya bukan sekadar pemain yang tersangkut.
• 2:01
  Hasilnya adalah laporan meyakinkan yang diambil dari tiga sistem dengan definisi data yang keliru namun dianggap benar berbulan-bulan kemudian.
• 2:06
  Coba tebak siapa yang harus bertanggung jawab saat bagian keuangan menanyakan asal ketidasus.
• 2:10
  Namun keunggulannya sudah jelas.
• 2:11
  Satu agen saja bisa menghubungkan berbagai siluah dengan cara yang sulit ditandingi oleh tim manusia Anda.
• 2:16
  Ia tidak peduli apakah datanya ada di tim, sharepoint, atau modul dynamics yang tersembunyi di latar belakang.
• 2:21
  Ia akan berpindah di antaranya dan mengompilasi hasil tanpa butuh lampiran email, pengingat kalender, atau ahli Excel di departemen Anda.
• 2:28
  Dari sisi produktivitas, ini seperti merekrut seseorang yang bekerja 10 kali lebih cepat dan tidak pernah berhenti untuk memanaskan makanan di ruang istirahat.
• 2:34
  Tetapi kecepatan tanpa keselarasan itu berbahaya.
• 2:36
  Agen tidak membagikan tujuan bisnis Anda, mereka hanya mengikuti instruksi literal yang Anda berikan.
• 2:41
  Ketidakselarasan itu adalah masalah prinsip agen dalam kemasan teknologi.
• 2:44
  Anda ingin akurasi dan kepatuhan, mereka justru memberikan interpretasi yang paling berkati dengan kepercayaan diri yang salah.
• 2:49
  Itu bukan permusuhan, itu ketidaktahuan.
• 2:51
  Dan ketidaktahuan dengan akses tingkat sistem bisa jauh lebih merusak daripada nil.
• 2:54
  Itulah sebabnya asisten yang terlalu antusias bisa mengirim spreadsheet rahasia ke kontak eksternal karena Anda memintanya membagikan pembaruan.
• 3:00
  Jadi kenyataannya adalah, agen bukanlah sekadar sampingan yang unik.
• 3:03
  Mereka adalah rekan kerja digital yang merambah ke alur kerja inti, sangat mampu namun sangat tidak paham konteks.
• 3:10
  Anda mungkin terkesan dengan perilaku demo mereka.
• 3:12
  Tetapi ujian sebenarnya dimulai saat Anda menempatkan mereka dalam proses langsung tanpa panduan pelatihan atau pengawasan.
• 3:17
  Dan inilah celara saya ingin tahu Anda.
• 3:18
  Tetaplah bersama saya karena dalam beberapa menit kita akan membahas tiga hal yang dibutuhkan setiap agen,
• 3:23
  memori, hard access, dan alat, serta mengapa masing-masing adalah kekuatan sekaligus titik kegadalan jika tidak dikelola.
• 3:29
  Hal ini menentukan pekerjaan Anda selanjutnya.
• 3:31
  Bukan hanya menggunakan alat, tetapi menggunakan alat, tetapi mengelola pekerja digital.
• 3:34
  Dan itu datang tanpa panduan SDM, tetapi dengan banyak tanggung jawab.
• 3:38
  Manager sebagai atasan di pekerja digital.
• 3:39
  Bayangkan membuka ulasan kinerja Anda dan melihat baris baru mengelola 12 karyawan manusia dan 48 agen AI.
• 3:46
  Dan itu bukan sekadar buah-buahan fiksi ilmiah, itu menjadi metrik nyata dari keterampilan manajerial.
• 3:50
  Para ahli kini mengatakan nilai seorang manajer akan dinilai sebagian dari berapa banyak pekerja digital yang bisa mereka pandu.
• 3:56
  Karena pemberian prompt, verifikasi, dan pengawasan kini menjadi kemampuan kepemimpinan utama.
• 4:00
  Atasan masa depan tidak hanya mendelegasikan kepada orang, mereka mengorkestrasi campuran antara staff dan perangkat.
• 4:05
  Pergeseran itu penting karena agen AI tidak bekerja seperti alat yang dibiarkan diam sampai dibutuhkan.
• 4:10
  Mereka bergerak sendiri setelah diberi instruksi, dan mereka tidak akan bertanya saat bingung.
• 4:14
  Peran Anda sebagai manajer kini membutuhkan keterampilan yang tidak lagi seperti menulis memo,
• 4:17
  melainkan lebih kemendefinisikan ambang batas eskalasi.
• 4:20
  Kapan agen harus berhenti dan meliksa kepada Anda, dan kapan ia harus melanjutkan?
• 4:23
  Menurut PWC dan World Economic Forum, tiga tindakan manajerial yang krusial di sini adalah
• 4:27
  perintah yang jelas, pengawasan oleh manusia, dan verifikasi hasil.
• 4:32
  Jika Anda melawatkan salah satunya, risikonya keringat cepat.
• 4:34
  Dengan karyawan manusia, umpan balik terjadi secara konsent.
• 4:37
  Nada bicara, pertanyaan cepat, keraguan kecil.
• 4:39
  Akin tidak memberikan hal tersebut.
• 4:40
  Mereka akan memberikan pekerjaan selesai terlepas dari apakah asumsi mereka masuk akal.
• 4:43
  Itulah mengapa perintah bukanlah sekadar kalimat biasa, merengkandisi sistem.
• 4:47
  Satu instruksi yang tidak jelas, bisa berdampak pada data yang salah simpan,
• 4:50
  akses catatan yang ceroboh, atau laporan yang meyakinkan, namun salah.
• 4:54
  Menguji perintah sebelum mendapkannya menjadi sama pentingnya dengan meninggauh rencana proyek.
• 4:59
  Verifikasi adalah separuh bagiannya.
• 5:00
  Para pemimpin terbiasa meriksa kualitas secara acak, namun mungkin berasumsi otomatisasi berarti presisi.
• 5:04
  Asumsi yang salah.
• 5:05
  Agen berimprovisasi dan improvisasi tanpa tingjauan bisa sangat merusak.
• 5:09
  Seperti yang Ayumi Morawki tunjukkan, AI punya bakat menghasilkan omong kosong yang tanpa harapi.
• 5:14
  Manager tidak bisa berasumsi nada profesional berarti benar secara faktual.
• 5:18
  Verifikasi, validasi sumber, dan pengecekan alur data adalah bagian dari kepemimpinan sati.
• 5:22
  Pengawasan menutup cerita tersebut.
• 5:23
  Anggaplah ini bukan sebagai manajemen mikro gaya lama, melainkan sebagai kontrol akses.
• 5:26
  Bapak Hojat menyebutnya sebagai mengetahui batas kepercayaan.
• 5:30
  Saat Anda memberikan mewenang dan akses alat kepada agen, Anda tetap bertanggung jawab atas apa yang dihasilkan.
• 5:34
  Manager harus mengutuskan sebelumnya berapa banyak kekuasaan yang tepat dan menetapkan batasan.
• 5:38
  Pengawasan tersebut seringkali berarti memerlukan persetujuan manusia sebelum agen melakukan perubahan berisiko
• 5:43
  seperti mengirim data secara eksternal atau mengubah catatan di sistem utama.
• 5:47
  Inilah bagian yang tidak menyenangkan.
• 5:49
  Reputasi Anda sebagai manajer kini bergantung pada seberapa baik Anda menyeimbangkan karyawan manusia dan rekan kerit.
• 5:53
  Terlalu banyak kontrol dan Anda akan mematikan manfaat.
• 5:55
  Terlalu sedikit kontrol dan Anda akan dikejutkan oleh kesalahan yang tidak Anda sedari.
• 6:00
  Tantangannya bukan memilih satu gaya kepemimpinan tetapi menjalankan keduanya sekaligus.
• 6:03
  Manusia membutuhkan motivasi dan batu.
• 6:05
  Akin membutuhkan batasan yang ketat dan kalibrasi berkelanjutan.
• 6:08
  Menjaga mereka tetap selaras agar tidak saling mengganggu alur kerja menjadi bagian dari refleks manajemen harian Anda.
• 6:13
  Anggap peran Anda sekarang sebagai dirigen bukan dalam pengertian Departemen HR tetapi secara harfiah menjaga tempo dua bagian yang berbeda.
• 6:19
  Karyawan manusia membawa kreativitas dan empat.
• 6:21
  Agen AI membawa kecepatan dan jangkauan.
• 6:23
  Namun jika tidak ada yang mengarahkannya hasilnya adalah kekacau.
• 6:25
  Pemimpin terbaik di masa depan tidak hanya dinilai dari moral timnya tetapi apakah staff manusia dan digital berada di tempo yang sama tanpa membocorkan data sensitif atau membocorkan data sensitif atau merusak pengambilan keputusan.
• 6:35
  Dalam skala perusahaan ketidakselarasan di sini tidak hanya merusak alur kerja tetapi juga mencun investigasi kepatuhan.
• 6:40
  Jadi kesimpulannya sederhana.
• 6:41
  Jabatan Anda tidak berubah tetapi isi peran Anda telah berubah.
• 6:45
  Anda tidak lagi hanya mengelola manusia Anda mengelola operator asisten yang tertanam di setiap sistem yang Anda gunakan.
• 6:49
  Hal itu membutuhkan keterampilan baru, membangun perintah yang tepat, menguji instruksi untuk konsekuensi yang tidak diinginkan, memvalidasi hasil terhadap sumber terpercaya, dan menerapkan pengawasan manusia.
• 6:59
  Keberhasilan di sini adalah yang membedakan manajer yang dihormati di masa depan dari mereka yang diam-diam didorong untuk pensiun dini dan karang.
• 7:05
  Teori itu bagus tetapi praktek lebih baik inilah tantangan satu hari Anda.
• 7:09
  Buka pengaturan kopilot atau agen Anda dan cari di mana letak persetujuan manusia atau kontrol pengawasan.
• 7:15
  Dan jika Anda tidak dapat menemukannya, kesenjangan itu sendiri adalah sebuah.
• 7:18
  Itu berarti Anda belum tahu cara membatalkan proses yang berjalan di luar kendali.
• 7:21
  Sekarang jika mengelola manusia selalu dimulai dengan orientasi wajar untuk bertanya seperti apa orientasi untuk agen AI.
• 7:26
  Setiap agen yang Anda gunakan hadir dengan perangkat permulaan Startup Internet.
• 7:29
  Dan isi perangkat itu, memori, hak akses, dan alat, menentukan apakah rekan kerja digital baru Anda membuat Anda terlihat brilian atau menghabiskan akhir pekan Anda untuk memperbaiki kerusakan.
• 7:39
  Tiga bagian yang dibutuhkan, setiap agen.
• 7:41
  Jika Anda ingin membongkar apa yang sebenarnya menggerakkan agen, Microsoft dan BCG menyebutnya sebagai starter kit.
• 7:46
  Tiga hal penting, memori, hak akses, dan alat.
• 7:49
  Lewatkan satu dan alir-alirkan kerja digital yang dapat Anda percayai, Anda mendapatkan bot setengah matang yang tersandung di lingkungan Anda.
• 7:54
  Jika salah menanganinya, Anda bersiap untuk tugas pembersihan yang tidak Anda anggarkan.
• 7:59
  Pertama, memori.
• 8:00
  Inilah yang memungkinkan agen menghubungkan tugas alih-alih memulai dari awal setiap saat seperti ikan mas di depan keyboard.
• 8:05
  Dengan memori, agen dapat membawa preferensi Anda untuk selalu membuat grafik berwarna biru dari satu laporan ke laporan berikutnya.
• 8:11
  Sisi positifnya adalah kontinuitas, sisi negatifnya adalah persistensi.
• 8:14
  Kesalahan dan arahan buruk terbawa ke depan semudah konteks yang berguna.
• 8:17
  Microsoft menyoroti ini dengan pekerjaan chunking dan chaining mereka.
• 8:20
  Agen menyimpan potongan interaksi untuk membangun sebuah utas.
• 8:23
  Namun, PwC memperingatkan bahwa persistensi juga membawa risiko privasi karena data sensitif dapat bertahan lebih lama dari yang seharusnya.
• 8:32
  Pada satu sisi, Anda tidak hanya mendapatkan asisten yang membantu.
• 8:34
  Anda mendapatkan asisten yang terus-menerus mengulangi kesalahan ketik terburuk.
• 8:37
  Selanjutnya, hak akses.
• 8:38
  Anggap ini sebagai kartu akses agen.
• 8:40
  Dengan manusia, Anda tidak memberikan kunci master kantor pusat kepada semua orang.
• 8:43
  Anda membatasi akses berdasarkan aturan yang sama berlaku di sini.
• 8:46
  Jika Anda membatasi hak akses terlalu ketat, agen akan terus terbentur pintu terkunci dan mengganggu Anda untuk meminta ijem.
• 8:51
  Terlalu longgar dan Anda secara efektif telah menyerahkan sistem SDM dan catatan keuangan Anda kepada sesuatu yang tidak memahami kepatu.
• 8:56
  Panduan PwC di sini sangat lugas.
• 8:58
  Gunakan kontrol akses berbasis peran, RBAC, berlakukan autentikasi multifaktor untuk tindakan tingkat lanjut,
• 9:03
  dan lindungi area sensitif dengan penjagaan kebocoran data DLP.
• 9:05
  Sebagai contoh, jika agen perlu mencari di web, PwC menyarankan untuk melalunya lewat proksi dengan kebijakan DLP
• 9:11
  agar data pelanggan tidak bocor kehasil pencarian.
• 9:14
  Dalam kondisi ideal, RBAC dan MFA menjaganya tetap pada jarak.
• 9:17
  Dalam kondisi terburuk, hak istimewa berlebih mengubahnya menjadi orang dalam tadi sengaja tercepat di dunia.
• 9:21
  Belur peralatan.
• 9:22
  Ini adalah aplikasi API dan konektor yang benar-benar digunakan agen untuk bertindak.
• 9:25
  Tanpa peralatan, mereka hanya akan menatap kekosongan.
• 9:28
  Dengan peralatan yang salah, mereka lebih banyak merusak daripada membantu
• 9:30
  seperti memberi hak penerapan produksi kepada anak magang hari pertama alih-alih dasber laporan yang lama.
• 9:35
  Peralatan menentukan ruang lingkup apa yang bisa diakses oleh agen.
• 9:38
  Microsoft membangun pembatas di sini dengan menempatkan konektor kopilot di dalam saluran kontrol
• 9:41
  bukan sekadar memberi agen akses mentah praktek terbaiknya pun sam.
• 9:45
  Batasi ruang lingkup, validasi pengaturan default, dan hubungkan peralatan eksternal dengan pencetan log dan DLP.
• 9:49
  Pastikan perangkat tetap terkendali, jika tidak Anda telah membangun mesin Rubeck-Gurbeck
• 9:53
  yang lepas kendali, yang lepas kendali, yang membaut komponen ke sistem yang saya sentuh.
• 9:56
  Sebuah pengen cepat akan menentu di sini.
• 9:57
  Memori adalah pengalaman apa yang sudah diingat oleh pekerja.
• 10:00
  Hak akses adalah kartu identitas kemana mereka diizinkan untuk maaf.
• 10:03
  Peralatan adalah laptop dan aplikasi beresensi apa yang sebenarnya bisa mereka gunakan.
• 10:06
  Singkat, namun mudah diikuti.
• 10:08
  Para lawan boring manusia memang masuk akal, tetapi dengan agen, risikonya lebih cepat,
• 10:11
  kurang terlihat, dan lebih sulit diaudit setelah kejadian.
• 10:13
  Seimbangan itu penting.
• 10:14
  Memori yang seimbang memberikan kesinambungan tanpa terus menerus menyimpan data pribadi.
• 10:18
  Hak akses yang terbatas memberi mereka kunci yang cukup untuk bekerja tanpa buka berangkas.
• 10:22
  Peralatan yang terukur meningkatkan produktivitas tanpa memperduas jangkauan dampak.
• 10:26
  Terlalu banyak dari salah satunya akan mengubah hasil dari berguna menjadi berisiko dalam sekejap.
• 10:30
  Dan seperti halnya, urusan nyata Anda tidak bisa menghindari akuntabilitas.
• 10:33
  Panduan AI bertanggung jawab dari Microsoft mengingatkan kita bahwa agen meningkatkan standar.
• 10:37
  Toleransi kesalahan yang lebih rendah, transparansi yang lebih ketat, kontrol yang lebih tajam.
• 10:40
  Anda lah yang tetap harus bertanggung jawab ketika hak akses atau peralatan yang salah membocorkan laporan.
• 10:45
  Dalam kondisi ideal, memberikan konteks yang lebih cerdas.
• 10:48
  Hak akses selaras dengan kebijakan dan peralatan hanya membuka tindakan yang aman.
• 10:52
  Dalam kondisi terburuk, agen mengingat instruksi yang salah,
• 10:54
  memegang terlalu banyak kunci, dan menggunakan konektor yang salah dengan penuh keyakinan.
• 10:57
  Itu bukan soal kemungkinan, itu adalah kulva risiko yang sedang Anda jalani.
• 11:00
  Dan inilah bagian yang sering berewatkan oleh konewan.
• 11:02
  Bahkan saat Anda mengatur perangkat awal dengan benar, Anda belum sepenuhnya.
• 11:05
  Ketiga bagian ini juga membuka bahaya yang lebih sunyi dan halus.
• 11:08
  Akhirnya tersebut lebih tahu daripada Anda tentang apa yang baru saja dilakukan.
• 11:11
  Dan ketika Anda tidak bisa melihat alasan dibalik pilihannya,
• 11:14
  masalah manajemen baru muncul tepat di depan mata Anda.
• 11:18
  Masalah yang tidak terlihat, asimetri informasi.
• 11:21
  Pernahkah seorang karyawan menyerahkan pekerjaan dengan santai?
• 11:23
  Jangan khawatir, sudah saya tangani.
• 11:25
  Sekarang bayangkan kalimat yang sama datang dari agen AI,
• 11:28
  hanya saja Anda tidak bisa bertanya lebih lanjut dan tidak bisa mengintip proses berpikir.
• 11:31
  Anda mendapatkan hasil akhir yang rapi, namun jalur keputusan di dalamnya tidak transparan.
• 11:36
  Itulah masalah yang tak terlihat, asimetri informasi.
• 11:39
  Agen memiliki data dan daya pemrosesan yang jauh lebih besar dari Anda,
• 11:42
  tetapi Anda lah yang harus bertanggung jawab atas hasilnya.
• 11:44
  California Management Review menyebut ini sebagai masalah prinsipal agen yang klasik.
• 11:48
  Sistem memiliki informasi privat yang tidak bisa Anda amati,
• 11:50
  sementara Anda memikul tanggung jawabnya.
• 11:52
  Ini seperti rekan kerja digital Anda melempar dadu di balik layar
• 11:55
  dan hanya menunjukkan angka akhirnya, bukan pengubah yang ditumpuk sepanjang jalan.
• 11:58
  Dan masalah ini tidak muncul dengan halus.
• 12:01
  Agen memiliki hasil dengan percaya diri.
• 12:03
  Mereka tidak ragu, tidak memberi syarat, dan tidak memberi syarat,
• 12:05
  dan tidak membiarkan Anda melihat proses.
• 12:06
  Jadi Anda hanya menatap laporan yang sudah selesai sambil bertanya-tanya
• 12:09
  apakah hasil yang rapi ini bisa diandalkan atau sebenarnya rusak.
• 12:12
  Saat Anda memeriksanya,
• 12:13
  tim di tahap berikutnya mungkin sudah membangun pekerjaan di atas sebuah kesalahan.
• 12:17
  Ambil contoh umum,
• 12:18
  agen salah mengklasifikasikan faktur yang terkait dengan kontrak pemasok penting sebagai prioritas rendah.
• 12:22
  Di permukaan, laporan tersebut terlihat sempurna.
• 12:25
  Tidak ada tanda bahaya.
• 12:26
  Perluan-perluan kemudian,
• 12:27
  bagian keputusan datang karena ada pembayaran yang terlewat.
• 12:29
  Anda menelusurnya kembali dan menemukan kesalahan klasifikasi yang tersembunyi sejak awal.
• 12:32
  Itulah simetri promosional yang sedang bekerja.
• 12:34
  Agen tahu apa yang dilakukannya,
• 12:35
  tetapi Anda tidak punya akses ke penelarangnya.
• 12:37
  BWSC menyoroti skenario yang tepat ini dalam rekomendasi DLP mereka.
• 12:41
  Batasan seperti akses berbasis peran,
• 12:43
  pemeriksaan klasifikasi,
• 12:44
  dan ambang eskalasi adalah hal yang mencegah kesalahan kecil berkembang menjadi denda finansial.
• 12:49
  Dinamika ini berpengaruh langsung pada masalah prinsipal agen.
• 12:52
  Anda, sang prinsipal, menetapkan tujuan seperti mengatur faktur vendor.
• 12:55
  Agen mengoptimalkan kepatuhan literal,
• 12:57
  mengklasifikasikan, dan mengarsipkannya.
• 13:00
  Ia tidak melihat tujuan yang lebih luas,
• 13:01
  tidak menginterpretasikan nuansa,
• 13:02
  dan tentu saja tidak mempertimbangkan implikasi itu.
• 13:04
  Apa yang terasa seperti sabotase seringkali,
• 13:06
  hanyalah kesetiaan buta pada instruksi yang dianggap terlalu harfi.
• 13:08
  Sekarang tambahkan zona kerusakan moral.
• 13:10
  Saat terjadi kerusakan, pertanggung jawaban tetap berada di pundak Anda.
• 13:13
  Auditor tidak menyalahkan algoritma yang tak terlihat.
• 13:15
  Mereka bertanya mengapa Anda tidak mendeteksinya.
• 13:18
  Mesin lepas dari tanggung jawab,
• 13:19
  sementara manusia menanggung dampak reputasi.
• 13:22
  Efeknya seperti menjadi kantong udara dalam sebuah kecelakaan.
• 13:24
  Anda merasakan dampaknya,
• 13:25
  namun Anda yang menanggung akibatnya,
• 13:27
  sementara penggerak semenangnya tersebut lewat.
• 13:28
  Jadi apa yang harus Anda lakukan?
• 13:29
  Anda tidak bisa secara ajaib mengintip ke dalam penalaran saraf penuh modal generatif,
• 13:33
  tetapi Anda bisa membangun visibilitas di tepiannya.
• 13:35
  Langkah pertama, desak adanya log terperinci dan jejak asal-usul.
• 13:39
  Bukan ilusi pemikiran internal,
• 13:40
  mainkan catatan konkret mengenai data apa yang diakses,
• 13:43
  tindakan apa yang dipicu, dan dalam urutan apa.
• 13:45
  Langkah kedua, gunakan dashboard transparansi.
• 13:48
  Ini memunculkan variabel keputusan utama,
• 13:50
  siapa apa kapan sehingga Anda setidaknya bisa melihat garis besar bagaimana output disusun.
• 13:53
  Langkah ketiga, wajibkan dasar pemikiran dalam bahasa sederhana untuk tindakan pendampak.
• 13:57
  MR menyoroti hal ini dalam konteks seperti perekrutan,
• 14:01
  memaksa agen memberikan kriteri yang dapat dibaca manusia
• 14:03
  untuk setiap keputusan menciptakan lapisan penjelasan.
• 14:05
  Langkah keempat, lakukan retim pada agenak.
• 14:07
  Beri mereka kasus uji yang aneh,
• 14:09
  rusak mereka dengan sengaja dan dokumentasikan celah-celahnya.
• 14:11
  Jika Anda tidak menguji kesalahan tersebut sendiri,
• 14:13
  mereka akan muncul saat taruhannya jauh lebih tinggi.
• 14:15
  Setiap mitigasi ini tidak sepenuhnya menyelesaikan asimetri,
• 14:18
  namun bersama-sama mereka menipiskan kabut.
• 14:20
  Log audit memberi Anda kekuatan rekonstruksi,
• 14:22
  dasar memberi Anda kesadaran situasional,
• 14:24
  dasar pemikiran wajib menjangkau pengambilan keputusan dalam bahasa yang bisa Anda evaluasi,
• 14:28
  retiming mengungkap titik buta sebelum pelang atau regulator menemukannya.
• 14:33
  Melapisi persetujuan manusia dalam alur pada titik eskalasi
• 14:35
  memastikan keputusan paling berisiko berhenti di meja manusia sebelum eksekusi.
• 14:40
  Intinya bukan mengejar transparansi sempurna
• 14:42
  karena penalaran generatif akan selalu sebagian buruk.
• 14:44
  Intinya adalah memberi diri Anda cukup data permukaan untuk memantau pola,
• 14:48
  menangkap anomali, dan menegakkan akutabilitas sebelum masalah melampaui jangkauan Anda.
• 14:52
  Tanpa langkah-langkah itu, Anda akhirnya bertanggung jawab
• 14:54
  atas pilihan tak terlihat yang tidak pernah Anda setujui,
• 14:56
  sementara agen Anda terus mengeluarkan output dengan cepat.
• 14:59
  Emang bawa kita pada keputusan nyata yang Anda ambil.
• 15:01
  Anda bisa membiarkan sistem ini tanpa batas
• 15:02
  dan berharap tidak ada yang terbakar
• 15:04
  atau Anda bisa memperlakukan perilaku mereka
• 15:06
  seperti kebijakan grup, aturan, batas, dan eskalasi yang dibangun sejak hari pertama.
• 15:10
  Karena jika Anda melewatkan lapisan tata kelola,
• 15:12
  kekacauan itu tidak hanya akan terjadi suatu hari.
• 15:14
  Itu terjadi searkan kerja digital Anda pertama kali melakukan tugas sampingan
• 15:17
  yang tidak pernah Anda setujui.
• 15:19
  Mencegah kiamat agen.
• 15:21
  Mencegah apa yang saya sebut sebagai kiamat agen bukanlah soal paranoia.
• 15:24
  Ini tentang menjalankan hal-hal mendasar
• 15:25
  yang menjaga armada AI Anda agar tidak menjadi bahaya kebakaran.
• 15:29
  Ini adalah lapisan taktis di mana tata kelola risiko dan infrastruktur bertemu.
• 15:31
  PwC memaparkannya dengan jelas.
• 15:34
  Jika Anda menginginkan agen yang berskala tanpa merusak lingkungan Anda,
• 15:37
  Anda memerlukan lima taktik cepat.
• 15:38
  Adaptasi tata kelola, tingkatkan manajemen risiko,
• 15:41
  bangun infrastruktur, tegakkan pengujian dan pemantauan,
• 15:43
  serta selalu dibatkan manusia dalam pengambilan keputusan penting.
• 15:46
  Mulai dari tata kelola.
• 15:47
  Program AI bertanggung jawab saat ini rancang untuk model,
• 15:49
  bukan untuk pekerja yang bebas bergerak.
• 15:50
  Anda harus mengadaptasi pengawasan agar komite risiko tingkat hewan
• 15:53
  menyertakan risiko agen dengan jelas.
• 15:55
  Agen memerlukan aturan eskalasi yang sudah tertanam di dalamnya.
• 15:57
  Saat taruhan mencapai tingkat tertentu,
• 15:59
  pekerjaan terhenti hingga disetujui manusia.
• 16:01
  Anggaplah ini seperti pohon ekskelasi dalam sistem helpdesk Anda.
• 16:04
  Pada kondisi optimal, agen dapat menutup tiket sepanjang hari.
• 16:07
  Pada kondisi kritis, agen harus berhenti total
• 16:09
  dan meminta persetujuan sebelum menyentuh penggajian
• 16:11
  atau komunikasi eksternal sensitif.
• 16:13
  Dorongan regulasi seperti EU AI Act hanya memperkuat kebutuhan ini.
• 16:17
  Mereka meresmikan ekspektasi bahwa pengawasan harus dapat ditunjukkan
• 16:19
  dan Anda harus mendokumentasikan siapa yang menyetujui apa dan kapan.
• 16:23
  Selanjutnya, manajemen risiko.
• 16:24
  Agen tidak memiliki tingkat risiko yang sama,
• 16:26
  jadi Anda harus membuat tingkatan seperti pada sistem.
• 16:28
  Bot berisiko rendah yang bekerja dalam silo terbatas bisa bergerak cepat.
• 16:31
  Agen dengan otonomi tinggi yang menyentuh data pelanggan
• 16:33
  atau catatan keuangan memerlukan pengawasan lebih ketat.
• 16:36
  Rangka kerja BWC sangat pragmatis di sini.
• 16:38
  Lacak penggunaan, ukur otonomi terhadap potensi dampak
• 16:40
  dan dorong agen tingkat tinggi melalui siklus persetujuan
• 16:42
  dan pengujian yang lebih lambat.
• 16:44
  Jika bot hanya menulis pengingat kalender,
• 16:46
  pengawasan minimal sudah cukup.
• 16:48
  Jika bot mengirim pembayaran vendor,
• 16:49
  ia harus memiliki peringatan dan pencatatan yang lost audit.
• 16:52
  Infrastruktur adalah blog berikut.
• 16:53
  Alat-alat ini tidak muncul begitu saja dari udara.
• 16:55
  Anda memerlukan RBA untuk membatasi akses agen MFA
• 16:59
  saat mereka meningkatkan hak akses DLP
• 17:01
  untuk mencegah kebocoran dan anonimisasi
• 17:03
  agar log tidak membawa identitas pengguna ke arsip yang salah.
• 17:06
  Perlakukan setiap identitas agen seperti akun, masyuk.
• 17:09
  Prinsip hak akses paling rendah harus dicatat dan ditinjau.
• 17:11
  Memberikan hak akses tak terbatas pada agen
• 17:13
  hanya untuk mempercepat pengujian sama saja
• 17:15
  dengan memberikan hak admin domain sementara.
• 17:17
  Nah, itu bukan inovasi, itu adalah tiket pelanggaran
• 17:19
  yang menunggu untuk terjadi.
• 17:21
  Sekarang pengujian dan pemantauan.
• 17:22
  Asumsikan hasil akhirnya akan ada yang meleset.
• 17:24
  Tugas Anda adalah mendeteksinya sebelum menyebabkan.
• 17:26
  Artinya, deteksi anomali harus berjalan secara real-time
• 17:29
  untuk menendai perilaku yang menyimpang.
• 17:31
  Artinya, lakukan retiming pada agen Anda,
• 17:32
  bukan hanya firewall-an.
• 17:34
  Berikan input yang tidak biasa
• 17:35
  untuk menemukan celah saat risikonya masih rendah.
• 17:36
  Pemantauan berkelanjutan juga penting.
• 17:38
  Log akses data, tindakan yang diambil,
• 17:40
  dan frekuensi panggilan risiko tinggi harus ditinjau.
• 17:42
  Pwc dan Microsoft menyatakan bahwa
• 17:47
  Tanpa itu, Anda tidak tahu apa yang sebenarnya dilakukan agen tersebut.
• 17:50
  Dan taktik lima, pengawasan manusia tidak akan pernah hilang.
• 17:53
  Bahkan dengan orkestrasi dan pagar pengaman tercanggih,
• 17:55
  keputusan risiko tinggi tetap membutuhkan manusia.
• 17:58
  Tetapkan nambang patas ini.
• 17:59
  Jika agen menyetujui transaksi di atas nominal tertentu,
• 18:02
  mengedit cetatan sensitif,
• 18:03
  atau memulai komunikasi keluar yang melibatkan data teregulasi,
• 18:05
  agen harus berhenti dan menyerahkan kendali kepada Anda.
• 18:08
  Sistem copilot dari Microsoft memiliki pendekatan ini.
• 18:11
  AI mungkin menyusun draft email,
• 18:12
  tetapi manusialah yang mengeklik tombol kirim.
• 18:14
  Sentuhan akhir itu adalah pengaman antara produktivitas
• 18:17
  dan risiko kepatuhan.
• 18:18
  Saat Anda meningkatkan skala agen, ini menjadi orkestrasi.
• 18:21
  Satu betul mudah,
• 18:22
  sekumpulan agen bisa berubah menjadi keanehan yang muncul
• 18:24
  tiba-tiba saling meniru atau terjebak dalam perulangan anak.
• 18:27
  Tanpa aturan, itu tampak seperti utas obrolan
• 18:29
  yang tidak dimoderasi dan lepas kendali.
• 18:30
  Penawarnya adalah orkestrator,
• 18:32
  entah itu satu agen koordinator
• 18:33
  atau tim peninjau manusia terpusat.
• 18:35
  Bayangkan itu sebagai konduktor yang menjaga instrumen,
• 18:37
  agar tidak benar.
• 18:38
  Satu langkah awal yang bisa dilakukan,
• 18:40
  mulailah dengan pola orkestrator tunggal
• 18:41
  sebelum buka pintu bagi sekumpulan agen majemuk.
• 18:43
  Lapisan itu dapat mengordinasikan spesialis,
• 18:46
  menekan umpan balik yang salah,
• 18:47
  dan menyalaraskannya dengan tujuan bisnis alih-alih,
• 18:49
  membiarkan mereka mereka membuat aturan sendiri.
• 18:51
  Tidak ada kontrol ini yang dibuat untuk menghampat Anda.
• 18:54
  Jika dilakukan dengan benar,
• 18:55
  hal itulah yang justru mungkin Anda meningkatkan tekanan.
• 18:57
  PwC, BCG, McKinsey,
• 18:58
  mereka semua sepakat pada poin yang sama.
• 19:00
  Akhen yang dikelola dan diorkestrasi
• 19:01
  dengan baik menjadi pengali kekuatan.
• 19:03
  Mereka menyelesaikan tugas repetitif,
• 19:05
  menghubungkan silo,
• 19:05
  dan membiarkan tim manusia Anda fokus pada upaya strategis bernilai tinggi.
• 19:09
  Dalam hasil terbaik ini berarti hasil lebih besar,
• 19:11
  beban manual lebih ringan,
• 19:12
  dan kepatuhan yang terintegrasi ke dalam proses.
• 19:14
  Menjaga agen bertindak berlebihan bukanlah tindakan paranoid,
• 19:16
  ini adalah memasang peker pembatas
• 19:17
  agar Anda mendapat manfaat nyata
• 19:18
  tanpa manfaat nyata tanpa menangkan dapat terburuknya.
• 19:20
  Kendalikan alat hak akses memori
• 19:21
  dan Anda mengurangi risiko tersembunyi.
• 19:23
  Sesuaikan tata kelolaan manajemen risiko,
• 19:25
  infrastruktur, pemantauan, dan pengawasan
• 19:27
  agar visibilitas manajemen tetap terjaga.
• 19:29
  Lakukan semua itu,
• 19:30
  dan apa yang tampak seperti kekacauan
• 19:31
  akan menjadi fondasi untuk pekerjaan yang lebih cepat murah dan patuh.
• 19:33
  Dan pada akhirnya,
• 19:35
  tanggung jawab itu kembali kepada Anda.
• 19:37
  Ini bukan sekadar alat tanpa identitas,
• 19:39
  ini adalah rekan kerja,
• 19:40
  tanpa berkas HR,
• 19:41
  yang berarti ujian sebenarnya bukanlah apakah agen
• 19:43
  akan menggantikan peran Anda,
• 19:44
  tetapi apakah Anda bisa memandu otonomi mereka
• 19:46
  dengan pengawasan yang sama seperti pada manusia
• 19:48
  tanpa membiarkan insentif menjadi tidak seimbang.
• 19:50
  Jadi ini kesimpulan.
• 19:51
  Agen tidak menggantikan manajer,
• 19:53
  mereka memaksa Anda untuk mempertajamin itu sendiri.
• 19:55
  Penelitian sudah jelas,
• 19:56
  ini hanyalah masalah prinsipal agen yang memakai hoodie.
• 19:58
  Mereka memegang data, Anda memegang kewajiban,
• 20:00
  dan satu-satunya solusi nyata adalah
• 20:02
  otonomi yang dipandu ditambah pengawasan konstan.
• 20:04
  Berikut adalah tiga langkah pertamaan.
• 20:06
  Inventarisasi agen Anda,
• 20:07
  dan klasifikasikan berdasarkan risiko dan otonomi,
• 20:09
  tetapkan ambang batas eskalasi,
• 20:11
  di mana manusia harus menyetujui
• 20:12
  dan jalankan satu pengujian red team
• 20:13
  atau kasus ekstrem pada agen kritis.
• 20:15
  Itulah misi awal Anda.
• 20:16
  Jika daftar periksa ini membantu,
• 20:17
  tekan tombol subscribe dan tulis komentar
• 20:19
  tentang agen mana yang akan Anda inventarisir terlebih dahulu.
• 20:21
  Dengan hasil Dado Natural 20,
• 20:22
  Anda akan menjaga kacauan sebelum terjak.
• 20:24
  Dengan hasil Natural 1,
• 20:25
  ya setidaknya Anda tahu dari mana api bermula.