Latest / M365.FM – Podcast Microsoft 365, Copilot & AI Bahasa Indonesia / AI perusahaan dengan Power Platform dan Azure OpenAI: arsitektur, keamanan, dan tata kelola di luar demo chatbot (Sulih Suara AI)

Transcript

AI perusahaan dengan Power Platform dan Azure OpenAI: arsitektur, keamanan, dan tata kelola di luar demo chatbot (Sulih Suara AI) · M365.FM – Podcast Microsoft 365, Copilot & AI Bahasa Indonesia

• 0:00
  Siap untuk 10 hari pembahasan Microsoft 365, Copilot, AI Azure, dan para penggerak masa depan dunia kerja.
• 0:07
  Januari ini, M365 Con kembali hadir dan kami akan tampil lebih besar.
• 0:12
  Bergabunglah bersama kami untuk sesi langsung demo dunia nyata dan pengetahuan praktis dari MVP serta pakar industri di seluruh dunia.
• 0:18
  Tanpa slide yang umum, tanpa istilah teknis yang berteletek.
• 0:21
  Kami akan membahas tantangan nyata, Copilot Studio, agen AI Fabric, keamanan, tata kelola, dan otomatisasi.
• 0:28
  Baik Anda seorang profesional TI, pengembang, atau pemimpin bisnis, ada sesi yang dirancang khusus untuk Anda.
• 0:35
  Selama 10 hari penuh, Anda bisa menjelajahi berbagai teknologi dan terhubung dengan komunitas global.
• 0:40
  Tonton langsung, dan bawa wawasan praktis kembali ke organisasi Anda.
• 0:45
  Januari 2027, 10 hari, satu komunitas Microsoft.
• 0:49
  Pendaftaran sudah dibuka sekarang.
• 0:52
  Amankan tempat Anda hari ini.
• 0:54
  Kunjungi m365chon.net
• 0:58
  Bergabunglah sekarang di m365chon.net dan sampai jumpa secara langsung di bulan Januari.
• 1:05
  Pernah bertanya-tanya mengapa begitu banyak PMO Power Platform berbasis AI hanya berhenti di chatbot dan tidak bertahan dalam alur kerja bisnis yang nyata?
• 1:12
  Video ini menunjukkan apa yang tidak mereka tunjukkan, cara menghubungkan Azure Open AI dengan Power Apps dan Dynamics 365 dengan aspek keamanan, performa, dan tata kelola yang dibutuhkan oleh penerapan profesional.
• 1:24
  Jika Anda menginginkan lebih sedikit keajaiban dan lebih banyak cara kerja, Anda berada di tempat yang terakhir.
• 1:29
  Melampaui konektor, anatomi nyata AI di Power Platform selalu dimulai, dengan cara yang sama.
• 1:36
  Pengguna bisnis melihat demo yang menarik mungkin chatbot penjualan yang bisa merespons dalam hitungan detik atau aplikasi layanan pelanggan yang secara ajaib menyortir tiket.
• 1:44
  Lalu mereka berpikir, bagus, mari kita masukkan itu langsung ke Power Apps.
• 1:47
  Konektor sudah siap, layar menyala, dan orang-orang mulai membayangkan AI mengerjakan tugas rutin mereka.
• 1:52
  Namun realitas segera terlihat, konektor bekerja untuk dua orang dalam.
• 1:56
  Dan kemudian, tepat saat Anda pikir Anda sedang membangun sesuatu yang besar, masalah performa muncul, chatbot mulai mengoceh tidak jelas, atau data pelanggan yang sensitif secara tidak sengaja bocor.
• 2:06
  Disinilah sebagian besar integrasi AI terhenti.
• 2:09
  Salahkan mitos bahwa menambahkan AI ke Power Platform hanyalah mengeklik tombol tambah, memasukkan konektor, dan menautkannya ke Azure Open AI.
• 2:15
  Pola pikir itu melekat karena di atas kertas, alat-alat ini terlihat terlalu mudah, seandainya hanya di bagian yang sulit.
• 2:21
  Jadi, apa yang sebenarnya ada di balik layar jika Anda menginginkan sesuatu yang lebih dari skaterpregman?
• 2:25
  Memahami di mana kelajaban AI sebenarnya terjadi adalah perbedaan antara keberhasilan demo dan benar-benar mendukung proses bisnis.
• 2:30
  Sekarang, dalam hampir setiap pengaturan AI Power Platform yang serius, ada empat pemain utama.
• 2:35
  Pertama, Anda memiliki Power Apps atau Dynamics 365 itu sendiri, yaitu tempat pengguna berinteraksi dan pemicu sebenarnya untuk setiap permintaan AI.
• 2:42
  Mereka mengumpulkan data, mungkin pesan pelanggan, hasil survei, ulasan produk, masukan apapun yang Anda perlukan informasinya.
• 2:50
  Namun, Power Apps tidak berkomunikasi langsung dengan Azure Open AI.
• 2:53
  Disitulah Power Automate berperan mengatur semuanya, mengatur semuanya.
• 2:56
  Setiap kali pengguna menekan tombol atau mengirimkan formulir, alur Power Automate mengambil data, membentuknya ke format yang tepat, dan mengirimnya ke tujuan.
• 3:03
  Ketiga adalah titik akhir Azure Open AI.
• 3:07
  Ini adalah otak sebenarnya, yang memberikan analisis sentimen, peringkasan teks, atau bahkan membuat balasan pelanggan.
• 3:14
  Dan tersembunyi dengan tenang ditumpukan tersebut, terdapat Azure API Management yang sering diabaikan sampai ada masalah besar.
• 3:20
  Itu adalah bagian keamanan dan pembatasan, perbedaan antara memiliki aliran yang stabil dan memiliki resist.
• 3:25
  Mari kita bedah bagaimana potongan teka-teki ini saling bergantung.
• 3:28
  Ambil pemicunya, misalnya saat pengguna di Dynamics 365 mencatat panggilan penjualan.
• 3:34
  Hal itu memicu alur Power Automate.
• 3:36
  Alur tersebut tidak hanya memindahkan data dari A ke B.
• 3:39
  Alur mungkin membersihkan teks, menggabungkan konteks dari sumber lain, atau menyembunyikan kolom demi privasi sebelum permintaan dikirim ke Azure Open AI.
• 3:47
  Berjalanan itu penting.
• 3:49
  Jika alur berjalan lambat karena otomatisasi lain, memakan sumber daya, Anda akan melihat latensi menumpuk di aplikasi Anda.
• 3:55
  Jika Power Automate tidak menyiapkan payload dengan benar, katakanlah ulasan produk kehilangan konteks atau diformat dengan aneh titik akhir Open AI Anda akan memberikan hasil yang aneh atau lebih buruk lagi halusinasi jawaban.
• 4:08
  Jadi tidak ada kecerdasan yang terjadi jika alur kerja di hulu berantakan.
• 4:12
  Ini menjadi lebih menarik dengan adanya Azure API Management.
• 4:14
  Meskipun semua orang antusias dengan kecerdasannya, tidak banyak yang memikirkan siapa yang seharusnya memiliki akses dan seberapa sering.
• 4:21
  API Management bertindak sebagai penyeimbang di pintu masuk.
• 4:24
  Sistem ini memeriksa setiap permintaan, menerapkan autentikasi, dan memastikan penggunaan tidak berlebihan.
• 4:29
  Jika Anda tidak menetapkan kebijakan pembatasan, satu aplikasi yang rusak dapat menjalankan ribuan permintaan per jam dan secara tiba-tiba membanjiri instans Open AI Anda atau yang lebih parah memicu tagian Azure yang sangat tinggi.
• 4:39
  Sistem ini juga mencatat siapa melakukan apa, yang berarti ketika ada yang rusak atau seseorang melanggar aturan, Anda memiliki jika audit untuk diterusuri.
• 4:47
  Demo tidak pernah benar-benar menunjukkan masalah ini.
• 4:49
  Dalam panduan singkat tersebut, semuanya dioptimalkan untuk segelintir pengguna dan kondisi jaringan yang hampir sempurna.
• 4:56
  Namun, dalam bisnis nyata, Anda memiliki SLA aktual, masalah privasi data, dan ambang batas kinerja yang tidak bisa diabaikan begitu saja.
• 5:02
  Misalnya, katakanlah Anda meluncurkan power app umpan balik penjualan dengan analisis sentimen bawaan.
• 5:06
  Dengan hanya 10 orang, Anda berjalan lancar dan Anda mendapatkan hasil yang berguna dalam waktu kurang dari 1 detik.
• 5:11
  Namun, saat angka itu melonjak menjadi 10 ribu, mungkin setelah kampanye email atau merger, Anda mulai mengalami waktu tunggu 30 detik atau kesalahan karena endpoint Anda tidak mampu menangani permintaan.
• 5:21
  Lebih buruk lagi, Anda mungkin mendapati separuh data umpan balik tiba-tiba gagal di proses karena ukuran payload Anda mulai melampaui batas Azure atau kebijakan keamanan di API manajemen tidak pernah diperketat.
• 5:32
  Sekarang, alih-alih membantu tim sales, pipeline AI Anda justru menghambat mereka, dan tim helpdesk pun tidak senang.
• 5:38
  Itu adalah peningkatan, kesehatan.
• 5:39
  Menghubungkan konektor hanyalah undangan untuk masuk ke pesta arsitektur.
• 5:44
  Acara sungguhnya adalah memahami bagaimana setiap lapisan berinteraksi, dan betapa rentangnya sistem saat Anda mencoba melakukan peningkatan skala.
• 5:51
  Mengetahui bagaimana Power Apps memicu orkestrasi, bagaimana flow memproses dan mengamankan data, bagaimana endpoint AI menafsirkannya, dan bagaimana API manajemen bertindak sebagai pelindung.
• 6:01
  Itulah yang membedakan bot yang terjebak di sandbox dengan solusi siap pakai tingkat perusahaan.
• 6:06
  Jika Anda hanya memahami konektornya, Anda selalu mempertaruhkan stabilitas dan keamanan.
• 6:10
  Siapapun bisa menarik dan melepas demo AI baru di Power Apps.
• 6:14
  Membangun sesuatu yang mampu bertahan saat berhadapan dengan pengguna dan data nyata berarti harus mendelami detailnya, bukan sekadar mengandalkan konektor.
• 6:21
  Jadi, ketika permintaan berubah dari membuat teks gemah menjadi benar-benar menyelesaikan masalah bisnis saya, kecerdasan tersebut harus jauh lebih pintar.
• 6:28
  Berikut cara otak sistem dihubungkan untuk memberikan dampak bisnis.
• 6:32
  Menyetel AI untuk bisnis, sentimen, ringkasan, dan banyak lagi.
• 6:36
  Jika Anda pernah mencoba Azure Open AI di Power Platform, Anda mungkin menyadari sesuatu yang aneh.
• 6:42
  Satu endpoint bisa mendeteksi sentimen negatif dalam kalimat, meringkas seluruh rantai email, atau menyusun deskripsi produk baru terkadang.
• 6:48
  Dalam satu hari, semuanya dengan kotak AI yang sama.
• 6:53
  Namun, ini bukanlah sihir nanda alasan mengapa banyak proyek gagal saat Anda mencoba melakukan sesuatu yang benar-benar berguna.
• 6:59
  Orang sering berasumsi bahwa Anda cukup mengganti prom lalu selesai begitu saja.
• 7:02
  Kenyataannya,
• 7:03
  Setiap kasus penggunaan bisnis memerlukan pendekatan yang berbeda, dan disinilah fantasy play and play itu runtuh.
• 7:09
  Mari kita bicara tentang perbedaan antara analisis sentimen dan pembuatan teks.
• 7:13
  Saat Anda ingin aplikasi Dynamics 365 Anda menandai keluhan pelanggan.
• 7:17
  Analisis sentimen adalah kasus penggunaan pertama yang paling jelas.
• 7:20
  Input pendek, respon cepat, biaya rendah, dan hampir tidak ada konteks yang perlu dilacak.
• 7:24
  Dan ini berhasil karena Power Automate hanya perlu mengirimkan data paling dasar ke endpoint OpenAI 1 atau 2 kalimat bersama dengan PROM
• 7:31
  yang tepat untuk memberi tahu model apa yang harus dicari.
• 7:35
  Anda dapat memproses puluhan catatan dengan cepat tanpa risiko model berjalan tak terkendali atau menguras anggaran Anda.
• 7:41
  Alur kerja tersebut mudah dikelola, mudah dibatasi, dan hampir tidak pernah perlu ditulis ulang.
• 7:45
  Sekarang beralihlah ke pembuatan ringkasan yang mulai menguji batas kemampuan sistem.
• 7:48
  Jika Power App Anda memungkinkan manajer menempelkan catatan rapat yang mendetail dan mengharapkan ringkasan yang koheren,
• 7:55
  dalam hitungan detik, perintah yang Anda kirim ke OpenAI harus dirangkai dengan tepat dan ditujukan pada nada yang pas.
• 8:01
  Akan kemudian tidak semua ringkasan dibuat dengan kualitas yang sama.
• 8:04
  Jika data Anda terlalu besar atau teks sumber terlalu tidak terstruktur,
• 8:07
  model dapat melenceng dan mulai menyusun ulang kata alih-alih meringkas atau bahkan mengarang detail yang tidak pernah terjadi.
• 8:15
  Hal ini kembali pada pembuatan.
• 8:16
  Power Automate harus membentuk input, menghapus tanda tangan, menghilangkan format, dan mungkin membagi dokumen jika terlalu panjang.
• 8:23
  Dan semua ini dilakukan sebelum AI menjalankan tugas.
• 8:25
  Namun, situasi menjadi rumit saat masuk ke pembuatan teks atau klasifikasi penudaran skala besar.
• 8:30
  Misalkan tim penjualan Anda menginginkan balasan email khusus yang dibuat secara instan
• 8:34
  atau staf pendukung Anda ingin setiap tiket dikategorikan berdasarkan jenis masalah.
• 8:38
  Kebanyakan orang tidak menyadari bahwa menjalankan alur kerja bertenaga AI pada ribuan input tidak semudah demonstrasi yang terlihat lancar.
• 8:44
  Alur Power Automate harus melakukan perulangan melalui set data yang sangat besar.
• 8:48
  Endpoint Open AI dibanjiri permintaan, lalu tiba-tiba throughput Anda turun,
• 8:53
  dan tagihan Azure Anda mulai merangkak naik, terkadang cukup cepat, hingga bagian akuntansi harus turun tangan.
• 8:59
  Masalah besar di sini adalah menganggap proses AI ini bisa saling menggantikan.
• 9:04
  Analisis sentimen mungkin hanya memakan biaya sepersekian sen per permintaan.
• 9:07
  Tetapi pembuatan teks panjang meningkatkan kompleksitas model, menghabiskan ratusan token, dan membutuhkan waktu lebih lama untuk merespons.
• 9:15
  Tambahkan lagi kebutuhan untuk instruksi khusus, mungkin nada atau pilihan kata yang berbeda untuk pelanggan yang berbeda,
• 9:19
  dan setiap penyesuaian menuntut rekayasa perintah from engineering yang presisi.
• 9:23
  Orang mendengar istilah rekayasa perintah dan mengira itu hanya soal mengetik instruksi yang lebih baik pada ini lebih seperti menyatai algoritma pencarian.
• 9:29
  Anda menguji mendapatkan hasil yang aneh dalam menusulang.
• 9:31
  Dan setiap variasi yang Anda luncurkan memengaruhi tidak hanya output, tetapi juga waktu, biaya, dan profil keamanan alur kerja Anda.
• 9:38
  Dah, ini bukan teori.
• 9:40
  Ada terlalu banyak contoh di dunia nyata yang tidak bisa diabaikan.
• 9:43
  Sebuah perusahaan pernah membangun alur power platform yang menggunakan OpenAI untuk memilih tiket layanan pelanggan,
• 9:48
  mengklasifikasikan berdasarkan sentimen, dan menyarankan tanggapan standar.
• 9:52
  Semuanya tanpa sempurna ditapung.
• 9:54
  Masalah muncul ketika tim membuka alur tersebut untuk semua staff pendukung dan tiba-tiba endpoint.
• 9:58
  Menerima permintaan untuk setiap tiket setiap menit.
• 10:02
  Model tersebut diatur untuk pembuatan teks umum, bukan sekadar klasifikasi sederhana.
• 10:06
  Jadi sistem menganalisis seluruh rea tiket dan menulis draft beberapa paragraf setiap saat.
• 10:11
  Biaya membengkak dalam semalam, alur kerja melambat drastis, dan AI mulai mengerang informasi dalam sarannya.
• 10:18
  Tidak ada yang berhenti sejenak untuk bertanya mengapa tugas teriasa sederhana membutuhkan endpoint,
• 10:22
  yang diatur untuk pembuatan teks, bukan klasifikasi singkat.
• 10:24
  Butuh waktu berjam-jam untuk menyelidiki sebelum ada yang menyadari bahwa beberapa pengaturan
• 10:28
  di power automate dan konfigurasi endpoint menyebabkan kekacauan ini.
• 10:32
  Menyebabkan kekacauan ini.
• 10:33
  Jika Anda mengingkang kendali, mulailah dengan menetapkan kuota penggunaan pada alur power automate,
• 10:37
  dan selalu pantau penggunaan permintaan dan token melalui portal Azure.
• 10:42
  Untuk tugas cepat seperti klasifikasi atau analisis sentimen,
• 10:45
  siapkan alur paralel dan gunakan model terkecil yang bisa menyelesaikan tugas tersebut.
• 10:49
  Untuk pembuatan teks panjang, batasi jumlah token maksimum,
• 10:53
  dan atur seberapa sering pengguna dapat mengakses fitur tersebut.
• 10:57
  Dinjolok secara berkawal.
• 10:59
  Temukan lonjakan atau penggunaan yang tidak terkenal di sedini mungkin.
• 11:01
  Jika Anda melewatkan langkah-langkah ini, platform akan memberi tahu Anda lewat tagihan yang membengkak
• 11:05
  atau lebih buruk lagi pengguna akan merasakan kinerja aplikasi yang lambat.
• 11:09
  Jadi konfigurasi AI yang tepat bukan hanya soal membuat solusi berfungsi.
• 11:13
  Ini soal menjaga bisnis tetap berjalan, biar tetap terprediksi, dan hasil tetap masuk akal.
• 11:18
  Pengaturan yang salah mengubah AI dari sekutu menjadi beban dalam waktu singkat.
• 11:22
  Sekarang setelah Anda menanamkan kecerdasan ke dalam aplikasi,
• 11:25
  Anda harus menentukan siapa yang boleh menggunakannya
• 11:27
  dan bagaimana menjaga endpoint serta data Anda tetap aman dalam skala besar.
• 11:31
  Mengamankan alur.
• 11:32
  Mengapa Azure API Management adalah perisai Anda?
• 11:35
  Jika Anda perhatikan, sebagian besar demo AI Power Platform
• 11:38
  mengabaikan keamanan seolah-olah itu hanya kotak centang tambahan di akhir.
• 11:42
  Namun, saat proyek percontohan berpindah dari lingkungan uji ke produksi langsung,
• 11:46
  risiko baru muncul dengan cepat.
• 11:48
  Tiba-tiba, endpoint OpenAI itu tidak lagi sekadar menjawab perintah uji yang tidak berbahaya.
• 11:53
  Itu menjadi jendela potensial untuk apapun yang diekspos oleh aplikasi Anda.
• 11:56
  Bayangkan, alur kerja layanan pelandan yang secara diam-diam
• 11:59
  menyalurkan data klien melalui API yang tidak aman
• 12:01
  atau chatbot yang didukung oleh kunci yang terlihat jelas oleh siapa saja.
• 12:06
  Segelintir kesalahan langka bisa membuat bisnis rentan terhadap akses tidak sah,
• 12:09
  kebocoran data, atau banjir panggilan API dari pihak yang tidak bertanggung jawab.
• 12:13
  Ini bukan sekadar hipotesis.
• 12:14
  Begitu Anda menghubungkan endpoint Azure OpenAI ke Power Apps atau Dynamics 365,
• 12:18
  Anda mengekspos kekuatan besar.
• 12:20
  Jika orang yang salah mendapatkan kunci api Anda,
• 12:23
  mungkin karena tertinggal dalam skrip atau terkubur dalam alur pengujian,
• 12:26
  mereka dapat mulai mengirim perintah, menarik respons, dan menumpuk biaya penggunaan.
• 12:29
  Serangan di DOS menjadi khawatiran nyata.
• 12:32
  Bahkan tanpa aktor jahat,
• 12:33
  aplikasi yang salah konfigurasi dan berulang pada data yang salah dapat
• 12:36
  menghujani endpoint Anda tanpa henti.
• 12:38
  Dalam kedua kasus tersebut, Anda tidak hanya menghadapi masalah tata kelola,
• 12:41
  tetapi juga potensi biaya yang tak terkendam.
• 12:43
  Dan tergantung pada data apa yang dikirimkan,
• 12:45
  terdapat risiko kepatuhan yang nyata.
• 12:47
  Disinilah Azure API Management hadir sebagai pahlawan yang tak terduga.
• 12:50
  Kebanyakan orang melihatnya hanya sebagai sumber daya Azure lain yang perlu dikonfigurasi,
• 12:54
  padahal sebenarnya ini adalah pembeda antara keteraturan dan kekacauan.
• 12:57
  API Management melakukan hal-hal yang tidak bisa dilakukan oleh Power Automate dan Connector itu sendiri.
• 13:01
  Layanan ini menegakkan autentikasi dan otorisasi setiap kali permintaan dibuat,
• 13:04
  bukan hanya saat Anda ingat untuk membuat kodenya.
• 13:07
  Ini membatasi jumlah permintaan ke endpoint Anda,
• 13:09
  sehingga kesalahan pengembang atau skrip yang tidak terkendali
• 13:11
  tidak akan membahayakan anggaran atau reputasi Anda.
• 13:15
  Dan layanan ini menyimpan log terperinci,
• 13:17
  memberikan jejak saat Anda perlu menjawab pertanyaan tentang siapa yang mengakses apa dan kapan.
• 13:21
  Tadi kita bicara tentang insidennya.
• 13:23
  Sebuah organisasi meluncurkan alur klasifikasi AI untuk email pelanggan
• 13:26
  di Dynamics 365 dan memasukkan kunci API ke dalam Power Automate.
• 13:31
  Kunci tersebut masuk ke folder dokumentasi bersama,
• 13:33
  dan seorang anggota tim yang antusias namun kurang terhati secara
• 13:35
  tidak sengaja membuat loop rekursif di aplikasi uji mereka.
• 13:38
  Dalam hitungan jam ribuan panggilan API menghantam endpoint OpenAI,
• 13:41
  banyak diantaranya mengulang catatan yang sama.
• 13:43
  Tagihan Azure melonjak secara tak terduga,
• 13:46
  dan hanya setelah memeriksa lokti menyadari apa yang terjadi.
• 13:49
  Bagian terburuknya bukan hanya tagihannya,
• 13:51
  melainkan ketidakpastian apakah ada informasi sensitif yang berakhir di tempat yang salah.
• 13:55
  Jika API manajemen sudah terpasang,
• 13:58
  loop tersebut akan memicu kesalahan batas kecepatan jauh sebelum situasi memburuk,
• 14:02
  dan pencatatan yang lebih baik akan langsung menandai lonjakan tersebut.
• 14:06
  Kebijakan API manajemen adalah jaring pengaman yang sungguhnya.
• 14:09
  Anda dapat menetapkan batas kecepatan misalnya jumlah maksimum hit per menit per pengguna.
• 14:14
  Anda dapat membatasi panggilan berdasarkan tentang IP,
• 14:16
  sehingga hanya permintaan yang berasal dari gateway power platform yang dikenal yang diizinkan.
• 14:20
  Untuk organisasi dengan kebijakan kepatuhan yang ketat,
• 14:22
  Anda dapat mewajibkan header atau token yang unik untuk proses bisnis Anda,
• 14:26
  sehingga akses acak dari luar akan terlihat mencolok dan mudah diblokir.
• 14:31
  Semua kontrol ini dibuat khusus agar tidak menyulitkan pengguna akhir,
• 14:34
  tetapi untuk memastikan bahwa aplikasi berbasis AI yang berkembang pesat
• 14:37
  tidak mengganggu operasional Anda atau lebih buruk lagi,
• 14:40
  membahayakan data klien.
• 14:42
  Mencapai kesimbangan sangat penting di sini.
• 14:43
  Kebijakan keamanan harus cukup kuat untuk mencegah penyalahgunaan,
• 14:46
  tetapi tidak boleh berlambat bisnis yang normal.
• 14:48
  Jika pembatasan diatur terlalu agresif,
• 14:50
  permintaan yang sah mulai gagal dan pengguna mulai melakukan tindakan alternatif
• 14:54
  seperti mengirimkan data yang sama berulang kali hingga berhasil.
• 14:58
  Disitulah pemantauan dan analitik di dalam AP Management menjadi sangat penting.
• 15:03
  Anda dapat melihat pola penggunaan dari waktu ke waktu,
• 15:05
  menemukan panggilan yang gagal,
• 15:07
  dan menyesuaikan kebijakan sebelum pengguna menyadarinya.
• 15:10
  Jadi, Anda ingin semua orang di perusahaan bereksperimen
• 15:13
  dengan fitur berbasis AI di Power Apps dan Dynamics 365,
• 15:16
  tetapi Anda butuh penyangga untuk melindungi data dan biaya agar tidak melenceng.
• 15:21
  Dengan AP Management yang menangani penjagaan,
• 15:23
  Anda mendapatkan lebih dari sekadar pelindung.
• 15:24
  Anda bisa benar-benar memacak adopsi,
• 15:26
  melihat alur kerja mana yang menghasilkan nilai nyata,
• 15:28
  dan menghabiskan kapasitas tanpa alasan.
• 15:30
  Saat pimpinan bertanya siapa, apa, kapan, dan bagaimana,
• 15:33
  semuanya sudah tercatat.
• 15:34
  Saat penggunaan meningkat dari lima orang dalam Proof of Concept,
• 15:37
  menjadi ribuan pengguna aplikasi penjualan atau dukungan,
• 15:40
  API Management memastikan Anda tidak asal membuka gerbang
• 15:42
  dan berharap yang terbaik.
• 15:46
  Rahasia klubnya adalah,
• 15:47
  tanpa pengelolaan yang tepat pada endpoint AI tersebut,
• 15:50
  sebagian besar integrasi siapa pakai akan kolap
• 15:52
  saat ada hal tak terduga terjadi.
• 15:56
  API Management memungkinkan transisi dari ide ke skala perusahaan
• 15:58
  tanpa menghadirkan risiko tersembunyi.
• 16:01
  Jadi anggaplah ini bukan sekadar saluran tipa,
• 16:03
  melainkan kerpan-repanan.
• 16:04
  Tentu saja penjaga gerbang terbaik pun hanya menangani
• 16:06
  apa yang diberikan kepada.
• 16:08
  Mengamankan endpoint hanyalah satu sisi dari coin tersebut.
• 16:10
  Ada gambaran yang lebih besar setelah itu
• 16:12
  melacak penggunaan,
• 16:13
  menjaga anggaran tetap sesuai,
• 16:15
  dan memastikan aturan kepatuhan
• 16:16
  tidak terabaikan seiring evolusi aplikasi
• 16:18
  atau perubahan kebijakan.
• 16:20
  Saat itulah tata kelola bukan lagi opsional
• 16:21
  dan mulai menggerakkan seluruh sistem.
• 16:24
  Perkat tata kelola,
• 16:25
  kepatuhan biaya dan menjaga AI tetap terkendali.
• 16:28
  Jika Anda pernah mendapati power app
• 16:29
  yang tadinya proyek sampingan
• 16:30
  tiba-tiba jadi alat favorit semua orang,
• 16:32
  Anda mungkin merasakan kepanikan saat biaya.
• 16:34
  Mulai naik dan tak ada yang yakin
• 16:36
  siapa yang bertanggung jawab menjaga semuanya tetap terkendali.
• 16:38
  Mudah untuk merayakan peluncuran AI yang sukses,
• 16:43
  analisis sentimen yang berjalan tenang
• 16:44
  di latar belakang ringkasan teks
• 16:46
  yang menghemat waktu laporan
• 16:48
  tapi seseorang akhirnya melihat tagihan Azure
• 16:50
  atau mendapat pesan dari InfoSec
• 16:52
  dan suasana mendadak kening.
• 16:55
  Itu tanda pertama adanya coba tetap kelola.
• 16:57
  Dan hal ini muncul hampir setiap kali
• 16:58
  sebuah aplikasi berfungsi dengan baik
• 17:00
  sehingga orang terus menggunakannya.
• 17:01
  Pola ini hampir universal.
• 17:05
  Fitur AI dipasang,
• 17:06
  endpoint diamankan,
• 17:08
  dan pimpinan menyetujui kasus bisnisnya,
• 17:10
  lalu pengguna nyata berdatangan,
• 17:11
  dan lingkungan tersebut menjadi semakin rumit.
• 17:15
  Siapa yang mengontrol akses ke endpoint Azure Open AI?
• 17:18
  Berapa banyak permintaan yang datang dari setiap power app
• 17:20
  dan apakah semuanya benar-benar diperlukan?
• 17:23
  Di mana batas antara eksperimen dan otomatisasi yang menghabiskan anggaran?
• 17:26
  Dan seiring makin banyaknya staff yang membangun
• 17:29
  atau menyesuaikan otomatisasi mereka sendiri
• 17:31
  mengendalikan apa yang terjadi di balik layar
• 17:33
  menjadi makin sulit dari minggu ke minggu.
• 17:34
  Biaya membengkak seringkali
• 17:35
  menjadi latihan darurat tata kelola yang pertama.
• 17:38
  Azure mencatat dengan sempurna setiap token,
• 17:40
  setiap panggilan API,
• 17:41
  dan setiap gigabita data yang melalui titik akhir Open AI,
• 17:43
  namun,
• 17:44
  jika tidak ada yang memantau angka-angka tersebut,
• 17:46
  biaya bisa membengkak di latar belakang.
• 17:49
  Anda membayar berdasarkan penggunaan,
• 17:50
  dan penggunaan menjadi sulit dikendalikan
• 17:52
  ketika citizen developer benar-benar ingin berinovasi,
• 17:54
  namun, tidak selalu sadar bahwa alur Power Automate
• 17:57
  mereka memanggil titik akhir AI ribuan kali sehari.
• 18:01
  Kebanyakan orang menyadari hal ini dengan cara yang sama
• 18:03
  peringatan anggaran muncul,
• 18:04
  atau seseorang di bagian keuangan mengira ada kesalahan penagihan.
• 18:08
  Mengabaikan hal ini tidak hanya berarti harus membayar lebih mahal,
• 18:10
  tetapi Anda berisiko proyek dihentikan untuk menghentikan kerugian,
• 18:13
  atau lebih buruk lagi pimpinan kehilangan kepercayaan
• 18:15
  pada eksperimen AI tersebut.
• 18:16
  Namun, masalahnya tidak pernah sinasol.
• 18:18
  Pertanyaan kepatuhan muncul berikutnya.
• 18:19
  Bahkan dengan manajemen API yang menjaga pintu depan,
• 18:22
  masih ada pertanyaan tentang data apa yang dikirim,
• 18:24
  berapa lama disimpan,
• 18:25
  dan kemana salinannya bisa berakhir.
• 18:28
  Apakah pemembang telah nyamarkan informasi identitas pribadi
• 18:31
  sebelum mengirimkan teks tiket dukungan itu ke Azure Open AI itu?
• 18:36
  Apakah ada catatan mengenai pengguna mana yang mengakses apa,
• 18:38
  dan apakah itu selaras dengan kebijakan organisasi Anda?
• 18:41
  Auditor tidak akan terkesan dengan jawaban kami rasa begitu.
• 18:43
  Bagi industri yang diatur ketat,
• 18:45
  satu pelanggaran kepatuhan saja,
• 18:47
  misalnya seseorang mengirim data rahasia untuk ringkasan teks
• 18:49
  tanpa penyaringan yang tepat,
• 18:50
  dapat menghentikan proyek selama berminggu-minggu
• 18:52
  atau membuat perusahaan dalam masalah besar.
• 18:56
  Bahkan di lingkungan yang kurang diatur,
• 18:58
  tim IT akan merasa cemas,
• 18:59
  jika terlihat ada data yang tidak terkelola beredar di cloud.
• 19:02
  Microsoft memang berupaya mempermudah urusan ini.
• 19:05
  Azure Cost Management menyediakan dashboard,
• 19:07
  peringatan, dan batas pengeluaran untuk Anda.
• 19:09
  Tetap saja perlu ada seseorang yang menetapkan ambang batas,
• 19:11
  memantau lonjakan penggunaan mingguan,
• 19:13
  dan menekan tombol jeda sebelum masalah meningkat,
• 19:14
  memberikan tag pada setiap sumber daya,
• 19:17
  titik akhir AI alur,
• 19:18
  bahkan power apps individu adalah cara sederhana namun ampuh
• 19:20
  untuk melacak pengeluaran kembali ke setiap tim
• 19:22
  atau lini bisnis.
• 19:24
  Ini juga membantu dalam proses pembersihan dan pelaporan.
• 19:27
  Jika otomatisasi dibiarkan berjalan setelah uji coba berakhir,
• 19:29
  sumber daya yang diberi tag akan terlihat menonjol,
• 19:32
  dan Anda terhindar dari skenario beban kerja misterius
• 19:34
  yang sering muncul saat pemeriksaan kesehatan.
• 19:37
  Di sisi power platform,
• 19:38
  Center of Excellence Starter Kit adalah hal yang paling mendekati pusat komando AI.
• 19:42
  Alat ini menyisir penyewa Anda untuk mencari setiap alur,
• 19:46
  konektor kustom aplikasi, dan bot,
• 19:48
  lalu menyusun inventaris yang dapat Anda tindak lanjuti.
• 19:52
  Tim IT dapat mengatur analitik penggunaan,
• 19:54
  mengirim peringatan saat pola mencurigakan muncul,
• 19:56
  dan memberikan dorongan kepada citizen developer
• 19:58
  dengan pengingat mengenai praktik terbaik internal.
• 20:01
  Beberapa organisasi menggunakannya untuk membuat laporan rutin
• 20:04
  tentang penggunaan API alur yang berjalan intensif
• 20:06
  dan bahkan siapa yang sedang membangun apa.
• 20:08
  Toolkit COE tidak hanya ada untuk memberikan visibilitas.
• 20:10
  Ini juga menyediakan templat untuk penerapan bertahap,
• 20:13
  memicu peninjauan untuk aplikasi berisiko tinggi,
• 20:15
  dan bahkan dapat menegakkan kebijakan bisnis
• 20:17
  dengan mematikan atau menjeda alur di luar batasan kepatuhan.
• 20:21
  Bagi organisasi yang berkembang pesat dengan banyak pengguna ahli,
• 20:24
  batasan ini mencegah berbagai hal menjadi tidak terkendali.
• 20:27
  Perlu ditegaskan bahwa masalah tata kelola
• 20:29
  biasanya muncul setelah kesuksesan.
• 20:31
  Ambil contoh,
• 20:32
  aplikasi umpan balik pelanggan yang populer
• 20:34
  jauh lebih cepat dari perkiraan.
• 20:36
  Penggunaannya berlipat ganda dalam seminggu,
• 20:38
  lalu hingga tiga kali lipat.
• 20:39
  Dalam sebulan biaya melonjak,
• 20:41
  tagihan Azure memaksa penyesuaian perakiraan,
• 20:43
  dan ternyata aplikasi yang sama
• 20:44
  mengirimkan data rahasia ke titik akhir AI tanpa persetujuan.
• 20:48
  Skrip adhoc dan perbaikan sementara pun dilakukan,
• 20:50
  tetapi saat itu situasinya sudah kacau.
• 20:52
  Proses pusat keunggulan seharusnya dapat menandai pertemuan tersebut
• 20:54
  sejak dini dan maksakan.
• 20:55
  Praktik terbaik harus segera diterapkan.
• 20:57
  Selalu berditeg pada sumber daya.
• 20:59
  Tetapkan anggaran atau batas lunak bahkan untuk bukti konsep.
• 21:03
  Tinjau dan audit akses ke titik akhir.
• 21:05
  Daftar siapa yang dapat terhubung ke apa
• 21:06
  akan berubah seiring perubahan tim dan peran.
• 21:09
  Dokumentasikan alur mana yang mengirim data apa dan mengapa.
• 21:13
  Ini bukan sekadar administrasi demi administrasi.
• 21:15
  Ini berarti seseorang dapat menjawab
• 21:16
  beberapa minggu atau bulan kemudian tentang cara kerja sistem
• 21:19
  dan di mana batasannya.
• 21:21
  Penting untuk disadari bahwa tata kelola bukan langkah
• 21:23
  yang cukup diatur sekali lalu lupakan.
• 21:24
  Moda berubah, logika bisnis berkembang,
• 21:26
  dan aturan privasi terus berevolusi.
• 21:28
  Peninjauan dan pembaruan harus dilakukan secara berkal.
• 21:31
  Tata kelola yang kuat adalah pembeda
• 21:32
  antara fitur E yang gagal di bawah tekanan
• 21:34
  dan fitur yang tumbuh secara berkelanjutan
• 21:36
  seiring ketergantungan bisnis padanya.
• 21:39
  Dan dengan kontrol yang ada,
• 21:40
  para pemimpin IT dan bisnis mendapatkan kepercayaan diri
• 21:42
  untuk berekspansi, bereksperimen, dan berinovasi dengan aman.