Latest / M365.FM – Podcast Microsoft 365, Copilot & AI Bahasa Indonesia / Membawa AI dari pilot ke produksi: 5 pertanyaan kunci soal hardware, data, MLOps, dan AI Factory (Sulih Suara AI)

Transcript

Membawa AI dari pilot ke produksi: 5 pertanyaan kunci soal hardware, data, MLOps, dan AI Factory (Sulih Suara AI) · M365.FM – Podcast Microsoft 365, Copilot & AI Bahasa Indonesia

• 0:00
  Dan sampai jumpa langsung di bulan Januai.
• 0:01
  Nah, inilah teka-teki yang berpecahkan CEO Anda.
• 0:04
  Apakah AI hanyalah beban kerja lain untuk dimasukkan ke server farm
• 0:07
  atau makhluk penyembur api yang menuntut habitatnya sendiri,
• 0:09
  GPU, data lake, dan aturan tata keolah yang ketat?
• 0:12
  Kebanyakan tim berjudi membabi buta
• 0:14
  dan hasilnya adalah anggaran yang terkuras lebih cepat
• 0:16
  daripada mesin warb membakar antimat.
• 0:17
  Inilah yang akan Anda dapatkan hari ini.
• 0:19
  Lima pemeriksaan yang mengungkap apakah sebuah proyek AI
• 0:21
  benar-benar membutuhkan skala perusahaan dan batasan
• 0:23
  yang membawa Anda ke sana tanpa kacauan.
• 0:25
  Jadi, sebelum kita berbicara tentang pabrik dan grup salat bawah angkasa,
• 0:29
  mari kita tanyakan mengapa AI bukan sekadar beban kerja biasa.
• 0:32
  Mengapa AI bukan sekadar beban kerja biasa?
• 0:34
  AI bekerja secara berbeda dari beban kerja hapi yang biasa Anda tangan.
• 0:37
  Aplikasi tradisional berjalan lancar dengan kode yang stabil,
• 0:40
  kebutuhan penyimpanan yang dapat diprediksi,
• 0:41
  dan log yang berjalan seperti jam.
• 0:43
  Di sisi lain, AI terasa hidup.
• 0:45
  Ia tumbuh dan berubah dengan setiap kumpulan data dan arsitektur baru yang Anda berikan.
• 0:49
  Di mana perangkat lunak biasa meningkatkan versi,
• 0:51
  AI bermutasi, belajar, berubah,
• 0:53
  bahkan pergi jolak tergantung pada sumber daya yang tersedia.
• 0:56
  Jadi, perubahan pola pikirnya jelas.
• 0:57
  Jangan perlakukan AI sebagai satu aplikasi,
• 1:00
  tetapi sebagai ekosistem operasi yang selalu berubah.
• 1:02
  Saat ini, di banyak departemen TI,
• 1:04
  beban kerja diukur berdasarkan ruang rak dan konsumsi day.
• 1:06
  Istilah yang aman dan mekanis,
• 1:08
  tetapi dari perspektif AI, situasinya berubah total.
• 1:10
  Anda tidak hanya menjalankan server,
• 1:12
  Anda mengelola akselerator seperti GPU atau TPU,
• 1:14
  yang seringkali memiliki model pemrograman sendiri.
• 1:16
  Anda tidak menangani beban kerja yang rapi,
• 1:18
  tetapi seluruh alur kerja yang memindahkan arus data mentah.
• 1:20
  Dan Anda tidak sekadar menjalankan kode statis,
• 1:23
  melainkan menjalankan grafik komputasi dinamis
• 1:25
  yang dapat berubah bentuk saat berjalan.
• 1:27
  Melitian mendukung hal ini.
• 1:28
  Beban kerja AI seringkali menuntut akselerator khusus
• 1:31
  dan pola akses data berbeda yang tidak sesuai dengan desain,
• 1:33
  basis data atau CPU Anda.
• 1:36
  Pelajaran yang didapat rencanakan hukum fisika
• 1:38
  yang berbeda di buku panduan TI Anda biasanya.
• 1:40
  Bayangkan penggajian sebagai dasar,
• 1:41
  stabil, dapat diulang, dan pasti.
• 1:44
  Data masuk, cek gaji keluar.
• 1:45
  Sekarang bandingkan itu dengan jaringan saraf
• 1:47
  dalam yang membawa 100 juta parameter.
• 1:48
  Alih-alih berjalan beriringan, ia bergerak sesat-sesat.
• 1:51
  Kemajuan yang meronjak sesat, lalu terhenti,
• 1:53
  dan memaksa Anda mendistribusikan ulang komputasi
• 1:55
  seperti insinyur yang mengatur daya agar sistem tetap hidup.
• 1:58
  Terkadang pelatihan berhasil mencapai titik temu seringkali tidak.
• 2:00
  Dan sampai stabil, Anda hanya menuangkan siklus
• 2:02
  dan berharap mendapatkan output yang koheren.
• 2:04
  Kesimpulannya, tidak seperti penggajian,
• 2:06
  pelatihan AI membawa volatilitas
• 2:07
  dan Anda harus mengalokasikan sumber dayanya dengan tepat.
• 2:10
  Volatilitas itu didorong oleh rasa rapat.
• 2:11
  Algoritma AI bereaksi terhadap data
• 2:13
  seperti rubang hitam terhadap mata.
• 2:15
  Suatu hari set data Anda muat di laptop,
• 2:17
  berikutnya Anda mengalirkan petabyte dari berbagai sumber
• 2:19
  dan tiba-tiba komputasi penyimpanan
• 2:21
  dan jaringan harus mendukung permintaan itu.
• 2:24
  Aplikasi biasa jarang mengonsumsi secara mendadak seperti itu,
• 2:27
  yang berarti infrastruktur Anda harus dirancang
• 2:29
  bukan seperti lemari arsip,
• 2:31
  melainkan kilang minyak, saluran berkelanjutan,
• 2:33
  bandwidth tinggi,
• 2:34
  dan kemampuan menyerap gelombang bahan bakar yang masuk.
• 2:36
  Dan disinilah perusahaan sering salah langkah.
• 2:40
  Pimpinan berasumsi AI bisa berjalan di samping email dan ERP
• 2:42
  dianggap sebagai pos anggaran biasa.
• 2:44
  Jadi mereka menerapkannya di server standar
• 2:46
  dengan harapan akan pas dengan mudah.
• 2:47
  Apa yang terjadi justru sebaiknya?
• 2:49
  Klaster GPU menganggur menunggu saluran data yang lamban.
• 2:52
  Dokter terlewati.
• 2:53
  Pekerja integrasi memengkap.
• 2:55
  Tim mendapati bahwa separuh lingkungan mereka
• 2:56
  perlu ditulis ulang hanya untuk mendapatkan throughput dasar.
• 2:59
  Skenaryonya seperti memasang relay komunikasi antar galaksi
• 3:02
  hanya untuk menemukan sinyal Anda tidak disetel ke frekuensi yang tepat.
• 3:05
  Kredibilitas tergang.
• 3:07
  Biaya melonjak tantar.
• 3:08
  Organisasi pun bertanya-tanya apa yang salah.
• 3:11
  Wain utamanya sederhana.
• 3:12
  Memaksakan AI ke dalam sistem lama justru menciptakan hambatan, bukan nilai.
• 3:15
  Berikut cara yang lebih tepat untuk memahaminya.
• 3:17
  Bisnis itu seperti menjalankan penerrutin.
• 3:20
  Pesawat punya jadwal jelas,
• 3:21
  penggunaan bahan bakar stabil dan ketat.
• 3:24
  Pekerjaan AI lebih seperti uji coba mesin warp.
• 3:27
  Output tidak berskala calinnya.
• 3:29
  Kebutuhan melonjak tanpa peringatan.
• 3:30
  Dan perangkat kelas eksotis diperlukan untuk bertanda dari tepat.
• 3:33
  Abaikan hal itu dan Anda akan membuat seluruh proyek gagal sebelum lepas lain.
• 3:36
  Terimalah hal itu dan Anda mulai merancang sistem yang tangguh sejak awal.
• 3:40
  Jadi pertanyaan praktis yang dihadapi setiap pemimpin adalah ini.
• 3:42
  Bagaimana Anda tahu kapan proyek AI Anda telah melewati ambang batas itu
• 3:45
  ketika ia bukan sekadar perangkat unah biasa,
• 3:47
  melainkan beban kerja dari kategori yang berbeda secara fundamental.
• 3:50
  Anda ingin menangkap momen itu sejak dini,
• 3:51
  sebelum melipat gandakan anggaran atau membuat komitmen infrastruktur yang berlebih.
• 3:54
  Petunjuknya ada, pola permintaan yang melampaui server sebaguna,
• 3:58
  ketergantungan pada akselerator yang menggunakan cuda,
• 4:00
  bukan X86, set data yang begitu masif,
• 4:03
  hingga basis data lama kewalahan,
• 4:05
  algoritma yang berubah saat eksekusi,
• 4:07
  dan hambatan integrasi di mana TI lama menolak bekerja sama.
• 4:11
  Setiap hal tersebut menandakan bahwa Anda sedang menangani sesuatu yang bukan bisnis seperti biasa.
• 4:14
  Secara kolektif, tanda-tanda ini menggambarkan AI sebagai sesuatu yang lebih dari sekadar kode cek.
• 4:17
  Ini adalah ekosistem digital yang hidup,
• 4:20
  yang tumbuh berubah dan menuntut sumber daya yang tidak ada dalam tumpukan teknologi lama Anda.
• 4:24
  Setelah Anda belajar mengenali sifat-sifat itu,
• 4:27
  Anda lebih siap untuk mengalokasikan bahan bakar, pelindung, dan kru sebelum perjalanan dimulai.
• 4:31
  Dan disinilah pilihan sulit.
• 4:32
  Dimulai karena meskipun Anda mengenali AI sebagai kelas beban kerja yang berbeda,
• 4:36
  langkah selanjutnya tidaklah jelas.
• 4:38
  Apakah Anda mendorongnya melalui alur yang sama seperti hal lain?
• 4:40
  Atau berhenti sejenak dan ajukan pertanyaan kritis yang menentukan apakah pengetahuan masuk akan?
• 4:44
  Titik keputusan itulah tempat banyak eksekutif tersandung,
• 4:46
  dan dimana daftar periksa yang lebih tajam dapat menyelamatkan seluruh misi.
• 4:50
  Lima pertanyaan yang memisahkan proyek percontohan dari produksi.
• 4:52
  Saat Anda menata proyek percontohan AI yang canggih itu,
• 4:55
  dan bertanya-tanya apakah ia benar-benar mampu menangani beban produksi, ada alat sederhana.
• 4:58
  Lima pertanyaan inti, lugas, praktis, dan yang sama-sama digunakan para ahli
• 5:02
  untuk memutuskan apakah suatu beban kerja benar-benar layak mendapatkan skala perusahaan.
• 5:06
  Anggapnya itu sebagai daftar periksa pencurana.
• 5:07
  Lewatkan pertanyaan tersebut, dan Anda berisiko membangun model yang terlihat bagus di lab,
• 5:11
  tetapi hancur begitu pengguna sebenarnya.
• 5:13
  Kami telah menyediakannya di catatan cara untuk Anda, tetapi mari kita bahas.
• 5:16
  Pertama, skalabilitas.
• 5:17
  Bisakah infrastruktur Anda saat ini benar-benar meluas untuk memenuhi permintaan yang tertentu?
• 5:21
  Proyek percontohan terlihat bagus dalam kelompok kecil,
• 5:23
  tetapi produksi mendatangkan ribuan permintaan secara paralah.
• 5:26
  Jika sistem tidak dapat berkembang secara horizontal tanpa pengerjaan,
• 5:29
  ulang besar-besaran Anda menyiapkan diri untuk perbaikan darurat aliam berkelanjutan.
• 5:32
  Dua, perangkat keras.
• 5:33
  Apakah Anda memerlukan akselerator khusus seperti GPU atau TPU?
• 5:37
  Kebanyakan prototipe berjalan lambat dengan CPU,
• 5:39
  tetapi meskalakan jaringan sarap pada volume perusahaan akan menghabiskan daya komputasi.
• 5:43
  Pertanyaannya bukan hanya apakah Anda bisa membeli perlengkapannya,
• 5:45
  tetapi apakah PIM dan anggaran Anda mampu mengoperasikan
• 5:47
  yang menjaga mesin tetap bekerja alih-alih menganggur?
• 5:49
  Ketiga, intensitas data.
• 5:51
  Apakah Anda benar-benar siap menghadapi banjir data?
• 5:52
  Proyek percontohan awal seringkali berjalan berkumpulan data yang rapi.
• 5:56
  Di lingkungan langsung, data mendarat dalam berbagai format,
• 5:58
  membanjir dari berbagai saluran,
• 5:59
  dan mendorong penyimpanan serta jaringan hingga batasnya.
• 6:03
  Beban kerja akan menunggu tetesan kecil.
• 6:05
  Mereka membutuhkan aliran terus-menerus atau seluruh sistem akan terlihat.
• 6:08
  Keempat, kompleksitas algoritma.
• 6:10
  Bisa ketika Anda mengelola model tiap berperilaku seperti aplikasi statik?
• 6:13
  Algoritma berkembang, beradaptasi,
• 6:15
  dan terkadang rusak saat melihat input dunia nyata.
• 6:18
  Prototipe terlihat baik-baik saja dengan satu mod yang beku,
• 6:20
  tetapi produksi membawa pembarung konstan dan perilaku yang berubah.
• 6:24
  Tanpa keterampilan yang tepat,
• 6:25
  Anda akan melihat jurang yang menakutkan,
• 6:26
  model yang berjalan baik di laptop namun runtuh di klaster.
• 6:29
  Integrasi.
• 6:31
  Apakah AI Anda akan benar-benar terhubung dengan lancar dengan sistem lama?
• 6:34
  AI mungkin berkinerja baik sendirian,
• 6:35
  tetapi di perusahaan,
• 6:36
  ia harus meneruskan data,
• 6:37
  mematuhi aturan kepatuhan,
• 6:38
  dan berinteraksi dengan protokol yang sudah lama.
• 6:40
  Jika ia menolak untuk menyatu,
• 6:41
  Anda belum menambahkan rekan tim,
• 6:42
  Anda justru menciptakan beban yang tinggal di raksarveran.
• 6:45
  Itulah daftar lengkapnya.
• 6:46
  Skalabilitas,
• 6:47
  perangkat keras,
• 6:48
  intensitas data,
• 6:49
  kompleksitas algoritma,
• 6:50
  dan integrasi.
• 6:51
  Mungkin terdengar sederhana,
• 6:52
  tetapi bersama-sama mereka membentuk uji standar.
• 6:54
  Kerangga kerja resmi dari para pemimpin senior mencerminkan kelima bidang ini dan untuk alasan yang tepat.
• 6:59
  Hal tersebut memisahkan proyek percontohan potensial dengan pasti gagal.
• 7:02
  Anda akan menemukan rincian lebih lanjut di catatan hari ini,
• 7:04
  tetapi poin pentingnya sudah jelas.
• 7:05
  Jika Anda menjawab ya,
• 7:06
  untuk kelimanya Anda tidak sedang menangani beban kerja biasa.
• 7:09
  Anda menghadapi sesuatu yang memerlukan perlakuan khusus arsitektur sendiri dan disiplin tersendiri.
• 7:14
  Di sini banyak proyek menunjukkan bentuk aslinya.
• 7:16
  Apa yang tampak seperti demo yang apik terbukti,
• 7:20
  saat dipertanyakan menjadi usaha besar yang menguras anggaran,
• 7:22
  talenta, dan infrastruktur dalam skala yang benar-benar berbeda.
• 7:26
  Dan menyadarinya lebih awal ada cara Anda menghindari pemborosan waktu berbelan-belan.
• 7:29
  Namun, meski sudah memegang daftar periksa,
• 7:31
  tantangan tetap ada.
• 7:32
  Proyek percontohan yang seharusnya beralih dengan mulus keproduksi seringkali koyak.
• 7:36
  Proyek tersebut terhenti bukan karena idenya cacat,
• 7:38
  tetapi karena lingkungan yang dimasuki lebih keras,
• 7:40
  lebih menantang, dan kurang toleran daripada yang disarankan demo.
• 7:43
  Itulah ruang yang perlu kita bahas selanjutnya.
• 7:44
  Zona Maut dari tahap percontohan keproduksi
• 7:47
  Banyak proyek percontohan AI bersinar terang di laboratorium
• 7:50
  hanya untuk terengang-engah saat didorong ke kondisi perusahaan.
• 7:54
  Demo yang rapi bekerja dengan baik saat diberi satu set data bersih,
• 7:56
  dijalankan pada instans pilihan,
• 7:58
  dan dirawat oleh beberapa insinyur.
• 8:00
  Namun, begitu Anda menghadapkannya pada lalu lintas nyata,
• 8:02
  aliran data yang berantakan dan pengawasan tata kelola semuanya langsung goyah.
• 8:06
  Kesenjangan itu punya nama Zona Maut dari tahap percontohan keproduksi.
• 8:08
  Ini masalah intinya.
• 8:09
  Proyek percontohan berhasil karena mereka terlindungi.
• 8:12
  Input terkendali, alur kerja terkurasi,
• 8:13
  dan lingkungan dirancang untuk mengulukan model tersebut.
• 8:16
  Produksi menuntut sesuatu yang lebih keras.
• 8:18
  Dan skalaan lintas tim,
• 8:20
  integrasi dengan sistem lama,
• 8:21
  pemenuhan kewajiban regulasi,
• 8:23
  dan penanganan data yang datang dalam gelombang tak terduga.
• 8:26
  Itulah mengapa begitu banyak kolektan tidak terfasok-fasok.
• 8:28
  Kebiasaan yang membuat proyek percontohan bersinar
• 8:30
  tidak mempersiapkannya menghadapi badai dunianya.
• 8:31
  Konsekuensinya menempuk dengan cepat.
• 8:33
  Silo data memutus jadur pasokan dengan seluruh departemen
• 8:35
  menjaga informasi dalam format yang tidak kompatibel.
• 8:38
  Celah tata kelola membuat kontrol akses dan izin menjadi ala kadarnya.
• 8:40
  Boleh saja saat uji coba, namun fatal sadiak.
• 8:43
  Kekurangan perangkat keras memperlambat pelatihan dan inferensi
• 8:46
  saat CPU tidak mampu mengejar,
• 8:47
  dan akselerator tidak terpasang dalam alur kerja.
• 8:49
  Dan yang membayangi semuanya,
• 8:51
  kerangka kerja kepatuhan tampak seperti jebakan takasat mata,
• 8:53
  terutama di industri yang menghadapi regulasi privasi dan keadilan yang ketat.
• 8:57
  Bahaya-bahaya ini tidaklah unik.
• 8:59
  Hal tersebut disorot berulang kali dalam riset industri
• 9:01
  sebagai hambatan yang mencegah AI untuk berskala.
• 9:02
  Abaikan hal ini, dan kesuksesan Anda berakhir
• 9:06
  sebagai prototipe terpengkala yang berdebuk.
• 9:09
  Satu gambar yang jelas menceritakan sekarang.
• 9:11
  Menjalankan AI melampaui tahap persentuhan
• 9:12
  seperti mendaki melewati ketinggian dengan udara tipis di Everest.
• 9:15
  Di bawah garis tertentu, kemajuan mengadilan.
• 9:17
  Di atasnya, setiap langkah membutuhkan disiplin
• 9:19
  yang disengaja oksigen dan kerja sama tim.
• 9:21
  Dalam istilah AI, oksigen tersebut berasal dari infrastruktur,
• 9:24
  tata kelola, dan otomatisasi.
• 9:25
  Metafora itu berhasil sekali,
• 9:26
  tetapi poinnya lebih tajam jika Anda meninggalkan kiasan
• 9:29
  dan menghadapi kenyataan pahit.
• 9:30
  Tim Anda tidak bisa melewati zona kematian
• 9:32
  hanya dengan antusiasme semata.
• 9:34
  Secara teknis, solusinya memiliki nama, yaitu ML Ops.
• 9:36
  Itu berarti mengotomatiskan siklus pengujian,
• 9:38
  penerapan, dan pematauan agar mendapat perilaku
• 9:40
  secara terprediksi saat ditingkatkan skalanya.
• 9:41
  Alih-alih menggunakan notebook buatan manual
• 9:43
  yang langsung didorong ke produksi,
• 9:44
  Anda mengembangkan alur standar yang menguji model,
• 9:46
  memvalidasinya, menerapkannya melalui langkah
• 9:49
  yang dapat direproduksi dan memantai penyimbangannya di lapang.
• 9:52
  ML Ops mengubah AI dari eksperimen sekali jalan
• 9:54
  menjadi sistem produksi dengan keandalan yang sama
• 9:56
  seperti yang Anda harapkan dari perangkat lunak penggajian
• 9:58
  atau pemrosesan transaksi.
• 10:00
  Tanpa itu, setiap serah terima menjadi goyah
• 10:01
  dan setiap pemberuan menjadi penjudi.
• 10:03
  Titik masalah yang nyata membuktikan hal tersebut.
• 10:05
  Model yang disetel dengan sempurna dan unggul
• 10:06
  dalam pengujian terisolasi,
• 10:08
  saat dihadapkan pada arus langsung,
• 10:09
  target latensi dalam mili detik
• 10:11
  dan ratusan permintaan klien sekaligus
• 10:13
  justru tersendak.
• 10:14
  Daspor yang tampak lancar bagi satu tim
• 10:16
  berjalan sangat lambat saat seribu karyawan masuk.
• 10:19
  Para insinyur berlombang,
• 10:20
  menambah kesenjangan kinerja,
• 10:22
  tetapi kenyata terelak.
• 10:22
  Perbaikan setelah kejadian memakan biaya
• 10:25
  lebih besar daripada akustrasi yang tepat sejak awal.
• 10:27
  Tata kelola menambah sumber keruntuan lainnya.
• 10:29
  Apa yang lolos dalam bukti konsep
• 10:30
  penggantian admin cepat
• 10:31
  atau jalan pintas izin
• 10:32
  menjadi masalah kepatuhan
• 10:34
  langsung begitu auditor masuk.
• 10:36
  Langsung.
• 10:37
  Peraturan dan persyaratan audit
• 10:38
  bukanlah tambahan opsional.
• 10:40
  Itu adalah kerangka kerja wajib
• 10:41
  yang membentuk produksi itu sendiri.
• 10:43
  Perusahaan yang menunggu hingga setelah skala pilot
• 10:44
  akan terjebak membangun kembali fondasi
• 10:46
  yang seharusnya ada sejak hari pertama.
• 10:49
  Sementara itu,
• 10:49
  kekurangan tenaga terampil berparah ketegangan.
• 10:51
  Proyek pilot bisa bertahan
• 10:52
  dengan beberapa insinyur certes
• 10:53
  yang melakukan improvisasi solusi cerik.
• 10:56
  Skala perusahaan membutuhkan spesialis
• 10:57
  di bidang teknik data operasi AI dan infrastruktur.
• 11:00
  Tanpa alur kerja yang dikodifikasi,
• 11:02
  setiap langkah diciptakan ulang
• 11:03
  dan waktu berminggu-minggu hilang tanpa kemajuan.
• 11:05
  Pimpinan memperhatikan waktu,
• 11:07
  bagian keuangan melacak biaya,
• 11:08
  dan kesabaran pun mipis.
• 11:09
  Janji AI mulai menyerupai proyek
• 11:11
  yang macet alih-alih kemampuan
• 11:12
  yang transformatif,
• 11:14
  menggoda untuk berpikir bahwa
• 11:15
  solusinya terletak pada lebih banyak talenta
• 11:17
  atau mesin,
• 11:18
  tetapi menambah beban tanpa orkestrasi
• 11:20
  seperti menambah pendaki ke tim gunung
• 11:21
  tanpa tali atau oksigen.
• 11:23
  Tubuh bergerak,
• 11:24
  tetapi tanpa peluang untuk bertahan hidup
• 11:25
  secara terkoordinasi.
• 11:26
  Apa yang sebenarnya menyelamatkan proyek di sini
• 11:28
  bukanlah kekuatan mentah,
• 11:29
  melainkan orkestrasi,
• 11:30
  disiplin pemersatu yang menghubungkan aliran data,
• 11:31
  memastikan kepatuhan,
• 11:32
  dan mengotomatiskan kepatuhan,
• 11:33
  dan mengotomatiskan penerapan.
• 11:34
  Itu tidak mencolok,
• 11:35
  tetapi merupakan dukungan hidup
• 11:37
  bagi tim AI yang mencoba melampaui demo.
• 11:40
  Ini adalah pelajaran yang tak terlak.
• 11:41
  AI tingkat perusahaan tidak bisa diimprovisasi.
• 11:44
  Kesuksesan datang dari pengulangan kelas pabrik,
• 11:46
  tempat untuk alur kerja,
• 11:47
  pengujian otomatis,
• 11:48
  tata kelola yang terintegrasi,
• 11:50
  dan sumber daya yang dikelola secara dinamis.
• 11:52
  Dengan fondasi tersebut,
• 11:53
  zona maut bukanlah keburan,
• 11:54
  melainkan lintasan yang bisa Anda seberangi secara sistematis.
• 11:57
  Tanpanya,
• 11:58
  setiap langkah hanyalah improvisasi rapu
• 11:59
  yang ditakdirkan runtuh di bawah tekanan.
• 12:02
  Dan begitu Anda melihat skala koordinasi yang diperlukan,
• 12:04
  pertanyaan berikutnya pun muncul.
• 12:05
  Bagaimana cara Anda benar-benar membangun lapisan orkestrasi tersebut?
• 12:07
  Bukan sebagai tambal sulam atau tim yang terisolasi,
• 12:10
  melainkan sebagai dek komando pusat tempat kekacauan didisiplinkan,
• 12:12
  peran didefinisikan,
• 12:13
  dan sistem bergerak selaras.
• 12:15
  Inilah pabrik AI,
• 12:16
  komando Starfleet untuk AI perusahaan.
• 12:18
  Bayangkan ini,
• 12:19
  alih-alih setiap tim perimprovisasi sendiri,
• 12:21
  Anda memiliki jembatan terpadu,
• 12:23
  di mana data ops,
• 12:24
  ML ops,
• 12:24
  dan JNI ops beroperasi layaknya perwira di pos mereka.
• 12:28
  Mesin pelindung navigasi masing-masing dengan tugasnya sendiri,
• 12:30
  namun terkoordinasi melalui satu kursi komando.
• 12:32
  Itulah premis di sini.
• 12:34
  Bukan alat tambahan yang disematkan,
• 12:35
  melainkan lapisan orkestrasi yang menjaga kapal tetap utuh di bawah tekanan.
• 12:38
  Tanpa lapisan pusat,
• 12:39
  AI perusahaan lebih terlihat seperti perkelahian antar dek.
• 12:42
  Insinyur data membuat alur kerja di satu sudut,
• 12:44
  tim ops menulis aturan di sudut lain,
• 12:46
  peneliti memlempar model ke sana kemari.
• 12:48
  Tidak ada peta bersama,
• 12:48
  tidak ada ritmu.
• 12:49
  Yang Anda dapatkan adalah skrip yang tumpang tindih,
• 12:51
  sistem yang berlebihan,
• 12:52
  dan celaka aman yang cukup besar untuk dilewati pesawat ulang-alik.
• 12:55
  Kekacauan itu bukanlah kecelakaan langkah.
• 12:57
  Itulah yang terjadi ketika penskalaan AI dibiarkan dengan upaya yang tidak terara.
• 13:00
  Fabrik mengubah skenario tersebut.
• 13:02
  Anggap ini bukan sebagai alat baru,
• 13:03
  melainkan sebagai podium konduktor.
• 13:05
  Bagian-bagiannya adalah data lag,
• 13:07
  alur pelatihan akselerator klot Anda,
• 13:09
  dan alih-alih saling bertabrakan,
• 13:10
  mereka bermain sesuai ramah.
• 13:12
  Dalam prakteknya,
• 13:13
  demosesi ini mencakup fitur seperti pendekatan auto lag,
• 13:15
  yang memusatkan penyimpanan data yang terfragmentasi ke dalam satu lingkungan yang konsisten.
• 13:19
  Alur kerja berjalan berdasarkan sumber kebenaran yang stabil,
• 13:21
  dan tata kelola memiliki sesuatu yang nyata untuk ditegakkan.
• 13:23
  Model AI yang haus tidak akan kelaparan karena aliran data mengering.
• 13:27
  Tempat adalah kartu berikutnya di atas meja.
• 13:29
  Proyek persentuhan sering gagal berkembang
• 13:30
  karena setiap proyek menjadikan infrastruktur dengan cara yang sedikit berbeda,
• 13:33
  membuat skrip tugas dengan cara kustom,
• 13:35
  dan membiarkan separuh sistem tanpa dokustom tanpa dokumentasi.
• 13:37
  Memperbaiki penyimpanan tersebut.
• 13:39
  Langsung sekali terapkan berulang kali.
• 13:41
  Keuntungannya adalah keandalan kelas pabrik
• 13:42
  di mana menekan tombol go akan menyiapkan alur kerja dengan cara yang sama setiap setiap.
• 13:45
  Halih-halih berbulan-bulan merangkai dengan perakitan manual,
• 13:48
  Anda bisa melakukan penerapan berulangan.
• 13:49
  Pemunculah kontrol akses.
• 13:51
  Kontrol akses berbasis peran terdengar membosankan sampai Anda hidup tanpanya.
• 13:54
  Tanpa pembatas, staf junior bisa saja tidak sengaja masuk ke kluster GPU.
• 13:57
  Auditor harus menyelinap lewat pintu belakang
• 13:59
  dan tidak ada yang bisa memastikan siapa yang mengubah.
• 14:01
  RPSC memberikan ketertiba.
• 14:03
  Insinyur datang melihat alur kerja.
• 14:05
  Timuan mendapatkan kotak pasir mereka.
• 14:06
  Auditor mengamati tanpa ikut campur.
• 14:08
  Garis yang jelas risiko lebih sedikit.
• 14:09
  Kolaborasi lebih lancar.
• 14:11
  Jaringan adalah urat nadi yang tak terlihat.
• 14:13
  Skala tanpa saluran dan koneksi yang terpat
• 14:15
  akan kusut seiring beban kerja tersebar ke berbagai tipe.
• 14:17
  Jawaban dari pabrik adalah jalur jaringan pribadi.
• 14:20
  Titik akhir dibatasi,
• 14:21
  terubut diatur untuk permintaan data berat,
• 14:23
  dan risiko kebocoran menurun.
• 14:25
  Bayangkan ini sebagai memastikan rangkaian komunikasi
• 14:27
  hanya membawa sinyal Anda,
• 14:28
  bukan siarang di area yang masuk ke jalur.
• 14:30
  Orkestrasi perangkat keras seringkali menjadi titik masalah yang berlima.
• 14:33
  GPU dan TPU sangat kuat,
• 14:34
  tetapi jika tidak dikelola,
• 14:35
  mereka hanya menganggur dan menghabiskan dana.
• 14:37
  Dalam model pabrik,
• 14:38
  akselerator terhubung ke jadwal yang lebih luas.
• 14:40
  Driver disediakan secara otomatis tugas diatur kapasitas diseimbangkan.
• 14:45
  Alih-alih bergulat dengan inti mesin setiap pagi,
• 14:47
  Anda mengendalikannya melalui urutannya yang dapat diulang.
• 14:49
  Perangkat keras berperilaku seperti bagian dari sistem,
• 14:51
  bukan diva yang berdiri sendiri.
• 14:53
  Organisasi yang bereksperimen dengan model ini
• 14:54
  melaporkan bahwa pengaturan yang dulunya
• 14:56
  memakan waktu berminggu-minggu kini menyusut drastis.
• 14:59
  Itu bukan sihir,
• 14:59
  itu adalah disiplin alur kerja yang terkoordinasi,
• 15:02
  akses yang diatur,
• 15:03
  dan orkestrasi terpadu.
• 15:04
  Saat sekuaci diikat ke satu kapal,
• 15:06
  perjalanan menjadi dapat dikelola.
• 15:07
  Yang menjamin keandalan bukan hanya perangkatnya,
• 15:10
  tetapi kerangka kerja di baliknya.
• 15:13
  Pendekatan pabrik AI mengandalkan praktik terbaik cloud
• 15:15
  seperti adopsi cloud dan panduan arsitektur yang baik dari Microsoft.
• 15:19
  Integrasi itu memastikan beban kerja dikembangkan
• 15:21
  dengan keamanan, skalabilitas,
• 15:22
  dan kepatuhan yang terstruktur sejak awal,
• 15:24
  bukan ditambahkan kemudian dalam tekanan.
• 15:26
  Ini melindungi proyek dari jebakan demo rapuh yang runtuh
• 15:29
  saat dihadapkan pada realitas perusahaan.
• 15:33
  Metafora Starfleet sangat pas di sini.
• 15:35
  Para perwira tidak mengimprovisasi tugas inti.
• 15:37
  Perisai nexer diperintahkan,
• 15:38
  mesin menyala sesuai aba-aba,
• 15:40
  komunikasi sinkron ke satu saluran.
• 15:41
  Koreografi itulah yang diberikan oleh model ini.
• 15:43
  Ini mengambil upaya yang tersebar,
• 15:45
  menetapkan jalur yang tepat,
• 15:46
  dan mengikatnya menjadi kapal yang berjalan
• 15:48
  dengan keteraturan, bukan kekacauan.
• 15:50
  Pada intinya,
• 15:50
  pabrik menyatukan data ops,
• 15:52
  ML ops,
• 15:52
  dan GNI ops ke dalam satu sistem terorkestrasi.
• 15:55
  Hasilnya adalah skala yang dapat diulang,
• 15:57
  bukan AI,
• 15:58
  berbasis keberuntungan yang lulus dengan aman
• 15:59
  dari demonstrasi lab kepermintaan perusahaan.
• 16:02
  Tim mendapatkan kepercayaan
• 16:03
  karena mereka tahu jembatan itu ada
• 16:05
  dan disiplin menjelar melalui setiap fase pekerjaan.
• 16:08
  Namun jembatan hanya menentukan arah.
• 16:10
  Yang mendorong daya dorong sebenarnya adalah mesin di bawahnya.
• 16:12
  Akselerator yang tegang,
• 16:13
  pipa yang dibanjiri data,
• 16:15
  model yang berubah di tengah jalan.
• 16:17
  Dan disanalah,
• 16:18
  dalam mesin di bawah dek serangkaian,
• 16:20
  tantangan berikutnya menuntut perhatian Anda.
• 16:21
  Ruang mesin,
• 16:24
  perangkat keras,
• 16:24
  data,
• 16:25
  dan kompleksitas algoritma.
• 16:26
  Setiap kapal luar angkasa memiliki ruang mesin.
• 16:28
  Dan untuk AI perusahaan,
• 16:29
  mesin itu ditenagai oleh tiga subsistem yang mudah berubah.
• 16:32
  Akselerator perangkat keras,
• 16:33
  aliran data yang memberinya makan,
• 16:35
  dan algoritma yang terus berubah.
• 16:37
  Lewatkan keseimbangan dan seluruh kapal kantrik.
• 16:39
  Buat semuanya bekerja selara,
• 16:40
  semoga Anda memiliki daya dorong untuk berskala.
• 16:42
  Perangkat keras.
• 16:43
  CPU bisa menangani aplikasi rutin,
• 16:45
  tetapi beban kerja AI memproses matematika paralel
• 16:47
  dengan kecepatan yang hanya bisa dipenuhi GPU atau TPU.
• 16:50
  Akselerator ini bukan perangkat yang sumpah.
• 16:52
  Mereka membawa pustaka, penjadwal,
• 16:53
  dan keunikannya sendiri
• 16:54
  lebih mirip reaktor eksotis daripada server kantor.
• 16:57
  Bahayanya adalah rakyat yang menyelatan pemberikan kontribusi.
• 16:59
  Pemeriksaan praktisnya,
• 17:00
  ukur penjadwal linki GPU dan pantal tingkat kangguran.
• 17:03
  Jika akselerator diam sementara permintaan menumpuk,
• 17:05
  sumber daya Anda sudah tidak selaras jauh
• 17:07
  sebelum Anda berpikir untuk berskala.
• 17:09
  Lalu adalah salah perdata yang tak berunjuk.
• 17:11
  Setiap modal serius menuntut aliran teras, bukan tetesan.
• 17:14
  Aplikasi bisnis bertahan dengan kueri sederhan
• 17:16
  dan pemprosesan batch malam-hal.
• 17:20
  Penyimpanan tidak lagi hanya menampung.
• 17:24
  Ia harus mendorong, menangani konkurensi,
• 17:26
  dan memberikan bandwidth atau akselerator mahal Anda
• 17:28
  hanya akan menunggu.
• 17:29
  Penelitian mempertegas hal ini dengan wawasan cincila.
• 17:32
  Modal lebih besar saja tidak menghasilkan keuntungan
• 17:34
  tanpa sedata pelatihan yang lebih besar secara proporsional
• 17:36
  dan ketidakseimbangan membutasi.
• 17:38
  Itu berarti ukuran dan kualitas sama-sama penting.
• 17:40
  Tanpa masuk, prediksi sampai keluar.
• 17:42
  Pemeriksaan Anda di sini sangat mudah.
• 17:43
  Wujiz stress alur kerja di bawah beban waktu nyata yang realistis.
• 17:46
  Jika truput runtuh atau antrean terbentuk,
• 17:48
  mesin Anda akan tersendat dalam produk.
• 17:50
  Terakhir, bagian paling aneh dari ruang mesin,
• 17:53
  kompleksitas algoritma.
• 17:54
  Perangkat lunak penggajian bekerja selangkah demi selangkah
• 17:56
  dengan peritabilitas yang membosankan.
• 17:58
  Model AI berperilaku lebih seperti awan plasma.
• 18:00
  Mereka berubah bentuk di tengah proses,
• 18:02
  mengembang dengan siklus pelatihan baru
• 18:04
  atau menyusut di bawah input tertentu.
• 18:06
  Grafik komputasi untuk jaringan saraf modern
• 18:08
  mengubah struktur secara dinamis,
• 18:10
  dan ketidakstabilan itu sangat berdampak pada alokasi sumber daya.
• 18:13
  Tanpa alat pemrofilan dan pencetwal dinamis,
• 18:15
  infrastruktur Anda akan kewalahan.
• 18:17
  Pengamanan praktis, terapkan versi model yang ketar
• 18:20
  dan pemrofilan berkelanjutan.
• 18:22
  Dengan begitu, Anda tahu saat grafik mengembang
• 18:23
  dan Anda bisa menyesuaikan komputasi sebelum sistem amrut.
• 18:25
  Pertimbangkan kisah peringatan dari perusahaan
• 18:28
  yang berinvestasi besar-besaran pada GPU
• 18:30
  tetapi memberinya alur kerjaan.
• 18:31
  Akselerator berbaris pedeng, seperti patung,
• 18:33
  sementara data masuk terlalu lambat untuk berarti.
• 18:36
  Pekerjaan mengantri, tetapi tidak ngelola sedambat.
• 18:39
  Hasilnya, uang terbakar, waktu hilang, dan kredibilitas rusak.
• 18:43
  Pelajar mereka menjadi universal.
• 18:44
  Menskalakan AI memuntut keseimbangan
• 18:46
  antara pasokan perangkat keras, aliran data,
• 18:48
  dan perilaku algoritma jangan pernah satu saja secara terisolasi.
• 18:51
  Imbalan dari melakukan ini dengan benar sangat sederhana,
• 18:53
  yaitu keseimbangan.
• 18:54
  Perangkat keras hanya menyalah saat aliran siap.
• 18:56
  Alur data mengalir tanpa membuat akselerator kelaparan.
• 18:59
  Algoritme bergeser dalam kerangka kerja yang dipantau
• 19:01
  sehingga alokasi sumber daya beradaptasi secara insta.
• 19:03
  Ini adalah orkestrasi di dalam ruang mesin itu sendiri,
• 19:05
  bukan kekacauan yang disamarkan sebagai kemajuan.
• 19:08
  Dan pemeriksaan diagnostik adalah kompasnya.
• 19:10
  Pantau waktu menganggur akselerator,
• 19:12
  jalankan uji stres alur kerja,
• 19:13
  lakukan versi dan profil pada model Anda.
• 19:15
  Dengan itu, Anda tahu kapan keseimbangan terjaga
• 19:17
  dan kapan perbaikan mendesak.
• 19:18
  Namun kesimbangan saja tidak lecuk.
• 19:20
  Tanpa aturan dan tata kelola,
• 19:21
  sistem akan terbakar dengan sendirinya.
• 19:23
  Panskalaan bukan sekadar tentang tenaga mentah.
• 19:25
  Ini tentang sistem terkoordinasi
• 19:27
  di mana setiap bagian bergerak menghargai batas
• 19:28
  dan mengalir bersama.
• 19:30
  Itulah perbedaan antara mesin pesawat,
• 19:31
  ruang angkasa yang berfungsi,
• 19:32
  dan eksperimen lab yang membuku di tengah penerbangan.
• 19:35
  Dan ini mengarahkan kita kembali ke gambar yang lebih besar.
• 19:37
  AI tidak ditopang oleh suatu mesin yang ditingkatkan
• 19:40
  atau kluster yang mencolok.
• 19:41
  Ini adalah sistem yang saling terhubung
• 19:42
  di mana perangkat keras, data, dan algoritma
• 19:44
  harus sinkron di bawah tata kelola dan orkestrasi.
• 19:46
  Tanpa itu, mesin terkuat sekalipun
• 19:48
  akan mogok di landasan penguncuran.
• 19:50
  Kesimpulan meneskalakan AI bukan tentang
• 19:52
  menumpuk perangkat keras,
• 19:54
  tetap memperlakukan seluruh sistem
• 19:55
  sebagai sebuah ekosistem.
• 19:56
  Orkestrasi, tata kelola, dan infrastruktur adaptif
• 19:58
  bukanlah pelengkap.
• 19:59
  Ketiganya adalah teriat yang menjaga AI
• 20:01
  tetap selaras dengan strategi dan tangguh
• 20:03
  di bawah kepatuhan.
• 20:04
  Abaikan hal ini dan proyek akan mengecek.
• 20:06
  Terapkan hal ini dan Anda mengubah demo lab
• 20:07
  menjadi kapabilitas perusahaan yang andal.
• 20:09
  Para eksekutif sudah melihat pergeseran tersebut.
• 20:11
  Survei industri yang tertaut di catatan acara
• 20:13
  melaporkan lebih dari 90 persen
• 20:15
  rencana meningkatkan investasi AAA
• 20:16
  dalam 3 tahun ke depan.
• 20:17
  Danda tersebut membutuhkan struktur.
• 20:19
  Orkestrasi gaya pabrik AI berskala perusahaan
• 20:21
  adalah jembatannya.
• 20:23
  Pilihan yang jelas.
• 20:24
  Kekacauan di kemudi atau kru yang memegang kendali.
• 20:26
  Jika transmisi ini meningkatkan level tenaga Anda,
• 20:28
  tekan berlangganan agar transmisi masa depan
• 20:30
  otomatis masuk ke fit Anda.
• 20:31
  Beri peringkat pada acara ini,
• 20:33
  tulis komentar paling tajam Anda,
• 20:34
  dan periksa catatan acara untuk sumber dan tautan.
• 20:37
  Sampai jumpa di frekuensi berikutnya.