- Jenjang 3 · Higher Up
- Kredensial terverifikasi
LLMOps: Mengoperasikan Aplikasi LLM di Produksi
Bawa aplikasi LLM dari demo ke produksi: evaluasi otomatis sebelum rilis, pemantauan kualitas dan biaya, model serving, dan rencana saat penyedia model gagal. Rubrik menilai keputusan operasional Anda di bawah batasan biaya dan latensi.
Ringkasan
Yang Anda dapatkan
- 9 materi yang bisa dibuka kapan saja
- Karya 4 tahap, tiap tahap dibalas reviewer bernama
- Kredensial yang bisa diperiksa siapa pun tanpa login, bila karya Anda lulus
Skill yang diajarkan
Kelas ini berada di Jenjang 3 · Higher Up: karyanya setara pekerjaan nyata, dan rubriknya menilai keputusan yang Anda ambil, bukan kebenaran langkah.
Karya & rubrik
Kelas ini ditutup dengan karya yang dinilai reviewer bernama memakai rubrik di bawah — rubrik yang sama persis dengan yang dipakai menilai pekerjaan Anda nanti.
- 1Kerangka
- 2Draf
- 3Revisi
- 4Final
Lapisan operasional produksi untuk satu aplikasi LLM: gerbang evaluasi, gateway, pemantauan, dan runbook
Ambil satu aplikasi LLM yang sudah berjalan dan siapkan untuk produksi. Anda menentukan sendiri target kualitas, latensi, dan biaya, lalu membuktikan sistem Anda menegakkannya. Simulasikan minimal dua insiden (penyedia model mati, dan kualitas turun setelah ganti prompt) dan tunjukkan bagaimana sistem Anda menanganinya. Tahapan pengerjaan • Kerangka: Target layanan (kualitas, latensi p95, biaya per permintaan), arsitektur operasional, rencana evaluasi, dan analisis biaya awal API vs model sendiri. • Draf: Gerbang evaluasi di CI berjalan, gateway dengan satu cadangan penyedia aktif, dan dasbor dasar. • Revisi: Model terbuka dilayani sendiri dan dibandingkan secara terukur, pemantauan kualitas aktif, dan umpan balik reviewer ditindaklanjuti. • Final: Simulasi dua insiden beserta buktinya, runbook, dan laporan keputusan akhir: apa yang Anda pilih dan berapa biayanya.
Yang diserahkan: Tautan repositori (konfigurasi CI, gateway, dan infrastruktur sebagai kode), tangkapan dasbor, runbook, dan laporan keputusan maksimal 4 halaman berisi tabel biaya dan latensi.
Kriteria penilaian
Lulus mulai 75%- Kualitas keputusan operasionalbobot 25% · skor 0–4
Pilihan API vs model sendiri, cache, dan cadangan dibenarkan dengan angka biaya dan latensi, bukan selera.
- Gerbang evaluasi yang bermaknabobot 25% · skor 0–4
Rilis yang menurunkan kualitas benar-benar terblokir; set uji mewakili penggunaan nyata.
- Ketahanan terhadap kegagalanbobot 20% · skor 0–4
Insiden yang disimulasikan tertangani sesuai target; degradasi terkendali, tidak mati total.
- Observabilitasbobot 20% · skor 0–4
Kualitas, latensi, token, dan biaya terlihat per fitur dan cukup untuk mendiagnosis insiden.
- Runbook dan dokumentasibobot 10% · skor 0–4
Runbook bisa diikuti engineer lain yang tidak membangun sistem ini.
Silabus
Isi materi terbuka setelah Anda terdaftar.
- 1Apa yang berbeda saat mengoperasikan aplikasi LLMTeks
- 2Evaluasi sebagai gerbang rilis: set uji, LLM-as-judge, dan batasannyaTeks
- 3Model serving: menjalankan model terbuka dan mengukur throughputTeks
- 4Infrastruktur GPU: memilih, menyewa, dan menghitung biayaTeks
- 5Gateway model: cache, batas laju, cadangan penyediaTeks
- 6Observabilitas: trace permintaan, token, biaya, dan kualitasTeks
- 7Versi prompt dan model sebagai artefak rilisTeks
- 8Insiden khas LLM dan runbook-nyaTeks
- 9Optimasi biaya: model kecil, cache, dan batchingTeks
Pengajar
Solvera AI & Technology Academy terverifikasi
Tim pengajar Solvera untuk kelas teknologi, AI, data, dan keuangan di Exelern. Setiap kelas ditutup dengan karya nyata yang dinilai reviewer memakai rubrik terbuka, bukan kuis pilihan ganda.
- AI generatif
- Rekayasa perangkat lunak
- Data dan analitik
- Cloud dan keamanan siber
- Keuangan dan akuntansi
Pertanyaan yang sering diajukan
Bagaimana karya saya dinilai?
Apakah ada tenggat pengerjaan?
Bisakah kantor saya membiayai kelas ini?
Apa beda kredensial Exelern dengan sertifikat kehadiran?
Untuk tim
Kelas yang sama untuk satu orang, satu tim, atau satu angkatan khusus organisasi Anda.
Klaim ke kantor
Templat email ke atasan dan bukti yang biasanya diminta bagian keuangan.
Buka panduanDaftarkan tim
Beberapa orang di kelas ini, dengan kredensial yang bisa Anda periksa satu per satu.
Ceritakan kebutuhan timAngkatan privat
Satu angkatan khusus organisasi Anda, dengan karya yang disesuaikan pekerjaan tim.
Ajukan angkatan privat
Kelas terkait
- Kredensial dari karyaRp349.000
Jenjang 2 · Climb Up Skills
Dashboard dan Data Storytelling untuk Pengambil Keputusan
Mulai kapan saja · 8 materi
Kredensial dari karyaRp1.490.000- Kredensial dari karyaRp349.000