unstructured data

Pipeline ELT tiga sumber dengan pemeriksaan kualitas data dan keluaran siap-AI

Bangun pipeline untuk satu kasus bisnis dengan minimal tiga sumber data (API, berkas, dan basis data). Muat ke gudang data berlapis, tegakkan aturan kualitas, dan hasilkan satu keluaran siap-AI. Dataset publik atau dataset sintetis yang realistis boleh dipakai; dataset contoh disediakan bagi yang belum punya. Tahapan pengerjaan • Kerangka: Kasus bisnis, daftar sumber beserta contoh datanya, diagram lapisan data, rancangan model dimensional, dan daftar aturan kualitas data. • Draf: Pipeline berjalan ujung ke ujung untuk dua sumber, transformasi utama selesai, dan jadwal berjalan. • Revisi: Ketiga sumber masuk, pemeriksaan kualitas otomatis aktif, pemuatan ulang terbukti idempoten, dan umpan balik reviewer ditindaklanjuti. • Final: Keluaran siap-AI, dokumentasi lineage data, dan demo satu insiden kualitas data yang tertangkap oleh pemeriksaan Anda.

Yang diserahkan: Tautan repositori Git (docker compose untuk menjalankan semuanya), diagram arsitektur dan lineage, laporan kualitas data, serta video demo maksimal 5 menit.

• Ketepatan pemodelan databobot 25% · skor 0–4

  Model gudang data menjawab kebutuhan bisnis yang ditetapkan; grain tabel jelas dan konsisten.

• Keandalan pipelinebobot 25% · skor 0–4

  Pipeline idempoten, bisa dijalankan ulang tanpa duplikasi, dan kegagalan terlihat (tidak diam-diam).

• Kualitas databobot 25% · skor 0–4

  Aturan kualitas bermakna, diuji otomatis, dan data buruk dikarantina alih-alih diloloskan.

• Kesiapan untuk AIbobot 15% · skor 0–4

  Keluaran untuk aplikasi AI bersih, berpotongan masuk akal, dan membawa metadata yang dibutuhkan.

• Dokumentasi dan reprodusibilitasbobot 10% · skor 0–4

  Orang lain bisa menjalankan pipeline dari README; lineage terdokumentasi.

Asisten pengetahuan RAG untuk satu kumpulan dokumen nyata, lengkap dengan set uji

Pilih satu kumpulan dokumen nyata yang boleh Anda pakai (minimal 30 dokumen, boleh dokumen publik seperti peraturan atau dokumentasi produk open source). Bangun asisten tanya-jawab di atasnya dan buktikan kualitasnya dengan angka. Tahapan pengerjaan • Kerangka: Dokumen yang dipilih dan alasannya, 20 pertanyaan uji beserta jawaban yang benar (termasuk minimal 5 pertanyaan yang jawabannya TIDAK ada di dokumen), dan rancangan arsitektur satu halaman. • Draf: Pipeline berjalan ujung ke ujung: ingest, embedding, pengambilan, jawaban dengan kutipan. Hasil pertama terhadap 20 pertanyaan uji. • Revisi: Perbaikan berdasarkan umpan balik reviewer dan hasil uji: strategi chunking, pengambilan gabungan, atau prompt. Tunjukkan angka sebelum dan sesudah. • Final: Repositori lengkap, video demo maksimal 5 menit, dan laporan evaluasi akhir termasuk satu skenario pembatasan akses dokumen.

Yang diserahkan: Tautan repositori Git (README berisi cara menjalankan), laporan evaluasi PDF maksimal 4 halaman berisi tabel hasil 20 pertanyaan uji, dan tautan video demo maksimal 5 menit.

• Ketepatan dan pembumian jawabanbobot 30% · skor 0–4

  Jawaban benar menurut dokumen, setiap klaim punya kutipan sumber yang bisa dicek, dan pertanyaan di luar dokumen dijawab 'tidak ditemukan' alih-alih dikarang.

• Kualitas pengambilanbobot 25% · skor 0–4

  Strategi chunking dan pengambilan dipilih dengan alasan, dan perbaikannya terukur antara draf dan final.

• Evaluasi yang jujurbobot 20% · skor 0–4

  Set uji mencakup kasus sulit dan kasus tanpa jawaban; angka dilaporkan apa adanya termasuk kegagalan.

• Keamanan akses dokumenbobot 15% · skor 0–4

  Pengguna tidak bisa mendapatkan isi dokumen yang bukan haknya lewat pertanyaan apa pun yang diuji.

• Kerapian rekayasabobot 10% · skor 0–4

  Kode bisa dijalankan orang lain dari README, kunci API tidak ada di repositori, biaya per pertanyaan diperkirakan.