In this Article
Data sintetis, yaitu rekaman yang dibuat secara artifisial untuk meniru data nyata, telah menjadi alat standar untuk melatih model saat data nyata langka, sensitif, atau mahal. Namun, data sintetis memiliki satu kelemahan yang terus ada: data ini dapat menjauh dari realitas, dengan menyandikan asumsi pihak yang membuatnya, alih-alih perilaku dunia yang sebenarnya. Solusinya adalah grounding: menambatkan dan memvalidasi data sintetis terhadap data dunia nyata, yang sebagian besar dikumpulkan dari web langsung. Panduan ini menjelaskan apa itu data sintetis, kapan data ini membantu, masalah grounding, dan bagaimana data web (beserta proxy di baliknya) menjaga data sintetis tetap sesuai kenyataan.
Saya Andrii Byzov, seorang CMO fraksional berbasis AI yang membangun pipeline data untuk ML. Berikut ini: definisi yang jelas, alasan tim menggunakan pembuatan data sintetis, alasan data ini memerlukan grounding, dan cara praktis memvalidasinya terhadap data web nyata. Artikel ini melengkapi panduan kami tentang pengumpulan data machine learning.
Fakta Utama
- Pembuatan data sintetis menghasilkan rekaman, bukan mengumpulkannya, untuk mengisi kekosongan saat data nyata langka, bersifat privat, atau tidak seimbang.
- Kelemahannya adalah penyimpangan. Data sintetis mencerminkan asumsi pembuatnya, sehingga seiring waktu dapat menyimpang dari distribusi dunia nyata.
- Grounding membantu mendeteksi dan menguranginya. Anda melakukan seed, memvalidasi, dan melakukan benchmark data sintetis terhadap data nyata, sering kali mencakup data web bersama API, log, dan feed berlisensi.
- Data web untuk grounding beragam secara geografis dan berskala besar, sehingga pengumpulannya sering menggunakan rotating residential proxies, yang berguna untuk sejumlah pengumpulan web terdistribusi secara geografis, tetapi bukan satu-satunya sumber.
- Pendekatan hybrid lebih unggul. Dataset terkuat memadukan volume sintetis dengan jangkar dunia nyata yang menjaganya tetap realistis.
Apa Itu Data Sintetis?
Data sintetis adalah data yang dibuat oleh algoritme, berupa model generatif, simulasi, atau aturan statistik, alih-alih dikumpulkan dari peristiwa nyata. Data ini dirancang agar cukup menyerupai data nyata sehingga berguna untuk pelatihan atau pengujian, tanpa menjadi rekaman nyata tertentu. Bank dapat membuat transaksi sintetis yang sesuai dengan pola pengeluaran nyata tanpa mengungkap satu pun nasabah; tim visi dapat merender gambar sintetis dari kasus tepi langka yang hampir tidak pernah ditangkap kamera. Daya tariknya adalah kendali: Anda dapat menghasilkan sebanyak yang diperlukan, menyeimbangkan kelas, dan mengurangi sebagian masalah privasi serta lisensi pada data nyata (bila dibuat dan divalidasi dengan cermat, data sintetis tetap dapat membocorkan atau mewarisi masalah dari sumbernya).
Mengapa Tim Menggunakan Data Sintetis
- Kelangkaan: saat contoh nyata jarang ditemukan (penipuan, cacat, penyakit langka), Anda menghasilkan lebih banyak data untuk pelatihan.
- Privasi: pengganti sintetis memungkinkan tim bekerja tanpa mengungkap data pribadi atau data yang diatur.
- Keseimbangan: buat kelas yang kurang terwakili agar model tidak didominasi oleh kasus mayoritas.
- Kasus tepi: simulasikan skenario yang berbahaya atau mahal (nyaris celaka bagi model kendaraan otonom) yang tidak dapat Anda kumpulkan dengan aman.
- Biaya dan kecepatan: siapkan dataset besar tanpa waktu dan biaya pengumpulan serta pelabelan berskala besar.
Masalah Grounding: Data Sintetis Menyimpang dari Realitas
Kualitas data sintetis hanya sebaik model atau aturan yang membuatnya, dan keduanya membawa asumsi. Buat harga dari distribusi kuartal lalu, maka inflasi kuartal ini akan terlewat; latih generator pada sampel yang bias, maka bias tersebut akan diperkuat; simulasikan perilaku pengguna, maka yang Anda sandikan adalah gagasan Anda tentang pengguna, bukan pengguna nyata. Kegagalannya terjadi diam-diam: data sintetis tampak masuk akal, model terlatih dengan baik, tetapi kinerjanya buruk di produksi karena mempelajari dunia yang sebenarnya tidak ada. Inilah sebabnya data sintetis tidak dapat berjalan tanpa umpan balik, data ini memerlukan tambatan pada realitas.
Cara Melakukan Grounding Data Sintetis dengan Data Web
Grounding berarti menggunakan data dunia nyata, yang sebagian besar berasal dari web langsung, untuk menjaga data sintetis tetap sesuai kenyataan, melalui tiga cara:
1. Lakukan seed. Latih atau kondisikan generator Anda menggunakan sampel nyata agar dimulai dari distribusi nyata, bukan tebakan.
2. Validasi. Bandingkan statistik data sintetis, seperti distribusi, rentang, dan korelasi, dengan sampel dunia nyata yang terbaru, lalu tandai penyimpangan sebelum mencapai tahap pelatihan.
3. Lakukan benchmark. Evaluasi model yang dilatih dengan data sintetis terhadap data uji nyata, sehingga Anda mengukur kinerja nyata, bukan konsistensi internal sintetis.
Pemeriksaan kewajaran sederhana: ambil sampel nyata terkini (misalnya harga langsung, listing, atau teks dari web) lalu bandingkan statistik dasar, yaitu median di bawah ini, serta dalam praktiknya sebaran dan ekor distribusi, dengan kumpulan data sintetis Anda.
import requests, statistics
# Collect a real-world sample to ground/validate synthetic data against.
# Residential proxies give geo-targeted access to each market's pages
# (access/location — not a substitute for sound sampling).
proxies = {"http": "http://LOGIN:[email protected]:823",
"https": "http://LOGIN:[email protected]:823"}
def real_prices(urls):
out = []
for url in urls:
r = requests.get(url, proxies=proxies, timeout=30)
r.raise_for_status()
out.append(parse_price(r.text)) # your parser -> float
return out
def grounding_check(synthetic, real, tol=0.15):
"""Toy sanity check: flag synthetic data whose median drifted from the
real sample. For real validation also compare spread, tails and shape
(KS / PSI / Wasserstein), not just the median."""
if not real:
raise ValueError("need a real sample to ground against")
s_med, r_med = statistics.median(synthetic), statistics.median(real)
drift = abs(s_med - r_med) / r_med if r_med else float("inf")
return {"synthetic_median": s_med, "real_median": r_med,
"drift": round(drift, 3) if r_med else None,
"ok": bool(r_med) and drift <= tol}
print(grounding_check(synthetic_prices, real_prices(sample_urls)))
Jalankan pemeriksaan tersebut secara terjadwal terhadap data web terbaru agar penyimpangan sintetis terdeteksi lebih awal, karena sampel dunia nyata adalah jangkarnya.
Mengapa Proxy Penting untuk Grounding
Sebagian besar lapisan grounding merupakan masalah pengumpulan data web dan menghadapi hambatan yang lazim. Jangkar dunia nyata harus terkini (data grounding usang tidak lebih baik daripada data sintetis usang), beragam secara geografis (generator yang hanya melakukan grounding pada satu pasar akan mewarisi bias pasar tersebut), dan dikumpulkan dalam skala besar dari banyak sumber. Situs melakukan rate limit dan menandai datacenter IP, sehingga pengumpulan web terdistribusi secara geografis sering menggunakan rotating residential proxies. DataImpulse berharga $1/GB di 195 negara, dengan geo-targeting untuk akses ke setiap pasar nyata (bersama sumber lain seperti API, feed berlisensi, dan dataset publik). Infrastruktur yang sama yang mendukung pengumpulan data ML dan data alternatif menjaga data sintetis tetap memiliki grounding.
Apakah Pengumpulan Data Web untuk Grounding Legal?
Mengumpulkan data web publik nonpribadi untuk memvalidasi atau melakukan seed data sintetis mengikuti aturan yang sama seperti web scraping lainnya. Ironisnya, data sintetis sering digunakan justru untuk menghindari penanganan data pribadi nyata, dan ini merupakan keunggulannya. Pastikan pengumpulan untuk grounding tetap berada pada jalur yang dapat dipertanggungjawabkan: utamakan data publik nonpribadi, patuhi ketentuan situs dan perlakukan robots.txt sebagai sinyal kebijakan teknis yang dapat memiliki bobot hukum atau kontraktual, jangan melewati login, serta atur laju request; ketersediaan publik tidak menghapus persoalan hak cipta atau privasi, jadi nilai berdasarkan sumber dan penggunaan. Penggunaan proxy untuk pengumpulan yang sah mungkin legal, tergantung konteks. Nilai tiap sumber secara terpisah (dengan penasihat hukum bila diperlukan). Untuk kerangkanya, lihat apakah web scraping legal. Ini adalah informasi umum, bukan nasihat hukum.
Pertanyaan yang Sering Diajukan
Apa itu data sintetis?
Data sintetis adalah data yang dihasilkan oleh algoritme, berupa model generatif, simulasi, atau aturan statistik, yang menyerupai data nyata tanpa menjadi rekaman nyata tertentu. Tim menggunakannya untuk melatih dan menguji model saat data nyata langka, bersifat privat, tidak seimbang, atau mahal untuk dikumpulkan.
Apa itu web grounding untuk data sintetis?
Grounding berarti menambatkan data sintetis pada realitas menggunakan data dunia nyata, yang sebagian besar berasal dari web langsung. Anda melakukan seed generator pada sampel nyata, memvalidasi distribusi sintetis terhadap data nyata terbaru, dan melakukan benchmark model pada kumpulan data uji nyata, sehingga data sintetis tetap realistis alih-alih menyimpang ke asumsi pembuatnya.
Mengapa data sintetis memerlukan grounding?
Karena data sintetis menyandikan asumsi pihak yang membuatnya, data ini dapat menyimpang dari distribusi dunia nyata secara diam-diam, meski tetap tampak masuk akal. Tanpa jangkar dunia nyata untuk validasi, model dapat terlatih dengan baik menggunakan data sintetis lalu berkinerja buruk di produksi. Grounding menangkap penyimpangan tersebut.
Apakah saya memerlukan proxy untuk mengumpulkan data grounding?
Sering kali, untuk pengumpulan web yang terkini, beragam secara geografis, dan berskala besar. Data grounding harus terbaru dan mencerminkan pasar nyata, sementara situs melakukan rate limit dan menandai datacenter IP, sehingga pengumpulan terdistribusi secara geografis umumnya menggunakan rotating residential proxies. Namun, proxy bukan satu-satunya sumber: API, feed berlisensi, dan dataset publik juga merupakan bagian dari perpaduan sumber.
Apakah data sintetis lebih baik daripada data nyata?
Tidak ada yang mutlak lebih baik, keduanya menyelesaikan masalah yang berbeda. Data sintetis memberi Anda volume, keseimbangan, dan privasi; data nyata memberi Anda data acuan yang benar. Pendekatan terkuat adalah hibrida: volume sintetis yang ditambatkan oleh data grounding dunia nyata agar tetap realistis.
Kesimpulan
Data sintetis adalah cara yang ampuh untuk memperoleh volume, keseimbangan, dan privasi yang sulit diberikan oleh pengumpulan data nyata. Namun, jika digunakan sendiri, data ini menyimpang dan mempelajari dunia yang dibentuk pembuatnya, bukan dunia nyata. Grounding terhadap data web terkini yang beragam secara geografis menutup kesenjangan tersebut: lakukan seed pada sampel nyata, validasi terhadap sampel terbaru, dan lakukan benchmark pada pengujian nyata. Lapisan grounding tersebut adalah pipeline data web, sehingga berjalan pada infrastruktur residential-proxy yang sama dengan bagian lain pengumpulan Anda. Gunakan data sintetis untuk skala dan grounding dunia nyata agar tetap sesuai kenyataan. Lihat pengumpulan data machine learning dan proxy terbaik untuk pelatihan ML untuk sisi pengumpulannya.
Terakhir diperbarui: 26 Juni 2026.
