Mengaudit Janji Sebenarnya dari Penyedia LLM Tentang Data Anda

Ketika tim produk perusahaan mengintegrasikan large language models (LLMs) ke dalam software mereka, mereka sering berasumsi bahwa perjanjian API tingkat enterprise secara otomatis melindungi privasi pengguna mereka. Namun, jika kita membaca dengan teliti kebijakan privasi developer LLM frontier, terlihat adanya celah sistematis antara ekspektasi pengguna dan apa yang sebenarnya dijanjikan oleh developer secara kontraktual.

Analisis terbaru terhadap enam developer AI frontier di AS mengungkap realitas yang mengejutkan: keenam developer tersebut tampaknya menggunakan data obrolan pengguna secara default untuk melatih dan meningkatkan model mereka, dan beberapa di antaranya menyimpan data ini tanpa batas waktu. Ini mencakup informasi pribadi sensitif yang diungkapkan dalam prompt dan file yang diunggah oleh pengguna.

Ini bukan sekadar masalah kepatuhan; ini merupakan perpindahan risiko secara struktural. Saat Anda membangun aplikasi di atas sebuah LLM tanpa secara eksplisit mengaudit dan mengonfigurasi kebijakan retensi data penyedia, Anda menerima risiko privasi yang tidak diungkapkan atas nama pengguna Anda. Menyadari bahwa Tata Kelola AI Adalah Disiplin Produk, Bukan Sekadar Daftar Periksa Kepatuhan, tim produk harus secara aktif merancang alur data yang melindungi pengguna, bukannya menggunakan pengaturan pengumpulan data bawaan dari model frontier yang terlalu permisif. Asumsi bahwa lapisan LLM adalah utilitas netral yang tidak menyimpan data (stateless) adalah salah satu kesalahpahaman paling berbahaya dalam pengembangan produk AI modern.

Ilusi Privasi Secara Default

Asumsi bahwa interaksi pengguna hanya diproses sementara lalu dibuang adalah salah. Mayoritas model frontier mengharuskan pengguna yang tidak ingin datanya digunakan untuk pelatihan model melakukan opt-out secara aktif. Kendati demikian, mekanisme untuk opt-out sering kali tersembunyi di dalam kebijakan privasi yang padat, sulit dibaca, dan tidak memiliki standardisasi. Kebijakan-kebijakan ini biasanya terlalu panjang, disajikan dengan buruk sebagai blok teks yang padat, dan ditulis dalam bahasa hukum yang membutuhkan gelar sarjana untuk dipahami. Kebijakan tersebut tidak dirancang agar mudah dinavigasi oleh pengguna akhir, atau bahkan oleh tim produk yang mengevaluasinya.

Lebih jauh lagi, penyimpanan data ini memunculkan risiko turunan yang signifikan. Developer dapat mengumpulkan dan berlatih menggunakan informasi pribadi, termasuk data biometrik dan kesehatan, yang diungkapkan dalam obrolan. Ketika data ini disimpan tanpa batas waktu, hal itu menjadi liabilitas permanen. Setiap prompt yang dikirimkan oleh pengguna Anda yang berisi informasi sensitif menjadi bagian permanen dari set data pelatihan pihak ketiga kecuali tindakan eksplisit diambil. Hal ini menciptakan honeypot data yang tidak dikelola, yang mana organisasi Anda tidak memiliki visibilitas atau kontrol atasnya. Jika produk Anda bergantung pada model ini, maka Infrastruktur Keputusan yang Menjadikan Keputusan AI yang Tepat Sebagai Standar di produk Anda harus mencakup batasan arsitektur eksplisit yang membersihkan data sensitif sebelum mencapai LLM pihak ketiga. Ketika tim produk abai mengaudit kebijakan-kebijakan ini, mereka secara implisit memindahkan beban perlindungan privasi ke pengguna akhir. Ini adalah sebuah pengabaian tanggung jawab. Dalam infrastruktur keputusan yang sehat, sistem harus melindungi pengguna secara default, memperlakukan data mereka dengan tingkat kehati-hatian tertinggi alih-alih menyajikannya ke model eksternal sebagai pakan pelatihan. Membiarkan kebijakan retensi data tidak terkontrol mengubah aplikasi perusahaan Anda menjadi agen pengumpulan data tanpa disadari bagi penyedia model dasar (foundation model).

The Governance Frontier dan Anggaran Privasi

Ketegangan antara utilitas model dan privasi bukan sekadar masalah kualitatif; ini bisa diukur secara matematis. Konsep “Governance Frontier” menetapkan bahwa ada batasan bersama pada akurasi, keadilan, privasi, dan keterjelasan (explainability) sebuah model. Ekspektasi regulasi terhadap machine learning semakin menuntut keempat properti ini sekaligus, namun realitas matematisnya adalah mereka saling mengorbankan satu sama lain. Setiap tuntutan untuk akurasi atau personalisasi yang lebih tinggi harus dibayar dengan mengorbankan privasi dalam jumlah tertentu, sesuatu yang oleh para peneliti disebut sebagai “anggaran privasi optimal kesejahteraan” (welfare-optimal privacy budget).

Anggaran ini didapat dari kondisi first-order yang menyetarakan peningkatan akurasi marjinal dari anggaran yang lebih longgar dengan bahaya pengungkapan marjinalnya. Dalam kerangka kerja ini, masalah yang lebih sulit dan berdimensi tinggi secara rasional menuntut pengeluaran anggaran privasi yang lebih besar, sementara lingkungan dengan data yang lebih banyak atau sinyal yang lebih kuat dapat menghabiskan lebih sedikit. Wawasan kritis bagi para pemimpin produk adalah bahwa anggaran privasi yang optimal akan menurun seiring dengan meningkatnya bobot yang diberikan oleh masyarakat (dan pengguna Anda) terhadap privasi. Secara khusus, anggaran optimal tersebut akan turun bersama bobot privasi di masyarakat pada elastisitas −1/3. Anda tidak dapat serta-merta memaksimalkan akurasi tanpa secara eksplisit menyeimbangkannya dengan anggaran privasi. Setiap kali tim produk Anda memutuskan untuk mengirimkan konteks yang lebih kaya ke sebuah LLM demi meningkatkan output, Anda sedang menghabiskan anggaran privasi tersebut.

Pertukaran itu punya bentuk, dan bentuknya huruf U: di satu ujung akurasi runtuh, di ujung lain kerugian dari data yang tersingkap melampaui manfaatnya sendiri.

Gambar 1. Kerugian tata kelola pada berbagai anggaran privasi, dengan titik minimum menandai anggaran yang optimal secara kesejahteraan, dan optimum yang sama ditampilkan sebagai titik pertemuan antara tambahan akurasi dan tambahan kerugian privasi. Sumber: Kenney, N. M., 2026, The Governance Frontier: Joint Limits of Accuracy, Fairness, Privacy, and Explainability, and the Welfare-Optimal Privacy Budget, preprint, p. 9.

Mendesain untuk Realitas Kebijakan LLM

Tim perusahaan tidak dapat bergantung pada penyedia LLM untuk mengatur sendiri kehausan mereka akan data. Perlombaan menuju model yang semakin canggih membutuhkan data interaksi manusia berkualitas tinggi dalam jumlah besar, yang menciptakan konflik kepentingan langsung antara kebutuhan penyedia akan data pelatihan dan hak privasi pengguna Anda. Selama vektor kompetitif utama bagi model-model frontier adalah kemampuan penalarannya, developer akan terus memprioritaskan pengumpulan data di atas privasi bawaan (default privacy).

Untuk membangun secara bertanggung jawab, pemimpin produk harus mengambil kendali:

1. Asumsikan Opt-In Secara Default: Perlakukan setiap integrasi LLM pihak ketiga seolah-olah mereka secara aktif mencatat dan melatih data input pengguna Anda, kecuali ada kontrak eksplisit yang menyatakan sebaliknya. Anda harus menegosiasikan perjanjian retensi nol data (zero-data retention) untuk tingkat perusahaan, dan memverifikasi bahwa level API Anda benar-benar menerapkannya. Jangan berasumsi bahwa label “enterprise” berarti tidak ada data yang disimpan.
2. Terapkan Pembersihan di Tingkat Arsitektur: Jangan hanya bergantung pada kebijakan. Terapkan pembersihan data lokal untuk menghapus Informasi Identitas Pribadi (PII) sebelum data tersebut keluar dari server Anda. Arsitektur Anda harus diatur untuk menutupi identitas secara default (masking), yang berarti LLM menerima token yang dianomimkan alih-alih data mentah pengguna.
3. Hitung Anggaran Privasi Anda: Akui keberadaan Governance Frontier. Putuskan secara eksplisit seberapa besar privasi yang bersedia Anda tukarkan demi akurasi model, dan komunikasikan tarik-ulur tersebut secara transparan kepada pengguna Anda. Saat mendesain fitur, tanyakan apakah keuntungan marjinal dalam akurasi sepadan dengan bahaya marjinal dari pengungkapan datanya.
4. Pantau Perubahan Kebijakan: Kebijakan dari developer AI berubah dengan cepat dan seringkali dilakukan diam-diam. Bangunlah sebuah proses berulang untuk mengaudit kebijakan privasi dari model dasar yang menopang aplikasi Anda, memastikan bahwa pembaruan kebijakan di pusat tidak mendadak membahayakan data pengguna Anda.

Jalan ke depan menuntut pergeseran mendasar dalam cara kita memandang integrasi dengan pihak ketiga. Daripada sekadar melihat API LLM sebagai utilitas sederhana, perlakukanlah itu sebagai dependensi kompleks dengan implikasi privasi yang mendalam. Dengan menetapkan batasan arsitektur yang jelas dan menghitung anggaran privasi Anda secara ketat, Anda dapat memanfaatkan kekuatan model frontier tanpa mengorbankan kepercayaan yang telah diberikan pengguna. Melindungi privasi pengguna harus diperlakukan sebagai fitur produk utama, bukan sebagai pertimbangan yang baru dipikirkan belakangan lalu dilimpahkan ke API pihak ketiga.

Referensi

• King, J., Klyman, K., Capstick, E., Saade, T., & Hsieh, V. (2025). User Privacy and Large Language Models: An Analysis of Frontier Developers’ Privacy Policies. Stanford University.
• Kenney, N. M. (2026). The Governance Frontier: Joint Limits of Accuracy, Fairness, Privacy, and Explainability, and the Welfare-Optimal Privacy Budget.