B2Shift · Diterbitkan 3 Agustus 2026 · Diperbarui 14 Agustus 2026
Sebagian besar insiden keselamatan AI dalam bisnis bukanlah kegagalan model. Kegagalan tersebut adalah kegagalan akses: suatu sistem yang dapat menjangkau lebih banyak data daripada yang dibutuhkan tugas, bertindak tanpa pos pemeriksaan, tidak meninggalkan catatan tentang apa yang dilakukannya. Pengendalian yang mencegah hal tersebut merupakan praktik rekayasa biasa, yang diterapkan dengan sengaja.
Mulailah dengan minimalisasi data dan tujuan yang terdokumentasi
Otomatisasi berbasis GDPR dimulai sebelum kode apa pun: tuliskan tujuan alur kerja, data pribadi apa yang benar-benar diperlukan, dan berapa lama data tersebut harus disimpan. Kemudian buat sistemnya cocok. Hanya bidang dan sistem yang benar-benar diperlukan oleh alur kerja yang dapat dijangkau — bukan keseluruhan CRM karena lebih mudah untuk diberikan.
Ini juga merupakan pengendalian termurah untuk diterapkan dan paling mahal untuk retrofit. Memperluas akses nanti adalah perubahan konfigurasi; mempersempitnya setelah suatu sistem berjalan selama satu tahun berarti menemukan apa yang diam-diam bergantung padanya.
Beri gerbang pada tindakan yang tidak dapat dibatalkan
Tidak setiap langkah memerlukan persetujuan, dan memperlakukan semuanya dengan sama akan melatih orang untuk mengkliknya. Pisahkan tindakan berdasarkan reversibilitas. Membaca, mengklasifikasikan, menyusun, dan merutekan biasanya dapat berjalan tanpa pengawasan. Mengirim uang, mempublikasikan harga, membalas keluhan, menghapus catatan, dan apa pun yang sampai ke pelanggan atas nama Anda layak mendapatkan gerbang manusia, atau setidaknya jendela penundaan di mana seseorang dapat melakukan intervensi.
Akses berbasis peran termasuk dalam percakapan yang sama. Otomatisasi harus bertindak dengan identitas dan izinnya sendiri, bukan dengan meminjam kredensial administrator — yang merupakan masalah keamanan dan masalah audit, karena setelahnya tidak ada yang bisa membedakan manusia dan mesin di log.
Jadikan setiap keputusan dapat direkonstruksi
Setiap tindakan harus meninggalkan catatan audit: apa yang memicunya, konteks apa yang digunakan, apa yang diputuskan oleh sistem, keyakinan apa yang dimilikinya, apakah disetujui oleh manusia, dan apa yang berubah sebagai hasilnya. Hal ini terdengar seperti biaya kepatuhan hingga pertama kali pelanggan menyengketakan sesuatu, dan pada saat itulah hal tersebut menjadi satu-satunya hal yang menghalangi Anda dan tebakan.
Penanganan kepercayaan diri juga termasuk di sini. Alur kerja harus memiliki jalur eksplisit untuk kasus dengan tingkat kepercayaan rendah — ke orang atau antrean yang disebutkan, bukan secara diam-diam ke tebakan terbaik. Mode kegagalan yang Anda inginkan adalah 'ini terjadi pada manusia', bukan 'ini terjadi salah dan tidak ada yang menyadarinya selama tiga minggu'.
Ketahui di mana model dijalankan dan apa yang dipertahankannya
Ajukan tiga pertanyaan kepada penyedia mana pun: di mana data diproses, apakah data disimpan, dan apakah data digunakan untuk pelatihan. Jawabannya sangat berbeda antara produk konsumen dan tingkatan bisnis dari vendor yang sama, serta antara penerapan yang dihosting dan penerapan pribadi. Untuk data yang diatur, pilihan penerapan — wilayah UE, hosting pribadi, atau model terbuka yang dihosting sendiri — merupakan keputusan kepatuhan, bukan preferensi.
Pendapat Dewan Perlindungan Data Eropa tentang model AI adalah referensi yang patut dibaca sebelum berkomitmen pada suatu arsitektur; hal ini mencakup saat keluaran model dan data pelatihan melibatkan kewajiban perlindungan data.
Apa yang tidak dapat dilakukan oleh kontrol teknis
Semua hal di atas mengurangi risiko. Tidak ada satupun yang menetapkan dasar hukum untuk pemrosesan, menyusun pemberitahuan privasi Anda, memutuskan apakah penilaian dampak perlindungan data diperlukan, atau menyelesaikan tanggung jawab Anda sebagai pengontrol atau pemroses. Hal ini bergantung pada kasus penggunaan spesifik Anda dan pihak-pihak yang terlibat, dan hal tersebut memerlukan tinjauan hukum, bukan tinjauan teknis. Kontrol yang baik membuat peninjauan menjadi mudah; mereka tidak menggantinya.
Diskusikan alur kerja Anda