Risiko: model, bias, perilaku ikut-ikutan, dan penipuan

Risiko kecerdasan buatan dalam jasa keuangan terbagi ke dalam beberapa kategori yang telah diidentifikasi oleh otoritas pengawas dan literatur. Risiko model adalah yang tertua. Setiap model menyederhanakan kenyataan dan dapat gagal ketika kondisi berubah. Model pembelajaran mesin sangat rentan karena model ini mempelajari pola dari data historis yang mungkin tidak berlaku lagi di masa depan. Kompleksitas model besar menyulitkan validasinya dengan cara yang telah diterapkan bank terhadap model statistik sejak tahun 2000-an.¹

Bias dan diskriminasi membentuk kategori kedua. Model kredit yang dilatih dengan keputusan-keputusan historis dapat mereproduksi pola keputusan tersebut, termasuk kerugian apa pun bagi kelompok tertentu, bahkan ketika model itu tidak menggunakan karakteristik yang dilindungi secara langsung. Hukum Swiss tidak memuat larangan umum atas diskriminasi antara pihak-pihak privat, meskipun perlindungan kepribadian berdasarkan Pasal 28 Kitab Undang-Undang Hukum Perdata Swiss (CC) dan undang-undang khusus memberikan perlindungan tertentu. Pedoman Otoritas Pengawas Pasar Keuangan Swiss (FINMA) mencantumkan kesetaraan perlakuan di antara bidang-bidang yang menjadi perhatiannya, sementara Undang-Undang AI Uni Eropa (UE/EU) menangani persoalan ini melalui persyaratan tata kelola data untuk sistem berisiko tinggi.² Keterjelasan (explainability) berkaitan erat dengan hal ini. Apabila suatu model tidak dapat menjelaskan mengapa model itu menolak permohonan pinjaman atau menandai suatu transaksi, klien tidak dapat menggugat keputusan tersebut dan lembaga tidak dapat membuktikan bahwa ia telah bertindak sesuai hukum.

Stabilitas keuangan adalah kepedulian lembaga-lembaga di Basel. Apabila banyak pelaku pasar menggunakan model serupa yang dilatih dengan data serupa, keputusan mereka dapat menjadi berkorelasi. Hal ini dapat memperbesar pergerakan pasar dan mengurangi keragaman pandangan yang menjaga likuiditas pasar. Gary Gensler, sebelum menjadi ketua United States Securities and Exchange Commission, bersama Lily Bailey menguraikan risiko perilaku ikut-ikutan (herding) ini dalam sebuah makalah tahun 2020. Mereka berpendapat bahwa pembelajaran mendalam dapat meningkatkan risiko sistemik melalui keseragaman, keterkaitan jaringan, dan celah regulasi.³ Financial Stability Board menambahkan konsentrasi pada segelintir penyedia model, layanan cloud, dan cip, yang menciptakan titik kegagalan tunggal bagi sistem keuangan.⁴

Risiko siber dan penipuan tumbuh seiring dengan teknologi ini. Para penyerang menggunakan model bahasa untuk menulis pesan phishing yang meyakinkan dalam bahasa apa pun, termasuk bahasa Jerman Swiss, dan untuk menemukan kelemahan dalam perangkat lunak. Kloning suara dan video deepfake memungkinkan pelaku kejahatan menyamar sebagai eksekutif, klien, atau kerabat. Dalam sebuah kasus yang diberitakan luas pada 2024, seorang karyawan perusahaan rekayasa Arup di Hong Kong mentransfer sekitar USD 25 juta setelah sebuah konferensi video yang seluruh peserta lainnya, termasuk orang yang tampak sebagai direktur keuangan, dihasilkan oleh kecerdasan buatan.⁵ Pusat Keamanan Siber Nasional, yang pada 2024 menjadi Kantor Federal untuk Keamanan Siber (BACS), telah melaporkan meningkatnya jumlah upaya semacam itu di Swiss.⁶ Bagi bank dan klien mereka, konsekuensinya adalah bahwa suara atau wajah di layar tidak lagi membuktikan identitas, sehingga instruksi pembayaran memerlukan verifikasi independen melalui saluran terpisah.

Catatan

1. Mengenai manajemen risiko model, lihat pedoman pengawasan Federal Reserve dan Office of the Comptroller of the Currency, SR 11-7, Guidance on Model Risk Management, April 2011, yang telah memengaruhi praktik secara internasional. Perlu diverifikasi. ↩
2. Pasal 28 Kitab Undang-Undang Hukum Perdata Swiss (ZGB, SR 210); Pedoman FINMA 08/2024; Pasal 10 Peraturan (UE) 2024/1689 tentang data dan tata kelola data. Perlu diverifikasi. ↩
3. Gary Gensler dan Lily Bailey, “Deep Learning and Financial Stability”, makalah kerja, MIT, November 2020. Perlu diverifikasi. ↩
4. Financial Stability Board, The Financial Stability Implications of Artificial Intelligence, 14 November 2024, subbagian tentang ketergantungan pada pihak ketiga dan korelasi pasar. Perlu diverifikasi. ↩
5. Laporan Kepolisian Hong Kong dan pemberitaan pers internasional bulan Februari dan Mei 2024 tentang penipuan deepfake terhadap kantor Arup di Hong Kong. Angka perlu diverifikasi. ↩
6. Kantor Federal untuk Keamanan Siber (BACS), laporan semesteran dan tinjauan mingguan tentang penipuan dan deepfake sejak 2024. Status perlu diverifikasi. ↩

Hanya untuk informasi umum. Artikel ini bukan merupakan nasihat hukum atau pajak, tidak menggantikan nasihat atas kasus individual, dan tidak menimbulkan hubungan antara advokat dan klien. Artikel ini mencerminkan keadaan hukum per Oktober 2026.