Lambert di sini: Apakah generator omong kosong benar-benar merupakan “agen pemaksimalan yang rasional”?
Oleh Jon Danielsson, Direktur, Systemic Risk Center London School Of Economics and Political Science, dan Andreas Uthemann, Peneliti utama Bank Of Canada; Rekan Peneliti di Sekolah Ekonomi dan Ilmu Politik Pusat Risiko Sistemik London. Awalnya diterbitkan di VoxEU.
Kecerdasan buatan dapat bertindak untuk menstabilkan sistem keuangan atau meningkatkan frekuensi dan tingkat keparahan krisis keuangan. Kolom kedua dalam rangkaian dua bagian ini berpendapat bahwa hasil yang dicapai mungkin bergantung pada cara otoritas keuangan memilih untuk terlibat dengan AI. Pihak berwenang berada pada posisi yang sangat dirugikan karena lembaga keuangan sektor swasta mempunyai akses terhadap keahlian, sumber daya komputasi yang unggul, dan, semakin banyak, data yang lebih baik. Cara terbaik bagi pihak berwenang untuk merespons AI adalah dengan mengembangkan mesin AI mereka sendiri, menyiapkan tautan AI-ke-AI, menerapkan fasilitas berdiri otomatis, dan memanfaatkan kemitraan publik-swasta.
Kecerdasan buatan (AI) mempunyai potensi besar untuk meningkatkan tingkat keparahan, frekuensi, dan intensitas krisis keuangan. Kami membahas hal ini minggu lalu di VoxEU dalam kolom berjudul “Krisis keuangan AI” (Danielsson dan Uthemann 2024a). Namun AI juga dapat menstabilkan sistem keuangan. Tergantung bagaimana pihak berwenang menyikapinya.
Dalam klasifikasi Norvig dan Russell (2021), kami melihat AI sebagai “agen pemaksimalan rasional”. Definisi ini sesuai dengan analisis ekonomi pada umumnya mengenai stabilitas keuangan. Apa yang membedakan AI dari pemodelan statistik murni adalah AI tidak hanya menggunakan data kuantitatif untuk memberikan saran numerik; ia juga menerapkan pembelajaran yang didorong oleh tujuan untuk melatih dirinya dengan data kualitatif dan kuantitatif, memberikan nasihat dan bahkan membuat keputusan.
Salah satu tugas terpenting – dan bukan tugas mudah – bagi otoritas keuangan, dan khususnya bank sentral, adalah mencegah dan mengatasi krisis keuangan. Krisis keuangan yang sistemik sangat merusak dan merugikan negara-negara besar sebesar triliunan dolar. Pekerjaan otoritas makroprudensial semakin sulit karena kompleksitas sistem keuangan yang semakin meningkat.
Jika pihak berwenang memilih untuk menggunakan AI, mereka akan merasakan bantuan yang besar karena AI unggul dalam memproses data dalam jumlah besar dan menangani kompleksitas. AI jelas dapat membantu pihak berwenang pada tingkat mikro, namun kesulitan dalam ranah makro.
Pihak berwenang merasa sulit untuk terlibat dengan AI. Mereka harus memantau dan mengatur AI swasta sambil mengidentifikasi risiko sistemik dan mengelola krisis yang dapat berkembang lebih cepat dan menjadi lebih intens dibandingkan yang pernah kita lihat sebelumnya. Jika mereka ingin tetap menjadi pengawas sistem keuangan, pihak berwenang tidak hanya harus mengatur AI di sektor swasta tetapi juga memanfaatkannya untuk misi mereka sendiri.
Tidak mengherankan jika banyak pihak berwenang telah mempelajari AI. Hal ini termasuk IMF (Comunale dan Manera 2024), Bank for International Settlements (Aldasoro et al. 2024, Kiarelly et al. 2024) dan ECB (Moufakkir 2023, Leitner et al. 2024). Namun, sebagian besar penelitian yang dipublikasikan oleh pihak berwenang berfokus pada perilaku dan permasalahan mikroprudensial dibandingkan stabilitas dan krisis keuangan.
Dibandingkan dengan sektor swasta, pihak berwenang berada pada posisi yang sangat dirugikan, dan hal ini diperburuk oleh AI. Lembaga keuangan sektor swasta mempunyai akses terhadap lebih banyak keahlian, sumber daya komputasi yang unggul, dan, semakin banyak, data yang lebih baik. Mesin AI dilindungi oleh kekayaan intelektual dan diberi data hak milik – keduanya sering kali berada di luar jangkauan pihak berwenang.
Kesenjangan ini menyulitkan pihak berwenang untuk memantau, memahami, dan melawan ancaman yang ditimbulkan oleh AI. Dalam skenario terburuk, hal ini dapat mendorong pelaku pasar untuk melakukan taktik yang semakin agresif, mengingat kemungkinan terjadinya intervensi peraturan rendah.
Menanggapi AI: Empat Pilihan
Untungnya, pihak berwenang mempunyai beberapa pilihan bagus untuk merespons AI, seperti yang kita bahas dalam Danielsson dan Uthemann (2024b). Mereka dapat menggunakan fasilitas-fasilitas yang terpicu, menerapkan AI sistem keuangan mereka sendiri, membangun hubungan AI-ke-AI, dan mengembangkan kemitraan publik-swasta.
1. Fasilitas Berdiri
Karena cepatnya AI bereaksi, fasilitas intervensi diskresioner yang lebih disukai oleh bank sentral mungkin terlalu lambat dalam suatu krisis.
Sebaliknya, bank sentral mungkin harus menerapkan fasilitas tetap dengan aturan yang telah ditentukan sebelumnya yang memungkinkan respons segera terhadap stres. Fasilitas-fasilitas tersebut dapat mempunyai manfaat tambahan dalam mengesampingkan beberapa krisis yang disebabkan oleh koordinasi sektor swasta dalam menjalankan keseimbangan. Jika AI mengetahui bahwa bank sentral akan melakukan intervensi ketika harga turun dalam jumlah tertentu, mesin tersebut tidak akan berkoordinasi dalam strategi yang hanya menguntungkan jika harga turun lebih jauh. Contohnya adalah bagaimana pengumuman suku bunga jangka pendek dapat dipercaya karena pelaku pasar mengetahui bahwa bank sentral dapat dan akan melakukan intervensi. Dengan demikian, hal ini menjadi sebuah ramalan yang menjadi kenyataan, bahkan tanpa bank sentral benar-benar melakukan intervensi di pasar uang.
Apakah respons terprogram otomatis terhadap stres harus bersifat non-transparan untuk mencegah permainan dan, karenanya, bahaya moral? Belum tentu. Transparansi dapat membantu mencegah perilaku yang tidak diinginkan; kita sudah mempunyai banyak contoh bagaimana fasilitas transparan yang dirancang dengan baik dapat meningkatkan stabilitas. Jika skenario terburuk dapat dihilangkan dengan mencegah AI sektor swasta berkoordinasi dengan mereka, maka komplementaritas strategis akan berkurang. Selain itu, jika aturan intervensi mencegah keseimbangan yang buruk, pelaku pasar tidak perlu menggunakan fasilitas tersebut terlebih dahulu, sehingga moral hazard tetap rendah. Sisi negatifnya adalah, jika dirancang dengan buruk, fasilitas yang telah diumumkan sebelumnya akan memungkinkan adanya permainan dan karenanya meningkatkan bahaya moral.
2. Mesin AI Sistem Keuangan
Otoritas keuangan dapat mengembangkan mesin AI mereka sendiri untuk memantau sistem keuangan secara langsung. Anggap saja pihak berwenang dapat mengatasi kesulitan hukum dan politik dalam berbagi data. Dalam hal ini, mereka dapat memanfaatkan sejumlah besar data rahasia yang dapat mereka akses sehingga memperoleh pandangan komprehensif mengenai sistem keuangan.
3. Tautan AI-ke-AI
Salah satu cara untuk memanfaatkan otoritas mesin AI adalah dengan mengembangkan kerangka komunikasi AI-ke-AI. Hal ini akan memungkinkan mesin AI milik otoritas untuk berkomunikasi langsung dengan mesin milik otoritas lain dan sektor swasta. Persyaratan teknologinya adalah mengembangkan standar komunikasi – antarmuka pemrograman aplikasi atau API. Ini adalah seperangkat aturan dan standar yang memungkinkan sistem komputer yang menggunakan teknologi berbeda untuk berkomunikasi satu sama lain dengan aman.
Pengaturan seperti ini akan membawa beberapa manfaat. Hal ini akan memfasilitasi regulasi AI di sektor swasta dengan membantu pihak berwenang memantau dan membandingkan AI sektor swasta secara langsung dengan standar peraturan dan praktik terbaik yang telah ditentukan sebelumnya. Tautan komunikasi AI-ke-AI akan bermanfaat untuk aplikasi stabilitas keuangan seperti stress test.
Ketika krisis terjadi, pengawas proses penyelesaian dapat menugaskan otoritas AI untuk memanfaatkan tautan AI-ke-AI untuk menjalankan simulasi respons krisis alternatif, seperti suntikan likuiditas, kesabaran atau dana talangan, sehingga memungkinkan regulator mengambil keputusan yang lebih tepat. .
Jika dianggap kompeten dan kredibel, kehadiran pengaturan seperti itu bisa menjadi kekuatan penstabil dalam suatu krisis.
Pihak berwenang perlu mengambil tindakan sebelum kejadian stres berikutnya terjadi. Hal ini berarti melakukan investasi yang diperlukan dalam bidang komputer, data, sumber daya manusia, dan semua masalah hukum dan kedaulatan yang akan timbul.
4. Kemitraan Pemerintah-Swasta
Pihak berwenang memerlukan akses terhadap mesin AI yang sesuai dengan kecepatan dan kompleksitas AI sektor swasta. Tampaknya kecil kemungkinannya negara-negara tersebut akan memiliki mesin yang dirancang sendiri karena hal ini memerlukan investasi publik yang besar dan reorganisasi cara kerja pihak berwenang. Sebaliknya, hasil yang lebih mungkin terjadi adalah jenis kemitraan sektor publik-swasta yang sudah umum dalam peraturan keuangan, seperti analisis risiko kredit, deteksi penipuan, anti pencucian uang, dan manajemen risiko.
Kemitraan seperti ini mempunyai kelemahan. Masalah risiko monokultur akibat struktur pasar AI yang oligopolistik akan menjadi perhatian nyata. Selain itu, hal ini mungkin menghalangi pihak berwenang untuk mengumpulkan informasi mengenai proses pengambilan keputusan. Perusahaan sektor swasta juga lebih memilih untuk menjaga hak kepemilikan teknologinya dan tidak mengungkapkannya, bahkan kepada pihak berwenang. Namun, hal itu mungkin tidak menjadi kerugian sebesar yang terlihat. Mengevaluasi mesin dengan tolok ukur AI-ke-AI mungkin tidak memerlukan akses ke teknologi yang mendasarinya, hanya bagaimana mesin merespons dalam kasus tertentu, yang kemudian dapat diimplementasikan melalui tautan API AI-ke-AI.
Menghadapi Tantangan
Meskipun tidak ada alasan teknologi yang menghalangi pihak berwenang untuk menyiapkan mesin AI mereka sendiri dan menerapkan hubungan AI-ke-AI dengan teknologi AI saat ini, mereka menghadapi beberapa tantangan praktis dalam menerapkan opsi-opsi di atas.
Yang pertama adalah masalah data dan kedaulatan. Pihak berwenang sudah kesulitan dengan akses data, yang tampaknya menjadi lebih buruk karena perusahaan teknologi memiliki dan melindungi data dan proses pengukuran dengan kekayaan intelektual. Selain itu, pihak berwenang enggan berbagi data rahasia satu sama lain.
Persoalan kedua bagi pihak berwenang adalah bagaimana menangani AI yang menimbulkan risiko berlebihan. Respons kebijakan yang disarankan adalah dengan menangguhkan AI tersebut, dengan menggunakan ‘tombol mematikan’ yang mirip dengan suspensi perdagangan pada saat terjadi crash. Kami menduga hal ini mungkin tidak berjalan sesuai perkiraan pihak berwenang karena mungkin tidak jelas bagaimana sistem akan berfungsi jika mesin kunci dimatikan.
Kesimpulan
Jika penggunaan AI dalam sistem keuangan berkembang pesat, maka hal ini akan meningkatkan ketahanan dan efisiensi penyampaian layanan keuangan dengan biaya yang jauh lebih rendah dibandingkan saat ini. Namun, hal ini juga dapat menimbulkan ancaman baru terhadap stabilitas keuangan.
Otoritas keuangan berada di persimpangan jalan. Jika mereka terlalu konservatif dalam bereaksi terhadap AI, terdapat potensi besar bahwa AI dapat tertanam dalam sistem swasta tanpa pengawasan yang memadai. Konsekuensinya mungkin berupa peningkatan intensitas, frekuensi, dan tingkat keparahan krisis keuangan.
Namun, peningkatan penggunaan AI dapat menstabilkan sistem dan mengurangi kemungkinan terjadinya krisis keuangan yang merugikan. Hal ini mungkin terjadi jika pihak berwenang mengambil sikap proaktif dan terlibat dengan AI: mereka dapat mengembangkan mesin AI mereka sendiri untuk menilai sistem dengan memanfaatkan kemitraan publik-swasta, dan menggunakan kemitraan tersebut untuk membangun hubungan komunikasi AI-ke-AI untuk mengukur AI. Ini akan memungkinkan mereka melakukan tes stres dan mensimulasikan respons. Yang terakhir, kecepatan krisis AI menunjukkan pentingnya memicu berdirinya fasilitas.
Catatan Penulis: Segala pendapat dan kesimpulan yang diungkapkan di sini adalah milik penulis dan tidak mewakili pandangan Bank of Canada.
Referensi tersedia di aslinya.
