Kamu di sini. Kita sebenarnya pernah mengalami krisis keuangan AI yang besar, namun krisis ini terjadi jauh sebelum nomenklatur tersebut menjadi umum. Perdagangan berbasis algo adalah implementasi AI, khususnya jenis kotak hitam.
Keruntuhan pasar saham tahun 1987 diakibatkan oleh penerapan penjualan otomatis dalam skala besar yang disebut asuransi portofolio. Jadi, bahkan sejak awal strategi perdagangan yang diimplementasikan dengan komputer, kita telah melihat bahwa strategi tersebut dapat mendatangkan malapetaka.
Oleh Jon Danielsson, Direktur, Systemic Risk Center London School Of Economics and Political Science dan Andreas Uthemann, Peneliti Utama Bank Of Canada; Rekan Peneliti di Sekolah Ekonomi dan Ilmu Politik Pusat Risiko Sistemik London. Awalnya diterbitkan di VoxEU
Pesatnya adopsi kecerdasan buatan mengubah industri keuangan. Seri pertama dari dua kolom ini berpendapat bahwa AI dapat meningkatkan risiko keuangan sistemik atau bertindak untuk menstabilkan sistem, bergantung pada respons endogen, saling melengkapi strategis, tingkat keparahan peristiwa yang dihadapi, dan tujuan yang diberikan. Kemampuan AI untuk menguasai kompleksitas dan merespons guncangan dengan cepat berarti krisis di masa depan kemungkinan besar akan lebih parah dibandingkan krisis yang kita lihat sejauh ini.
Baik sektor keuangan swasta maupun publik memperluas penggunaan kecerdasan buatan (AI). Karena AI memproses informasi jauh lebih cepat dibandingkan manusia, hal ini dapat menyebabkan krisis keuangan yang lebih sering dan lebih intens dibandingkan yang kita lihat sejauh ini. Namun hal ini juga bisa berdampak sebaliknya dan bertindak untuk menstabilkan sistem.
Dalam klasifikasi Norvig dan Russell (2021), kami melihat AI sebagai “agen pemaksimalan rasional”. Definisi ini sesuai dengan analisis ekonomi pada umumnya mengenai stabilitas keuangan. Apa yang membedakan AI dari pemodelan statistik murni adalah AI tidak hanya menggunakan data kuantitatif untuk memberikan saran numerik; ia juga menerapkan pembelajaran yang didorong oleh tujuan untuk melatih dirinya sendiri dengan data kualitatif dan kuantitatif. Sehingga dapat memberikan nasehat bahkan mengambil keputusan.
Sulit untuk mengukur sejauh mana penggunaan AI di industri jasa keuangan. Financial Times melaporkan bahwa hanya 6% bank yang merencanakan penggunaan AI secara besar-besaran, dengan alasan kekhawatiran mengenai keandalannya, kehilangan pekerjaan, aspek peraturan, dan kelembaman. Beberapa survei setuju, namun survei lainnya berbeda. Keuangan adalah industri yang sangat kompetitif. Ketika lembaga-lembaga keuangan baru dan bank-bank besar tertentu menikmati peningkatan biaya dan efisiensi yang signifikan dengan menggunakan teknologi modern dan mempekerjakan staf yang terbiasa dengan AI, lembaga-lembaga yang lebih konservatif mungkin tidak punya pilihan selain mengikuti langkah tersebut.
Pesatnya adopsi AI mungkin membuat penyampaian layanan keuangan menjadi lebih efisien sekaligus mengurangi biaya. Kebanyakan dari kita akan mendapatkan manfaatnya.
Namun tidak semuanya positif. Terdapat kekhawatiran yang luas mengenai dampak AI terhadap pasar tenaga kerja, produktivitas, dan sejenisnya (Albanesi dkk. 2023, Filippucci dkk. 2024). Yang menjadi perhatian khusus kami adalah bagaimana AI berdampak pada potensi krisis keuangan sistemik, peristiwa-peristiwa disruptif yang merugikan negara-negara besar hingga triliunan dolar dan merugikan masyarakat. Hal ini telah menjadi fokus penelitian kami baru-baru ini (Danielsson dan Uthemann 2024).
Akar Ketidakstabilan Keuangan
Kami memperkirakan bahwa AI tidak akan menciptakan penyebab mendasar baru dari krisis, namun akan memperkuat penyebab krisis yang sudah ada: pengaruh berlebihan yang menjadikan lembaga keuangan rentan terhadap guncangan kecil sekalipun; pertahanan diri pada saat krisis yang mendorong pelaku pasar untuk memilih aset yang paling likuid; dan ketidakjelasan sistem, kompleksitas dan informasi asimetris yang membuat pelaku pasar tidak percaya satu sama lain selama masa stres. Ketiga kerentanan mendasar ini menjadi penyebab hampir setiap krisis keuangan selama 261 tahun terakhir, sejak krisis modern pertama terjadi pada tahun 1763 (Danielsson 2022).
Namun, meskipun ketiga faktor fundamental yang sama mendorong semua krisis, tidak mudah untuk mencegah dan membendung krisis karena ketiganya berbeda secara signifikan. Itu yang diharapkan. Jika peraturan keuangan ingin efektif, krisis harus dicegah sejak awal. Oleh karena itu, hampir menjadi sebuah kenyataan bahwa krisis terjadi tanpa adanya pengawasan dari pihak berwenang. Karena sistem keuangan sangatlah kompleks, terdapat banyak area dimana risiko dapat meningkat.
Kunci untuk memahami krisis keuangan terletak pada bagaimana lembaga keuangan mengoptimalkannya – mereka bertujuan untuk memaksimalkan keuntungan dengan mempertimbangkan risiko yang dapat diterima. Ketika menerjemahkan hal tersebut ke dalam cara mereka berperilaku operasional, kriteria Roy (1952) berguna – dinyatakan secara ringkas, memaksimalkan keuntungan tanpa mengalami kebangkrutan. Artinya, lembaga keuangan sering kali mengoptimalkan keuntungan, mungkin 999 hari dari 1.000 hari. Namun, pada hari terakhir itu, ketika pergolakan besar melanda sistem dan krisis sudah di depan mata, hal yang paling mereka pedulikan adalah kelangsungan hidup, dibandingkan keuntungan, – masalah ‘satu hari dari seribu’.
Ketika lembaga keuangan memprioritaskan kelangsungan hidupnya, perilaku mereka berubah dengan cepat dan drastis. Mereka menimbun likuiditas dan memilih aset yang paling aman dan likuid, seperti cadangan bank sentral. Hal ini menyebabkan bank run, penjualan kebakaran, krisis kredit, dan semua perilaku tidak diinginkan lainnya yang terkait dengan krisis. Tidak ada yang salah dengan perilaku tersebut, namun hal ini tidak dapat dengan mudah diatur.
Saat AI Terlibat
Penyebab ketidakstabilan keuangan ini telah dipahami dengan baik dan selalu menjadi perhatian, jauh sebelum munculnya komputer. Seiring dengan semakin banyaknya adopsi teknologi dalam sistem keuangan, hal ini tidak hanya membawa efisiensi dan menguntungkan sistem, namun juga memperkuat saluran ketidakstabilan yang ada. Kami berharap AI melakukan hal yang sama.
Ketika mengidentifikasi bagaimana hal ini terjadi, ada baiknya untuk mempertimbangkan risiko sosial yang timbul dari penggunaan AI (misalnya Weidinger dkk. 2022, Bengio dkk. 2023, Shevlane dkk. 2023) dan bagaimana hal ini berinteraksi dengan stabilitas keuangan. Dengan melakukan hal ini, kami menemukan empat jalur yang perekonomiannya rentan terhadap AI:
Saluran misinformasi muncul karena pengguna AI tidak memahami keterbatasannya, namun semakin bergantung padanya. Saluran penggunaan jahat muncul karena sistem dipenuhi oleh agen-agen ekonomi dengan sumber daya tinggi yang ingin memaksimalkan keuntungan mereka dan tidak terlalu peduli dengan konsekuensi sosial dari aktivitas mereka. Saluran ketidakselarasan muncul dari kesulitan dalam memastikan bahwa AI mengikuti tujuan yang diinginkan oleh operator manusianya. Saluran struktur pasar oligopolistik berasal dari model bisnis perusahaan yang merancang dan menjalankan mesin AI. Perusahaan-perusahaan ini menikmati peningkatan skala keuntungan, yang dapat mencegah masuknya pasar dan meningkatkan homogenitas dan risiko monokultur. Bagaimana AI dapat mengganggu stabilitas sistem
AI membutuhkan data agar bisa efektif, bahkan lebih dari manusia. Hal ini seharusnya tidak menjadi masalah karena sistem menghasilkan banyak data untuk digunakan, terabyte setiap hari. Masalahnya adalah hampir semua data tersebut berasal dari bagian tengah distribusi hasil sistem, bukan dari bagian ekor. Krisis adalah soal buntut.
Ada empat alasan mengapa kita hanya mempunyai sedikit data dari bagian ekor.
Yang pertama adalah respons endogen terhadap pengendalian yang dilakukan oleh pelaku pasar; ini berkaitan dengan saluran misinformasi AI. Cara yang berguna untuk memahami hal ini adalah kritik Lucas (1976) dan hukum Goodhart (1974): “Setiap keteraturan statistik yang diamati akan cenderung runtuh ketika ada tekanan yang diberikan padanya untuk tujuan pengendalian”. Pelaku pasar tidak begitu saja menerima peraturan dengan tenang. Tidak, mereka merespons secara strategis. Mereka tidak memberi tahu siapa pun sebelumnya bagaimana mereka berencana menanggapi peraturan dan tekanan. Mereka mungkin bahkan tidak mengetahuinya. Akibatnya, fungsi reaksi pelaku pasar tersembunyi. Dan sesuatu yang tersembunyi tidak ada dalam dataset.
Alasan kedua, yang muncul dari saluran jahat ini, adalah semua strategi yang saling melengkapi yang menjadi inti dari bagaimana pelaku pasar berperilaku selama krisis. Mereka merasa terdorong untuk menarik likuiditas karena pesaingnya juga melakukan hal tersebut. Sementara itu, komplementaritas strategis dapat mengarah pada keseimbangan ganda, dimana hasil pasar yang sangat berbeda mungkin dihasilkan secara kebetulan. Kedua konsekuensi dari saling melengkapi strategis ini berarti bahwa pengamatan terhadap krisis di masa lalu tidak begitu informatif untuk krisis di masa depan. Ini adalah alasan lain mengapa kita tidak memiliki banyak pengamatan dari bagian ekor.
Akar masalahnya ada dua karakteristik AI: AI unggul dalam mengekstraksi pola kompleks dari data, dan cepat belajar dari lingkungan di mana AI beroperasi. Mesin AI saat ini mengamati apa yang dilakukan pesaing, dan tidak akan sulit bagi mereka untuk menggunakan pengamatan tersebut untuk menyempurnakan model mereka tentang cara kerja dunia. Artinya, dalam praktiknya, AI di masa depan di perusahaan swasta dan organisasi publik akan dilatih dan dioptimalkan untuk saling mempengaruhi.
Menyelaraskan insentif AI dengan insentif pemiliknya adalah masalah yang sulit – saluran yang tidak selaras. Hal ini bisa menjadi lebih buruk pada saat krisis, ketika kecepatan adalah hal yang paling penting dan mungkin tidak ada waktu bagi AI untuk mendapatkan umpan balik dari manusia guna menyempurnakan tujuan. Cara tradisional yang dilakukan sistem untuk mencegah keseimbangan berjalan mungkin tidak lagi berfungsi. Masalah ketidakselarasan yang selalu ada antara perilaku rasional individu dan hasil yang diinginkan secara sosial mungkin akan semakin buruk jika regulator tidak dapat lagi mengoordinasikan upaya penyelamatan dan ‘memutar senjata’. AI mungkin telah melikuidasi posisi mereka, dan karenanya menyebabkan krisis, sebelum pemilik manusia dapat mengangkat telepon untuk menjawab panggilan dari ketua The Fed.
AI mungkin akan memperburuk saluran struktur pasar oligopolistik yang menyebabkan ketidakstabilan keuangan, yang selanjutnya diperkuat oleh sifat oligopolistik bisnis analisis AI. Ketika lembaga-lembaga keuangan mulai melihat dan bereaksi terhadap dunia dengan cara yang semakin serupa, mereka berkoordinasi dalam pembelian dan penjualan, sehingga menyebabkan bubble dan crash. Secara umum, monokultur risiko merupakan faktor penting yang mendorong naik turunnya sistem keuangan. Desain pembelajaran mesin, input data, dan komputasi memengaruhi kemampuan mesin AI dalam mengelola risiko. Hal ini semakin dikendalikan terutama oleh beberapa perusahaan teknologi dan informasi, yang terus melakukan merger, sehingga mengarah pada pasar oligopolistik.
Kekhawatiran utama dari konsentrasi pasar ini adalah kemungkinan bahwa banyak lembaga keuangan, termasuk yang berada di sektor publik, mendapatkan pandangan mereka tentang dunia dari vendor yang sama. Hal ini berarti mereka akan melihat peluang dan risiko dengan cara yang sama, termasuk bagaimana hal tersebut dipengaruhi oleh stres yang ada saat ini atau yang bersifat hipotetis. Dalam krisis, efek homogenisasi penggunaan AI ini dapat mengurangi ketidakpastian strategis dan memfasilitasi koordinasi dalam menjalankan keseimbangan.
Mengingat gelombang merger vendor data baru-baru ini, terdapat kekhawatiran bahwa baik otoritas persaingan maupun otoritas keuangan tampaknya tidak sepenuhnya menghargai potensi peningkatan risiko sistemik yang dapat timbul dari teknologi AI yang oligopolistik.
Ringkasan
Jika dihadapkan pada ancaman nyata terhadap institusi, AI mengoptimalkan kelangsungan hidupnya. Namun di sinilah kecepatan dan efisiensi AI bekerja melawan sistem. Jika lembaga keuangan lain melakukan hal yang sama, mereka akan berkoordinasi untuk mencapai keseimbangan krisis. Jadi, semua institusi saling mempengaruhi karena mereka secara kolektif mengambil keputusan yang sama. Mereka semua berusaha bereaksi secepat mungkin, karena pihak yang pertama melepas aset-aset berisiko adalah yang terbaik untuk menghadapi badai ini.
Konsekuensinya adalah meningkatnya ketidakpastian, yang mengarah pada volatilitas pasar yang ekstrem, serta putaran umpan balik (feedback loop) yang buruk, seperti penjualan api, penarikan likuiditas, dan bank run. Berkat AI, stres yang mungkin memerlukan waktu berhari-hari atau berminggu-minggu untuk terungkap kini dapat terjadi dalam hitungan menit atau jam.
Mesin AI mungkin juga melakukan hal sebaliknya. Lagi pula, hanya karena AI dapat bereaksi lebih cepat bukan berarti AI akan bereaksi lebih cepat. Bukti empiris menunjukkan bahwa, meskipun harga aset mungkin turun di bawah nilai fundamentalnya saat krisis, harga aset sering kali pulih dengan cepat. Itu berarti membeli peluang. Jika AI tidak begitu peduli terhadap kelangsungan hidup dan mesin-mesin tersebut bersatu pada keseimbangan pemulihan secara agregat, mereka akan menyerap guncangan tersebut dan tidak akan ada krisis yang terjadi.
Secara keseluruhan, kami menduga bahwa AI akan bertindak untuk menurunkan volatilitas dan memperlemah dampaknya. Hal ini dapat meredakan fluktuasi jangka pendek dengan mengorbankan kejadian yang lebih ekstrem.
Yang paling penting adalah seberapa siap otoritas keuangan menghadapi krisis AI. Kami membahas hal ini dalam artikel VoxEU yang muncul minggu depan, berjudul “Bagaimana otoritas keuangan dapat merespons ancaman AI terhadap stabilitas keuangan”.
Catatan Penulis: Segala pendapat dan kesimpulan yang diungkapkan di sini adalah milik penulis dan tidak mewakili pandangan Bank of Canada.
Lihat posting asli untuk referensi
