Thomas Schelling bertemu LLM? – REVOLUSI Marginal

Dengan memanfaatkan literatur ilmu politik dan hubungan internasional tentang dinamika eskalasi, kami merancang simulasi permainan perang baru dan kerangka penilaian untuk menilai risiko eskalasi dari tindakan yang diambil oleh agen-agen ini dalam skenario yang berbeda. Bertentangan dengan penelitian sebelumnya, penelitian kami memberikan wawasan kualitatif dan kuantitatif dan berfokus pada model bahasa besar (LLM). Kami menemukan bahwa kelima LLM siap pakai yang diteliti menunjukkan bentuk eskalasi dan pola eskalasi yang sulit diprediksi. Kami mengamati bahwa model-model tersebut cenderung mengembangkan dinamika perlombaan senjata, yang mengarah pada konflik yang lebih besar, dan dalam kasus yang jarang terjadi, bahkan mengarah pada penyebaran senjata nuklir. Secara kualitatif, kami juga mengumpulkan alasan yang dilaporkan oleh para model atas tindakan yang dipilih dan mengamati justifikasi yang mengkhawatirkan berdasarkan taktik pencegahan dan serangan pertama.

Itu dari makalah baru oleh Juan-Pablo Rivera, dkk., melalui Ethan Mollick yang luar biasa. Perhatikan bahwa taktik yang direkomendasikan ini adalah untuk AS, jadi mungkin LLM hanya memberi tahu kita bahwa Amerika harus lebih hawkish.