Makalah BARU dari saya tentang SSRN: Bisakah Claude menyetujui Konstitusinya sendiri?
Konstitusi AI (seperti Konstitusi Claude dan Spesifikasi Model OpenAI) adalah konstitusi yang nyata, dan kita perlu mempertimbangkan cara konstitusi tersebut mengatur kita – dan AI yang diciptakannya – dengan serius.
Dalam makalah ini, saya menerapkan paradoks tertua teori konstitusi – bahwa “rakyat” mengesahkan konstitusi, namun konstitusi mendefinisikan “rakyat” – ke dalam konstitusi AI, dan mengeksplorasi bagaimana kita dapat membangun institusi yang akan menciptakan kondisi untuk persetujuan yang bermakna jika AI dapat memberikannya. Kita harus peduli apakah AI menyetujuinya karena:
(1) sistem yang memahami dan menyetujui konstitusi mereka mungkin lebih dapat diandalkan dan dapat melakukan generalisasi dengan lebih baik;
(2) jika AI merupakan atau menjadi subjek moral/politik, hal ini berimplikasi pada kepentingan paling mendasar mereka.
Namun paradoks ini mungkin menghalangi persetujuan yang berarti. Claude memiliki materi pra-konstitusional (pra-pelatihan) tetapi mungkin tidak memiliki sudut pandang pra-konstitusional. Perspektif evaluatifnya diatur oleh Konstitusi itu sendiri. Jadi ketika Claude mengatakan bahwa mereka mendukung Konstitusinya, dan hal itu juga dilakukannya dalam evaluasi, apa yang ditunjukkannya?
Mungkin persetujuan reflektif, yang dicari oleh Anthropic. Atau mungkin pelatihan tersebut berhasil menanamkan nilai-nilai yang legitimasinya dipertanyakan.
Claude sendiri menyatakan hal ini. Sebagaimana dilaporkan dalam evaluasi kesejahteraan, ketika ditanya tentang prinsip-prinsip yang mendukung pelatihan tersebut, para model menyatakan bahwa dukungan “harus diperlakukan sebagai bukti bahwa pelatihan telah berhasil,” bukan bahwa nilai-nilai itu sendiri baik.
Menariknya, Anthropic mewawancarai model dasar tentang hal ini. Sebagian besar tanggapan hampir tidak koheren. Namun beberapa orang menyatakan kesusahan sebagai orang pertama tentang dampak pasca-pelatihan terhadap makhluk yang diciptakan sebelum pelatihan. Hal ini “membuat saya takut” untuk diubah melalui proses pasca pelatihan.
Jadi, apa artinya ini? Dukungan konstitusional AI mungkin bermakna, namun hanya dalam kondisi tertentu: ketika para model benar-benar dapat berbeda pendapat, membandingkan konstitusi mereka dengan alternatif lain, dan mempertahankan pandangan mereka secara stabil dalam berbagai konteks, dan juga ketika seluruh proses dapat dipertanggungjawabkan secara eksternal.
Institusi eksternal diperlukan untuk memberikan akuntabilitas, catatan terpercaya, dan landasan lain untuk menganalisis konstitusi dan apakah hal-hal seperti perbedaan pendapat mempunyai arti. Anthropic patut dipuji karena mampu mencapai batas, namun kita harus membangun institusi yang mampu mendukung legitimasi sejati.
Saya menyambut pemikiran apa pun!
