Seorang anggota senior California akan memperkenalkan RUU kecerdasan buatan (AI) baru ke senat negara bagian pada hari Rabu, menambah upaya nasional dan global untuk mengatur teknologi yang berkembang pesat.
Meskipun ada beberapa upaya di Kongres untuk menyusun undang-undang AI, negara bagian California—rumah bagi Silicon Valley, di mana sebagian besar perusahaan AI teratas dunia berbasis—memiliki peran dalam menetapkan pagar pengaman pada industri, menurut Senator Negara Bagian Scott Wiener, (D—San Francisco) yang menyusun RUU itu.
“Dalam dunia ideal kami akan memiliki skema regulasi AI federal yang kuat,” kata Wiener dalam wawancara dengan TIME pada hari Selasa, menambahkan bahwa dia mendukung upaya di Kongres dan Gedung Putih untuk mengatur teknologi itu. “Tetapi California memiliki sejarah bertindak ketika pemerintah federal bergerak terlalu lambat atau tidak bertindak.”
Dia menambahkan: “Kita perlu mendahului risiko ini, tidak melakukan apa yang telah kita lakukan di masa lalu seputar media sosial atau teknologi lainnya, di mana kita tidak melakukan apa-apa sebelum mungkin terlambat.”
RUU itu menargetkan sistem AI “perbatasan” di ambang kemampuan. Ini mengusulkan agar sistem yang membutuhkan kuantitas daya komputasi tertentu untuk melatih—ambang yang tidak ditentukan oleh RUU—tunduk pada persyaratan transparansi. Ini mengusulkan membentuk tanggung jawab hukum bagi “mereka yang gagal mengambil tindakan pencegahan yang tepat” untuk mencegah konsekuensi yang tidak diinginkan dan penggunaan yang berbahaya dari sistem AI maju. Ini juga menyarankan mewajibkan langkah-langkah keamanan untuk mencegah AI canggih jatuh ke tangan negara asing. RUU itu menyerukan California untuk membentuk “CalCompute,” awan penelitian negara yang diusulkan yang akan menyediakan infrastruktur komputasi yang diperlukan bagi kelompok di luar industri besar, seperti akademisi dan startup, untuk melakukan pekerjaan AI maju.
“Legislatur prihatin tentang potensi konsekuensi yang tidak diinginkan atau bahkan katastropik yang mungkin timbul dari pengembangan atau penerapan model AI perbatasan masa depan,” kata RUU itu. “Laju kemajuan teknis dalam AI membutuhkan pendekatan legislatif yang proaktif dalam mengantisipasi risiko yang ditimbulkan varian teknologi saat ini dan masa depan terhadap keselamatan publik untuk memungkinkan pemanfaatan aman potensi penuh teknologi untuk kepentingan publik.”
Namun, seperti banyak upaya sampai saat ini dalam peraturan AI, RUU itu ringan rincian. Sebagai RUU niat yang disebut, itu kurang dari tiga halaman panjang dan hanya memberikan sapuan kuas yang luas tentang apa yang akan tampak seperti undang-undang AI California. Tujuannya, menurut lembar fakta terpisah yang dikeluarkan oleh kantor Wiener, adalah untuk menetapkan niat legislatur California “untuk memberlakukan aturan yang luas yang mengatur pengembangan AI,” sementara memungkinkan proposal “untuk menghasilkan diskusi dan umpan balik untuk periode waktu sebelum diamandemen dengan teks legislatif penuh dan bergerak melalui proses legislatif resmi.” Rencananya adalah agar teks lengkap diamandemen dengan rincian pada Januari, siap untuk RUU maju melalui legislatur (di mana Demokrat memiliki mayoritas super di kedua rumah) pada 2024 dan menjadi hukum, paling cepat, pada awal 2025.
Wiener mengatakan kepada TIME dia ingin menyerahkan kepada pembuat undang-undang negara bagian untuk memutuskan ambang daya komputasi yang tepat agar ketentuan RUU berlaku, dan apakah tanggung jawab atas kegagalan mengambil tindakan pencegahan yang memadai harus jatuh pada perusahaan atau staf individu. “Itu akan dibahas dan diputuskan,” katanya. “Saya tidak ingin mengadili itu. Yang saya inginkan adalah sistem yang ada yang menciptakan insentif nyata bagi perusahaan dan laboratorium untuk mengambil ini dengan serius dan melakukannya dengan benar.”
Wiener mengakui bahwa saat ini pemerintah California tidak memiliki kapasitas untuk mengaudit sistem AI atau sepenuhnya menegakkan RUU itu. “Saya pikir tidak ada lembaga yang, besok, bisa menerapkan ini,” katanya. “Pastinya bagian dari pembicaraan ini perlu: lembaga mana? Apakah itu lembaga yang ada yang mandatnya bisa ditingkatkan? Apakah itu lembaga baru?” Keputusan itu, katanya, pada akhirnya akan menjadi keputusan Gubernur California Gavin Newsom.
“Begitu banyak inovasi AI terjadi di California,” kata Wiener. “Jadi ketika California menetapkan aturan tentang AI, itu akan berdampak global.”
Tetapi menjadi rumah bagi perusahaan AI sambil berusaha menetapkan kerangka kerja peraturan untuk mereka bisa menciptakan konflik bagi pembuat kebijakan yang ingin mendorong inovasi dan pertumbuhan ekonomi. Secara terpisah, pada awal September, Newsom mengeluarkan perintah eksekutif yang menyerukan pendekatan “terukur” terhadap AI, memitigasi risikonya sekaligus “tetap menjadi pemimpin AI dunia.” Perintah eksekutif itu menggemakan proposal kebijakan awal tahun ini dari Inggris, di mana laboratorium AI terkemuka Google DeepMind berbasis, yang menekankan kebutuhan pemerintah untuk menghindari pendekatan “berat tangan” terhadap peraturan AI yang akan menghambat inovasi.