Segera setelah aturan kecerdasan buatan (AI) China mulai berlaku bulan lalu, serangkaian chatbot AI baru mulai merambah pasar, dengan persetujuan pemerintah. Aturan tersebut sudah dilemahkan dari yang awalnya diusulkan, dan sejauh ini, China belum menegakkan aturan tersebut seketat yang bisa dilakukan, menurut para ahli. Pendekatan regulasi China kemungkinan besar akan memiliki implikasi besar bagi persaingan teknologi antara negara tersebut dan rivalnya, AS, sebagai superpower AI.
Cyberspace Administration of China (CAC) Generative AI Measures, yang mulai berlaku pada 15 Agustus, merupakan salah satu yang paling ketat di dunia. Mereka menyatakan bahwa layanan AI generatif tidak boleh menghasilkan konten “yang menghasut subversi kedaulatan nasional atau menggulingkan sistem sosialis,” atau “menganjurkan terorisme atau ekstremisme, mempromosikan kebencian etnis dan diskriminasi etnis, kekerasan dan kecabulan, serta informasi palsu dan berbahaya.” Mencegah chatbot AI melontarkan konten yang tidak diinginkan atau bahkan beracun telah menjadi tantangan bagi pengembang AI di seluruh dunia. Jika peraturan baru China diberlakukan secara maksimal, maka pengembang AI China dapat kesulitan untuk mematuhinya, menurut beberapa analis.
Regulator China menyadari masalah ini, dan telah merespons dengan melemahkan beberapa peraturan dan mengambil pendekatan penegakan yang longgar dalam upaya menyeimbangkan antara mengendalikan aliran informasi sensitif secara politik dan mempromosikan pengembangan AI China, kata para ahli. Bagaimana keseimbangan ini dicapai tidak hanya akan berdampak pada kebebasan politik warga China dan kesuksesan industri AI China, tetapi juga kemungkinan akan mempengaruhi pemikiran pembuat undang-undang AS tentang kebijakan AI menghadapi perlombaan dominasi AI yang tengah bergejolak.
Relaksasi peraturan
Pada akhir Agustus, CAC menyetujui peluncuran delapan chatbot AI, termasuk Ernie Bot milik Baidu dan Doubao milik ByteDance.
Sebuah versi dari peraturan yang diterbitkan pada bulan Juli kurang ketat daripada rancangan peraturan yang dipublikasikan untuk komentar pada bulan April. CAC membuat tiga perubahan kunci, kata Matt Sheehan, rekan di Carnegie Endowment for International Peace.
Pertama, cakupannya dipersempit dari semua penggunaan AI generatif menjadi hanya penggunaan yang menghadap publik, artinya penggunaan internal kurang diatur secara ketat. Kedua, bahasanya dilembutkan di beberapa tempat. Misalnya, “Dapat memastikan kebenaran, akurasi, objektivitas, dan keragaman data,” diubah menjadi “Menerapkan langkah-langkah efektif untuk meningkatkan kualitas data pelatihan, dan meningkatkan kebenaran, akurasi, objektivitas, dan keragaman data pelatihan.” Ketiga, peraturan baru memasukkan bahasa yang mendorong pengembangan AI generatif, sedangkan sebelumnya peraturan semata-mata bersifat menghukum.
CAC membuat peraturan lebih longgar, sebagian sebagai reaksi terhadap buruknya kesehatan ekonomi China, menurut Sheehan, yang penelitiannya berfokus pada ekosistem AI China. Selain itu, debat publik—termasuk peneliti think tank dan akademisi, penasihat pemerintah, dan industri—menyimpulkan bahwa aturan tersebut terlalu keras dan dapat menghambat inovasi.
Penegakan fleksibel
Setelah peraturan finalisasi, penegakannya sepenuhnya merupakan kewenangan otoritas, dan seringkali lebih sewenang-wenang dan kurang konsisten daripada di Barat, menurut Sihao Huang, peneliti di University of Oxford yang menghabiskan setahun terakhir mempelajari tata kelola AI di Beijing.
“Ketika kita melihat aturan untuk algoritma rekomendasi yang diterbitkan sebelumnya, atau deep synthesis, atau undang-undang keamanan siber CAC—mereka diberlakukan ketika CAC ingin menegakkannya,” kata Huang. “Perusahaan memiliki kelonggaran yang cukup panjang, mereka dapat mengembangkan sistem ini sangat ambisius, tetapi mereka hanya perlu sadar bahwa jika palu itu akan diturunkan ke atas mereka, ada aturan yang dapat digunakan pemerintah.”
Huang mengatakan bahwa apakah CAC menegakkan peraturan tersebut sering bergantung pada “apakah perusahaan berada dalam kasih sayang pemerintah atau apakah mereka memiliki koneksi yang tepat.” Perusahaan teknologi juga sering mencoba mengekspos kerentanan dalam produk dan layanan masing-masing untuk menghasut tindakan pemerintah terhadap pesaing mereka, dan tekanan publik dapat memaksa CAC untuk menegakkan peraturan tersebut, katanya.
“China jauh lebih bersedia melepaskan sesuatu di sana, dan kemudian menyusunnya sambil jalan,” kata Sheehan. “Di China, perusahaan tidak percaya bahwa jika mereka menantang CAC atas konstitusionalitas ketentuan ini mereka akan menang di pengadilan. Mereka harus mencari tahu bagaimana bekerja dengan atau menghindarinya. Mereka tidak memiliki jaring pengaman yang sama dari pengadilan dan hakim independen.”
Debat AS tentang regulasi dan persaingan
Para elang China memperingatkan bahwa AS berisiko tertinggal dari China dalam kompetisi untuk mengembangkan sistem AI yang semakin canggih, dan bahwa regulasi AS mungkin memungkinkan China mengejar ketertinggalannya.
Huang tidak setuju, berpendapat bahwa sistem AI China saat ini sudah tertinggal dari pendahulunya di AS, dan bahwa regulasi ketat China memperburuk ketertinggalan ini. “Ketika Anda benar-benar menggunakan sistem AI China… kemampuan mereka secara signifikan diredam, karena mereka hanya bersandar pada sisi yang lebih aman,” katanya. Kinerja yang buruk merupakan hasil dari filter konten yang memblokir sistem untuk menjawab prompt apa pun yang terkait dengan politik, dan “penyempurnaan yang sangat agresif,” katanya.
“Perusahaan China akan memiliki beban kepatuhan yang jauh lebih tinggi daripada perusahaan Amerika,” setuju Sheehan.
Jordan Schneider, rekan di Center for a New American Security, sebuah think tank urusan militer, mengatakan bahwa penggunaan chatbot China saat ini masih di belakang pesaing mereka di AS dalam hal kecanggihan dan kemampuan mereka. “Aplikasi ini mungkin setingkat GPT-3,” kata Schneider. Namun Schneider menunjukkan bahwa GPT-3, model bahasa yang dikembangkan oleh OpenAI, hanya berusia sekitar dua tahun. “Itu bukan seperti jurang yang sangat besar,” katanya. (Sistem AI terbaru OpenAI yang tersedia secara publik adalah GPT-4.)
Schneider juga menekankan bahwa telah terbukti lebih mudah mengendalikan output chatbot daripada yang dikembangkan dan pembuat kebijakan—termasuk di China—awalnya takutkan. Selain kekurangan yang mengkhawatirkan yang terungkap ketika Microsoft meluncurkan chatbot Bing AI, belum ada masalah lain dengan chatbot AI perusahaan AS yang memberontak, katanya. “Model Amerika secara umum tidak rasis. Meloloskan diri sangat sulit dan segera diperbaiki. Perusahaan-perusahaan ini secara luas telah mampu mengetahui cara membuat model mereka sesuai dengan apa yang merupakan wacana yang tepat dalam konteks Barat. Itu menurut saya secara luas tantangan serupa [dengan apa] yang dihadapi perusahaan-perusahaan China ini.” (Model bahasa masih menunjukkan masalah seperti halusinasi—istilah untuk menemukan informasi palsu).
Karena itu, Schneider berpendapat bahwa pertukaran antara stabilitas politik dan promosi pengembangan dilebih-lebihkan. Di masa depan, katanya, perusahaan teknologi China akan terus berpendapat bahwa keberhasilan pengembangan dan stabilitas sosial dapat dicapai secara bersamaan.