Pada bulan September, Gubernur California Gavin Newsom mempertimbangkan 38 undang-undang terkait AI, termasuk SB 1047 yang sangat kontroversial, yang dikirim oleh legislatif negara bagian tersebut ke mejanya untuk persetujuan final. Dia menolak SB 1047 pada hari Minggu, menandai akhir dari jalan bagi undang-undang AI yang kontroversial California yang berusaha mencegah bencana AI, namun menandatangani lebih dari selusin undang-undang AI lainnya menjadi hukum bulan ini. Undang-undang ini berusaha mengatasi isu-isu paling mendesak dalam kecerdasan buatan: mulai dari risiko Al, hingga deepfake telanjang yang dibuat oleh pembuat gambar AI, hingga studio Hollywood menciptakan klon AI dari para artis yang sudah meninggal.
\"Menjadi rumah bagi sebagian besar perusahaan AI terkemuka di dunia, California sedang bekerja untuk memanfaatkan teknologi transformasional ini untuk membantu mengatasi tantangan-tantangan mendesak sambil mempelajari risiko yang mereka hadapi,\" kata kantor Gubernur Newsom dalam rilis pers.
Hingga saat ini, Gubernur Newsom telah menandatangani 18 undang-undang AI menjadi hukum, beberapa di antaranya adalah undang-undang terluas di Amerika tentang AI generatif. Inilah yang mereka lakukan.
Risiko AI
Pada hari Minggu, Gubernur Newsom menandatangani SB 896 menjadi hukum, yang mengharuskan Kantor Layanan Darurat California untuk melakukan analisis risiko terhadap ancaman potensial yang ditimbulkan oleh AI generatif. CalOES akan bekerja dengan perusahaan model frontier, seperti OpenAI dan Anthropic, untuk menganalisis ancaman potensial AI terhadap infrastruktur negara bagian yang kritis, serta ancaman yang bisa mengakibatkan kejadian bencana massal.
Data Pelatihan
Undang-undang lain yang ditandatangani oleh Newsom bulan ini mengharuskan penyedia AI generatif untuk mengungkap data yang digunakan untuk melatih sistem AI mereka dalam dokumen yang dipublikasikan di situs web mereka. AB 2013 mulai berlaku pada tahun 2026, dan mengharuskan penyedia AI untuk memublikasikan: sumber dataset, deskripsi tentang bagaimana data digunakan, jumlah titik data dalam set tersebut, apakah data berlisensi atau berhak cipta disertakan, periode waktu data dikumpulkan, di antara standar lainnya.
Privasi dan Sistem AI
Newsom juga menandatangani AB 1008 pada hari Minggu, yang menjelaskan bahwa undang-undang privasi yang ada di California diperluas ke sistem AI generatif juga. Ini berarti bahwa jika sebuah sistem AI, seperti ChatGPT, mengekspos informasi pribadi seseorang (nama, alamat, data biometrik), undang-undang privasi yang ada di California akan membatasi bagaimana bisnis dapat menggunakan dan memperoleh untung dari data tersebut.
Pada bulan ini, Newsom menandatangani undang-undang yang menetapkan definisi seragam untuk kecerdasan buatan dalam hukum California. AB 2885 menyatakan bahwa kecerdasan buatan didefinisikan sebagai \"sistem yang diatasi atau berbasis mesin yang bervariasi dalam tingkat otonomi dan dapat, untuk tujuan eksplisit atau implisit, menyimpulkan dari input yang diterimanya bagaimana menghasilkan output yang dapat mempengaruhi lingkungan fisik atau virtual.\"
Perawatan Kesehatan
Undang-undang lain yang ditandatangani pada bulan September adalah AB 3030, yang mengharuskan penyedia layanan kesehatan untuk mengungkapkan ketika mereka menggunakan AI generatif untuk berkomunikasi dengan pasien, khususnya ketika pesan-pesan tersebut berisi informasi klinis pasien.
Sementara itu, Newsom baru-baru ini menandatangani SB 1120, yang membatasi bagaimana penyedia layanan perawatan kesehatan dan perusahaan asuransi kesehatan dapat mengotomatiskan layanan mereka. Undang-undang ini memastikan dokter berlisensi mengawasi penggunaan alat AI dalam pengaturan tersebut.
AI Robocalls
Pada hari Jumat, Gubernur Newsom menandatangani undang-undang yang mewajibkan robocall untuk mengungkapkan apakah mereka menggunakan suara yang dihasilkan oleh AI. AB 2905 bertujuan untuk mencegah kejadian lain dari deepfake robocall yang menyerupai suara Joe Biden yang membingungkan banyak pemilih New Hampshire awal tahun ini.
Pornografi Deepfake
Pada hari Minggu, Newsom menandatangani AB 1831 menjadi hukum, yang memperluas cakupan undang-undang pornografi anak yang sudah ada untuk mencakup materi yang dihasilkan oleh sistem AI.
Newsom menandatangani dua undang-undang yang mengatasi pembuatan dan penyebaran deepfake telanjang minggu lalu. SB 926 menjadikan tindakan tersebut ilegal, membuatnya ilegal untuk memeras seseorang dengan gambar telanjang yang dihasilkan oleh AI yang menyerupai mereka.
SB 981, yang juga menjadi hukum pada hari Kamis, mewajibkan platform media sosial untuk membentuk saluran untuk pengguna melaporkan gambar telanjang deepfake yang menyerupai mereka. Konten tersebut kemudian harus diblokir sementara saat platform menyelidikinya, dan dihapus secara permanen jika terkonfirmasi.
Watermark
Juga pada hari Kamis, Newsom menandatangani undang-undang untuk membantu masyarakat mengidentifikasi konten yang dihasilkan oleh AI. SB 942 mengharuskan sistem AI generatif yang banyak digunakan untuk mengungkapkan bahwa mereka dihasilkan oleh AI dalam data keaslian kontennya. Sebagai contoh, semua gambar yang dibuat oleh Dall-E dari OpenAI sekarang perlu memiliki tag kecil dalam metadata mereka yang menyatakan bahwa mereka dihasilkan oleh AI.
Banyak perusahaan AI sudah melakukannya, dan ada beberapa alat gratis di luar sana yang dapat membantu orang membaca data keaslian ini dan mendeteksi konten yang dihasilkan oleh AI.
Deepfakes Pemilihan
Akhir pekan lalu, Gubernur California menandatangani tiga undang-undang yang menindak tegas deepfakes AI yang dapat mempengaruhi pemilihan.
Satu dari undang-undang baru California, AB 2655, mengharuskan platform online besar, seperti Facebook dan X, untuk menghapus atau memberi label deepfakes AI yang terkait dengan pemilihan, serta membuat saluran untuk melaporkan konten tersebut. Kandidat dan pejabat terpilih dapat mencari bantuan injunctive jika platform online besar tidak mematuhi undang-undang tersebut.
Undang-undang lainnya, AB 2839, menargetkan pengguna media sosial yang memposting, atau memposting ulang, deepfakes AI yang dapat menipu pemilih tentang pemilihan yang akan datang. Undang-undang ini berlaku segera pada hari Selasa, dan Newsom menyarankan bahwa Elon Musk mungkin berisiko melanggarnya.
Artikel politik yang dihasilkan oleh AI sekarang memerlukan pengungkapan langsung di bawah undang-undang baru California, AB 2355. Ini berarti ke depannya, Trump mungkin tidak bisa lolos dengan memposting deepfake AI dari Taylor Swift yang mendukungnya di Truth Social (ia mendukung Kamala Harris). FCC telah mengusulkan persyaratan pengungkapan serupa pada tingkat nasional dan sudah membuat robocall menggunakan suara yang dihasilkan oleh AI menjadi ilegal.
Pemeran dan AI
Dua undang-undang yang ditandatangani Newsom bulan ini — yang didorong oleh SAG-AFTRA, serikat aktor film dan siaran terbesar di negara ini — menciptakan standar baru untuk industri media California. AB 2602 mengharuskan studio untuk mendapatkan izin dari seorang aktor sebelum membuat replika suara atau wajah mereka yang dihasilkan oleh AI.
Sementara itu, AB 1836 melarang studio untuk membuat replika digital dari para pemeran yang sudah meninggal tanpa izin dari warisannya (misalnya, replika yang dilaporkan secara hukum digunakan dalam film "Alien" dan "Star Wars" yang terbaru, serta dalam film lainnya).
SB 1047 Ditolak
Gubernur Newsom masih memiliki beberapa undang-undang terkait AI untuk diputuskan sebelum akhir bulan September. Namun, SB 1047 bukan salah satunya – undang-undang tersebut ditolak pada hari Minggu.
Dalam surat yang menjelaskan keputusannya, Newsom mengatakan bahwa SB 1047 terlalu memusatkan perhatian pada sistem AI besar yang dapat \"memberikan kepada publik rasa aman palsu.\" Gubernur California mencatat bagaimana model AI kecil bisa sama berbahayanya dengan yang ditargetkan oleh SB 1047, dan mengatakan bahwa pendekatan regulasi yang lebih fleksibel diperlukan.
Selama obrolan dengan CEO Salesforce Marc Benioff awal bulan ini selama konferensi Dreamforce 2024, Newsom mungkin telah memberi petunjuk tentang SB 1047, dan tentang bagaimana dia memikirkan untuk mengatur industri AI secara lebih luas.
\"Ada satu undang-undang yang agak terlalu banyak dibicarakan dan menjadi perhatian publik; itu adalah SB 1047 ini,\" kata Newsom di atas panggung bulan ini. \"Apa risiko yang dapat didemonstrasikan dalam AI dan apa risiko hipotetis? Saya tidak bisa menyelesaikan semuanya. Apa yang bisa kita selesaikan? Dan itulah pendekatan yang kami ambil di seluruh spektrum ini.\"
Kembali ke artikel ini untuk pembaruan tentang undang-undang AI apa yang ditandatangani oleh gubernur California, dan apa yang tidak.
