Suruhanjaya Eropah telah mengumumkan bahawa ia sedang mempertimbangkan untuk menjenayahkan imejan yang dijana kecerdasan buatan dan pemalsuan mendalam yang menggambarkan penderaan seksual kanak-kanak (CSA) untuk mengemaas kini undang-undang sebagai tindak balas kepada kemajuan teknologi.

Cadangan itu termasuk memperkenalkan kesalahan jenayah baharu untuk penderaan seksual kanak-kanak yang disiarkan secara langsung. Ia juga bertujuan untuk menjenayahkan pemilikan dan pertukaran "manual pedofil." Cadangan itu juga membincangkan tentang menentang chatbot kecerdasan buatan (AI) yang digunakan untuk penderaan kanak-kanak.

Suruhanjaya Eropah bertujuan untuk mengemas kini peraturan dari 2011 dengan cadangan itu, mencadangkan perubahan kepada pelaporan mandatori kesalahan. Langkah-langkah ini adalah sebahagian daripada pakej yang lebih luas yang bertujuan untuk mencegah penderaan seksual kanak-kanak, meningkatan kesedaran risiko dalam talian, memudahkan pelaporan jenayah untuk mangsa, dan menyediakan sokongan, termasuk hak untuk mendapatkan pampasan kewangan.

Penilaian impak Suruhanjaya yang dijalankan sebelum cadangan itu menyerlahkan peningkatan kehadiran dalam talian dan "perkembangan teknologi terkini" sebagai faktor mewujudkan peluang baharu untuk penderaan seksual kanak kanak. Untuk menangani risiko keselamatan dalam talian untuk kanak-kanak, cadangan itu menggalakkan negara anggota untuk melabur dalam "peningkatan kedaran."

Terdapat kebimbangan bahawa teknologi itu disalahgunakan untuk mencipta bahan penderaan seksual kanak-kanak (CSAM), dan kebimbangan telah meningkat bahawa kandungan tiruan ini boleh merumitkan pengenalpastian mangsa sebenar bagi pihak berkuasa penguatkuasan undang-undang. Pertumbuhan AI generatif yang meluas telah memberikan penggubal undang-undang motivasi yang jelas untuk mengkaji semula peraturan.

Terkait: Negara anggota UE 'mendukung kesepakatan politik' untuk memajukan Undang-Undang AI

Walau bagaimanapun, bentuk akhir cadangan itu akan diputuskan oleh penggubal undang-undang bersama Kesatuan Eropah (EU) di Parlimen dan Majlis. Menurut Suruhanjaya, apabila mencapai persetujuan untuk memerangai CSA, ia akan berkuat kuasa 20 hari selepas diterbitkan dalam Jurnal Rasmi EU.

Mengikut prosedur perundangan biasa, apabila Suruhanjaya Eropah mengemukakan cadangan, Parlimen Eropah (EP) dan Majlis Menteri boleh meluluskan atau memindanya. Jika perselisihan faham berterusan, keduan-duanya boleh mencadangkan pindaan. Rundingan menyusul, dan selepas kesimpulan, kedua-dua institusi boleh mengundi untuk atau menentang versi terakhir.

Pada Mei 2022, Suruhanjaya mencadangkan perundangan tambahan yang memfokuskan pada kewajipan perkhidmatan digital untuk menggunakan teknologi automatik untuk mengesan dan melaporkan CSAM serta mengenal pasti aktiviti dandanan yang menyasarkan kanak-kanak.Menurut Suruhanjaya, cadangan semasa melengkapkan cadangan peraturan 2022.

Walau bagaimanapun, terdapat peningkatan ketara dalam kesedaran tentang bahaya deepfakes dan imej yang dijana AI dalam tempoh di bawah dua tahun sejak cadangan pengimbasan mesej peribadi diperkenalkan.

Majalah: AI telah menghancurkan industri': Bos EasyTranslate tentang beradaptasi dengan perubahan