Sepanjang tahun yang lalu, tidak kurang ilmuwan, CEO teknologi, jutawan, dan ahli politik yang mengemukakan isyarat bahaya kecerdasan buatan (AI) - dan sekarang, bahkan Pope juga ingin membicarakannya.

Pada surat berisi 3,412 patah perkataan bertarikh 8 Disember, Pope Francis - ketua Gereja Katolik - memperingatkan bahaya potensi AI terhadap umat manusia dan apa yang perlu dilakukan untuk mengawalnya. Surat itu dikeluarkan sempena Hari Perdamaian Sedunia yang akan dirayakan pada 1 Januari 2024.

Pope Francis ingin melihat perjanjian antarabangsa untuk mengawal AI bagi memastikan ia dibangunkan dan digunakan secara etika - jika tidak, kita berisiko jatuh ke dalam "kepimpinan teknologi yang diktator."

“Saya menggesa komuniti global negara-negara untuk bekerjasama bagi mengadopsi perjanjian antarabangsa yang mengawal pembangunan dan penggunaan kecerdasan buatan dalam pelbagai bentuknya.”

Ancaman AI timbul apabila pembangun mempunyai "keinginan untuk keuntungan atau dahaga akan kuasa" yang mengatasi keinginan seseorang untuk hidup secara bebas dan aman, jelas Pope.

“Martabat yang melekat pada setiap manusia [...] harus menjadi asas pembangunan teknologi baru dan menjadi kriteria yang tidak dapat disangkal untuk menilainya [...] supaya kemajuan digital dapat berlaku dengan menghormati keadilan dan menyumbang kepada tujuan perdamaian.”

Teknologi yang gagal melakukannya "memperburuk ketidaksetaraan dan konflik" dan oleh itu, tidak boleh dianggap sebagai kemajuan yang sebenar, tambahnya.

Sementara itu, kemunculan berita palsu yang dihasilkan oleh AI adalah "masalah serius," tambah Pope, yang boleh menyebabkan kekurangpercayaan yang semakin meningkat terhadap media.

Pope baru-baru ini menjadi mangsa AI generatif apabila gambar palsu beliau yang memakai jaket putih mewah menjadi viral pada bulan Mac.

Gambar palsu Pope yang dihasilkan oleh AI. Sumber: Boston Globe

Pope Francis, bagaimanapun, juga mengakui manfaat AI dalam membolehkan pengeluaran yang lebih cekap, pengangkutan yang lebih mudah, dan pasaran yang lebih mudah, serta revolusi dalam proses mengumpul, mengatur, dan mengesahkan data.

Tetapi beliau juga bimbang bahawa AI akan memberi manfaat kepada mereka yang mengawalnya dan meninggalkan sebahagian besar penduduk tanpa pekerjaan untuk mencari nafkah:

“Terdapat risiko yang besar bahawa manfaat yang tidak seimbang akan diperoleh oleh beberapa orang dengan harga kemiskinan yang dialami oleh ramai orang.”

Pope Francis telah lama memperingatkan tentang penyalahgunaan teknologi baru yang muncul, dengan menyatakan bahawa "prinsip moral teori dan praktikal" perlu disematkan ke dalamnya. Walau bagaimanapun, beliau sering dilihat lebih mahir dalam teknologi dan lebih progresif daripada para pendahulunya.

Pernyataan terkini Pope Francis datang setelah setahun teriakan dari pelbagai sudut dunia mengenai bahaya potensi AI.

Pemimpin teknologi, seperti CEO Tesla Elon Musk dan pengasas Apple Steve Wozniak, telah menyuarakan kebimbangan mereka tentang bagaimana AI berkembang dengan pesat. Ini mendorong mereka dan lebih daripada 2,600 pemimpin dan penyelidik teknologi untuk menandatangani petisyen untuk menghentikan perkembangan AI pada Mac 2023, dengan berkongsi kebimbangan bahawa AI yang lebih maju daripada GPT-4 boleh menimbulkan "risiko yang mendalam terhadap masyarakat dan umat manusia."

Presiden Amerika Syarikat Joe Biden juga menyuarakan kebimbangan. Pentadbirannya mengeluarkan perintah eksekutif mengenai "pembangunan dan penggunaan kecerdasan buatan yang selamat, boleh dipercayai, dan boleh dipercayai" pada akhir Oktober untuk menangani risiko yang ditimbulkan oleh AI.

Berkaitan: NFT dan pendidikan Islam: Satu medan baru untuk mengajar agama?

Bahkan pembuat filem Hollywood dan selebriti juga memberikan pandangan mereka mengenai isu ini.

Pada bulan Julai, pengarah filem Kanada James Cameron dilaporkan berkata bahawa beliau telah memperingatkan bahaya AI sejak The Terminator, yang beliau arahkan hampir 40 tahun yang lalu.

”Saya telah memperingatkan anda semua pada tahun 1984 dan anda tidak mendengar,” kata Cameron kepada CTV News.

“Saya fikir penggunaan AI sebagai senjata adalah bahaya terbesar [...] Saya fikir kita akan terlibat dalam perlumbaan senjata nuklear dengan AI, dan jika kita tidak membina AI, orang lain pasti akan melakukannya, dan maka ia akan meningkat,” tambahnya.

Majalah: Pakar ingin memberi AI 'jiwa' manusia supaya mereka tidak membunuh kita semua