Inteligensia buatan (AI) yang sangat canggih, jika tidak dikawal, mempunyai "peluang serius" untuk mengatasi manusia dan menjadi "spesies puncak" seterusnya di planet ini, menurut pengasas Ethereum, Vitalik Buterin.

Namun, ini bergantung kepada bagaimana manusia berpontensi campur tangan dengan perkembangan AI, katanya.

Dalam catatan blog pada 27 November, Buterin, yang dianggap sebagai pemimpin pemikiran dalam ruang kripto, berpendapat bahawa AI adalah "berbeza secara asas" daripada penemuan baru-baru ini yang lain - seperti media sosial, kontrasepsi, kapal terbang, senjata, roda, dan mesin cetak - kerana AI boleh mencipta jenis "mind" baru yang boleh bertentangan dengan kepentingan manusia, menambahkan:

"AI adalah [...] jenis mind baru yang semakin pintar, dan ia mempunyai peluang serius untuk melampaui keupayaan mental manusia dan menjadi spesies puncak baru di planet ini."

Buterin berpendapat bahawa, berbeza dengan perubahan iklim, wabak yang dihasilkan manusia atau peperangan nuklear, AI yang sangat pintar boleh berpotensi mengakhiri umat manusia dan tidak meninggalkan seorang pun yang selamat, terutama jika ia melihat manusia sebagai ancaman terhadap kelangsungannya.

"Salah satu cara di mana AI yang salah boleh menjadikan dunia lebih teruk adalah (hampir) cara yang paling teruk: ia boleh secara harfiah menyebabkan kepupusan manusia."

"Bahkan Mars mungkin tidak selamat," tambah Buterin.

Buterin merujuk kepada kajian pada Ogos 2022 oleh lebih daripada 4,270 penyelidik pembelajaran mesin yang menganggarkan peluang 5-10% bahawa AI akan membunuh umat manusia.

Walau bagaimanapun, walaupun Buterin menekankan bahawa tuntutan seperti ini adalah melampau, terdapat juga cara bagi manusia untuk berjaya.

Antara muka otak dan teknologi-optimisme

Buterin mencadangkan pengintegrasian antara muka otak-komputer (BCI) untuk memberikan manusia lebih banyak kawalan ke atas bentuk kuasa AI yang berkuasa dan kognisi.

BCI ialah laluan komunikasi antara aktiviti elektrik otak dan peranti luaran, seperti komputer atau anggota robotik.

Ini akan mengurangkan gelung komunikasi dua hala antara manusia dan mesin dari beberapa saat kepada beberapa milisaat dan, yang lebih penting, memastikan manusia mempunyai beberapa bentuk "agensi yang bermakna" ke atas dunia, kata Buterin.

Diagram yang menggambarkan dua gelung maklum balas yang mungkin antara manusia dan AI. Sumber: Vitalik.eth

Berkaitan: Bagaimana AI mengubah kripto: Hype vs. realiti

Buterin mencadangkan bahawa cara ini akan lebih selamat, kerana manusia dapat terlibat dalam setiap keputusan yang diambil oleh mesin AI.

"Kita [boleh] mengurangkan insentif untuk memindahkan tanggungjawab perancangan peringkat tinggi kepada AI itu sendiri, dan dengan itu mengurangkan peluang AI melakukan sesuatu yang sama sekali tidak selaras dengan nilai-nilai kemanusiaan secara sendirian."

Pengasas Ethereum juga mencadangkan "niat manusia yang aktif" untuk mengarahkan AI ke arah yang memberi manfaat kepada umat manusia, kerana memaksimumkan keuntungan tidak selalu membawa manusia ke laluan yang paling diingini.

Buterin menyimpulkan bahawa "kita, manusia, adalah bintang yang paling terang" di alam semesta, kerana kita telah mengembangkan teknologi untuk memperluas potensi manusia selama ribuan tahun, dan semoga akan berlanjutan untuk ribuan tahun lagi:

"Dua bilion tahun dari sekarang, jika Bumi atau sebahagian alam semesta masih mempunyai keindahan kehidupan di Bumi, ia akan menjadi hasil seni manusia seperti perjalanan angkasa dan kejuruteraan geo yang telah menjadikannya kenyataan."

Majalah: Contoh penggunaan AI sebenar dalam kripto, No. 1: Wang terbaik untuk AI adalah kripto