Kecerdasan buatan tidak akan menjadi entiti yang sedar diri kerana kekurangan niat, yang merupakan ciri khas manusia dan makhluk biologi lain, menurut Sandeep Nailwal, salah seorang pengasas Polygon dan syarikat kecerdasan buatan sumber terbuka Sentient.
"Saya tidak melihat bahawa kecerdasan buatan akan mempunyai tahap kesedaran yang signifikan," kata Nailwal kepada Cointelegraph dalam satu temubual, tambahnya bahawa beliau tidak percaya pada senario kiamat kecerdasan buatan menjadi sedar diri dan menguasai umat manusia.
Pengarah itu mengkritik teori bahawa kesedaran muncul secara rawak disebabkan oleh interaksi atau proses kimia yang kompleks dan berkata bahawa walaupun proses-proses ini boleh mencipta sel-sel kompleks, mereka tidak dapat mencipta kesedaran.
Sebaliknya, Nailwal bimbang bahawa institusi-institusi terpusat akan menyalahgunakan kecerdasan buatan untuk pengawasan dan menyekat kebebasan individu, oleh itu kecerdasan buatan haruslah telus dan demokratik. Nailwal berkata:
"Itulah idea utama saya untuk bagaimana saya mencipta idea Sentient, bahawa akhirnya kecerdasan buatan global, yang sebenarnya dapat mencipta dunia tanpa sempadan, haruslah menjadi kecerdasan buatan yang dikawal oleh setiap manusia."
Pengarah itu menambah bahawa ancaman terpusat ini adalah sebab mengapa setiap individu memerlukan kecerdasan buatan tersuai yang berfungsi bagi pihak mereka dan setia kepada individu tersebut untuk melindungi diri mereka daripada kecerdasan buatan lain yang digunakan oleh institusi-institusi berkuasa.
Pendekatan model terbuka Sentient terhadap kecerdasan buatan berbanding pendekatan terpusat platform. Sumber: Whitepaper Sentient
Berkaitan: GPT-4.5 OpenAI 'tidak akan mengatasi prestasi' tetapi mungkin menjadi kawan yang lebih baik
Kecerdasan buatan terdesentralisasi dapat membantu mencegah bencana sebelum berlaku
Pada Oktober 2024, syarikat kecerdasan buatan Anthropic menerbitkan satu kertas kerja yang menggariskan senario di mana kecerdasan buatan boleh merosakkan umat manusia dan penyelesaian yang mungkin untuk masalah tersebut.
Pada akhirnya, kertas kerja tersebut menyimpulkan bahawa kecerdasan buatan bukanlah ancaman segera kepada umat manusia tetapi boleh menjadi berbahaya di masa depan apabila model-model kecerdasan buatan menjadi lebih canggih.
Pelbagai jenis skenario sabotaj kecerdasan buatan yang berpotensi seperti yang diterangkan dalam kertas kerja Anthropic. Sumber: Anthropic
David Holtzman, seorang profesional perisikan tentera yang dahulu dan ketua pegawai strategi protokol keselamatan terdesentralisasi Naoris, memberitahu Cointelegraph bahawa kecerdasan buatan membawa risiko besar terhadap privasi dalam jangka masa terdekat.
Seperti Nailwal, Holtzman berpendapat bahawa institusi-institusi terpusat, termasuk negara, boleh menggunakan kecerdasan buatan untuk pengawasan dan bahawa desentralisasi adalah benteng pertahanan terhadap ancaman kecerdasan buatan.
Majalah: ChatGPT mudah mencetuskan nuklear, kecerdasan buatan SEGA pada tahun 80-an, TAO naik 90%: AI Eye