Kecerdasan buatan (AI) dijangka meningkatkan ancaman siber, terutamanya serangan ransomware, dalam tempoh dua tahun akan datang, menurut laporan oleh Pusat Keselamatan Siber Kebangsaan (NCSC) United Kingdom.
Dalam laporannya, NCSC menjelaskan bagaimana kesan AI terhadap ancaman siber boleh diimbangi dengan memanfaatkan AI untuk memperkuatkan keselamatan siber melalui pengesanan dan peningkatan reka bentuk. Walau bagaimanapun, ia mengesyorkan kajian lanjut untuk menilai bagaimana kemajuan AI dalam keselamatan siber akan mengurangkan kesan ancaman.
Serangan ransomware adalah serangan siber di mana perisian berbahaya digunakan untuk mengenkripsi fail atau sistem mangsa. Penyerang kemudian menuntut wang tebusan, biasanya dalam bentuk mata wang kripto, untuk memberikan kunci dekripsi atau alat untuk mengembalikan akses kepada data mereka.
Pengaruh AI terhadap ancaman siber dijangka berbeza, memberi kelebihan kepada pelaku negara maju dengan lebih banyak akses kepada operasi siber AI yang canggih. Laporan tersebut menekankan kejuruteraan sosial sebagai bidang penting di mana AI akan meningkatkan keupayaan secara signifikan, menjadikan serangan phishing lebih meyakinkan dan lebih sukar dikesan.
Laporan NCSC menyatakan bahawa AI akan meningkatkan keupayaan pelaku ancaman terutamanya dalam kejuruteraan sosial. AI generatif sudah boleh mencipta interaksi yang meyakinkan, seperti dokumen yang menipu individu, bebas dari kesalahan terjemahan dan tatabahasa yang biasa dalam serangan phishing, dan trend ini dijangka akan berkembang dalam tempoh dua tahun akan datang dengan evolusi dan populariti model-model tersebut.
Mengesahkan kenyataan ini, James Babbage, pengarah jeneral ancaman di Agensi Jenayah Kebangsaan, berkata:
"Perkhidmatan AI mengurangkan halangan untuk penyertaan, meningkatkan bilangan penjenayah siber, dan akan meningkatkan keupayaan mereka dengan meningkatkan skala, kelajuan, dan keberkesanan kaedah serangan sedia ada. Penipuan dan penyalahgunaan seksual kanak-kanak juga sangat mungkin terjejas."
Penilaian NCSC menunjukkan cabaran dalam daya tahan siber disebabkan oleh model-model AI seperti AI generatif dan model bahasa besar. Model-model ini menjadikan pengesahan keaslian e-mel dan permintaan tetapan semula kata laluan sukar. Masa yang semakin singkat antara kemas kini keselamatan dan pengeksploitasian ancaman menjadikan cabaran bagi pengurus rangkaian untuk segera membaiki kelemahan.
Memanfaatkan AI canggih dalam operasi siber memerlukan kepakaran, sumber dan akses kepada data berkualiti, oleh itu pelaku negara yang sangat berkebolehan adalah yang terbaik untuk memanfaatkan potensi AI. Pelaku negara lain dan syarikat komersial akan melihat peningkatan keupayaan sederhana dalam tempoh 18 bulan akan datang, menurut laporan tersebut.
Walaupun NCSC mengakui kepentingan kemahiran, alat, masa, dan wang untuk menggunakan AI canggih dalam operasi siber, laporan tersebut menyatakan bahawa faktor-faktor ini akan menjadi kurang penting apabila model-model AI menjadi lebih meluas. Aksesibiliti alat siber yang membolehkan AI dijangka meningkat apabila kumpulan yang berkebolehan akan memonopoli alat siber yang membolehkan AI, menjadikan keupayaan yang lebih baik tersedia kepada sesiapa sahaja yang sanggup membayar.
Untuk mengenal pasti apabila pelaku ancaman dapat menggunakan AI dengan berkesan, laporan tersebut mencatatkan bahawa akan terdapat peningkatan dalam jumlah, kompleksiti, dan impak operasi siber. Lindy Cameron, CEO NCSC, berbicara tentang keperluan kerajaan untuk memanfaatkan potensi AI sambil menguruskan risikonya, berkata:
"Kita mesti memastikan bahawa kita memanfaatkan teknologi AI untuk potensinya yang luas dan menguruskan risikonya - termasuk implikasinya terhadap ancaman siber."
Untuk mengatasi ancaman yang ditingkatkan ini, kerajaan UK telah melaburkan 2.6 bilion paun British pada tahun 2022 di bawah Strategi Keselamatan Sibernya untuk meningkatkan daya tahan UK.
Majalah: Pilihan token Crypto+AI, AGI akan mengambil 'masa yang lama', Galaxy AI ke 100 juta telefon: AI Eye