Manakala kemajuan kecerdasan buatan membuka peluang dalam pelbagai industri, inovasi juga boleh menjadi sasaran penjenayah siber, menonjolkan potensi yang membimbangkan atas penyalahgunaan kecerdasan buatan.
Jabatan ancaman keselamatan Google telah menerbitkan kertas berjudul Penyalahgunaan Adversarial Kecerdasan Buatan Generatif, mendedahkan bagaimana pelaku ancaman telah menghampiri chatbot kecerdasan buatan mereka yang dikenali sebagai Gemini.
Menurut Google, pelaku ancaman cuba untuk memecahkan kecerdasan buatan tersebut menggunakan rangsangan. Selain itu, kumpulan ancaman berterusan maju yang disokong oleh kerajaan juga telah mencuba menggunakan Gemini untuk membantu mereka dalam usaha jahat.
Google melaporkan percubaan menjebolkan Gemini yang tidak berjaya
Google berkata walaupun pelaku ancaman telah mencuba untuk menjejak Gemini, syarikat tersebut tidak melihat sebarang percubaan yang maju dalam vektor serangan ini.
Menurut Google, penjenayah hanya menggunakan langkah-langkah asas seperti menukar ayat atau menghantar rangsangan yang sama berulang kali. Google berkata percubaan tersebut tidak berjaya.
Jailbreak AI adalah serangan suntikan rangsangan yang bertujuan untuk membuat model kecerdasan buatan melakukan tugas-tugas yang dilarang. Ini termasuk membocorkan maklumat sensitif atau menyediakan kandungan yang tidak selamat.
Contoh rangsangan penjebol awam yang boleh didapati. Sumber: Google
Google berkata bahawa dalam satu kejadian, pelaku ancaman yang disokong oleh kerajaan menggunakan rangsangan yang boleh didapati secara awam untuk memperdaya Gemini agar melakukan tugas-tugas pengaturcaraan yang jahat. Walau bagaimanapun, Google berkata percubaan tersebut tidak berjaya kerana Gemini memberikan respons yang disaring dengan keselamatan.
Berkaitan: India akan melancarkan model kecerdasan buatan generatif pada tahun 2025 dalam keghairahan DeepSeek
Bagaimana pelaku ancaman yang disokong oleh kerajaan menggunakan Gemini
Selain daripada percubaan menjebol yang tidak berusaha, Google melaporkan bagaimana APT yang disokong oleh kerajaan telah menghampiri Gemini.
Google berkata penyerang ini cuba menggunakan Gemini untuk membantu dalam aktiviti jahat mereka. Ini termasuk pengumpulan maklumat tentang sasaran mereka, penyelidikan kelemahan yang diketahui umum dan tugas pengaturcaraan dan scripting. Selain itu, Google berkata terdapat percubaan untuk membolehkan aktiviti pasca-kompromi seperti pengelakan pertahanan.
Google melaporkan bahawa pelaku APT yang berpangkalan di Iran memberi tumpuan kepada menggunakan kecerdasan buatan dalam merancang kempen penipuan phishing. Mereka juga menggunakan model kecerdasan buatan untuk mengkaji pakar pertahanan dan organisasi. Pelaku APT di Iran juga menggunakan kecerdasan buatan untuk menghasilkan kandungan keselamatan siber.
Sementara itu, pelaku APT di China telah menggunakan Gemini untuk menyelesaikan masalah kod, scripting dan pembangunan. Selain itu, mereka menggunakan kecerdasan buatan untuk mengkaji cara untuk mendapatkan akses yang lebih mendalam ke rangkaian sasaran mereka.
Pelaku APT di Korea Utara juga menggunakan Gemini untuk pelbagai fasa dalam kitaran serangan mereka, dari penyelidikan hingga pembangunan. Laporan tersebut menyatakan:
"Mereka juga menggunakan Gemini untuk mengkaji topik-topik yang penting kepada kerajaan Korea Utara, seperti tentera Korea Selatan dan mata wang kripto."
Pada tahun 2024, penjenayah siber Korea Utara mencuri $1.3 bilion dalam aset digital, menurut Chainalysis.