KUALA LUMPUR: Beberapa penyedia platform media sosial didapati gagal mematuhi sepenuhnya arahan penurunan kandungan bersifat manipulasi dan penipuan yang dijana menggunakan kecerdasan buatan.
Menteri Komunikasi Datuk Fahmi Fadzil berkata bagi tempoh 1 Januari 2024 hingga 31 Ogos lepas, sebanyak 1,602 permohonan untuk menurunkan kandungan penipuan berasaskan AI telah dikemukakan kepada Suruhanjaya Komunikasi dan Multimedia Malaysia.
Hanya 1,346 kandungan berjaya diturunkan, iaitu kadar pematuhan sekitar 84 peratus.
“Daripada pengamatan MCMC dan saya sendiri, platform-platform media sosial tidak mengambil serius isu keselamatan dalam talian melibatkan kandungan AI.”
“Hal ini terbukti apabila Seri Paduka Baginda Yang di-Pertuan Agong dan Perdana Menteri sendiri menjadi mangsa penipuan deepfake yang kononnya mempromosikan skim pelaburan,“ katanya di Dewan Negara.
Kerajaan akan melaksanakan Akta Keselamatan Dalam Talian 2025 pada hujung tahun ini atau awal 2026 yang mewajibkan semua platform media sosial menggunakan label pada kandungan berasaskan AI.
Platform diwajibkan menggunakan label seperti ‘AI Generated’ atau ‘AI Enhanced’ pada gambar atau kandungan AI untuk mengelakkan penipuan.
Akta 866 turut mewajibkan penyedia perkhidmatan menyediakan pelan keselamatan dalam talian sebagai bukti pematuhan terhadap peraturan.
MCMC kini meneliti kemungkinan mengenakan syarat pelesenan kepada aplikasi yang menggunakan kecerdasan buatan.
Kerajaan telah menubuhkan Pusat Respons Scam Kebangsaan yang diterajui Polis Diraja Malaysia dengan kerjasama Kementerian Komunikasi dan agensi berkaitan.
NSRC berperanan sebagai pusat tindakan segera terhadap kes penipuan digital serta melaksanakan program kesedaran awam.
Kempen Internet Selamat MCMC telah dilaksanakan di 1,958 institusi pendidikan melibatkan lebih 145,000 peserta sehingga 31 Ogos.
Seramai 141,000 peserta telah menyertai 236 program masyarakat umum yang dijalankan bagi meningkatkan kesedaran jenayah digital. – Bernama
