Teknologi deepfake, yang menggunakan kecerdasan buatan untuk menghasilkan video, imej, atau suara palsu, kini menjadi alat dalam penipuan di Malaysia. Baru-baru ini, pempengaruh media sosial Khairul Aming dan penyanyi terkenal Datuk Seri Siti Nurhaliza menjadi mangsa apabila wajah dan suara mereka disunting tanpa keizinan untuk mempromosi produk dapur dan skim pelaburan palsu. Kejadian ini menimbulkan kebimbangan terhadap peningkatan jenayah siber yang memanipulasi kandungan digital untuk menipu orang ramai.

Menteri Komunikasi Fahmi Fadzil telah menyeru platform media sosial untuk menandakan kandungan yang dihasilkan oleh AI agar pengguna dapat mengenal pasti sama ada kandungan itu asli atau palsu. Langkah ini bertujuan mengurangkan risiko pendedahan terhadap maklumat palsu yang semakin canggih.

Kerajaan juga sedang membangunkan Garis Panduan Tadbir Urus dan Etika AI Negara yang dijangka siap sebelum akhir tahun ini. Panduan ini diharapkan dapat mengawal penyalahgunaan teknologi seperti deepfake, terutamanya dalam konteks jenayah siber, penipuan kewangan, dan manipulasi maklumat. Namun, undang-undang yang lebih tegas masih diperlukan untuk menghadkan penyebaran kandungan tiruan yang merosakkan reputasi dan memperdayakan awam.