Kandungan Deepfake Sasar Wanita Membimbangkan, Hampir 7,000 Permohonan Penurunan - Teo

KUALA LUMPUR, 5 Mac (Bernama) -- Penyalahgunaan teknologi kecerdasan buatan (AI) seperti deepfake bagi menghasilkan kandungan tidak sesuai, terutama menyasarkan golongan wanita semakin membimbangkan apabila hampir 7,000 permohonan penurunan kandungan telah dikemukakan kepada platform media sosial sejak 2024.

Timbalan Menteri Komunikasi Teo Nie Ching berkata Suruhanjaya Komunikasi dan Multimedia Malaysia (MCMC) mengemukakan sebanyak 6,987 permohonan penurunan kandungan bermula 1 Jan 2024 hingga 1 Mac lepas, dengan 95 peratus atau 6,657 kandungan telah pun diturunkan.

“Pada 2024, kandungan yang telah diturunkan sebanyak 817 kandungan manakala pada 2025, jumlah ini meningkat kepada 3,389. Untuk tahun ini, walaupun hanya dua bulan sehingga 1 Mac, kami telah turunkan sebanyak 2,451 kandungan yang tidak sesuai menggunakan teknologi deepfake dan AI.

“Ini menjadi satu trend kerana apabila teknologi seperti deepfake, kita nampak sebenarnya lagi banyak wanita yang menjadi mangsa. Jadi, ini menjadi satu trend yang memang amat membimbangkan dan merisaukan,” katanya selepas menghadiri Sambutan Hari Wanita Antarabangsa ke-115 di Universiti UCSI di sini hari ini.

Teo berkata MCMC akan mula menguatkuasakan rangka kerja berkaitan keselamatan dalam talian tahun ini di bawah Akta Keselamatan Dalam Talian 2025 (ONSA) bagi memperkukuh perlindungan pengguna, khususnya golongan wanita dan kanak-kanak.

“MCMC telah cuba untuk membangunkan instrumen kawal selia untuk pastikan kita boleh memberi tanggungjawab kepada platform provider atau penyedia perkhidmatan. Ini supaya kandungan yang tidak sesuai, lucah atau kandungan yang ada satu kecenderungan untuk menjadikan wanita atau kanak-kanak menjadi mangsa, boleh diturunkan dengan lebih cepat,” katanya.

Pada masa sama, beliau turut menggalakkan golongan pelajar supaya terus memanfaatkan teknologi secara kreatif dan bertanggungjawab bagi menyumbang kepada masyarakat yang lebih inklusif dan saksama.

“Saya harap mereka (pelajar) akan terus menunjukkan kepercayaan dan kreativiti mereka dalam industri ini supaya kita boleh nampak satu dunia yang lebih kesaksamaan jantina, apabila kita dapat lihat lelaki dan wanita semua adalah setara,” katanya.

Terdahulu, Teo dalam ucapannya berkata alat bantuan AI yang dilatih berdasarkan bias jantina sedia ada membolehkan keganasan terhadap wanita tersebar dengan meluas, lebih pantas dan dalam cara yang lebih kompleks, sekali gus memburukkan lagi penyalahgunaan teknologi di peringkat global.

Beliau berkata dunia kini sudah hidup dalam realiti apabila sekurang-kurangnya satu daripada tiga wanita mengalami keganasan fizikal atau seksual, dan kemunculan alat bantuan AI yang amat berkuasa telah mewujudkan apa yang beliau gambarkan sebagai ‘ribut yang kuat’.

“Walaupun keganasan yang dipermudah teknologi terhadap wanita dan kanak-kanak perempuan semakin meningkat, dengan kajian menunjukkan 16 hingga 58 peratus wanita di seluruh dunia terjejas, AI sedang mewujudkan bentuk penderaan baharu serta menguatkan bentuk penderaan sedia ada pada kadar yang membimbangkan.

“Itulah sebabnya di bawah Kerajaan MADANI, kami memperkukuh perlindungan untuk wanita sama ada dalam talian mahupun luar talian menerusi ONSA dan Akta Antibuli 2025 yang akan meningkatkan mekanisme penguatkuasaan terhadap kandungan berbahaya, gangguan dalam talian, buli siber, penipuan dan eksploitasi digital.

“Akta-akta itu menyediakan kewajipan pematuhan yang lebih jelas untuk platform, kuasa penyiasatan yang lebih kukuh untuk pengawal selia serta hukuman yang lebih tegas terhadap pesalah,” katanya.

-- BERNAMA