Sekat Grok Langkah Tepat Lindungi Pengguna Daripada Eksploitasi AI

Oleh Nurul Fatin Nabilah Husin

KUALA LUMPUR, 15 Jan (Bernama) -- Sekatan sementara fungsi Grok di aplikasi X tepat dan wajar bagi melindungi pengguna khususnya kanak-kanak serta wanita daripada risiko eksploitasi serta penyalahgunaan teknologi kecerdasan buatan (AI) untuk penjanaan kandungan eksplisit.

Presiden Persatuan Pengguna Siber Malaysia (MCCA) Siraj Jalil berpandangan langkah tegas itu selari dengan penguatkuasaan Akta Keselamatan Dalam Talian (ONSA) 2025 pada 1 Jan lepas terutama selepas timbul isu penjanaan kandungan manipulasi berunsur seksual melibatkan pengguna menerusi fungsi kecerdasan buatan (AI) generatif di platform berkenaan.

Beliau berkata kegagalan penyedia platform mematuhi undang-undang negara ini berkaitan keselamatan dalam talian akan membuka ruang kepada eksploitasi yang bukan sahaja mengancam kanak-kanak dan wanita, malah sesiapa sahaja tanpa mengira latar belakang.

“Keupayaan teknologi itu untuk dieksploitasi oleh penjenayah bukan sahaja mengancam kanak-kanak dan wanita, malah sesiapa sahaja. Lelaki juga boleh terancam jika imej mereka dimanipulasi tanpa kebenaran, tanpa mengira latar belakang atau warna kulit.

“Langkah ini (sekatan sementara) wajar dijadikan contoh kepada platform digital lain supaya lebih bertanggungjawab terhadap keselamatan pengguna,” katanya kepada Bernama.

Pada 11 Jan lepas, Suruhanjaya Komunikasi dan Multimedia Malaysia (MCMC) mengarahkan sekatan sementara terhadap akses kepada AI Grok bagi pengguna di Malaysia berkuat kuasa hari yang sama.

Menurut MCMC langkah itu diambil berikutan penyalahgunaan Grok bagi menjana kandungan lucah dan eksplisit secara berulang serta kewujudan kandungan tidak senonoh dan imej manipulasi tanpa persetujuan yang melibatkan wanita dan kanak-kanak walaupun notis kawal selia telah dikeluarkan kepada X Corp. dan xAI LLC.

Semalam, Menteri Komunikasi Datuk Fahmi Fadzil memaklumkan telah berhubung dengan pihak X agar satu pertemuan dapat diadakan minggu hadapan berhubung sekatan sementara fungsi Grok.

Menjelas lanjut, Siraj berkata kes melibatkan fungsi AI Grok itu menjadi bukti kepentingan undang-undang keselamatan dalam talian seperti ONSA bagi memastikan penyedia platform bertanggungjawab menyediakan ruang digital yang selamat untuk pengguna.

“Sebelum ini, fungsi seperti deepfake dieksploitasi di platform web tertutup melalui aplikasi atau perisian yang tidak terdapat di platform sah seperti Google atau Apple Store.

“Apabila fungsi yang sama dibenarkan di platform sah, ia memberi tamparan hebat kepada pengguna dan kerajaan kerana perkara itu jelas salah, menyalahi undang-undang dan seolah-olah tiada kawalan. Tanggungjawab perlu diletakkan kepada penyedia platform jika teknologi atau fungsi itu milik mereka,” katanya.

Sementara itu, Pengasas bersama dan Pengerusi Voice of the Children Sharmila Sekaran berkata tindakan pantas MCMC menyekat aplikasi yang mencetuskan eksploitasi seksual atau kemudaratan maruah penting bagi memastikan keselamatan serta perlindungan maruah pengguna di ruang digital.

Dari perspektif keselamatan pengguna dan tadbir urus, Sharmila berkata langkah tegas MCMC itu menghantar isyarat pengawalseliaan yang jelas kepada platform digital yang beroperasi di Malaysia, khususnya dari segi akauntabiliti, pencegahan dan kewajipan penjagaan.

“Langkah tegas ini boleh menjadi contoh yang lebih bermakna kepada platform digital lain di Malaysia jika ia kekal tertumpu kepada bahaya berisiko tinggi, dilaksanakan secara konsisten dan disusuli dengan tindakan susulan berdasarkan jangkaan atau penglibatan yang jelas.

“Wajar juga sekiranya penyedia Grok dikenakan penalti di bawah ONSA atau undang-undang sedia ada kerana fungsi AI tersebut menimbulkan risiko bahaya dalam talian yang serius, tanpa perlindungan mencukupi dan kegagalan kawal selia untuk menghasilkan pembetulan yang bermakna,” katanya.

Beliau berkata langkah itu membuktikan penguatkuasaan berkenaan bukan bertujuan penapisan, sebaliknya kuasa undang-undang untuk melindungi pengguna khususnya kanak-kanak sebelum risiko tersebut menjadi lebih parah.

Sharmila berkata risiko dandanan dan eksploitasi dalam talian berkembang lebih pantas berikutan kewujudan alat yang mampu menjana atau memanipulasi imej tanpa kawalan, sekali gus menjadikan bahan berunsur seksual melibatkan kanak-kanak lebih mudah dihasilkan oleh pemangsa.

-- BERNAMA