Deepfake, Sisi Buruk Teknologi

Salah satu bentuk penyalahgunaan teknologi deepfake yang paling mengerikan adalah pembuatan konten pornografi tanpa persetujuan korban

Oleh. Maman El Hakiem
(Kontributor NarasiPost.Com)

NarasiPost.Com-Perkembangan teknologi digital telah memberikan banyak manfaat, tetapi di sisi lain juga membawa sisi buruk yang berdampak pada nilai moralitas yang serius. Salah satunya adalah penyalahgunaan teknologi canggih seperti kecerdasan buatan (Artificial Intelligence/AI) untuk tujuan yang merugikan, termasuk dalam ranah kejahatan seksual.

Kasus kejahatan seksual yang disebabkan oleh pemanfaatan teknologi AI, semisal aplikasi deepfake, saat ini menjadi semakin mengkhawatirkan terutama di Korea Selatan. Sebagaimana berita yang dilansir dari CNNIndonesia.com, (27-8-2024), selama periode Januari hingga Juli 2024, di Seoul, tercatat 10 remaja berusia 14 tahun atau lebih sudah ditangkap atas kejahatan melalui konten deepfake.

Secara keseluruhan, menurut data kepolisian Korea Selatan, telah tercatat sejak Januari hingga Juli 2024, ada sekira 297 kasus kejahatan eksploitasi seksual melalui deepfake, 178 orang dari jumlah tersebut telah menjadi terdakwa.

Sisi Buruk

Deepfake adalah teknologi yang memanfaatkan AI untuk menghasilkan video atau gambar yang tampak nyata, tetapi sebenarnya palsu. Teknologi ini memungkinkan manipulasi wajah dan suara seseorang untuk dimasukkan ke dalam konten yang tidak pernah mereka lakukan atau katakan. Salah satu bentuk penyalahgunaan teknologi deepfake yang paling mengerikan adalah pembuatan konten pornografi tanpa persetujuan korban, di mana wajah korban ditempelkan pada tubuh orang lain dalam adegan eksplisit.

Di Korea Selatan, penggunaan deepfake dalam kejahatan seksual meningkat dengan cepat. Para pelaku, yang kebanyakan adalah remaja dan pelajar, menggunakan teknologi ini untuk membuat dan menyebarkan konten pornografi palsu. Fenomena ini memperparah situasi kejahatan seksual, karena korban sering kali tidak menyadari bahwa mereka telah menjadi target hingga konten tersebut menyebar luas di internet.

Yang lebih mengkhawatirkan adalah keterlibatan remaja dan pelajar dalam pembuatan dan distribusi konten deepfake. Motivasi mereka beragam, mulai dari iseng, balas dendam, hingga sekadar mengikuti tren. Namun, akibat dari tindakan ini sangat serius, baik bagi korban maupun pelaku. Korban dapat mengalami trauma psikologis yang mendalam, stigma sosial, hingga ancaman terhadap keselamatan pribadi. Sementara itu, para pelaku juga menghadapi konsekuensi hukum yang berat, meskipun banyak dari mereka mungkin tidak sepenuhnya menyadari keseriusan tindakan mereka.

Keterlibatan remaja dan pelajar dalam kejahatan ini juga dipengaruhi oleh mudahnya akses terhadap teknologi dan kurangnya edukasi tentang etika penggunaan teknologi. Banyak dari mereka yang tidak paham bahwa penggunaan deepfake untuk tujuan yang merugikan adalah tindakan kriminal yang dapat dikenakan hukuman berat.

Hal ini menjadi perhatian para ahli kriminal yang menekankan perlunya pemerintah untuk meningkatkan pendidikan kepada siswa tentang beratnya kejahatan ini. Salah satunya adalah profesor Psikologi Kriminal Lee Soo-Jung dari Universitas Kyunggi yang menyarankan agar pelajaran tentang teknologi komputer, seperti pengkodean harus disertai aspek hukum dan etika.

Menanggapi hal tersebut, pemerintah Korea Selatan telah mengambil langkah-langkah untuk menangani masalah ini, termasuk memperketat hukum terkait kejahatan seksual dan penggunaan teknologi deepfake. Pada tahun 2020, Korea Selatan memperkenalkan undang-undang yang mengatur pembuatan dan distribusi konten deepfake tanpa persetujuan korban, dengan hukuman yang lebih berat bagi pelaku. Selain itu, upaya untuk meningkatkan kesadaran publik tentang bahaya deepfake dan pentingnya penggunaan teknologi secara etis terus dilakukan.

Namun, upaya pemerintah ini perlu didukung oleh partisipasi aktif masyarakat, terutama dalam edukasi bagi remaja dan pelajar. Sekolah-sekolah dan lembaga pendidikan lainnya perlu memperkenalkan kurikulum yang mengajarkan etika digital dan risiko yang terkait dengan penggunaan teknologi, serta memberikan pemahaman yang lebih baik tentang batasan-batasan hukum.

Teknologi dalam Sistem Islam

Syariat Islam, sebagai sistem hukum dan panduan hidup kaum muslim, mengatur segala aspek kehidupan termasuk bagaimana teknologi seharusnya dimanfaatkan. Meskipun teknologi modern seperti internet, media sosial, dan kecerdasan buatan (AI) tidak secara eksplisit disebutkan dalam teks-teks klasik, prinsip-prinsip dasar syariat tetap relevan dalam mengarahkan kaum muslim untuk menggunakan teknologi dengan bijak dan menghindari kemudaratan.

Adanya syariat Islam memiliki tujuan (Maqasid al-Shariah) yang merujuk pada tujuan dari penerapan hukum Islam itu sendiri, yaitu untuk melindungi agama (ad-din), jiwa (an-nafs), akal (al-'aql), keturunan (an-nasl), dan harta benda (al-mal). Setiap tindakan yang merusak atau mengancam salah satu dari lima tujuan ini dianggap bertentangan dengan syariat.

Dalam konteks pemanfaatan teknologi, umat Islam diharuskan untuk memastikan bahwa teknologi tersebut digunakan dengan cara yang melindungi dan mendukung tujuan-tujuan ini. Misalnya, teknologi yang digunakan untuk menyebarkan pornografi atau informasi yang menyesatkan jelas bertentangan dengan maqasid al-shariah karena merusak akhlak, mengganggu ketenteraman jiwa, dan merusak tatanan masyarakat.

Selain itu, syariat Islam sangat menekankan pada pentingnya menjaga kehormatan dan privasi individu. Zina (perbuatan seksual di luar pernikahan) dan fitnah (menyebarkan kebohongan atau gosip) adalah dua hal yang dilarang keras dalam Islam. Teknologi yang digunakan untuk membuat atau menyebarkan konten yang memicu perzinaan, seperti pornografi atau konten deepfake, atau yang menimbulkan fitnah terhadap individu adalah bentuk pemanfaatan teknologi yang dilarang dalam Islam.

Islam mengajarkan umatnya untuk senantiasa mengajak kepada kebaikan dan mencegah kemungkaran. Dalam konteks teknologi, ini berarti umat Islam harus menggunakan teknologi untuk hal-hal yang bermanfaat, seperti pendidikan, dakwah, atau pengembangan ilmu pengetahuan, dan menghindari penggunaannya untuk hal-hal yang membawa mudarat atau kerusakan, seperti penyebaran hoaks, penipuan, atau pencemaran nama baik.

Syariat Islam juga menekankan pada pentingnya keadilan dan etika dalam segala tindakan. Teknologi harus digunakan dengan adil dan tidak boleh digunakan untuk menzalimi orang lain atau mengambil keuntungan yang tidak sah. Misalnya, penggunaan teknologi untuk memata-matai orang lain tanpa alasan yang dibenarkan atau menggunakan AI untuk menciptakan konten yang menyesatkan atau merusak reputasi seseorang adalah tindakan yang tidak adil dan bertentangan dengan prinsip-prinsip Islam.

Dalam hal ini, negara memiliki tanggung jawab sosial dalam menjaga keharmonisan masyarakat. Penggunaan teknologi yang dapat menyebabkan perpecahan, permusuhan, atau gangguan sosial harus dihindari. Sebaliknya, teknologi harus digunakan untuk mempromosikan nilai-nilai kebaikan, seperti dengan menyebarkan informasi yang benar, membantu orang lain, dan memperkuat persaudaraan umat manusia.

Islam memiliki konsep dalam ilmu fikih disebut sadd adz-dzariah, yaitu pencegahan terhadap hal-hal yang dapat menimbulkan kemudaratan. Teknologi yang memiliki potensi besar untuk disalahgunakan harus diatur dan diawasi dengan ketat untuk mencegah dampak negatifnya. Misalnya, pengaturan yang ketat diperlukan dalam penggunaan media sosial untuk mencegah penyebaran kebencian, kekerasan, atau informasi palsu.

Baca: deepfake-kenali-dan-waspadai

Dengan demikian, negara yang menerapkan sistem Islam akan memberikan panduan yang jelas dalam pemanfaatan teknologi agar tidak menimbulkan kemudaratan. Prinsip-prinsip yang termasuk maqasid al-shariah, larangan zina dan fitnah, prinsip amar makruf nahi mungkar, keadilan, tanggung jawab sosial, dan pencegahan kemudaratan harus menjadi pedoman bagi masyarakat dalam menggunakan teknologi. Dengan mengikuti panduan ini, kehadiran teknologi yang digunakan tidak hanya bermanfaat bagi individu, tetapi juga bagi masyarakat secara keseluruhan. Teknologi harusnya menjadi sarana ketakwaan dan tolong menolong, sebagaimana yang diisyaratkan Allah Swt. pada QS. Al-Maidah: 2, "Saling tolong-menolong dalam perkara kebajikan dan takwa, dan jangan tolong-menolong dalam berbuat dosa dan permusuhan.”

Wallahu'alam bish Shawwab. []