Penipuan Digital Berbasis AI dan Tinjauan hukumnya dalam UU ITE

APERO FUBLIC  I  ESAI.-   Di era perkembangan teknologi dalam beberapa tahun terakhir, khususnya dalam penggunaan teknologi AI (Artificial Intelegent), telah membawa perubahan besar dalam kehidupan manusia. Teknologi ini memberikan berbagai manfaat dan kemudahan dalam kehidupan sehari-hari, terutama dalam membantu pekerjaan menjadi lebih cepat dan efektif, mempermudah komunikasi, serta mendukung proses pembelajaran dan pembuatan konten digital.

Namun dibalik manfaat dan kemudahan tersebut, penipuan digital berbasis AI menjadi salah satu tantangan baru yang perlu untuk diperhatikan dan tidak bisa diabaikan.

Saat ini, teknologi AI mampu memungkinkan seseorang untuk memanipulasi wajah, suara, bahkan meniru gaya bicara seseorang agar terlihat sangat mirip dengan aslinya. Teknologi seperti Kling.ai, SwapFaces.ai, Pollo.ai yang digunakan untuk memanipulasi wajah seseorang serta voice.ai dan minimax.io yang digunakan untuk mengkloning suara seseorang secara akurat dan realistis dapat memungkinkan pelaku kejahatan untuk menyamar sebagai orang lain dengan maksud dan tujuan untuk menipu korban.

Sehingga dengan itu informasi yang disampaikan tampak meyakinkan dan sulit dibedakan dari yang sebenarnya. Oleh sebab itu, adanya perkembangan teknologi tersebut dapat meningkatkan risiko terjadinya penipuan digital, terutama pada masyarakat yang belum memiliki pemahaman yang cukup mendalam terhadap teknologi AI.

Padahal sebenarnya penggunaan teknologi AI seperti Kling.ai, SwapFaces.ai, Pollo.ai, voice.ai serta minimax.io dulunya digunakan oleh para affiliate untuk mempromosikan produk yang sampel barangnya belum mereka miliki. Akan tetapi seiring berjalannya waktu, teknologi tersebut mulai disalahgunakan untuk tujuan yang merugikan, seperti halnya penyebaran informasi hoax dengan memanipulasi wajah dan suara seseorang.

Bahkan sampai digunakan sebagai modus penipuan dengan mengatasnamakan influencer terkenal atau bahkan pihak bank melalui video call untuk mengelabui para korban agar memberikan data pribadi mereka yang bersifat sensitif. Adanya kondisi tersebut menyebabkan batas antara informasi yang asli dengan yang palsu menjadi sulit untuk dibedakan.

Sehingga dengan aktivitas penyalahgunaan teknologi tersebut, menjadikan kita sebagai generasi muda harus lebih bijak, kritis, dan cerdas dalam menggunakan teknologi serta mampu menyaring berbagai informasi yang beredar.

Selain itu adanya fenomena tersebut juga menunjukkan bahwa perkembangan teknologi tidak hanya membawa kemudahan saja, akan tetapi juga tantangan baru dalam bentuk aktivitas kejahatan digital. Maka dari itu diperlukan adanya peningkatan literasi digital, kewaspadaan, serta kemampuan berpikir kritis agar masyarakat tidak mudah menjadi korban penyebaran hoax dan penipuan berbasis teknologi AI.

Dalam perspektif hukum informasi, penipuan digital berbasis AI telah termasuk kedalam ranah kejahatan siber yang dimana melibatkan penyalahgunaan teknologi dan memanipulasi informasi. Hal ini tercantum dalam UU ITE, khususnya pada Pasal 28 ayat (1) Undang-Undang Nomor 11 Tahun 2008 mengenai Informasi dan Transaksi Elektronik yang sebagaimana telah diubah dengan Undang-Undang Nomor 19 Tahun 2016, khususnya pada pasal 28 ayat (1) yang menjelaskan bahwa setiap orang dilarang untuk menyebarkan berita bohong dan menyesatkan yang dapat merugikan konsumen dalam kegiatan transaksi elektronik.

Selain itu, tindakan manipulasi wajah dan suara dengan menggunakan teknologi AI juga dapat dikaitkan dengan Pasal 35 UU ITE yang mengatur akan larangan dalam melakukan manipulasi, penciptaan, perubahan, atau penghilangan informasi atau dokumen elektronik dengan tujuan agar seolah-olah data tersebut dianggap sebagai data yang autentik.

Sehingga dengan adanya ketentuan tersebut, dapat dipahami bahwa penggunaan teknologi AI dengan tujuan untuk kegiatan penipuan merupakan tindakan yang sangat melanggar hukum dan dapat dikenakan sanksi pidana. 

Namun, dalam praktiknya, proses pembuktian kasus seperti itu masih cukup sulit untuk dilakukan. Hal ini disebabkan karena teknologi AI mampu menghasilkan konten yang sangat realistis, mulai dari kemiripan struktur wajah, suara, hingga gaya bicara, sehingga membuatnya sulit untuk dibedakan antara konten yang asli dengan hasil rekayasa.

Meski demikian, individu yang jeli dan peka terhadap detail tertentu masih dapat mengenali adanya penggunaan teknologi AI di dalamnya. Misalnya, melalui kualitas visualnya yang terlalu sempurna, bersih, atau tekstur yang tampak terlalu smooth (halus) sehingga terkesan kurang alami.

Walaupun demikian, kelemahan-kelemahan tersebut dapat diminimalkan dengan penggunaan prompt yang tepat dan terstruktur sehingga menghasilkan output yang semakin mendekati realitas. Oleh karena itu, dengan adanya kondisi tersebut menunjukkan bahwa tantangan dalam mendeteksi dan membuktikan kejahatan berbasis AI juga semakin kompleks.

Sehingga dengan itu diperlukan adanya penguatan akan regulasi serta peningkatan kemampuan aparat penegak hukum dalam menangani dan menghadapi kasus kejahatan siber serta perkembangan teknologi yang semakin pesat. 

Adapun salah satu contoh upaya penting yang dapat dilakukan adalah melalui pelatihan forensik digital, yaitu kemampuan untuk menganalisis jejak digital, metadata, serta pola manipulasi pada konten elektronik. Disisi lain, peranan masyarakat juga tidak kalah penting dalam pencegahan terjadinya penipuan digital.

Dengan itu, masyarakat diharapkan tidak mudah percaya terhadap informasi yang beredar, terutama ketika dalam konteks yang melibatkan permintaan data pribadi ataupun transaksi keuangan yang berpotensi menjadi bagian dari penipuan digital berbasis AI.

Selain itu masyarakat juga perlu untuk meningkatkan kewaspadaan dengan melakukan verifikasi terhadap sumber informasi yang diterima, misalnya dengan mengecek ulang kebenaran berita yang dibaca melalui sumber resmi atau melakukan konfirmasi langsung kepada pihak yang terkait.

Sehingga dengan melakukan beberapa langkah sederhana tersebut, masyarakat dapat meminimalkan risiko menjadi korban penipuan digital serta lebih terlindungi dari berbagai bentuk penyalahgunaan teknologi AI yang semakin berkembang.

Dengan demikian, secara keseluruhan dapat disimpulkan bahwasanya untuk menghadapi perkembangan teknologi AI sekaligus meminimalkan dampak negatifnya, diperlukan kerjasama antara pemerintah, penegak hukum, dan masyarakat dalam memperkuat regulasi, meningkatkan literasi digital serta kewaspadaan publik terhadap bentuk kejahatan siber pada era digital yang terus berkembang.

Penulis: Ayu Rahmawati

Mahasiswi Ilmu Perpustakaan dan Sains Informasi, Fakultas Sains dan Teknologi, Universitas Islam Negeri Maulana Malik Ibrahim Malang. 

Editor. Tim Redaksi