Gambar Porno AI Taylor Swift Tersebar, Platform X Batasi Pencarian

WJtoday, Jakarta - Foto bernuansa pornografi Taylor Swift yang diciptakan oleh AI atau kecerdasan buatan, dilihat jutaan kali di media sosial sebelum dihapus. Kasus ini menuai perhatian banyak pihak, termasuk Gedung Putih.

Seperti diberitakan, gambar tersebut diposting di situs media sosial, termasuk X dan Telegram. Pihak X mengatakan aktif menghapusnya dan mengambil tindakan kepada akun yang terlibat.

"Kami pantau situasi dengan cermat untuk memastikan pelanggaran lebih lanjut segera ditangani, dan konten itu dihapus," sebut X. Pencarian Taylor Swift pun dibatasi.

Jejaring sosial milik Elon Musk X itu, akhirnya mengambil langkah dasar di tingkat platform untuk mencoba memperlambat penyebaran gambar grafis palsu Taylor Swift dengan memblokir kata kunci "Taylor Swift".
 
Pada hari Sabtu (27/1), penelusuran di X untuk “Taylor Swift” menghasilkan pesan kesalahan yang mengatakan, “Ada yang tidak beres. Coba muat ulang." Namun, seperti yang ditunjukkan oleh pengguna, X tampaknya hanya memblokir string teks tertentu; kueri untuk, misalnya, “Taylor AI Swift,” masih diizinkan di X, seperti di tulis laman Variety pada Sabtu (27/1) waktu setempat.
 
“Ini adalah tindakan sementara dan dilakukan dengan sangat hati-hati karena kami memprioritaskan keselamatan dalam masalah ini," ucap kepala operasi bisnis X Joe Benarroch mengenai perubahan untuk memblokir pencarian Taylor Swift.
 
Langkah ini dilakukan beberapa hari setelah gambar Swift yang dibuat oleh AI dan bersifat seksual eksplisit menjadi viral di X, serta platform internet lainnya.

Pada hari Jumat, SAG-AFTRA mengeluarkan pernyataan yang mengecam gambar palsu Swift sebagai hal yang mengecewakan, berbahaya dan sangat memprihatinkan dan mengatakan pengembangan dan penyebaran gambar palsu, terutama yang bersifat cabul, tanpa persetujuan seseorang harus dianggap ilegal.
 
CEO Microsoft Satya Nadella, dalam sebuah wawancara dengan NBC News, menyebut gambar porno Swift palsu “mengkhawatirkan dan mengerikan”
 
“Kita harus bertindak terlepas dari apa pendapat Anda tentang masalah tertentu, saya pikir kita semua mendapat manfaatnya ketika dunia online adalah dunia yang aman," kata Nadella.
 
Gedung Putih juga mempertimbangkan masalah ini. Sekretaris pers Gedung Putih Karine Jean-Pierre mengatakan khawatir dengan laporan peredaran gambar dan harus ada undang-undang, untuk mengatasi masalah ini.
 
Deepfake Swift yang eksplisit secara seksual menjadi viral di X pada hari Rabu, 24 Januari, menghasilkan lebih dari 27 juta penayangan dalam 19 jam sebelum akun yang awalnya mengunggah gambar tersebut ditangguhkan, NBC News melaporkan.
 
Dalam sebuah unggahan pada larut malam tanggal 25 Januari, tim Keamanan X mengatakan bahwa perusahaan tersebut “secara aktif menghapus” semua gambar ketelanjangan non-konsensual yang teridentifikasi, yang menurut mereka “sangat dilarang” di platform.
 
“Mengunggah gambar Ketelanjangan Non-Konsensual (NCN) dilarang keras di X dan kami memiliki kebijakan nol toleransi terhadap konten tersebut,” tulis akun Safety on X dalam sebuah unggahan.

Sekretaris Pers Gedung Putih memperhatikan apa yang terjadi pada Taylor Swift ini dan meminta Kongres segera membuat aksi legislatif untuk mencegah hal serupa terjadi lagi.

"Kami khawatir terhadap laporan penyebaran gambar atau tepatnya gambar palsu dan hal ini memang mencemaskan," kata Karine Jan Pierre, Sekretaris Pers Gedung Putih.

"Meski media sosial membuat keputusannya sendiri tentang manajemen konten, kami yakin mereka memegang peranan penting untuk menegakkan aturan untuk mencegah penyebaran misinformasi dan gambar intim dari orang sungguhan," tambah dia yang dikutip detikINET dari ABC News, Senin (29/1/2024).

Sejauh ini di Amerika Serikat, memang belum ada aturan federal tegas untuk mencegah seseorang menciptakan atau membagikan gambar deepfake tanpa persetujuan dari sosok yang ditiru.

Politisi Demokrat Morelle, yang tahun lalu meluncurkan usulan Undang-Undang Pencegahan Deepfakes menyerukan tindakan segera terhadap masalah ini. Dia mengatakan gambar dan video tersebut dapat menyebabkan kerugian emosional, finansial, dan reputasi yang tak dapat diperbaiki dan perempuan terkena dampak yang tidak proporsional.

Anggota Kongres dari Partai Republik Tom Kean Jr setuju dan mengatakan bahwa jelas teknologi AI berkembang lebih cepat daripada batasan yang diperlukan.

"Apakah korbannya adalah Taylor Swift atau anak muda mana pun di negara kita, kita perlu melakukan tindakan pencegahan untuk melawan tren yang mengkhawatirkan ini," cetusnya.***