Generative AI: Demokratisasi Konten Digital yang Problematis

Generative Artificial Intelligence (AI) menggunakan algoritma untuk membuat konten baru, termasuk audio, kode (coding), gambar, teks, simulasi dan video.¹ Generative AI merupakan bentuk implementasi dari machine learning (bidang ilmu yang memberikan komputer kemampuan untuk belajar tanpa perlu di program secara eksplisit)² dan deep learning (upaya komputer meniru cara kerja otak manusia melalui jaringan neuron (neural network) yang memiliki keragaman arsitektur).³

Beberapa tipe sistem generative AI yang populer beberapa tahun belakangan ini antara lain: text-to-image generator seperti Stable Diffusion, Midjourney dan DALL-E; text-to-text generator seperti ChatGPT, dan voice-generator/vocal synthesizer seperti SoftVC VITS Singing Voice Conversion dan Voicify yang dapat mengkloning suara nyanyian seseorang.

Gambar yang dihasilkan AI-Image Generator

Aplikasi AI ini mudah diakses di internet oleh siapapun dan dimanapun. Hal ini memungkinkan semua orang dapat membuat konten digital tanpa harus memiliki penguasaan skill di bidang seni tertentu cukup dengan membayar harga yang cenderung terjangkau bahkan tanpa biaya sama sekali. Oleh karena itu, wajar jika dikatakan bahwa generative AI mendemokratisasi pembuatan konten digital.

Namun demikian, terdapat banyak isu dan risiko terkait generative AI, mulai dari tahap pengembangan hingga tahap pemanfaatan oleh masyarakat. Hal-hal inilah yang perlu dimitigasi oleh pemerintah dan pemangku kepentingan lainnya seperti industri teknologi hingga asosiasi/pelaku industri kreatif. Sehingga teknologi AI dapat dengan aman dimanfaatkan oleh penggunanya untuk meningkatkan efektivitas proses kreatif tanpa merugikan pihak manapun. Berikut pembahasan beberapa isu seputar generative AI.

Transparansi

Keterbukaan terhadap sumber training data menjadi penting untuk memastikan bahwa pengembangan AI dilakukan atas izin pemilik/pembuat konten asli, dan tidak merugikan siapapun. Pengembangan aplikasi/sistem yang bersifat closed source seringkali memandang data yang mereka masukkan ke dalam AI yang mereka buat sebagai suatu rahasia bagi publik.

Padahal, jumlah data yang dibutuhkan untuk dimasukkan ke dalam AI sangat besar dan kemungkinan pendekatan yang digunakan untuk mengambil data adalah melalui proses crawling dari internet. Contohnya dataset LAION5B yang digunakan oleh Stable Diffusion⁴ atau ChatGPT yang menggunakan The Common Crawl database yang memuat konten dengan hak cipta dari penerbit, serta karya dari penulis individual dan akademisi.⁵

Berdasarkan informasi ini maka diketahui bahwa kemungkinan besar Stable Diffusion maupun ChatGPT memproses data yang dilindungi hak cipta tanpa izin. Inilah yang menimbulkan masalah hukum, sebagaimana yang terjadi pada Getty Images yang menuntut Stability AI (perusahaan pengembang Stable Diffusion).⁶ Hal ini membawa kita pada isu kedua, yaitu perdebatan mengenai validitas konsep Fair Use untuk generative AI.

Fair Use

Fair Use adalah konsep hukum di Amerika yang memperbolehkan penggunaan ciptaan tanpa memerlukan izin dari pemilik hak cipta untuk situasi tertentu seperti: kritik, berita, pelaporan, pengajaran, beasiswa dan penelitian. Terdapat empat faktor yang dipertimbangkan dalam fair use:

1) tujuan dari penggunaan ciptaan (komersil/non-komersil); 2) sifat dari ciptaan itu sendiri;3) seberapa banyak dan substansialnya bagian dari ciptaan yang digunakan;4) dampak dari penggunaan ciptaan terhadap pasar terkait dan nilai dari ciptaan tersebut. Dalam AI-generated content, terutama pada digital art, fair use menjadi perdebatan yang belum terselesaikan hingga saat ini.

Pada satu sisi, gambar yang dihasilkan dinilai transformatif dan memiliki unsur kebaruan, bukan sekedar meniru atau imitasi dari karya original yang telah dipelajari oleh sistem AI. Namun, banyak yang beranggapan bahwa AI-generated art hanya mengkombinasikan/memanipulasi karya yang sudah ada tanpa menambahkan kreativitas pada outputnya. Dengan kata lain, konten yang dihasilkan termasuk derivative work yang menggabungkan beberapa sumber.

Selain itu, jika AI-generated art menerapkan konsep fair use maka seharusnya mereka digunakan untuk kepentingan pribadi/non-komersil sehingga tidak memberikan dampak negatif pada potential market atau nilai dari karya original.

Namun demikian, beberapa aplikasi generative AI memasang tarif bagi pengguna untuk menggunakan sistem mereka. Lebih lanjut, pengguna pun dibebaskan untuk melakukan apapun terhadap output yang mereka dapatkan (selama tunduk pada hukum yang berlaku) termasuk mengkomersialisasikannya.⁷

Di Indonesia sendiri, berdasarkan Pasal 44 ayat (1) UU Nomor 28 Tahun 2014 tentang Hak Cipta menyatakan bahwa:

“Penggunaan, pengambilan, Penggandaan, dan/atau pengubahan suatu Ciptaan dan/atau produk Hak Terkait secara seluruh atau sebagian yang substansial tidak dianggap sebagai pelanggaran Hak Cipta jika sumbernya disebutkan atau dicantumkan secara lengkap untuk keperluan:

a. Pendidikan, penelitian, penulisan karya ilmiah, penyusunan laporan, penulisan kritik atau tinjauan suatu masalah dengan tidak merugikan kepentingan yang wajar dari Pencipta atau Pemegang Hak Cipta;

b. Keamanan serta penyelenggaraan pemerintahan, legislatif, dan peradilan;

c. Ceramah yang hanya untuk tujuan pendidikan dan ilmu pengetahuan;

d. Pertunjukan atau pementasan yang tidak dipungut bayaran dengan ketentuan tidak merugikan kepentingan yang wajar dari Pencipta.”

Berdasarkan penjelasan Pasal 44 ayat (1) huruf a, kepentingan wajar adalah kepentingan yang didasarkan pada keseimbangan dalam menikmati manfaat ekonomi atas suatu Ciptaan. Namun demikian, bagaimana mengukur dan menjamin keseimbangan ekonomi tersebut tetap terjaga?

Jika tersedia cara untuk mendapatkan konten digital secara cepat dan biaya minimal dengan menggunakan AI, maka seberapa luas dampaknya pada pasar maupun nilai dari ciptaan yang dibuat oleh manusia? Akankah ada pergeseran market demand ke pihak AI-generated content terjadi? Apakah faktor “kepentingan wajar” ini akan tetap terpenuhi?

Etika dan Penyalahgunaan AI

1. Deepfake

Deepfake adalah konten atau material yang dibuat atau dimanipulasi oleh AI agar terlihat mirip seperti audio/video/gambar/teks asli).⁸ Contoh implementasi teknologi deepfake antara lain: menciptakan kembali scene klasik pada film, memberikan special effect, editing wajah pada fase post-production, pengisian suara otomatis, dan lain sebagainya.⁹

Pada sisi gelapnya, konten deepfake menampilkan seseorang melakukan sesuatu yang sebenarnya tidak pernah terjadi. Seringkali orang terkenal seperti selebritis, pimpinan bisnis, poltisi dan tokoh masyarakat yang menjadi sasaran untuk dijadikan headline berita/menarik perhatian masyarakat. Seperti foto penangkapan Donald Trump¹⁰, hingga video dewasa Emma Watson dan Scarlet Johansson.¹¹ Lebih jauh, belakangan ini bahkan teknologi deepfake yang dapat mengubah suara dan wajah seseorang digunakan oleh oknum-oknum tak bertangugngjawab untuk tindak kriminal.¹²

Kasus deepfake terkait industri kreatif contohnya penggunaan vocal synthesizer membuat Drake dan The Weeknd menyanyikan “Heart on My Sleeve”, Rihanna menanyikan lagu “Cuff It” milik Beyonce dan Kanye West dengan lagu ballad “Hey There, Delilah”.¹³ Audio ini dibuat sepenuhnya dengan AI, algoritma mempelajari suara penyanyi asli dan membuat mereka “bernyanyi” lagu yang belum pernah mereka nyanyikan.

Terdapat beberapa isu yang perlu disoroti dalam hal ini. Pertama, menggunakan lagu yang dilindungi hak cipta sebagai training data (kembali ke perdebatan konsep fair use). Kedua, menggunakan sebagian atau seluruh lagu/melodi tanpa izin dan membayar royalty pada yang berkepentingan. Poin kedua dapat tidak menjadi suatu pelanggaran jika penggunaan AI hanya sebatas meniru suara penyanyi, untuk kemudian dimanfaatkan untuk menyanyikan lagu yang benar-benar baru.¹⁴

Menindaklanjuti kejadian tersebut, dalam rangka melindungi seniman yang mereka naungi, Universal Music Group selaku perusahaan label rekaman mengimbau streaming platform online seperti Spotify dan Apple Music untuk tidak memberikan akses database mereka pada perusahaan AI.¹⁵

2. Misinformasi

AI seperti ChatGPT bekerja dengan memperhitungkan probabilitas antar kata untuk kemudian disusun menjadi kalimat. Sejatinya, mereka tidak memahami konten yang mereka hasilkan dan tidak memiliki kemampuan untuk memeriksa validitas informasi yang mereka dapatkan/keluarkan. Sehingga, meskipun waktu yang diperlukan untuk mendapatkan konten cepat namun sistem AI ini dapat menyebabkan misinformasi.¹⁶

Sebagai contoh, pada April 2023, salah satu walikota di Australia menuntut OpenAI (pengembang ChatGPT) karena aplikasi tersebut telah menyebarkan informasi salah mengenai keterkaitannya dengan sebuah kasus suap. Alih-alih menyebutkan kenyataan bahwa dia adalah whistle-blower di kasus tersebut, ChatGPT justru menyebut bahwa walikota tersebut bersalah dan telah dijatuhi hukuman penjara.¹⁷ Meskipun mengetahui keterbatasan yang dimiliki aplikasi tersebut, banyak yang telah menggunakan ChatGPT untuk membuat artikel hingga konten situs ‘berita’ mereka.

Pada April 2023, NewsGuard (organisasi jurnalis) menemukan 49 situs berita dalam 7 bahasa yang berbeda menggunakan AI untuk membuat hampir seluruh kontennya. Bahkan diantara mereka, ada situs yang secara khusus memuat konten misinformasi.¹⁸

Kejelasan Kepemilikan Hak Cipta atas AI-generated content

Disrupsi yang disebabkan oleh AI content generator beberapa tahun belakangan mendorong beberapa negara untuk mengevaluasi regulasi terkait, termasuk kepemilikan hak cipta atas output AI, seperti:

1. Hak Cipta AI-generated content di Inggris

Pemerintah Inggris telah melaksanakan diskusi untuk membahas konflik antara AI dan kekayaan intelektual pada November dan Desember 2021 dengan melibatkan pelaku industri kreatif, industri teknologi, akademisi dan pemangku kepentingan lainnya termasuk pakar hukum dan kekayaan intelektual. Pada Juni 2022, mereka mengumumkan hasil konsultasi yang didapatkan, antara lain:

Computer-generated works (CGW – karya yang dibuat komputer tanpa keterlibatan manusia sebagai pembuat) saat ini dilindungi oleh Copyright Designs and Patents Act 1988 dan dipandang tidak perlu diubah. Pemegang hak cipta atas CGW adalah orang yang memungkinkan terciptanya suatu ciptaan. Maka dalam hal ini dapat mengacu pada pengembang AI, atau pengguna sistem AI tersebut.¹⁹ Pemerintah Inggris menilai AI content generator masih berada di tahap awal dan dampak di masa depan masih belum jelas. Oleh karena itu, akan dilaksanakan pengawasan dampak pengaturan ini seiring dengan berkembangnya AI. Jika diperlukan, evaluasi pelindungan CGW akan dilakukan di masa yang akan datang

Pelaksanaan TDM (Text and Data Mining) dapat dilakukan untuk tujuan apapun karena dinilai akan menguntungkan bagi peneliti, pengembang AI, bisnis kecil, institusi warisan kebudayaan, jurnalis dan penduduk. TDM dapat dilakukan pada karya yang dilindungi hak cipta maupun lisensi. Namun, pemilik hak cipta dapat menjaga konten mereka melalui pemilihan platform untuk mengakses ciptaan mereka, termasuk menerapkan skema langganan untuk mengakses konten. Pengaturan ini diharapkan akan membantu Inggris menjadi pusat global bagi inovasi AI.²⁰

2. Hak Cipta AI –generated content di Amerika

The Copyright Office telah menginisiasi peninjauan kebijakan terkait AI, termasuk penggunaan ciptaan yang dilindungi sebagai bahan training data untuk AI. Konsultasi publik dengan melibatkan pelaku industri kreatif, pengembang, peneliti dan pengacara akan dilaksanakan pada bulan April dan Mei. Adapun pada Maret 2023, The Copyright Office telah merilis panduan bagi masyarakat yang ingin mendaftarkan hak cipta atas karya yang menggunakan AI content generator:

Tidak memenuhi standar pendaftaran hak cipta jika hanya sebatas memasukkan prompt tanpa ada upaya manipulasi/pengendalian terhadap cara AI menerjemahkan prompt untuk menghasilkan konten.

Pemohon hak cipta harus mengidentifikasi elemen yang dilaksanakan oleh manusia dan secara eksplisit melepaskan hak atas konten yang dihasilkan AI

Pemohon hak cipta yang telah mengajukan karya yang mengandung konten hasil AI perlu memperbaiki dokumen pengajuan mereka

Pemegang hak cipta untuk karya yang mengandung konten hasil AI harus mengunggah formulir pelengkap yang melepaskan hak atas konten yang dihasilkan AI atau hak mereka akan dicabut.²¹

Kesimpulan

Perlu dilakukan kajian dampak AI content generator terhadap pasar ekonomi kreatif eksisting dan pemetaan regulasi yang perlu disesuaikan karena tuntutan perkembangan teknologi.

Pemerintah Indonesia perlu mengadakan diskusi dengan pemangku kepentingan seperti pelaku ekonomi kreatif, pakar hukum dan kekayaan intelektual serta pengembang AI untuk membahas jalan tengah yang dapat diambil agar kemajuan AI tetap dapat tercapai, mampu membantu perkembangan industri kreatif tanpa merugikan siapapun

Peningkatan literasi digital masyarakat agar tidak mudah tertipu oleh konten deepfake maupun misinformasi.

Sumber:

1. https://www.mckinsey.com/~/media/mckinsey/featured%20insights/mckinsey%20explainers/what%20is%20generative%20ai/what%20is%20generative%20ai.pdf
2. Tiwari, Tanya & Tiwari, Tanuj & Tiwari, Sanjay. (2018). How Artificial Intelligence, Machine Learning and Deep Learning are Radically Different?. International Journal of Advanced Research in Computer Science and Software Engineering. 8. 1. 10.23956/ijarcsse.v8i2.569.
3. https://algorit.ma/blog/artificial-intelligence-deep-learning/
4. https://stablediffusionweb.com/#faq
5. Gupta, Bulbul & Mufti, Tabish & Sohail, Shahab & Madsen, Dag. (2023). ChatGPT: A Brief Narrative Review. 10.20944/preprints202304.0158.v1.
6. https://www.reuters.com/legal/getty-images-lawsuit-says-stability-ai-misused-photos-train-ai-2023-02-06/
7. https://www.jdsupra.com/legalnews/ai-art-copyright-part-2-artificial-7479121/#:~:text=One%20argument%20in%20favor%20of,imitation%20of%20the%20original%20work.
8. Khanjani, Zahra & Watson, Gabrielle & Janeja, Vandana. (2023). Audio deepfakes: A survey. Frontiers in Big Data. 5. 1001063. 10.3389/fdata.2022.1001063.
9. Westerlund, Mika. (2019). The Emergence of Deepfake Technology: A Review. Technology Innovation Management Review. 9. 39-52. 10.22215/timreview/1282.
10. https://www.viva.co.id/digital/digilife/1586560-viral-video-deepfake-penangkapan-donald-trump
11. https://www.tribunnews.com/seleb/2023/03/10/wajah-emma-watson-dan-scarlett-johansson-muncul-di-iklan-deepfake-seksual-di-facebook
12. https://www.reuters.com/technology/deepfake-scam-china-fans-worries-over-ai-driven-fraud-2023-05-22/
13. https://www.bbc.com/news/entertainment-arts-65298834
14. https://www.insider.com/rihanna-ai-cuff-it-cover-legal-nightmare-music-industry-2023-4
15. https://www.theguardian.com/business/2023/apr/12/streaming-sites-ai-copyrighted-music-copycat-tracks
16. https://theconversation.com/chatgpt-and-other-generative-ai-could-foster-science-denial-and-misunderstanding-heres-how-you-can-be-on-alert-204897
17. https://www.independent.co.uk/tech/chatgpt-lawsuit-australia-openai-b2315525.html
18. https://www.newsguardtech.com/special-reports/newsbots-ai-generated-news-websites-proliferating/
19. https://www.infolaw.co.uk/newsletter/2022/09/the-copyright-status-of-ai-generated-works/
20. https://www.gov.uk/government/consultations/artificial-intelligence-and-ip-copyright-and-patents/outcome/artificial-intelligence-and-intellectual-property-copyright-and-patents-government-response-to-consultation
21. https://www.jdsupra.com/legalnews/ip-rights-at-top-of-mind-as-u-s-8532514/