Saya pribadi, sebelumnya sangat jarang sekali berselancar di platform sosial media bernama TikTok. Bagi saya yang masuk dalam kategori generasi milineal, lebih akrab dengan media Facebook dan Instagram di banding TikTok.
Alasan saya cukup sederhana, kurang menyukai tayangan-tayangan disuguhkan oleh TikTok. Sosial media cenderung menayangkan video pendek dan di beranda lebih sering muncul konten yang viral daripada konten yang sesuai dengan kepribadian saya.
Sampai pada suatu waktu, saya bertemu dengan Ketua PBNU, Savic Ali. Saat itu sedang mengisi di acara Muktamar Ilmu Pengetahuan (MIP) Lakpesdam Jawa Tengah, bulan Juni lalu. Ia menyoal tentang Nahdlatul Ulama (NU) dan Transformasi digital.
Ia menyoroti pesatnya perkembangan teknologi kecerdasan buatan atau Artificial Intelligence (AI). Menurutnya, teknologi tersebut mulai dimanfaatkan dalam berbagai aktivitas dakwah, termasuk melalui kemunculan akun-akun dakwah berbasis AI di berbagai platform media sosial seperti TikTok.
Otoritas Agama
Mas Savic menyebut satu akun yang sedang santer dibicarakan, yaitu “Ustazah Hajar”. Seketika itu saya mengunduh kembali aplikasi tersebut. Saya langsung berselancar ke kolom pencarian @nia.hajar_s. Dari pencarian itu muncul lah seorang perempuan berhijab tampil dengan wajah tenang dan ekspresif.
Cara bicaranya lembut, paras menawan, ritmenya teratur, pilihan katanya akrab dengan telinga umat Islam. Ia menyampaikan nasihat tentang hidup, mengutip pesan agama, dan hadir seperti banyak ustazah lain yang setiap hari berseliweran di beranda media sosial.
Namanya Ustazah Hajar. Ia adalah figur yang dibuat dengan kecerdasan artifisial. Wajahnya sintetis, suaranya dapat diproduksi secara digital, dan persona keagamaannya dibangun melalui teknologi. Tetapi bagi pengguna TikTok yang hanya melihat video beberapa puluh detik, perbedaan antara ustazah manusia dan ustazah buatan itu tidak selalu segera terlihat.
Masalahnya, Ustazah Hajar ini bukan manusia. Di sinilah persoalan menjadi menarik. Selama ini pembicaraan tentang AI dan agama sering berhenti pada soal sederhana. Seperti apakah AI boleh dipakai untuk berdakwah? Pertanyaan semacam itu penting, tetapi sebenarnya ada persoalan yang mendasar dan jauh lebih besar.
Apa yang terjadi ketika AI tidak lagi sekadar membantu membuat poster, menulis caption, menerjemahkan teks agama, atau menyunting video, tetapi justru tampil sebagai orang yang menyampaikan agama?
Pertanyaan itu membawa kita pada perubahan yang cukup fundamental dalam dunia dakwah digital. Ustazah Hajar sebagai figur utama, Ia tidak hadir sebagai animasi pendamping. Ia tampil seperti seorang ustazah di dunia nyata, yang seolah-olah sedawng mengisi sebuah pengajian.
Ia Berbicara langsung kepada audiens, memberikan nasihat, dan membawakan pesan keagamaan. Cara kerjanya mengingatkan kita pada konten para dai di TikTok pada umumnya. Yang berbeda hanya satu hal yang sebenarnya sangat besar, sosok tersebut tidak pernah hidup. Ia hanya jelmaan yang entah siapa yang membuat.
Fenomena Digital
Fenomena serupa dapat ditemukan pada akun @islam.dan.kehidup. Akun ini menggunakan avatar dai berbasis AI dengan suara sintetis untuk menyampaikan dakwah. Lagi-lagi, AI tidak ditempatkan di belakang layar sebagai alat produksi. Ia berada di depan kamera atau lebih tepatnya, di layer sebagai figur yang seolah-olah berbicara kepada jamaah.
Menariknya, akun-akun hasil produksi AI tersebut kemudian di cloning akun-akun dengan menggunakan username baru. Bahkan nama username menggunkan diksi yang terkesan otoritatif, seperti konsultasi fikih dan aqidah, dakwah dalam hati, koleksi wahyu dan lain-lain.
Kasus ini bahkan menambah persoalan baru. Jika seorang ustaz manusia pindah akun, kita masih tahu bahwa orangnya sama. Tetapi bagaimana jika yang berpindah adalah persona sintetis? Siapa sebenarnya “pemilik” Ustazah Hajar? Apakah identitasnya melekat pada akun, pada kreator, pada model AI, atau cukup pada wajah dan suara yang dikenali pengguna?
Di titik ini, persoalannya tidak lagi sekadar AI sebagai teknologi. Kita mulai berbicara tentang otoritas. Pasalnya, dalam kehidupan keagamaan yang selama ini kita kenal, otoritas biasanya selalu memiliki jejak.
Baca juga: Komodifikasi Kesalehan: Ketika Kurban Menjadi Ajang Pamer Status Sosial
Seorang kiai dikenal karena pesantrennya. Seorang ustaz dapat ditelusuri pendidikannya. Seorang ulama memiliki guru, sanad, karya, organisasi, atau komunitas yang mengenalnya. Orang boleh setuju atau tidak dengan pendapat mereka, tetapi setidaknya kita dapat menanyakan dan mencari tentang: Ia belajar di mana, kepada siapa, mewakili tradisi apa, dan bertanggung jawab kepada siapa.
Pada Ustaz dan Ustazah produksi AI, pertanyaan-pertanyaan itu mendadak menjadi rumit. Ia tidak pernah mondok. Tidak pernah mengaji kepada seorang guru. Tidak memiliki sanad. Tidak punya pengalaman spiritual. Tidak pernah menjalani kehidupan keberagamaan. Ia bahkan tidak mempunyai kehidupan pribadi.
Namun hampir seluruh tanda visual seorang penceramah dapat diproduksi kembali: jilbab, ekspresi ramah, intonasi lembut, bahasa religius, kutipan ayat, hadis, serta nasihat tentang kehidupan. Dengan kata lain, teknologi dapat memproduksi penampilan otoritas tanpa harus memproduksi perjalanan panjang yang biasanya melahirkan otoritas itu sendiri.
Di sinilah pemikiran Heidi A. Campbell (2010) yang berjudul Religious Authority and the Blogosphere, ulasannya tentang agama digital hari ini menjadi relevan. Campbell sejak lama menunjukkan bahwa internet tidak sekadar memindahkan agama dari masjid, gereja, atau ruang-ruang fisik ke layar komputer. Dunia digital juga mengubah cara komunitas terbentuk, identitas ditampilkan, dan otoritas dinegosiasikan.
Memudarnya Tradisi
Salah satu konsep penting Campbell adalah shifting authority, atau bergesernya otoritas. Dulu, secara sederhana kita dapat membayangkan jalur otoritas agama seperti ini: seseorang belajar agama, memiliki guru, mendapat pengakuan dari institusi atau komunitas, membangun reputasi, lalu memperoleh jamaah.
Di TikTok, jalurnya bisa sangat berbeda. Seseorang membuat persona AI. Persona itu menghasilkan video. Algoritma membuat videonya masuk FYP. Video ditonton ratusan ribu kali. Kolom komentar dipenuhi kalimat “Masya Allah”, “terima kasih ustazah”, atau “izin share”. Jumlah pengikut meningkat. Lama-kelamaan, sosok tersebut terasa familiar dan terpercaya.
Rantai barunya kurang lebih menjadi: kreator, persona AI, visibilitas algoritmik, engagement, kredibilitas, lalu penerimaan audiens. Tidak ada pesantren di dalam rantai itu. Tidak ada guru. Bahkan tidak selalu ada manusia yang terlihat. Ini memunculkan satu pertanyaan yang agak mengganggu tetapi penting, yaitu: apakah otoritas agama harus benar-benar dimiliki, atau cukup terlihat meyakinkan?
TikTok membuat pertanyaan itu semakin relevan karena platform bekerja melalui atensi. Figur yang sering muncul akan terasa akrab. Figur yang banyak disukai tampak terpercaya. Video yang memiliki jutaan penonton memperoleh semacam validasi sosial, meskipun jumlah penonton tentu tidak sama dengan kualitas keilmuan.
Dalam dunia seperti ini, likes, views, followers, komentar, dan rekomendasi algoritma ikut menjadi bagian dari proses pembentukan otoritas. Seorang ustaz dahulu membutuhkan jamaah. Ustaz AI membutuhkan engagement.
Perubahan ini tidak berarti bahwa semua pengguna begitu saja mempercayai AI preacher. Justru bagian menariknya terletak pada bagaimana audiens menegosiasikan kepercayaan tersebut.
Baca juga: Mengenal Forum Lingkar Jagat, Nyawiji ing Ekologi Lintas Iman
Mungkin ada penonton yang menyadari sejak awal bahwa figur itu AI. Ada yang menganggapnya sekadar hiburan. Ada yang fokus pada isi pesan dan tidak terlalu peduli siapa yang menyampaikan. Ada pula yang mungkin benar-benar memperlakukannya sebagai figur religius.
Komentar-komentar pengguna menjadi penting karena di sanalah otoritas diproduksi sekaligus diuji. Satu komentar dapat memuji. Komentar lain mempertanyakan sumber hadis. Pengguna lain bertanya apakah figur tersebut manusia sungguhan.
Sebagian bahkan mungkin membela figur AI ketika dikritik. Dengan demikian, kolom komentar bukan sekadar ruang reaksi. Ia menjadi arena tempat legitimasi keagamaan dibentuk, dinegosiasikan, dan diperdebatkan.
Dari sinilah muncul kemungkinan konsep yang menarik, yaitu synthetic religious authority, atau otoritas keagamaan sintetis. Istilah ini dapat dipakai untuk menggambarkan otoritas yang tidak bersumber dari kehidupan, pendidikan, atau pengalaman seorang figur religius, melainkan diproduksi melalui kombinasi visual AI, bahasa agama, performa kesalehan, algoritma, dan respons audiens.
Yang sintetis bukan hanya wajahnya. Otoritasnya pun dapat menjadi sintetis. Namun persoalan tidak berhenti pada siapa yang dipercaya. Ada soal lain yang tidak kalah besar. Kira-kira siapa yang bertanggung jawab?
Bayangkan sebuah avatar AI mengatakan, “Rasulullah pernah bersabda…” kemudian menyampaikan hadis yang ternyata tidak sahih. Pada ustaz manusia, kita relatif mudah menunjuk orang yang harus dimintai pertanggungjawaban. Tetapi pada AI preacher, siapa yang harus ditanya?
Avatar yang tampil di layar jelas tidak bisa bertanggung jawab. Lalu siapa? Pemilik akun? Pembuat naskah? Orang yang membuat prompt? Perusahaan penyedia model AI? Atau platform yang menyebarkan video tersebut kepada jutaan pengguna?
Pertanyaan ini membuat kajian etika AI menjadi penting. Luciano Floridi dan koleganya melalui tulisan AI4People—An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations (2018), menawarkan beberapa prinsip yang dapat membantu kita membaca fenomena ini.
Seperti manfaat, pencegahan bahaya, otonomi pengguna, keadilan, dan terutama explicability, tentang kejelasan mengenai bagaimana sebuah sistem bekerja dan siapa yang bertanggung jawab terhadap hasilnya.
Dalam konteks dakwah AI, prinsip terakhir mungkin justru paling rumit. Audiens berhak mengetahui apakah figur yang sedang berbicara kepada mereka benar-benar manusia atau hasil generatif. Mereka juga berhak mengetahui siapa yang membuat pesannya.
Transparansi menjadi penting karena pilihan seseorang untuk mempercayai nasihat agama sangat mungkin berubah ketika ia tahu bahwa sosok yang berbicara tidak memiliki pengetahuan, pengalaman, atau keyakinan dalam pengertian manusia.
AI tidak beriman. Ia tidak salat. Ia tidak mengalami keraguan, pertobatan, ketakutan, ataupun pengalaman spiritual. Tetapi AI dapat mensimulasikan bahasa tentang semuanya. Karena itulah AI preacher berbeda dari sekadar mikrofon atau kamera. Kamera hanya menyampaikan suara seorang ustaz. AI dapat menciptakan figur pendakwah yang sebenarnya tidak pernah ada.
TikTok kemudian memberi panggung figur tersebut. Dalam logika platform, ceramah selama satu jam dapat dipadatkan menjadi 45 detik. Jamaah berubah menjadi followers. Reputasi bertemu dengan viralitas. Pengakuan keilmuan bersaing dengan jumlah views. Bahkan kesalehan dapat hadir sebagai sebuah performa visual yang dirancang agar sesuai dengan kebiasaan pengguna menggulir layar.
Agama, dalam situasi seperti ini, bukan hanya masuk ke media. Ia ikut dibentuk oleh logika media. Karena itu, fenomena Ustazah Hajar dan akun-akun sejenis tidak cukup dibaca sebagai eksperimen teknologi yang unik atau lucu. Ia memberi gambaran tentang kemungkinan wajah baru dakwah di masa depan: suatu ruang ketika manusia tidak lagi menjadi satu-satunya figur yang menyampaikan pesan keagamaan.
Di masa lalu, pertanyaan yang sering muncul kepada seorang penceramah adalah: “Ustaz-Ustazah ini belajar kepada siapa?”. Di era AI, kita mungkin harus mulai membiasakan diri dengan pertanyaan lain:“Konten ini sebenarnya dibuat oleh siapa?”
Dan mungkin pertanyaan yang lebih penting lagi: Jika sebuah mesin dapat terlihat saleh, berbicara seperti ustaz-ustazah, mengutip hadis, dan dipercaya ribuan orang, di manakah sebenarnya otoritas agama berada, apakah pada sosok yang berbicara? pada manusia yang membuatnya? atau pada audiens yang memutuskan untuk mempercayainya?
