Penulis: Ruben Cornelius Siagian
Terbitnya ensiklik Magnifica Humanitas: On Safeguarding the Human Person in the Time of Artificial Intelligence karya Paus Leo XIV menandai babak baru dalam percakapan global tentang kecerdasan buatan. Dokumen ini bukan sekadar nasihat religius bagi umat Katolik, melainkan intervensi moral terhadap arah peradaban digital. Ensiklik tersebut resmi dirilis Vatikan pada Mei 2026 dan menempatkan AI sebagai salah satu ujian terbesar bagi martabat manusia, kebenaran, kerja, kebebasan, dan perdamaian dunia.
Sudut pandang utama tulisan adalah bahwa Magnifica Humanitas perlu dibaca sebagai kritik terhadap peradaban teknokratis, yaitu peradaban yang terlalu percaya bahwa setiap masalah manusia dapat diselesaikan melalui efisiensi, komputasi, otomatisasi, dan kontrol data. Dalam kerangka ini, AI bukan ditolak sebagai teknologi, tetapi diperingatkan agar tidak berubah menjadi sistem kekuasaan baru yang menggeser manusia dari pusat kehidupan sosial.
AI dan Paradigma Teknokratis
Paus Leo XIV tampaknya melanjutkan garis kritik yang sebelumnya kuat dalam pemikiran Paus Fransiskus, terutama kritik terhadap “paradigma teknokratis” dalam Laudato si’. Namun, Magnifica Humanitas memperluas kritik itu ke dunia algoritma, model bahasa besar, otomasi kerja, senjata otonom, dan ekonomi data. AI dipandang bukan hanya sebagai alat teknis, tetapi sebagai struktur sosial yang dapat mengubah relasi kuasa.
Secara teoritis, pandangan ini sejalan dengan kritik Jacques Ellul tentang masyarakat teknologis, yaitu ketika teknik tidak lagi menjadi sarana, melainkan berubah menjadi logika dominan yang mengatur manusia (Ellul, 2021). Ia juga dekat dengan gagasan Martin Heidegger tentang teknologi modern sebagai cara manusia “membingkai” dunia hanya sebagai sumber daya (Heidegger, 1954). Dalam konteks AI, manusia berisiko dibaca bukan sebagai pribadi yang bermartabat, melainkan sebagai data, pola perilaku, target iklan, tenaga kerja murah, atau objek prediksi.
Di sinilah prinsip Doktrin Sosial Gereja. Martabat manusia, kebaikan bersama, solidaritas, subsidiaritas, dan tujuan universal barang-barang menjadi kriteria etis untuk menilai AI. Artinya, pertanyaan utama bukan lagi “seberapa canggih AI?”, melainkan “siapa yang diuntungkan, siapa yang dikorbankan, dan apakah manusia tetap menjadi subjek moral?”
Martabat Manusia Melawan Reduksi Algoritmik
Gagasan paling kuat dari ensiklik ini adalah bahwa AI tidak memiliki hati, tubuh, pengalaman batin, nurani, dan tanggung jawab moral. AI dapat meniru bahasa manusia, menghasilkan keputusan statistik, dan mengolah data dalam skala besar, tetapi ia tidak mengalami penderitaan, kasih, rasa bersalah, atau pertobatan. Karena itu, menyerahkan keputusan hidup manusia sepenuhnya kepada mesin adalah bentuk kemunduran moral.
Dalam konteks ini, AI tidak boleh dijadikan hakim terakhir atas nilai manusia. Kita sudah melihat bagaimana sistem algoritmik dipakai dalam rekrutmen kerja, kredit, asuransi, kepolisian prediktif, pendidikan, bahkan penilaian risiko sosial. Jika data historis yang digunakan mengandung bias, maka AI dapat memperkuat ketidakadilan lama dalam bentuk baru yang tampak objektif.
Penelitian dan laporan global menunjukkan bahwa isu bias, privasi, dan kepercayaan publik terhadap AI masih menjadi masalah serius. Stanford AI Index 2025 mencatat bahwa AI telah menjadi teknologi transformatif, tetapi manfaatnya tidak otomatis tersebar secara adil tanpa tata kelola yang tepat (Wang & Xie, 2026). Dengan kata lain, kemajuan teknis tidak identik dengan kemajuan moral.
Kebenaran sebagai Barang Publik
Salah satu kontribusi penting Magnifica Humanitas adalah menempatkan kebenaran sebagai bagian dari kebaikan bersama. Ini sangat relevan karena AI generatif mempercepat produksi teks, gambar, audio, dan video palsu dalam skala massal. Deepfake, propaganda otomatis, dan manipulasi opini publik membuat masyarakat semakin sulit membedakan kebenaran dari fabrikasi.
Kasus deepfake dalam politik, penipuan finansial berbasis suara sintetis, dan banjir konten palsu di media sosial menunjukkan bahwa krisis AI bukan hanya krisis teknologi, melainkan krisis epistemik. Ketika publik tidak lagi percaya pada fakta, demokrasi kehilangan dasar rasionalnya. Reuters melaporkan bahwa PBB telah menyerukan langkah global untuk mendeteksi dan melawan deepfake berbasis AI karena risikonya terhadap pemilu, penipuan, dan kepercayaan publik.
Dalam perspektif ensiklik, kebenaran tidak boleh diprivatisasi oleh platform digital atau dikendalikan oleh algoritma keterlibatan (Caplan & Boyd, 2016). Kebenaran adalah syarat bagi demokrasi, keadilan, dan kehidupan bersama. Jika AI hanya diatur oleh logika klik, viralitas, dan keuntungan iklan, maka ia akan lebih mudah menjadi mesin kekacauan daripada sarana pencerahan.
Kerja, Otomasi, dan Martabat Pekerja
Bagian tentang kerja dalam Magnifica Humanitas sangat penting karena AI sering dipromosikan sebagai alat efisiensi, tetapi jarang dibahas dari sisi martabat pekerja. Otomasi memang dapat meningkatkan produktivitas, tetapi juga dapat menciptakan pengangguran struktural, memperlemah posisi tawar buruh, dan menghapus pekerjaan tingkat awal.
Penelitian Economic Insights menunjukkan bahwa AI generatif lebih mungkin mengubah pekerjaan daripada langsung menghancurkan seluruh pekerjaan, tetapi dampaknya tidak merata (Drozd & Tavares, 2024). Pekerjaan administratif dan klerikal termasuk yang paling terekspos, dan kelompok tertentu dapat lebih rentan terhadap perubahan tersebut.
Maka, pertanyaan etisnya bukan apakah perusahaan boleh menggunakan AI, melainkan bagaimana transisi itu dilakukan. Apakah pekerja diberi pelatihan ulang? Apakah keuntungan produktivitas dibagi secara adil? Apakah AI dipakai untuk memperkuat manusia atau sekadar mengganti manusia demi margin laba?
Hal ini secara jelas tampak pada pekerja data labeler dan moderator konten. Di balik kecerdasan AI, ada jutaan pekerja yang memberi label gambar, membersihkan data, memoderasi konten kekerasan, dan melatih model. Brookings mencatat adanya gerakan pekerja data dan moderator konten di Kenya serta Global South yang menuntut upah layak, kondisi kerja aman, dan dukungan kesehatan mental. Kasus ini menunjukkan bahwa AI yang tampak “otomatis” sering berdiri di atas kerja manusia yang tersembunyi.
Kebebasan dan Perbudakan Digital Baru
Ensiklik ini juga kuat karena menyebut kemungkinan munculnya “perbudakan baru” dalam ekonomi digital. Istilah ini dapat dibaca secara luas, bahwa bukan hanya perdagangan manusia yang difasilitasi platform, tetapi juga bentuk eksploitasi digital seperti kerja mikro berupah rendah, pengawasan pekerja, manipulasi perilaku konsumen, dan ketergantungan manusia pada sistem rekomendasi.
Dalam ekonomi platform, kebebasan sering tampak sebagai pilihan, yaitu memilih aplikasi, memilih pekerjaan fleksibel, memilih konten. Namun di balik itu, algoritma menentukan visibilitas, pendapatan, rating, bahkan reputasi seseorang. Kebebasan menjadi semu ketika manusia tidak memahami bagaimana sistem mengambil keputusan atas dirinya.
Di sinilah prinsip subsidiaritas menjadi relevan. Keputusan teknologi tidak boleh hanya ditentukan oleh perusahaan besar, investor, atau negara kuat. Komunitas terdampak harus memiliki suara. Data, algoritma, dan paten tidak boleh hanya menjadi barang privat yang memperkaya segelintir elit, sebab dampaknya menyentuh kehidupan publik.
Senjata Otonom dan Hilangnya Tanggung Jawab Moral
Paus Leo XIV memperingatkan bahaya senjata otonom yang dapat membuat keputusan hidup dan mati semakin jauh dari pertimbangan manusia. Reuters melaporkan bahwa dalam ensiklik ini Paus mendesak regulasi AI yang lebih ketat dan memperingatkan bahwa sebagian senjata kini bergerak menuju operasi di luar kendali manusia langsung.
Persoalan utama senjata otonom bukan hanya akurasi, tetapi tanggung jawab. Jika drone atau sistem AI salah menargetkan warga sipil, siapa yang bertanggung jawab? Programmer? Komandan? Produsen? Negara? Davison, N. (2018) telah lama memperingatkan bahwa keterbatasan kontrol manusia atas senjata otonom dapat menyulitkan pertanggungjawaban dalam hukum humaniter internasional (Davison, 2018).
Dalam kasus perang modern teknologi militer semakin terdigitalisasi, seperti drone, sistem target otomatis, pengawasan satelit, dan analisis medan tempur berbasis AI. Dalam situasi perang, kecepatan algoritmik dapat mengalahkan refleksi moral. Padahal keputusan membunuh tidak boleh direduksi menjadi kalkulasi probabilitas.
Peradaban Kasih sebagai Alternatif
Konsep “Peradaban Kasih” dalam ensiklik ini bukan slogan sentimental. Ia adalah tawaran politik-etis untuk melawan budaya kekuasaan. Dalam budaya kekuasaan, AI dipakai untuk menguasai pasar, memantau warga, memenangkan perang, dan memaksimalkan profit. Dalam peradaban kasih, AI harus diarahkan untuk pendidikan, kesehatan, keadilan sosial, perdamaian, perlindungan lingkungan, dan penguatan relasi manusia.
Pandangan ini tidak anti-teknologi. Justru sebaliknya, ia menuntut teknologi yang lebih bertanggung jawab. AI dapat membantu diagnosis penyakit, memetakan bencana, mempercepat riset ilmiah, meningkatkan akses pendidikan, dan mendukung administrasi publik. Namun semua manfaat itu hanya bermakna jika manusia tetap menjadi tujuan, bukan bahan bakar sistem.
Menjadi Arsitek yang Bijaksana
Magnifica Humanitas mengingatkan bahwa krisis AI bukan terutama soal mesin yang menjadi terlalu pintar, melainkan manusia yang menjadi terlalu lalai. Bahaya terbesar bukan ketika AI menggantikan manusia secara teknis, tetapi ketika manusia menyerahkan nurani, tanggung jawab, dan penilaian moralnya kepada sistem otomatis.
Ensiklik ini relevan tidak hanya bagi umat Katolik, tetapi bagi akademisi, pembuat kebijakan, insinyur, pengusaha, jurnalis, pendidik, dan masyarakat sipil. Ia mengajak kita menjadi “arsitek yang bijaksana”, yaitu membangun teknologi dengan fondasi martabat manusia, bukan sekadar efisiensi; dengan orientasi kebaikan bersama, bukan monopoli; dengan solidaritas, bukan eksploitasi; dengan kebenaran, bukan manipulasi.
Sehingga AI akan menjadi cermin dari nilai manusia yang menciptakannya. Jika dibangun dalam logika kuasa, ia akan memperbesar ketimpangan. Jika dibangun dalam etika kasih, ia dapat menjadi alat pembebasan. Maka pertanyaan terbesar era AI bukan “apa yang dapat dilakukan mesin?”, melainkan “manusia seperti apa yang sedang kita bentuk melalui mesin itu?”
Referensi
Caplan, R., & Boyd, D. (2016). Who controls the public sphere in an era of algorithms. Mediation, Automation, Power, 1–19.
Davison, N. (2018). A legal perspective: Autonomous weapon systems under international humanitarian law.
Drozd, L. A., & Tavares, M. (2024). Generative AI: A turning point for labor’s share. Economic Insights, 9(1), 2–11.
Ellul, J. (2021). The technological society. Vintage.
Heidegger, M. (1954). The question concerning technology. Technology and values: Essential readings, 99, 113.
Wang, X., & Xie, F. (2026). Global artificial intelligence governance research in the digital and intelligent era: Advances, trends and countermeasures. Journal of Knowledge Management, 30(1), 30–68.
Profil Penulis
Ruben Cornelius Siagian adalah peneliti muda Indonesia yang memiliki minat pada kajian multidisipliner, khususnya di bidang sains, teknologi, etika, filsafat, hukum, dan kebijakan publik. Melalui tulisan-tulisannya, ia berupaya menghadirkan pembacaan kritis terhadap isu-isu kontemporer dengan memadukan perspektif ilmiah, humanistik, dan etis.
Dalam esai ini, penulis menaruh perhatian pada tantangan moral yang muncul di tengah revolusi AI, terutama ketika teknologi tidak lagi dipahami sekadar sebagai alat, melainkan sebagai kekuatan sosial yang dapat memengaruhi kebenaran, kerja, kebebasan, keadilan, dan masa depan manusia.
