Vatikan Kaji Potensi dan Risiko AI dalam Catatan Antiqua et Nova, Apa Kata Paus Fransiskus?

TRIBUNFLORES.COM, VATIKAN-  Peringatan Paus Fransiskus tentang kecerdasan buatan dalam beberapa tahun terakhir memberikan garis besar untuk Antiqua et Nova, catatan tentang hubungan antara kecerdasan buatan dan kecerdasan manusia,” yang menawarkan hasil refleksi bersama antara Dewan Kepausan untuk Ajaran Iman dan Dewan Kepausan untuk Kebudayaan dan Pendidikan. 

Dokumen baru ini ditujukan terutama kepada “mereka yang dipercayakan untuk mewartakan iman,” tetapi juga kepada “mereka yang memiliki keyakinan yang sama bahwa kemajuan ilmu pengetahuan dan teknologi harus diarahkan untuk melayani manusia dan kebaikan bersama” [5].

Dalam 117 paragraf, “Antiqua et Nova” menyoroti tantangan dan peluang pengembangan Kecerdasan Buatan (AI) di bidang pendidikan, ekonomi, pekerjaan, kesehatan, hubungan, dan perang. Dalam bidang yang terakhir, misalnya, dokumen tersebut memperingatkan potensi AI untuk meningkatkan “instrumen perang yang jauh di luar jangkauan pengawasan manusia dan memicu perlombaan senjata yang tidak stabil, dengan konsekuensi bencana bagi hak asasi manusia” [99].

Baca juga: Momen Bahagia Paus Fransiskus dalam Panggilan Video dengan Paroki Gaza: Apa kabar?

Bahaya dan Kemajuan

Secara khusus, dokumen tersebut tidak hanya mencantumkan risiko tetapi juga kemajuan yang terkait dengan AI, yang didorong sebagai “bagian dari kolaborasi pria dan wanita dengan Tuhan” [2]. Namun, dokumen ini tidak menghindari kekhawatiran yang muncul dari semua inovasi, yang dampaknya masih belum dapat diprediksi.

Membedakan antara kecerdasan buatan dan kecerdasan manusia

Beberapa paragraf dalam Catatan tersebut membahas tentang perbedaan antara kecerdasan buatan dan kecerdasan manusia. Mengutip Paus Fransiskus, dokumen tersebut menegaskan bahwa “penggunaan kata ‘kecerdasan’ sehubungan dengan AI ‘dapat menyesatkan’... mengingat hal ini, AI tidak boleh dilihat sebagai bentuk artifisial dari kecerdasan manusia, tetapi sebagai produk dari kecerdasan tersebut” [35]. “Seperti produk kecerdikan manusia lainnya, AI juga dapat diarahkan untuk tujuan positif atau negatif” [40]. “AI 'dapat memperkenalkan inovasi-inovasi penting'” [48], namun juga berisiko memperburuk situasi diskriminasi, kemiskinan, ‘kesenjangan digital’, dan ketidaksetaraan sosial [52]. “Konsentrasi kekuasaan atas aplikasi AI arus utama di tangan beberapa perusahaan yang kuat menimbulkan masalah etika yang signifikan,” termasuk ‘risiko bahwa AI dapat dimanipulasi untuk keuntungan pribadi atau perusahaan atau untuk mengarahkan opini publik demi kepentingan industri tertentu’ [53].

Baca juga: Paus Fransiskus Menentang Eksploitasi terhadap Anak, Ajak Umat Teladani Santa Teresa dari Kalkuta

Perang

Dengan mengacu pada perang, “Antiqua et Nova” menekankan bahwa sistem senjata otonom dan mematikan yang mampu “mengidentifikasi dan menyerang target tanpa campur tangan manusia secara langsung merupakan ‘penyebab keprihatinan etika yang serius’ [100]. Laporan itu mencatat bahwa Paus Fransiskus telah menyerukan agar penggunaannya dilarang karena menimbulkan “risiko eksistensial” dengan memiliki potensi untuk bertindak dengan cara yang dapat mengancam kelangsungan hidup seluruh wilayah atau bahkan umat manusia itu sendiri” [101]. “Bahaya ini menuntut perhatian serius,“ kata dokumen itu, ‘mencerminkan keprihatinan yang sudah lama ada tentang teknologi yang memberikan perang ’kekuatan destruktif yang tak terkendali terhadap sejumlah besar warga sipil tak berdosa,' bahkan tanpa mengampuni anak-anak” [101].

Hubungan antar manusia

Dalam hal hubungan antar manusia, dokumen tersebut mencatat bahwa AI dapat menyebabkan “isolasi yang berbahaya” [58], bahwa “antropomorfisme AI” menimbulkan masalah bagi pertumbuhan anak-anak [60], dan bahwa salah mengartikan AI sebagai manusia merupakan “pelanggaran etika yang berat” jika hal tersebut dilakukan “untuk tujuan penipuan.” Demikian pula, “menggunakan AI untuk menipu dalam konteks lain-seperti pendidikan atau dalam hubungan antarmanusia, termasuk dalam bidang seksualitas-juga dianggap tidak bermoral dan membutuhkan pengawasan yang cermat” [62].

Ekonomi dan tenaga kerja

Kewaspadaan yang sama juga diperlukan dalam bidang ekonomi-keuangan. “Antiqua et Nova” mencatat bahwa, terutama di bidang tenaga kerja, ‘meskipun AI menjanjikan untuk meningkatkan produktivitas... pendekatan saat ini terhadap teknologi tersebut secara paradoks dapat melemahkan pekerja, membuat mereka tunduk pada pengawasan otomatis, dan mendegradasi mereka ke tugas-tugas yang kaku dan berulang-ulang.’ [67]