When ethical AI undermines human dignity

When Ethical AI Undermines Human Dignity:
From Compliance to Lived Experience

Artikel reflektif interdisipliner tentang etika AI dan martabat manusia

Pendahuluan

Dalam satu dekade terakhir, diskursus etika kecerdasan buatan (Artificial Intelligence/AI) berkembang pesat. Prinsip-prinsip seperti fairness, transparency, accountability, dan explainability kini menjadi fondasi utama dalam pengembangan dan evaluasi sistem AI. Berbagai kerangka kerja etika, pedoman kebijakan, serta regulasi internasional berupaya memastikan bahwa AI tidak merugikan manusia dan beroperasi secara bertanggung jawab.

Dalam banyak kasus, pendekatan ini berhasil mencegah diskriminasi yang eksplisit, meningkatkan keandalan sistem, serta memperjelas tanggung jawab institusional. Namun, di balik kemajuan tersebut, muncul sebuah paradoks etis yang jarang dibahas secara serius: sebuah sistem AI dapat sepenuhnya patuh terhadap prinsip etika, namun tetap melukai martabat manusia yang berinteraksi dengannya.

Artikel ini berangkat dari kegelisahan tersebut.

Etika AI dan Reduksi Martabat

Sebagian besar kajian etika AI mengasumsikan bahwa jika suatu sistem adil, transparan, dan akuntabel, maka sistem tersebut secara etis dapat diterima. Asumsi ini secara implisit menyamakan ethical compliance dengan ethical adequacy.

Akan tetapi, pengalaman manusia dalam berinteraksi dengan AI menunjukkan bahwa kepatuhan terhadap prinsip tidak selalu berbanding lurus dengan pengalaman yang bermartabat. Manusia dapat merasa direduksi, dipinggirkan, atau “diproses” oleh sistem yang secara teknis dan normatif dinilai etis.

Dalam konteks AI, martabat manusia sering didefinisikan secara legalistik: sebagai hak atas otonomi, perlindungan dari diskriminasi, dan perlakuan yang adil. Definisi ini penting, tetapi juga terbatas. Ia memandang martabat sebagai sesuatu yang dapat dijaga melalui aturan dan prosedur, bukan sebagai pengalaman hidup yang dialami manusia dalam relasinya dengan teknologi.

Relasi Manusia dan Mesin

Ketika seseorang berinteraksi dengan AI—baik dalam layanan kesehatan, rekrutmen kerja, pendidikan, maupun sistem rekomendasi—ia tidak hanya berhadapan dengan sebuah sistem keputusan. Ia juga mengalami sebuah relasi: relasi dengan mesin yang menilai, mengklasifikasi, memprediksi, dan terkadang menentukan peluang hidupnya.

Dalam relasi inilah martabat manusia dapat tergerus secara halus, bahkan ketika tidak ada satu pun prinsip etika yang dilanggar.

• Seseorang dapat diperlakukan secara adil, tetapi tetap merasa tidak diakui sebagai pribadi.
• Seseorang dapat menerima keputusan yang transparan, tetapi merasa suaranya tidak berarti.
• Seseorang dapat dilindungi secara prosedural, tetapi kehilangan makna dalam proses tersebut.

Luka semacam ini jarang masuk dalam kategori AI harm yang umum dibahas, karena tidak mudah diukur, tidak selalu berdampak material langsung, dan tidak melanggar aturan eksplisit. Namun justru karena sifatnya yang tidak kasat mata, luka ini berpotensi menjadi bentuk kerugian etis yang paling meluas.

Dari Prinsip ke Life-World

Untuk memahami problem ini, artikel ini mengusulkan pergeseran perspektif: dari etika AI yang berfokus pada prinsip dan kepatuhan, menuju etika AI yang memperhatikan life-world— dunia kehidupan manusia sebagaimana dialami, dirasakan, dan dimaknai dalam praktik sehari-hari.

Pendekatan life-world menempatkan pengalaman manusia sebagai titik awal evaluasi etis. Alih-alih hanya bertanya apakah sistem AI memenuhi standar normatif, pendekatan ini menanyakan:

• Bagaimana sistem ini dialami oleh manusia?
• Bagaimana ia memengaruhi rasa diakui dan dihargai?
• Apa makna relasi manusia–AI dalam kehidupan konkret?

Dengan perspektif ini, martabat manusia tidak lagi dipahami sebagai konsep normatif abstrak semata, melainkan sebagai sesuatu yang hidup dalam pengalaman relasional.

Kontribusi Artikel

Artikel ini mengajukan tiga kontribusi utama:

1. Memperkenalkan konsep invisible ethical harm, yaitu bentuk kerugian etis yang tidak terdeteksi oleh audit kepatuhan tetapi nyata dalam pengalaman manusia.
2. Mere-konseptualisasi martabat manusia dalam konteks AI sebagai pengalaman fenomenologis, bukan sekadar prinsip hukum atau kebijakan.
3. Mengusulkan life-world sebagai instrumen evaluasi etis tambahan dalam etika AI.

Penutup

Etika AI yang berfokus pada kepatuhan prinsip belum cukup untuk melindungi martabat manusia. Diperlukan pendekatan yang lebih sensitif terhadap pengalaman hidup manusia dalam relasinya dengan sistem cerdas.

Dengan memperhatikan bagaimana AI dialami, bukan hanya bagaimana ia dirancang, kita dapat mulai membangun etika AI yang tidak hanya benar secara normatif, tetapi juga bermakna secara manusiawi.

© 2025 – Ari Haryadi