Seri Insight AI dari China #14
Belajar dari Hallucination tentang Kerendahan Hati dan Tabayyun
Dalam salah satu rangkaian pelatihan AI di Liuzhou, China, ada satu istilah yang kembali menarik perhatian saya:
hallucination.
AI bisa memberikan jawaban yang terlihat sangat meyakinkan.
Bahasanya rapi.
Kalimatnya lancar.
Penjelasannya terasa logis.
Kadang bahkan dilengkapi angka, nama, tanggal, atau referensi.
Masalahnya:
belum tentu semuanya benar.
Hallucination terjadi ketika AI menghasilkan informasi yang terdengar masuk akal, tetapi ternyata keliru atau tidak memiliki dasar fakta yang cukup.
Yang membuatnya menarik, jawaban yang salah itu kadang terdengar sama meyakinkannya dengan jawaban yang benar.
AI tentu tidak sedang “merasa yakin” seperti manusia.
Tetapi bagi kita yang membacanya, tampilannya bisa membuat kita merasa:
“Wah, ini pasti benar.”
Padahal belum tentu.
Saya kemudian tersenyum sendiri.
Bayangkan kalau AI bisa mengatakan:
“Maaf, bagian tadi saya sedang mengarang.”
Mungkin hidup kita jauh lebih mudah.
Sayangnya, tidak selalu demikian.
Lalu saya berpikir:
bukankah manusia kadang juga seperti itu?
Salah Itu Biasa, Merasa Selalu Benar Itu Masalah
Tidak ada manusia yang selalu benar.
Pengetahuan kita terbatas.
Pengalaman kita terbatas.
Informasi yang sampai kepada kita pun sering tidak lengkap.
Karena itu, salah sebenarnya bukan sesuatu yang aneh.
Saya sendiri tentu pernah salah.
Yang mulai berbahaya mungkin bukan kesalahannya.
Tetapi ketika kita tidak lagi menyediakan kemungkinan bahwa kita bisa salah.
Ketika sudah tidak mau mendengar.
Tidak mau memeriksa.
Atau bahkan tidak lagi merasa perlu bertanya.
Di situlah AI seperti memberikan cermin kecil kepada saya:
sesuatu yang terdengar sangat meyakinkan belum tentu benar.
Dan rupanya itu bukan hanya berlaku pada mesin.
“Siapa yang Mengatakan?” atau “Apakah Benar?”
Hari ini informasi datang begitu cepat.
Dari media sosial.
Grup percakapan.
Video pendek.
Tokoh terkenal.
Teman.
Dan sekarang:
AI.
Kadang kita percaya karena yang menyampaikan orang yang kita hormati.
Kadang karena sudah dibagikan ribuan kali.
Kadang karena sesuai dengan apa yang memang ingin kita percayai.
Dan kadang cukup karena narasinya terdengar sangat masuk akal.
Saya jadi merasa ada satu pertanyaan yang perlu lebih sering menemani kita.
Bukan hanya:
“Siapa yang mengatakan?”
tetapi juga:
“Apakah benar?”
Barangkali kita perlu memeriksa lagi.
Membandingkan sumber.
Melihat konteks.
Dan kalau memang belum tahu, mungkin tidak apa-apa mengatakan:
“Saya belum tahu.”
Dulu kalimat seperti itu mungkin terasa seperti kelemahan.
Makin ke sini saya justru melihatnya sebagai bentuk kedewasaan.
Tabayyun di Era AI
Dalam tradisi Islam kita mengenal istilah tabayyun.
Memeriksa sebuah berita sebelum mengambil kesimpulan atau menyebarkannya.
Prinsip ini diingatkan dalam QS Al-Hujurat ayat 6: jangan sampai kita merugikan orang lain karena bertindak berdasarkan informasi yang belum diperiksa.
Saya merasa pesan ini semakin relevan di zaman AI.
Dan sebenarnya nilainya universal.
Apa pun agama, profesi, ataupun latar belakang kita, mungkin kehidupan bersama akan menjadi sedikit lebih baik bila ada ruang di antara:
menerima informasi
dan
mengambil sikap.
Ruang kecil untuk memeriksa.
Ruang untuk memahami konteks.
Ruang untuk bertanya:
“Benarkah demikian?”
Karena teknologi semakin cepat.
Jangan-jangan justru manusianya yang perlu belajar untuk tidak selalu terburu-buru.
Ketika AI Membantu Kita Mengambil Keputusan
Dalam penggunaan AI ada istilah human oversight: keterlibatan dan pengawasan manusia.
AI dapat membantu mencari informasi.
Merangkum.
Menganalisis.
Menawarkan alternatif.
Bahkan memberi rekomendasi.
Luar biasa.
Tetapi untuk hal-hal yang penting dan berdampak pada manusia, tanggung jawab rasanya tidak bijak bila begitu saja kita serahkan kepada mesin.
Masih ada sesuatu yang dibawa manusia:
pengalaman,
nilai,
etika,
akal sehat,
dan tanggung jawab.
Bukan karena manusia selalu benar.
Justru sebaliknya.
Karena manusia pun bisa salah.
Maka AI perlu diperiksa.
Dan manusia juga perlu bersedia diperiksa.
Mungkin Ini Pelajaran Terbesarnya
Awalnya saya belajar hallucination sebagai salah satu kelemahan AI.
Tetapi semakin direnungkan, pelajarannya terasa lebih dekat kepada diri sendiri.
AI dapat menghasilkan jawaban yang salah tetapi terdengar sangat meyakinkan.
Manusia pun bisa menyampaikan pendapat yang salah dengan keyakinan yang luar biasa.
Maka mungkin salah satu bentuk kecerdasan di zaman AI bukanlah selalu mempunyai jawaban.
Melainkan masih mempunyai keberanian untuk mengatakan:
“Saya mungkin salah. Mari kita periksa kembali.”
Kalimatnya sederhana.
Tetapi tidak selalu mudah.
Sebab ketika seseorang merasa dirinya selalu benar, barangkali di situlah proses belajarnya mulai berhenti.
Sedangkan selama kita masih menyediakan sedikit ruang untuk kemungkinan salah…
kita masih mempunyai ruang untuk belajar.
Jadi ketika suatu hari AI memberikan jawaban yang sangat meyakinkan, saya ingin mengingat satu hal:
periksa kembali.
Dan ketika suatu hari saya sendiri merasa sangat yakin terhadap suatu pendapat…
barangkali saya juga perlu melakukan hal yang sama.
Kalau AI saja perlu diverifikasi, apalagi manusia.
*Catatan Istilah
Hallucination
Kondisi ketika AI menghasilkan informasi yang terlihat masuk akal atau meyakinkan, tetapi sebenarnya keliru atau tidak memiliki dasar fakta yang cukup.
Tabayyun
Sikap memeriksa dan memastikan kebenaran informasi sebelum mempercayai, menyimpulkan, atau menyebarkannya.
Human oversight
Keterlibatan dan pengawasan manusia untuk membantu memastikan penggunaan AI tetap aman, tepat, dan bertanggung
