Halusinasi AI: Mengapa Chatbot Bisa Mengarang Jawaban
Mengapa chatbot AI bisa menyampaikan info salah dengan yakin? Pelajari apa itu halusinasi AI, penyebabnya, dan tujuh cara praktis mendeteksi dan menguranginya.
Kamu meminta sumber kepada chatbot, lalu ia memberikan judul, nama penulis, dan tahun yang rapi. Kedengarannya sempurna. Namun saat kamu mencarinya, sumber itu ternyata tidak pernah ada. Inilah yang disebut halusinasi AI: jawaban yang lancar dan meyakinkan, tetapi salah. Berikut penyebabnya dan cara melindungi pekerjaanmu darinya.
Apa itu halusinasi AI?
Halusinasi AI adalah konten buatan model yang disajikan sebagai fakta, padahal tidak didukung kenyataan maupun data yang diberikan. Contoh yang sering muncul antara lain kutipan karangan, referensi palsu, tanggal yang keliru, dan kode yang memanggil fungsi yang tidak pernah ada. Lembaga standar Amerika Serikat, NIST, menyebut masalah yang sama sebagai "konfabulasi" dalam kajian AI Risk Management Framework untuk AI generatif.
Mengapa chatbot bisa mengarang?
1. Model memprediksi teks, bukan kebenaran
Model bahasa besar menyusun jawaban satu token demi satu token dengan menebak teks yang paling mungkin muncul berikutnya. Jika ingin mengulang dasarnya, baca panduan kami tentang cara model bahasa membaca teks sebagai token. Secara bawaan, model tidak mencari fakta. Ketika jawaban yang benar jarang atau tidak ada di data latihnya, model tetap bisa menghasilkan sesuatu yang sekadar terdengar benar.
2. Menebak sering kali diberi nilai
Peneliti OpenAI dalam tulisan Why Language Models Hallucinate berpendapat bahwa metode pelatihan dan evaluasi yang umum justru menghargai tebakan dibanding pengakuan tidak tahu. Mirip ujian pilihan ganda: jawaban kosong bernilai nol, sedangkan tebakan yang kebetulan benar mendapat poin. Makalah lengkapnya tersedia di arXiv.
3. Prompt yang samar menyisakan celah
Saat pertanyaan kurang konteks, model mengisi kekosongan itu dengan asumsi. Semakin banyak detail spesifik yang harus ia karang, seperti nama, angka, dan tautan, semakin besar risikonya.
Peringatan dari dunia nyata
Pada 2023, pengacara dalam perkara Mata v. Avianca di Amerika Serikat mengajukan dokumen ke pengadilan yang mengutip putusan-putusan karangan ChatGPT. Pengadilan pun menjatuhkan sanksi. Pelajarannya sederhana: AI boleh membantu membuat draf, tetapi manusia tetap bertanggung jawab atas apa yang diterbitkan.
7 cara praktis mengurangi halusinasi
Berikan sumbernya. Tempelkan dokumen, data, atau catatanmu, lalu minta model menjawab hanya berdasarkan materi tersebut.
Izinkan jawaban "tidak tahu". Tegaskan bahwa menjawab "informasinya tidak cukup" lebih baik daripada menebak.
Minta kutipan lebih dulu. Untuk dokumen panjang, minta kalimat pendukung yang persis sebelum ringkasan, sehingga setiap klaim punya bukti.
Gunakan retrieval. Retrieval-augmented generation atau RAG menghubungkan model dengan indeks pencarian atau basis pengetahuan agar jawabannya berpijak pada dokumen nyata.
Pecah tugas besar. Langkah yang pendek dan fokus lebih mudah diperiksa daripada satu jawaban raksasa. Artikel kami tentang prompt yang lebih baik dengan konteks, format, dan contoh menunjukkan caranya.
Verifikasi bagian yang berisiko. Selalu cek nama, angka, tanggal, referensi, klaim hukum atau medis, serta tautan. Buka setiap URL sebelum membagikannya.
Uji kode sebelum memercayainya. Jalankan, baca pesan galatnya, dan pastikan setiap library dan fungsi benar-benar ada.
Perlakukan jawaban AI seperti draf dari asisten magang yang cepat dan rajin: berguna, tetapi selalu perlu ditinjau.
Halusinasi tidak selalu buruk
Dalam pekerjaan kreatif, "mengarang" justru tujuannya. Mencari ide nama, cerita, atau lore game sangat terbantu oleh imajinasi. Masalah baru muncul ketika hasil karangan disajikan sebagai fakta. Tentukan mode yang kamu butuhkan sebelum menulis prompt.
Jelajahi lebih lanjut
Ingin membangun alat AI yang andal? Baca tentang agen AI kecil yang benar-benar berguna, atau lihat apa saja yang dibangun studio Ryuartistry di bidang AI, game, dan software.