Waspada Hallucination: Saat Jawaban Manis AI Menyesatkan Diagnosis Penyakit

Liputan6.com, Jakarta - Dalam dunia kecerdasan buatan (Artificial Intelligence alias AI), istilah hallucination mengacu pada kondisi saat sistem AI memberikan jawaban yang meyakinkan tetapi sebenarnya tidak akurat atau menyesatkan. Fenomena ini sangat berisiko jika terjadi dalam konteks medis, karena dapat menyebabkan kesalahan diagnosis dan penanganan yang salah pada pasien. 

Kepala Pengujian Produk Ipsos Global,  Dr. Nikolai Reynolds menjelaskan bahwa hallucination terjadi karena AI sering dirancang untuk memberi jawaban yang positif dan mudah diterima pengguna, bukan selalu berdasarkan data yang lengkap dan valid.