Google dilaporkan telah menghapus fitur AI Overviews untuk beberapa kata kunci pencarian medis khusus. Tindakan ini diambil setelah penelitian yang menunjukkan bahwaAI Overviews kadang-kadang memberi pengguna informasi kesehatan yang menyesatkan.
Salah satu kasus yang disorot adalah ketika AI memberikan angka standar untuk tes fungsi hati tanpa mempertimbangkan latar belakang seperti usia atau etnis seseorang. Ini dianggap sangat berbahaya karena dapat memberi orang asumsi yang salah tentang kondisi kesehatan mereka berdasarkan data yang tidak lengkap.
Dilansir dari laman Techcrunch (12/01), Google kini membatasi kemunculan panel AI pada topik kesehatan yang dianggap sensitif dan berpotensi berbahaya. Untuk memastikan kebenaran informasi, hasil pencarian sekarang menampilkan tautan ke berita atau artikel dari sumber medis resmi.
Meskipun Google enggan memberikan komentar tentang penghapusan fitur ini berdasarkan kasus, mereka mengklaim bahwa sistem terus diperbaiki secara berkala. Selain itu, perusahaan mengatakan bahwa tim ahli medis internal selalu terlibat untuk memeriksa kesesuaian hasil AI dengan sumber yang dapat diandalkan.
Keputusan Google untuk menarik fitur pintar tersebut dari ranah konsultasi medis disambut baik oleh organisasi kesehatan internasional. Mereka menganggap tindakan ini sebagai langkah positif untuk mencegah masyarakat umum membuat diagnosa mandiri yang salah.
Kasus ini menunjukkan bahwa akurasi informasi medis masih menjadi masalah terbesar bagi mesin pencari yang menggunakan AI. Di atas kenyamanan teknologi yang serba cepat namun belum sepenuhnya sempurna, keamanan pengguna harus tetap menjadi prioritas utama.
Pax Insight
Kebijakan Google ini sangat relevan bagi mereka yang memiliki kecenderungan tinggi untuk melakukan "diagnosis mandiri" melalui internet sebelum pergi ke dokter. Di masa depan, AI tetap bisa menjadi asisten kesehatan yang hebat, namun untuk saat ini, konsultasi langsung dengan tenaga medis profesional tetap menjadi satu-satunya cara yang aman dan akurat.
