Fitur AI Terbaru Google Kerap Memberikan Jawaban yang Aneh

TEKNOLOGI DIGITAL

Jun 09 2024, 19.51

Google meluncurkan fitur baru yang disebut AI Overviews yang menggunakan AI generatif, sebuah jenis teknologi pembelajaran mesin yang dilatih dengan informasi dari seluruh Internet. Teknologi ini menghasilkan jawaban percakapan untuk beberapa pertanyaan pencarian dalam hitungan detik.

Dalam beberapa minggu sejak alat ini diluncurkan, pengguna telah menemukan beragam ketidakakuratan dan jawaban yang aneh pada berbagai subjek. Namun, saat menjawab pertanyaan-pertanyaan tentang kesehatan, para ahli mengatakan bahwa pertaruhannya sangat tinggi.

Teknologi ini dapat mengarahkan orang pada kebiasaan yang lebih sehat atau perawatan medis yang dibutuhkan, tetapi juga berpotensi memberikan informasi yang tidak akurat. AI terkadang dapat memalsukan fakta.

Jika jawabannya dibentuk oleh situs web yang tidak didasarkan pada ilmu pengetahuan, AI dapat memberikan saran yang bertentangan dengan panduan medis atau menimbulkan risiko bagi kesehatan seseorang.

Sistem ini telah terbukti menghasilkan jawaban yang buruk yang tampaknya didasarkan pada sumber yang salah. Ketika ditanya “berapa banyak batu yang harus saya makan,” misalnya, AI Overviews memberi tahu beberapa pengguna untuk makan setidaknya satu batu sehari untuk vitamin dan mineral. (Saran tersebut diambil dari The Onion, sebuah situs satir).

“Anda tidak bisa mempercayai semua yang Anda baca. Dalam kesehatan, sumber informasi Anda sangat penting,” kata Dr Karandeep Singh, kepala petugas AI kesehatan di UC San Diego Health dilansir dari Reuters.

Hema Budaraju, direktur senior manajemen produk Google yang membantu memimpin pekerjaan di AI Overview, mengatakan penelusuran kesehatan memiliki pagar pembatas tambahan. Pencarian yang dianggap berbahaya atau eksplisit, atau yang mengindikasikan bahwa seseorang berada dalam situasi yang rentan, seperti melukai diri sendiri, tidak akan memicu rangkuman AI.

Google menolak untuk memberikan daftar rinci situs web yang mendukung informasi dalam Ikhtisar AI, tetapi mengatakan alat ini bekerja bersama dengan Google Knowledge Graph, sebuah sistem informasi yang telah ada yang telah menarik miliaran fakta dari ratusan sumber.

Tanggapan pencarian yang baru memang menyebutkan beberapa sumber; untuk pertanyaan kesehatan, biasanya situs-situs web seperti Mayo Clinic, WebMD, Organisasi Kesehatan Dunia, dan pusat penelitian ilmiah PubMed.

Tetapi ini bukan daftar yang lengkap: Alat ini juga bisa mengambil dari Wikipedia, posting blog, Reddit dan situs web e-commerce. Alat ini tidak memberi tahu pengguna fakta mana yang berasal dari sumber mana.

Dengan hasil pencarian standar, banyak pengguna yang dapat langsung membedakan antara situs web medis terkemuka dan perusahaan permen. Tetapi satu blok teks yang menggabungkan informasi dari berbagai sumber dapat menyebabkan kebingungan.

“Dan itu jika orang bahkan melihat sumbernya. Saya tidak tahu apakah orang mencari, atau apakah kita benar-benar telah mengajari mereka untuk mencari,” kata Dr Seema Yasmin, direktur Stanford Health Communication Initiative,

Penulis : Doddy Rosadi

Editor : Doddy Rosadi