Fitur AI Terbaru Google Kerap Memberikan Jawaban yang Aneh

blog_10

TEKNOLOGI DIGITAL

Jun 09 2024, 19.51

Google meluncurkan fitur baru yang disebut AI Overviews yang menggunakan AI generatif, sebuah jenis teknologi pembelajaran mesin yang dilatih dengan informasi dari seluruh Internet. Teknologi ini menghasilkan jawaban percakapan untuk beberapa pertanyaan pencarian dalam hitungan detik.

Dalam beberapa minggu sejak alat ini diluncurkan, pengguna telah menemukan beragam ketidakakuratan dan jawaban yang aneh pada berbagai subjek. Namun, saat menjawab pertanyaan-pertanyaan tentang kesehatan, para ahli mengatakan bahwa pertaruhannya sangat tinggi.

Teknologi ini dapat mengarahkan orang pada kebiasaan yang lebih sehat atau perawatan medis yang dibutuhkan, tetapi juga berpotensi memberikan informasi yang tidak akurat. AI terkadang dapat memalsukan fakta. 

Jika jawabannya dibentuk oleh situs web yang tidak didasarkan pada ilmu pengetahuan, AI dapat memberikan saran yang bertentangan dengan panduan medis atau menimbulkan risiko bagi kesehatan seseorang.

Sistem ini telah terbukti menghasilkan jawaban yang buruk yang tampaknya didasarkan pada sumber yang salah. Ketika ditanya “berapa banyak batu yang harus saya makan,” misalnya, AI Overviews memberi tahu beberapa pengguna untuk makan setidaknya satu batu sehari untuk vitamin dan mineral. (Saran tersebut diambil dari The Onion, sebuah situs satir).

“Anda tidak bisa mempercayai semua yang Anda baca. Dalam kesehatan, sumber informasi Anda sangat penting,” kata Dr Karandeep Singh, kepala petugas AI kesehatan di UC San Diego Health dilansir dari Reuters.

Hema Budaraju, direktur senior manajemen produk Google yang membantu memimpin pekerjaan di AI Overview, mengatakan penelusuran kesehatan memiliki pagar pembatas tambahan. Pencarian yang dianggap berbahaya atau eksplisit, atau yang mengindikasikan bahwa seseorang berada dalam situasi yang rentan, seperti melukai diri sendiri, tidak akan memicu rangkuman AI.

Google menolak untuk memberikan daftar rinci situs web yang mendukung informasi dalam Ikhtisar AI, tetapi mengatakan alat ini bekerja bersama dengan Google Knowledge Graph, sebuah sistem informasi yang telah ada yang telah menarik miliaran fakta dari ratusan sumber.

Tanggapan pencarian yang baru memang menyebutkan beberapa sumber; untuk pertanyaan kesehatan, biasanya situs-situs web seperti Mayo Clinic, WebMD, Organisasi Kesehatan Dunia, dan pusat penelitian ilmiah PubMed. 

Tetapi ini bukan daftar yang lengkap: Alat ini juga bisa mengambil dari Wikipedia, posting blog, Reddit dan situs web e-commerce. Alat ini tidak memberi tahu pengguna fakta mana yang berasal dari sumber mana.

Dengan hasil pencarian standar, banyak pengguna yang dapat langsung membedakan antara situs web medis terkemuka dan perusahaan permen. Tetapi satu blok teks yang menggabungkan informasi dari berbagai sumber dapat menyebabkan kebingungan.

“Dan itu jika orang bahkan melihat sumbernya. Saya tidak tahu apakah orang mencari, atau apakah kita benar-benar telah mengajari mereka untuk mencari,” kata Dr Seema Yasmin, direktur Stanford Health Communication Initiative,

 

Penulis : Doddy Rosadi

Editor : Doddy Rosadi


RELATED ARTICLES AND VIDEOS

Generic placeholder image

Telkom Akan Kembangkan AI yang Aman dan Memberikan Dampak Positif

TEKNOLOGI DIGITAL

Jul 09 2024, 06.57

Salah satu contoh pengembangan AI oleh Telkom adalah fitur bernama BigVision dalam produk BigBox.


Generic placeholder image

Studi ILO: Kecerdasan Buatan Menambah Pekerjaan

TEKNOLOGI DIGITAL

Jun 20 2024, 20.29

Dampak terbesar dari teknologi ini bukan pada hilangnya lapangan kerja, melainkan potensi perubahan pada kualitas pekerjaan.


Generic placeholder image

Kalahkan Microsoft dan Apple, Nvidia Jadi Perusahaan Paling Bernilai di Dunia

EKONOMI & BISNIS

Jun 19 2024, 06.45

Nilai pasar Nvidia hanya membutuhkan waktu 96 hari untuk naik dari 2 triliun dolar AS menjadi 3 triliun dolar AS.


Generic placeholder image

AI Bisa Kurangi 47 Juta Ton Emisi Per Tahun di Industri Pelayaran

TEKNOLOGI DIGITAL

Jun 18 2024, 17.49

Pelayaran menyumbang hampir 3 persen terhadap emisi karbon dioksida dunia.


Generic placeholder image

Paus Fransiskus: Jangan Biarkan Algoritma Menentukan Nasib Manusia

TEKNOLOGI DIGITAL

Jun 15 2024, 13.02

Tidak ada mesin yang boleh memilih untuk mengambil nyawa manusia.


Event Akan Datang

View all events

 Aug 07 2024, 00.00

Related Events

 Mar 08 2022

 Jun 28 2022

 Aug 24 2022

Copyright Katadata 2022