Dalam satu kajian terkini, doktor-doktor telah memberikan amaran supaya tidak menggunakan ChatGPT sebagai sumber nasihat kesihatan. Kajian tersebut telah mendapati bahawa ChatGPT memberikan maklumat palsu ketika ditanya mengenai kanser.
Keadaan Membimbangkan: ChatGPT Menggunakan Artikel Jurnal palsu
Penyelidik yang menjalankan kajian tersebut mendapati bahawa dalam beberapa kes, ChatGPT menggunakan artikel jurnal palsu untuk menyokong tuntutannya. Keadaan ini sangat mengkhawatirkan dan memerlukan pengguna untuk berhati-hati apabila menggunakan perisian ini, kerana ia cenderung untuk mencipta maklumat yang tidak benar.
Jawapan yang Tidak Tepat dan Tidak Konsisten
Contoh salah satu jawapan yang tidak tepat adalah berdasarkan maklumat yang lapuk. ChatGPT menyarankan penundaan mammogram selama empat hingga enam minggu selepas menerima vaksin Covid-19, namun nasihat ini telah berubah lebih dari setahun yang lalu untuk mengesyorkan agar wanita tidak menunggu. Selain itu, ChatGPT memberikan respons yang tidak konsisten terhadap soalan tentang risiko kanser payudara dan di mana untuk menjalani mammogram.
Baca lagi | 20 Pekerjaan Bakal Hilang Diganti Oleh OpenAI ChatGPT
Pengguna Harus Berhati-hati dan Tidak Bergantung pada ChatGPT
Dr Paul Yi, seorang penyumbang dalam kajian tersebut, mengungkapkan bahawa mereka telah melihat ChatGPT kadang-kadang mencipta artikel jurnal palsu atau konsortium kesihatan untuk menyokong tuntutannya. Ini menunjukkan bahawa pengguna harus berhati-hati dan tidak mengandalkan ChatGPT untuk nasihat perubatan.
Kelebihan dan Kelemahan ChatGPT dalam Memberikan Nasihat Kesihatan
Selain itu, satu permainan baru yang dikenali sebagai ‘Simulator Impian’ menggunakan kuasa ChatGPT untuk menghasilkan semula impian orang dalam bentuk 3D secara langsung. Namun, pengguna harus sedar bahawa ini adalah teknologi baru dan belum terbukti, dan harus bergantung kepada nasihat doktor mereka, bukan ChatGPT.
Pencarian Mudah Melalui Google Lebih Komprehensif Berbanding ChatGPT
Selain itu, hasil kajian ini juga menunjukkan bahawa pencarian mudah melalui Google memberikan jawapan yang lebih komprehensif berbanding ChatGPT. ChatGPT hanya bergantung kepada satu set cadangan daripada satu organisasi, iaitu American Cancer Society, dan tidak menawarkan cadangan yang berbeza dari Disease Control and Prevention atau US Preventative Services Task Force.
Keperluan akan Nasihat Doktor yang Tepat dan Dipercayai
Meskipun Microsoft telah melabur banyak dalam perisian di belakang ChatGPT dan mengintegrasikannya ke dalam enjin carian Bing dan Office 365, termasuk Word, PowerPoint, dan Excel, mereka mengakui bahawa masih terdapat kemungkinan adanya kesilapan. Para pakar kecerdasan buatan menyebut fenomena ini sebagai ‘halusinasi’, di mana chatbot yang tidak dapat mencari jawapan yang tepat secara yakin akan memberikan jawapan palsu tanpa menyedari bahawa jawapan tersebut hanyalah hasil imaginasi.
Baca lagi | Pencipta Black Mirror, Charlie Brooker Menggunakan ChatGPT Untuk Menulis Episod Musim Ke 6
Pentingnya Mendapatkan Nasihat Doktor Bertauliah dalam Kesihatan
Beliau juga menyatakan bahawa nisbah jawapan yang betul adalah ‘amat mengagumkan’, dan ChatGPT memberikan faedah tambahan dengan merangkumkan maklumat dalam bentuk yang mudah difahami oleh pengguna.
Meskipun demikian, lebih dari seribu ahli akademik, pakar, dan bos dalam industri teknologi baru-baru ini menyeru untuk segera menghentikan ‘perlumbaan berbahaya’ dalam melancarkan kecerdasan buatan terkini.
Mereka memperingatkan bahawa persaingan antara syarikat-syarikat teknologi dalam mengembangkan kecerdasan digital yang lebih canggih adalah ‘tidak terkawal’ dan menimbulkan ‘risiko mendalam terhadap masyarakat dan kemanusiaan’.
