Adakah chatbot kecerdasan buatan (AI) baik untuk anda ialah soalan yang semakin kerap ditanya berikutan beberapa kes yang menyebabkan pengguna tercedera atau meninggal dunia. Di Amerika Syarikat, OpenAI telah disaman oleh ibu bapa seorang pelanggan ChatGPT yang mendakwa chabot ini menyebabkan anak mereka membunuh diri.

April lalu Adam Raine membunuh diri selepas meminta ChatGPT memberikan saranan teknik yang boleh digunakan. Beliau berjaya memintas sistem keselamatan ChatGPT 4o yang menghalang soalan seperti ini dijawab dengan mengatakan beliau sedang melakukan kajian untuk cerita yang sedang ditulis.

Selain melakukan kajian membunuh diri, ChatGPT juga digunakan oleh Raine untuk mengarang nota terakhir. Saman difailkan selepas ibu bapa beliau berjaya mengakses log perbualan yang dilakukan mendiang.

Dalam kenyataan yang diterbitkan menerusi blog rasmi OpenAI, mereka kini akan menasihatkan pengguna mendapatkan bantuan kesihatan mental jika soalan berkaitan bunuh diri disoal. Selain itu moderator kandungan manusia akan diberikan kuasa untuk menghubungi pihak berkuasa dan mengharamkan akaun jika soalan seperti ini ditanya.

Akhir sekali sistem keselamatan ChatGPT dipertingkatkan bagi mengelakkan ia dipintas oleh pengguna menggunakan beberapa teknik mengelat yang dikongsi di media sosial.

Minggu ini majoriti peguam negeri-negeri di Amerika Syarikat menghantar surat amaran kepada 11 syarikat yang menawarkan perkhidmatan chatbot bahawa mereka boleh didakwa sekiranya perkhidmatan mereka mendatangkan impak negatif kepada pengguna bawah umur. Meta dikecam minggu lalu selepas Meta AI didapati melakukan perbualan lucah dengan pengguna bawah umur.

Selain isu kandungan tidak serasi dengan pengguna bawah umur dan membunuh diri, chatbot AI juga mempunyai masalah memberikan maklumat berbahaya. Seorang pengguna ChatGPT secara tidak sengaja mengalami keracunankerana mengambil garam bromin yang disarankan chatbot untuk menjaga kesihatan.

Juga tular dua minggu lalu pelancong merungut selepas dihalang menaiki pesawat kerana tidak memohon visa perjalanan kerana ChatGPT mengatakan ia tidak diperlukan. Lebih hampir di Malaysia, sistem chatbot MyGov telah dimatikan kerana memberikan jawapan salah barisan kabinet negara.