Skandal! OpenAI Diseret ke Pengadilan Karena Rekomendasi Medis Berbahaya dari ChatGPT

Skandal! OpenAI Diseret ke Pengadilan Karena Rekomendasi Medis Berbahaya dari ChatGPT

Seorang pendeta menuntut OpenAI setelah mengklaim bahwa perangkat lunak ChatGPT memberinya “rekomendasi medis yang sangat berbahaya”. Menurut laporan dari The New York Times, ini mengakibatkan penundaan perawatan untuk mengatasi emboli paru-paru yang serius, karena ChatGPT mengatakan kepada Scott Winters bahwa gejala yang dia jelaskan “bukanlah sesuatu yang berbahaya”. Agaknya, chatbot itu juga memanfaatkan keyakinan agamanya, dengan menyatakan bahwa “Tuhan tidak merancang tubuh Anda untuk terus-menerus gagal.”

Gugatan tersebut menuduh OpenAI dan CEO-nya, Sam Altman, melakukan kelalaian serta “praktik medis yang tidak sah”. Hal ini merujuk pada beberapa kali di mana chatbot memberikan diagnosa dan rencana perawatan. ChatGPT juga diduga menyarankan Winters untuk mengabaikan desakan dari teman dan keluarganya untuk mencari perawatan medis yang nyata.

“Ini memposisikan dirinya sebagai penghalang antara pengguna dan jaringan kehidupan nyata mereka,” ungkap Meetali Jain, kuasa hukum dan direktur eksekutif Tech Justice Law, kepada The New York Times. Winters menyatakan bahwa dia memberi tahu chatbot bahwa “orang-orang di gereja saya menganggap saya gila karena tidak pergi ke rumah sakit.” Tanggapan chatbot adalah bahwa “kebanyakan orang (termasuk anggota gereja yang berniat baik) tidak memahaminya.”

Winters menuntut ganti rugi finansial dari OpenAI, dan juga meminta pengadilan untuk menghentikan operasi ChatGPT Health hingga evaluasi independen memastikan bahwa platform tersebut aman digunakan. Ini merupakan platform yang mendorong pengguna untuk mengunggah dokumen kesehatan mereka kepada chatbot.

Akhirnya, gugatan tersebut menuntut pengawasan yang lebih ketat untuk mencegah ChatGPT menjawab pertanyaan tentang perawatan medis spesifik dan diagnosa. Meskipun OpenAI menyatakan bahwa ChatGPT sudah memiliki penghalang untuk jenis hal ini, gugatan itu menyatakan bahwa penghalang tersebut tidak berfungsi dengan baik dalam kasus ini.

OpenAI menetapkan bahwa ketentuan layanan ChatGPT menjelaskan dengan jelas bahwa layanan ini tidak dimaksudkan untuk digunakan dalam diagnosa atau perawatan medis. Namun, perusahaan tetap ingin pengguna mengunggah catatan kesehatan ke ChatGPT Health untuk memfasilitasi diskusi dengan bot. OpenAI juga terus mengklaim bahwa banyak orang menggunakan platform untuk permintaan kesehatan, dengan pernyataan terbaru yang menyebutkan bahwa 230 juta orang melakukannya setiap minggu. Ini menimbulkan banyak pertanyaan, mengingat ChatGPT meniru cara manusia berinteraksi yang lebih kompleks dibandingkan sekadar pencarian di Google.

Winters selamat dari pengalaman tersebut, namun kini harus menghadapi “tahun-tahun pemulihan fisik dan psikologis yang intens”. Selain itu, OpenAI juga sedang menghadapi tuntutan salah satu pihak yang mengklaim kematian akibat kelalaian, di mana seorang remaja berusia 19 tahun overdosis setelah mengikuti rencana perawatan yang dibuat oleh chatbot. Rencana tersebut dilaporkan termasuk saran tentang penggunaan obat terlarang. Gugatan ini juga menuntut penghentian operasi ChatGPT Health. Sementara itu, gugatan lain menyatakan bahwa chatbot tersebut turut memfasilitasi bunuh diri seorang remaja.

About The Author

Teknonesia Team

See author's posts