INDONESIAONLINE – Para aktivis data menantang OpenAI, pencipta ChatGPT, atas masalah “halusinasi” yang dihasilkan oleh model bahasa mereka.
Halusinasi ini mengacu pada kemampuan ChatGPT untuk menghasilkan teks yang secara faktual tidak benar, tetapi terdengar meyakinkan.
Kelompok aktivis, termasuk AI Now Institute, OpenAI Alignment Forum, dan Center for Critical AI, telah menerbitkan surat terbuka yang mendesak OpenAI untuk mengatasi masalah ini.
Dalam surat tersebut, mereka mencatat bahwa ChatGPT telah digunakan untuk menyebarkan informasi yang salah, dan bahwa model tersebut tidak dilengkapi untuk membedakan antara fakta dan fiksi.
Para aktivis meminta OpenAI untuk mengambil langkah-langkah berikut:
- Membuat daftar data yang digunakan untuk melatih ChatGPT dan membuatnya lebih mudah diakses oleh para peneliti. Hal ini akan memungkinkan para peneliti untuk memahami bias yang ada dalam model dan mengidentifikasi sumber potensial dari informasi yang salah.
- Mengembangkan metrik untuk mengukur tingkat “halusinasi” dalam model bahasa. Hal ini akan membantu para pengembang untuk mengidentifikasi dan memperbaiki masalah ini.
- Membuat alat yang dapat digunakan oleh pengguna untuk mengidentifikasi teks yang dihasilkan oleh ChatGPT. Ini akan membantu pengguna untuk lebih kritis terhadap informasi yang mereka baca secara online.
OpenAI telah menanggapi surat tersebut dengan mengatakan bahwa mereka “berkomitmen untuk mengatasi masalah ini.”
Perusahaan berjanji untuk “membuat data pelatihan ChatGPT lebih transparan” dan “mengembangkan alat untuk mendeteksi dan memitigasi halusinasi.”
Namun, para aktivis masih skeptis. Mereka berpendapat bahwa OpenAI tidak melakukan cukup banyak untuk mengatasi masalah ini, dan bahwa perusahaan perlu lebih transparan tentang cara kerjanya.
