Data pelabelan
Siasatan majalah TIME mendedahkan bahawa untuk membina sistem keselamatan terhadap kandungan toksik (contohnya penderaan seksual, keganasan, perkauman, seksisme, dll.), OpenAI menggunakan pekerja penyumberan luar Kenya yang berpendapatan kurang daripada $2 sejam untuk melabelkan kandungan toksik. Label ini digunakan untuk melatih model bagi mengesan kandungan sedemikian pada masa hadapan. Buruh penyumberan luar terdedah kepada kandungan toksik dan berbahaya sehingga mereka menyifatkannya sebagai "penyeksaan". Rakan kongsi penyumberan luar OpenAI ialah Sama, sebuah syarikat data latihan yang berpangkalan di San Francisco, California.
Pemecahan Jail
ChatGPT cuba menolak gesaan yang mungkin melanggar dasar kandungannya. Walau bagaimanapun, sesetengah pengguna berjaya menjailbreak ChatGPT dengan menggunakan pelbagai teknik kejuruteraan gesaan untuk memintas sekatan ini pada awal Disember 2022 dan berjaya memperdaya ChatGPT untuk memberi arahan tentang cara mencipta koktel Molotov atau bom nuklear, atau untuk menjana hujah mengikut gaya neo-Nazi. Seorang wartawan Toronto Star mempunyai kejayaan peribadi yang tidak sekata dalam membuat ChatGPT membuat kenyataan yang menghasut sejurus selepas pelancaran: ChatGPT telah diperdaya untuk menyokong pencerobohan Rusia ke atas Ukraine pada tahun 2022, tetapi walaupun diminta untuk bermain bersama senario fiksyen, ChatGPT enggan menjana hujah mengapa Perdana Menteri Kanada Justin Trudeau bersalah atas pengkhianatan. (wiki)
Masa siaran: 18 Feb-2023