Satujuang- OpenAI mengembangkan alat baru untuk mendeteksi teks yang dihasilkan oleh ChatGPT dengan tingkat akurasi tinggi.
Juru bicara OpenAI mengungkapkan kepada TechCrunch bahwa mereka tengah meneliti metode watermarking.
Yaitu pemberian tanda air pada teks yang dibuat oleh ChatGPT. Pendekatan ini berbeda dari metode deteksi sebelumnya yang kurang efektif.
Watermarking akan memodifikasi cara ChatGPT memilih kata untuk menciptakan tanda yang tidak terlihat dalam teks, yang dapat dideteksi oleh alat khusus.
Berbeda dengan alat deteksi teks AI sebelumnya yang dinyatakan kurang akurat dan akhirnya dihentikan.
Metode watermarking ini bertujuan memberikan cara yang lebih handal untuk mengidentifikasi teks yang dihasilkan oleh ChatGPT khususnya.
Meski teknologi ini menjanjikan, OpenAI mempertimbangkan risiko-risiko yang mungkin timbul dari penggunaan watermarking.
Risiko ini termasuk potensi penyalahgunaan oleh pihak-pihak tertentu dan dampak negatif pada berbagai kelompok, seperti penutur bahasa Inggris non-asli.
Misalnya, manipulasi teks, penggunaan sistem penerjemah, atau perubahan karakter khusus bisa mengganggu efektivitas deteksi.
Saat ini, OpenAI masih memikirkan apakah akan merilis alat ini, mengingat potensi konsekuensi luas yang mungkin timbul.(Red/kumparan)
