OpenAI telah mengembangkan alat yang dapat menangkap siswa yang menyontek dengan meminta ChatGPT untuk menulis tugas mereka — namun menurut The Wall Street Journal, perusahaan tersebut sedang memperdebatkan apakah akan benar-benar merilisnya.
Dalam sebuah pernyataan yang diberikan kepada TechCrunch, juru bicara OpenAI mengonfirmasi bahwa perusahaan tersebut sedang menyelidiki metode watermarking yang dijelaskan dalam artikel Journal, namun mengatakan pihaknya mengambil “pendekatan yang disengaja” untuk merilis apa pun ke publik karena “kesulitan yang terlibat dan potensi dampak pada ekosistem yang lebih luas.” Open AI.
“Sistem penandaan suara yang kami kembangkan secara teknis berguna, namun memiliki risiko signifikan yang kami pertimbangkan saat kami mencari alternatif lain, termasuk paparan terhadap aktor jahat dan potensi membingungkan kelompok yang tidak berbahasa Inggris,” katanya. .
Ini merupakan pendekatan yang berbeda dari banyak upaya analisis teks yang dihasilkan AI sebelumnya, namun tidak berhasil. Bahkan OpenAI sendiri menutup alat analisa AI lamanya tahun lalu karena “akurasinya yang rendah”.
Dengan watermarking, OpenAI hanya fokus mendapatkan teks dari ChatGPT, bukan dari perusahaan lain. Hal ini dapat dilakukan dengan membuat perubahan kecil pada cara ChatGPT mengurai teks, khususnya membuat tanda air yang tidak terlihat pada teks yang dapat dideteksi oleh alat lain.
Setelah publikasi artikel Jurnal, OpenAI telah memperbarui postingan blog bulan Mei tentang penelitiannya tentang penemuan konten yang dihasilkan AI. Pembaruan tersebut mengatakan bahwa watermarking telah terbukti “sangat akurat dan efektif terhadap gangguan lokal, seperti terjemahan teks,” namun terbukti “kurang efektif terhadap gangguan global; seperti menggunakan terjemahan mesin, menggandakan teks dengan beberapa bentuk pemrosesan, atau menanyakan operator untuk memasang karakter khusus di antara setiap kata dan menghapus karakter tersebut.
Akibatnya, OpenAI menulis bahwa metode ini “cukup kecil untuk dihindari oleh pelaku jahat.” Pembaruan OpenAI juga menggemakan komentar pembicara tentang penutur non-Inggris, menulis bahwa watermarking “dapat menghambat penggunaan AI sebagai alat untuk menulis kepada penutur non-Inggris.”
