OpenAI, geliştirdiği popüler dil modeli ChatGPT’yi kötüye kullanımlardan korumak için yeni bir adım attı.

Şirket, ChatGPT ile üretilen metinleri tespit edebilen bir araç üzerinde çalışıyor. Bu gelişme, özellikle akademik çevreleri ve eğitim kurumlarını memnun edebilir.

Öğrencilerin ödevlerini ChatGPT gibi yapay zeka araçlarıyla yapması, akademik dünyada büyük bir sorun haline geldi. Bu araç, bu tür durumları tespit ederek akademik dürüstlüğü sağlamaya yardımcı olabilir.

OpenAI kararsız

OpenAI bir filigranlama aracı olarak tanımlanan bu teknolojiyi kullanıma sunmadan kararsız.

Şirket, aracın ümit verici olduğunu ancak önemli riskleri de beraberinde getirdiğini söylüyor.

Kötü amaçlı kişiler tarafından kullanılması veya İngilizce olmayan dillerde hatalı sonuçlar verme ihtimali bu riskler arasında yer alıyor.

Gelen bilgilere göre şu anki tespit yöntemlerinden çok daha farklı ve daha iyi sonuçlar verebilecek.

Bunun sayesinde de ChatGPT ile oluşturulmuş metinler, farklı araçlar tarafından kolayca tespit edilebilecek.