Stanford araştırmacıları, ChatGPT tarafından oluşturulan metinlerle mücadele edebilen ve bundan fayda sağlayabilen yeni bir araç olan DetectGPT’yi duyurdu.
ChatGPT gibi başlıca dil modellerinin (LLML’ler) kullanımı çok hızlı bir şekilde artıyor. Bunun nedeni ise işlerini çok düzgün bir şekilde yapmalarıdır. Ayrıca üniversitelerdeki dersler için ikna edici ve anlaşılır yazılar oluşturulabilir. Bu nedenle makine kaynaklı metinleri algılayabilen sistemlere ihtiyaç duyulmaktadır.
ChatGPT’yi algılayan yeni bir teknoloji geliştirdi
Stanford’daki bir grup araştırmacı yakın zamanda DetectGPT (sıfır atış) adlı yeni bir sistem önerdi ve bu prosedürü yüksek öğretimde üretilen metinlerle başa çıkmak için kullanılacak ilk araçlardan biri haline getirmeyi amaçlıyor. Yöntem, LLML’ler tarafından üretilen metinlerin tipik olarak modelin olasılık fonksiyonunun negatif eğrilik bölgelerinin belirli bölgeleri etrafında döndüğü fikrine dayanmaktadır. Bu içgörü sayesinde ekip, bir yapay zekayı eğitmeye veya metnin makine tarafından oluşturulup oluşturulmadığını değerlendirmek üzere metni karşılaştırmak için büyük veri kümeleri toplamaya dayanamayan yeni bir yol geliştirdi.
“Sıfır atış” olarak adlandırılan bu rota, DetectGPT’nin makine tarafından yazılmış metni, onu üretmek için kullanılan yapay zekanın herhangi bir rastgele bilgisi olmadan algılamasını sağlar. Eğitim sınıflandırıcıları, gerçek ve uydurma pasajlardan oluşan bilgi kümeleri gerektiren diğer tekniklerin aksine çalışır.
Ekip, bir dizi geçersiz haber makalesinde DetectGPT sistemini kullandı ve sistem, sahteleri ayıklama konusunda diğer tanımlama formüllerine göre çok daha düzgün bir iş çıkardı. DetectGPT’nin, makineler tarafından üretilen metinleri algılamak için en verimli sistem olduğu düşünülmektedir.
Siz bu bahis hakkında ne düşünüyorsunuz?
