GPTZero: Yapay Zeka İntihaline Karşı Mücadele Ediyor

Gazeteciler, yazarlar ve üniversite profesörleri arasında, ChatGPT gibi yapay zeka programları tarafından üretilen metinler nedeniyle geçim kaynaklarını kaybetme endişesi giderek artıyor. Ancak Princeton Üniversitesi’nde bilgisayar bilimi ve gazetecilik okuyan 22 yaşındaki öğrenci Edward Tian, ​​bu sorunu çözmek için GPTZero adlı bir uygulama geliştirdi. Tian’ın amacı, yapay zeka tarafından üretilen dezenformasyonu gerçek haberlerden ayırt ederek “gazeteciliği kurtarmak.” Uygulama, Ocak ayından bu yana 1,2 milyon kayıtlı kullanıcıya ulaştı.

Tian, ​​Stability AI CEO’su Emad Mostaque ve Jack Altman liderliğindeki teknoloji yatırımcıları tarafından desteklenen “Origin” adlı yeni bir programı başlatıyor. Bu program, yapay zeka tespitini ve analizini kullanarak çevrimiçi medyadaki yanıltıcı içerikleri ortaya çıkarmayı hedefliyor. Şirket, büyük medya kuruluşları ve New York Times’ın eski İcra Kurulu Başkanı Mark Thompson gibi sektör liderleriyle ortaklıklar kurmayı planlıyor. Ayrıca teknolojilerini; güvenlik, telif hakkı, finans, hukuk gibi farklı alanlarda kullanmayı hedefliyor.

GPTZero, metnin rastgeleliğini ve tekdüzeliğini analiz ederek yapay zeka kullanımını belirliyor. Şirkete göre, araç, insan metni için %99, yapay zeka metni için ise %85 doğruluk oranına sahip.

Ancak ChatGPT’nin sağlayıcısı OpenAI’nin geliştirdiği bir AI metin sınıflandırıcısı olan araç, tam olarak mükemmel değil. Araç, yapay zeka tarafından yazılmış metnin yalnızca %26’sını “muhtemelen yapay zeka tarafından yazılmış” olarak doğru bir şekilde tanımlarken, insan tarafından yazılan metni yanlış bir şekilde zamanın %9’unda yapay zeka tarafından yazılmış olarak etiketliyor.  Ayrıca, İngilizce dışındaki dillerde ve kısa metinlerde de güvenilmez sonuçlar üretebiliyor. Bu nedenle, öğretmenler ve eğitimciler için yanıltıcı metinleri tespit etmek zorlu bir görev olmaya devam ediyor.

​​”Yapay zeka tespiti üzerinde çalışan en yetenekli insanları bir araya getirebileceğimize inanıyoruz” yiyen Tian, “Bu alanın daha fazla dikkat ve destek gerektirdiğine inanıyoruz.” diyerek Yapay Zekanın devriminin arkasında bıraktığı sorunlara çözümü için insanları Yapay Zeka / İnsan ayrımı yapan sitemleri geliştirmeye davet ediyor.

PeakMetrics’in CEO’su Nick Loui, yapay zeka tarafından üretilen metinlerin tehdidinin azaldığını, çünkü derin sahte videolar gibi türlü manipülasyon yöntemlerinin daha büyük bir tehdit oluşturduğunu belirtiyor. Bununla birlikte, algılama teknolojilerinin henüz yeterince gelişmemiş olması ve net bir kazanç modelinin bulunmaması, bu alanda yatırım çekmeyi zorlaştırıyor. Tola Capital’in genel müdürü Sheila Gulati, mevcut algılama araçlarının geçici ürünler olduğunu ve gelişmekte olan teknolojinin engellenmemesi gerektiğini ifade ediyor.

Sonuç olarak, yapay zeka tarafından üretilen metinlerin doğruluğunu ve güvenilirliğini belirlemek için daha ileri teknolojik gelişmeler ve işbirlikleri gerekiyor. Yapay zekanın getirdiği yeni tehditlere karşı mücadele etmek için gazetecilik sektörü, teknoloji şirketleri ve yatırımcılar arasında ortak çalışmaların yapılması önem taşıyor.

YORUM ALANI

Anonimsiniz. İsterseniz

yapabilirsiniz.

Yorumları

Yorumunuzu giriniz!