Yapay zeka akademik mahremiyeti tartışmaya açtı! Hayalet kaynak...

Süreç, Doç. Dr. Yusuf Kızıltaş’ın SSCI indeksli bir dergiden aldığı hakemlik davetiyle ortaya çıktı. İncelediği makalenin kaynakça bölümünde kendi adına yapılan atıfları fark eden Kızıltaş, listelenen üç çalışmadan ikisinin kendisine ait olduğunu belirledi. Ancak üçüncü çalışmanın gerçekte var olmadığını tespit etti. Daha da dikkat çekici olan ise bu 'hayalet makale'nin başlık ve içeriğinin, Kızıltaş’ın henüz yayımlanmamış ve yalnızca sınırlı sayıda hakemin bildiği güncel çalışmasıyla büyük ölçüde örtüşmesiydi.

Türkiye Gazetesi'nden Mahmut Özay'ın haberine göre; Araştırmacının söz konusu çalışması için daha önce yapay zekadan dil ve istatistik desteği aldığı öğrenildi.

İHLALİN BOYUTU GENİŞLİYOR

Uzmanlara göre bu olay, yapay zekanın yalnızca internetteki verileri harmanlamakla kalmayıp, kullanıcıların sisteme yüklediği içerikleri de öğrenme sürecine dahil edebileceğini gösteriyor.

Bu durum, 'dijital mahremiyet ihlalinin yeni bir boyutu' olarak tanımlanırken, akademik metinlerin yayımlanmadan önce dolaylı yollarla ifşa edilme riskine dikkat çekiliyor.

YAYINEVLERİNDEN ŞEFFAFLIK ŞARTI

Dünyanın önde gelen yayınevleri olan Elsevier, SAGE ve Taylor & Francis, yapay zekanın akademik çalışmalarda kullanımına belirli şartlarla izin veriyor. Bu şartlar arasında, kullanılan araçların açıkça belirtilmesi ve şeffaflık ilkesi öne çıkıyor.

Ancak yaşanan son gelişmeler, konunun yalnızca etik bir mesele olmadığını, aynı zamanda ciddi bir veri güvenliği sorunu haline geldiğini gösteriyor.

'HAYALET KAYNAK' RİSKİ

Uzmanlar, yapay zeka sistemlerinin en büyük risklerinden birinin de gerçekte var olmayan ancak son derece gerçekçi görünen kaynaklar üretmesi olduğunu vurguluyor.

Özellikle çok sayıda akademik çalışması bulunan araştırmacıların verilerinden beslenen sistemlerin, onların adına uydurma referanslar oluşturabildiği ve bunun akademik güvenilirliği zedeleyebileceği belirtiliyor.