Google, yapay zekasını gizli dökümanlarımızla mı eğitiyor?

HABER MERKEZİ - Google'ın yapay zeka araçlarıyla ilgili dikkat çekici bir olay yaşandı. Operation Octo adlı oyunun geliştiricisi, Google'ın yapay zekasına oyunda henüz duyurulmamış içerikler hakkında sorular sordu. Yapımcının iddiasına göre yapay zeka, bu soruların ardından sadece özel bir Google Dokümanı'nda bulunan bir karakterin adını doğru bir şekilde verdi.

Üstelik oyunun tek geliştiricisi, söz konusu karakterin adının Vantage Tripod olduğunu ve bu bilgiyi daha önce hiçbir yerde paylaşmadığını belirtiyor.

Olay, Operation Octo için oluşturulan Discord sunucusunda bir oyuncunun Google'ın yapay zekasına oyunla ilgili sorular sormasıyla başladı. Oyuncunun aldığı yanıtlarda geliştiricinin beklemediği kadar spesifik bilgiler yer almaya başladı. Bunun üzerine geliştirici, oyuncudan henüz açıklanmamış içerikler hakkında sorular sormasını istedi. İddiaya göre yapay zeka, henüz duyurulmayan karakterin adını doğru şekilde verdi.

Geliştirici Reddit'teki paylaşımında, yapay zekanın daha önce kimseyle paylaşmadığını ve adını nasıl bildiğini anlayamadığını belirtiyor. Geliştiriciye göre karakterin adı dijital ortamda yalnızca kendisine ait özel Google Dokümanı'nda bulunuyordu.

ÖZEL DOSYALAR TARANIYOR MU?

Google ise yaptığı açıklamada, Google Workspace kapsamındaki özel içeriklerin, Drive dosyalarının ve Google Dokümanları'nın Gemini dahil temel yapay zeka modellerini eğitmek için kullanılmadığını belirtti.

Şirket ayrıca herkese açık hâle getirilen dokümanların, bağlantıları internette arama motorlarının erişebileceği şekilde paylaşıldığında indekslenebileceğini hatırlattı. Google Drive'daki paylaşım seçeneklerinin de kullanıcıların dosyalara kimlerin erişebileceğini kontrol etmesine izin verdiğini belirtti.

Ancak mevcut bilgiler, yapay zekânın Vantage Tripod adını ilk etapta nasıl ürettiğini kesin olarak açıklamıyor.

Yaşanan gelişmenin en dikkat çekici noktalarından biri de ilk yanıtın bağımsız olarak yeniden oluşturulamaması. Geliştirici, olay Reddit'te yayıldıktan sonra yapılan aramalarda yapay zekânın artık "Vantage Tripod" adını Reddit'teki paylaşımı kaynak göstererek verdiğini söyledi.

Bu durum, yapay zekânın ilk yanıtıyla daha sonra internette yayılan bilgileri birbirinden ayırmayı zorlaştırıyor. Çünkü bir bilgi kamuya açık bir Reddit paylaşımında yayıldıktan sonra yapay zekâ destekli arama sistemleri bu paylaşımı kaynak olarak kullanabiliyor. Dolayısıyla bugün alınan aynı yanıt, söz konusu bilginin daha önce gizli bir kaynaktan elde edildiğini kanıtlamıyor.

Olay aynı zamanda yapay zeka destekli arama sistemlerinin kaynak kullanımı konusunda yaşadığı sorunları da gündeme getirdi.