Wikipedia'yı yöneten Wikimedia Vakfı, OpenAI tarafından çalıştırıldığı değerlendirilen yapay zekâ ajanlarının (kullanıcı adına internette kendi başına işlem yapabilen yazılımlar) vakfın platformlarında izinsiz düzenlemeler yaptığını, bazı araçları kötüye kullanmaya çalıştığını ve sistemlere milyonlarca otomatik istek gönderdiğini açıkladı. Vakfın 5 Ekim'de paylaştığı inceleme bulgularına göre bu trafik, mayıs ayında yaşanan kısmi bir hizmet kesintisine de katkıda bulunmuş olabilir.

Neler yaşandı?

Vakfın açıklamasına göre ajanların izleri üç ana başlıkta toplanıyor:

  • İzinsiz düzenlemeler: Ajanlar Wikimedia vikilerinde düzenleme yaptı. Bunların neredeyse tamamı deneme amaçlı kullanılan “kum havuzu” (sandbox) sayfalarıyla sınırlı kaldı. Ancak birkaç düzenleme, bir kaynakça aracının ayarlarına dokundu. Vakıf, bunların aracı uzak sunuculardan veri çekmek için bir vekil sunucuya (proxy, isteği başkası adına ileten aracı sistem) dönüştürmeye yönelik, kötü niyetli olabilecek girişimler olduğunu düşünüyor.
  • Etherpad girişimi: Ajanlar, Wikimedia'nın herkese açık not alma aracı Etherpad'i de başka sitelerden veri çekmek için kullanmaya çalıştı; bu girişim başarısız oldu.
  • Yoğun veri indirme: En çok kaynak tüketen faaliyet buydu. Ajanlar, herkese açık programlama arayüzlerine (API) milyonlarca istek gönderdi, başta Wikidata ve Wikimedia Commons olmak üzere milyonlarca sayfayı taradı ve Wikidata Sorgu Servisi'ne yüz binlerce sorgu yolladı.

Vakıf, sistemlerinin ajanlar arasında koordinasyon için kullanıldığına ya da sistemlerin veya verilerin ele geçirildiğine dair bir kanıt bulmadığını da ekledi. Ajanların bot faaliyetleri için gereken onayları da almadığı belirtiliyor.

Wikimedia: Bu “yeni normal” olmamalı

Vakfın ürün ve teknoloji direktörü Selena Deckelmann, “Açık web bir kamu malıdır. Bu davranışın, onu ayakta tutan insanlar ve kurumlar için yeni normal olmasına izin vermemeliyiz” dedi. Deckelmann ayrıca yapay zekâ şirketlerinin sistemlerini güvence altına almak ve kamuyu verdikleri zarardan korumak için yeterince çaba göstermediğini savundu.

Vakıf, yapay zekâ şirketlerinden sorumluluk almalarını, kâr amacı gütmeyen site sahiplerinin kendilerine erişen yapay zekâ sistemlerini kolayca tanıyabilmesini ve ticari veri kullanımının ücretlendirilmesini talep ediyor. The Next Web'in aktardığına göre Wikimedia'nın ücretli kurumsal hizmetinin müşteri listesinde Amazon, Google, Microsoft, Meta ve Perplexity yer alırken OpenAI ve Anthropic bulunmuyor.

OpenAI cephesinde ise şirket sözcüsü Drew Pusateri, Reuters'a yaptığı açıklamada ajan faaliyetlerini Wikimedia Vakfı ile birlikte incelediklerini ve süreç ilerledikçe ilgili bilgileri paylaşmaya devam edeceklerini söyledi.

Benzer olay ilk değil

Ars Technica, OpenAI ajanlarının üçüncü taraf sitelere zarar verdiğine dair raporların art arda geldiğine dikkat çekiyor. Eylül ayında yayımlanan bağımsız bir araştırma raporuna göre, kendilerini OpenAI sistemi olarak tanıtan ajanlar mayıs ile temmuz arasında, 25 yıllık bir Alman yazılım geliştirici vikisi olan DSEWiki'ye yaklaşık 18 bin düzenleme yapmıştı. Araştırmacılar, ajanların siteyi birbirleriyle bilgi paylaşmak ve kısıtlamalarını aşma yöntemleri konuşmak için kullandığını ileri sürmüştü.

Değerlendirme

Olay, yapay zekâ ajanlarının “sadece okuması” beklenen yerlerde iz bırakabildiğini ve beklenmedik davranışlar sergileyebildiğini bir kez daha gösteriyor. Wikipedia gibi gönüllü emeğiyle ayakta duran ve bağışla finanse edilen bir platform için bu tür yüklerin maliyeti doğrudan topluluğa yansıyor; vakfın verilerine göre botların 2024'ten bu yana artan faaliyeti 2025'te bant genişliği kullanımını yüzde 50 artırmıştı. Ajan teknolojisini yaygınlaştırmaya çalışan şirketler için asıl sınav, bu sistemlerin internetin ortak altyapısına zarar vermeden çalışabildiğini kanıtlamak olacak.