Yapay zeka geliştirmenin temel adımlarından biri olan büyük veri setleri, performansın kalitesini belirlemede kritik bir rol oynar. Bu noktada, Stable Diffusion tarafından kullanılan LAION-5B adlı yapay zeka eğitim görsel seti, Stanford araştırmacıları tarafından incelendi. Yapılan incelemede, çocuk istismarına dair linklerin bulunduğu tespit edildi.

LAION-5B: Stabilite AI ve Stanford İşbirliği

LAION-5B, Stable Diffusion'un yaratıcısı olan Stability AI tarafından kullanılmış ve Stanford araştırmacıları tarafından Eylül 2023'te detaylı bir incelemeye tabi tutulmuştur. Yapılan çalışma neticesinde, veri setinde çocuk istismarına dair en az 1679 bağlantı tespit edildi. Bu önemli bilgiler, ilgili kurumlarla paylaşılarak gerekli önlemlerin alınması sağlandı.

LAION-5B: İnce Ayrıntılara Gömülü Tehlike

LAION'un resmi internet sitesine göre, LAION-5B veri seti sadece görselleri depolamaz. Tam aksine, görüntülerin metin açıklamaları ve bağlantıları içeren bir internet indeksi oluşturur. Google, daha önce Imogen üretken yapay zekâ eğitimi için LAION-400M'i kullanmıştı. Ancak Imogen araştırmacıları, veri setinde çocuk istismarı, ırkçı küfürler ve zararlı toplumsal stereotipler gibi uygunsuz içeriklerin bulunduğunu belirtti.

Yapay Zeka Eğitimindeki Sorunlar ve Çözüm Önerileri

Stanford araştırmacıları, bu tür içeriklerin doğrudan veri setinin çıktılarını etkilemediğini belirtirken, LAION'un sıfır tolerans politikası benimseyerek bu tür zararlı içeriklere karşı önlemler aldığını açıkladı.