Avrupa Birliği bayrağının önünde tutulan, ekranında ChatGPT yazan akıllı telefon

OpenAI, AB Yapay Zekâ Yasası'nın yapay zekâ metinlerinin makine tarafından tanınabilir olması şartı nedeniyle Avrupa Birliği'ndeki ChatGPT ve Codex kullanıcılarının metin çıktısına önümüzdeki haftalarda görünmez bir filigran ekleyeceğini açıkladı. Şirket, metin filigranı ve tespitinin erken aşamada ve ciddi sınırları olan teknolojiler olduğunu belirtti.

ChatGPT ve Codex'te filigran, önümüzdeki haftalarda AB'deki tüm planlarda uygun kullanıcıların metin çıktısına eklenecek. Uygulama yalnızca AB'de geçerli olacak; OpenAI, filigranı ilk aşamada dünya genelinde varsayılan hale getirmeyeceğini belirtti.

API tarafında ise dünya genelindeki müşteriler 5 Ekim'den itibaren seçili modellerde filigranlı metin çıktısını isteğe bağlı olarak açabiliyor. API'de filigran varsayılan olarak kapalı kalıyor.

Filigranı tespit eden dedektör ilk aşamada kamuya açık olmayacak. Dedektörü yalnızca başvurusu onaylanan araştırmacılar ve uzman kuruluşlar kullanabilecek; başvurular 5 Ekim'de açıldı.

textGrain adı verilen teknoloji, modelin kelime seçimlerine görünmez istatistiksel bir sinyal ekliyor ve dedektör bu sinyali arıyor. OpenAI'nin kendi değerlendirmesine göre yanlış pozitif oranı yüzde 1 hedeflendiğinde, psikoloji gibi içeriklerde dedektör 200 token'lık metinlerin yaklaşık yüzde 80'inde, 400 token'lık metinlerin yaklaşık yüzde 95'inde filigranı buluyor. Matematik gibi kelime seçiminin dar olduğu alanlarda ise tespit oranı belirgin biçimde düşüyor. Ayrıca 400 token'lık metinlerde kelimelerin yüzde 10'u eş anlamlılarıyla değiştirildiğinde tespit oranı yaklaşık yüzde 92'den yüzde 66'ya, yüzde 25'i değiştirildiğinde ise yüzde 17'ye geriliyor.

OpenAI, filigranın sınırlarına dair yaptığı uyarıda bu yöntemin insan katkısını, sahipliği veya doğruluğu kanıtlamadığını ve kullanıcıyı tanımlamadığını vurguluyor. Filigran bulunmaması da metnin insan tarafından yazıldığını kanıtlamıyor.

Kaynaklar

Kapak fotoğrafı: Jernej Furman / Wikimedia Commons (CC BY 2.0; AB bayrağı önünde ekranında ChatGPT yazan akıllı telefon; kırpıldı; temsili fotoğraf, filigran özelliğinin görüntüsü değildir).