OpenAI’nin, ChatGPT konuşmalarında eski partnerine yönelik açık şiddet tehditleri tespit ettiği bir kullanıcıyı FBI’ya bildirdiği öne sürüldü. Mahkeme kayıtlarına dayanan haberlere göre kişi, Florida’da yaşayan 25 yaşındaki eski Goldman Sachs analisti Darren Zhou olarak tanımlandı.
Kayıtlara göre Zhou, sohbetlerde şiddet niyetini tekrar tekrar dile getirdi. Eski partneri de ayrı kanallarda tehdit ve taciz mesajlarını saklayıp kolluk kuvvetlerine verdi. OpenAI’nin sistemi konuşmaları işaretleyip yılın başında FBI’ya ilettiği belirtiliyor. Zhou Mayıs ayında tutuklandı, 100 bin dolar kefaletle serbest bırakıldı.
Dosya, sekiz yıl denetimli serbestlik, iki yıl elektronik kelepçe, ruh sağlığı değerlendirmesi ve müdahale programı ile kapandı. Goldman Sachs, olaydan haberdar olduktan sonra Zhou’nun işine son verdiğini doğruladı.
Vaka, yapay zekâ sağlayıcılarının ne zaman gizliliği kırıp kolluğa gideceği sorusunu yeniden açıyor. Yakın tehdit, yanlış pozitif ve özel konuşma arasındaki çizgi net değil. Şirketler hem kamu güvenliği hem kullanıcı güveni arasında sıkışıyor. Türkiye’de de benzer ürünler yaygınlaşırken, hangi eşiğin ihbar sayılacağı henüz yasal olarak netleşmiş değil.
