OpenAI, şüpheli Çin gözetleme aracına bağlı hesapları kapattı

OpenAI, ABD ve diğer Batı ülkelerindeki Çin karşıtı protestoları bildirmeyi amaçlayan bir sosyal medya izleme aracı oluşturmak için ChatGPT kullandığı iddia edilen birkaç hesabı yasakladı. Şirket, ağın büyük olasılıkla Çin ile bağlantılı olduğunu iddia ediyor.

OpenAI, bir sosyal medya gözetim aracını güçlendirmek için ChatGPT kullandığı bildirilen birkaç hesabı kapatarak yapay zekanın kötüye kullanımı konusundaki kontrolünü sıkılaştırıyor. Bir OpenAI raporuna göre, hesapların ABD, İngiltere ve diğer Batı ülkelerindeki Çin karşıtı protestolar hakkında gerçek zamanlı veri toplamayı amaçlayan Çin destekli bir operasyonla bağlantılı olduğu iddia edildi.

"Qianyue Overseas Public Opinion AI Assistant" olarak adlandırılan yazılım, pazarlama materyallerinde insan hakları protestolarıyla ilgili çevrimiçi tartışmaları takip etmek ve doğrudan Çinli yetkililere, istihbarat kurumlarına ve büyükelçiliklere bildirmek üzere tasarlanmış bir yazılım olarak tanımlanıyordu. OpenAI aracın varlığını bağımsız olarak doğrulayamadı ancak yeteneklerini detaylandıran tanıtım materyallerine erişimi vardı - esas olarak X, Facebook ve Instagram gibi platformları ilgili konuşmalar için tarıyordu.

OpenAI'nin baş araştırmacılarından Ben Nimmo, bu vakayı "ABD merkezli yapay zekayı anti-demokratik amaçlarla kullanmaya çalışan otoriter bir rejimin" rahatsız edici bir örneği olarak nitelendirdi. Bulgular, Çin'in Batı teknolojisini kullanmasıyla ilgili gerilimlerin arttığı ve OpenAI'nin ABD'li politika yapıcıları Çin yapay zekasının ulusal güvenlik riskleri konusunda aktif olarak uyardığı bir dönemde geldi.

Yasaklanan hesaplar, Meta'nın açık kaynaklı Llama'sı da dahil olmak üzere diğer yapay zeka modellerinin kullanımına da atıfta bulundu. Meta bu olasılığı kabul etti ancak kötü aktörlerin Çin'de geliştirilenler de dahil olmak üzere pek çok yapay zeka aracına erişimi olduğuna dikkat çekti.

OpenAI şüpheli faaliyetlere karşı ilk kez harekete geçmiyor. Şirket ayrıca İran'ın nüfuz operasyonları, Kuzey Kore ile ilgili istihdam dolandırıcılığı ve ABD hükümetini eleştiren İspanyolca içerik üreten Çin bağlantılı başka bir ağla bağlantılı hesapları da yasakladı.

DeepSeek gibi Çinli yapay zeka girişimlerinin yükselişiyle birlikte OpenAI, rekabet etmek için kendi modellerinden bazılarını açmayı düşünüyor. Bu arada ABD'li politika yapıcılar, yapay zeka inovasyonunu ulusal güvenlik kaygılarıyla nasıl dengeleyecekleri konusunda kafa yoruyor.