Google Gemini Yapay Zekasını Kötüye Kullanan Hackerları Ortaya Çıkardı

Google, Gemini AI platformunu kötü amaçlı yazılım geliştirmeye yardımcı olmak da dahil olmak üzere kötü niyetli amaçlarla kullanmaya çalışan çok sayıda devlet destekli bilgisayar korsanı grubu tespit etti. Ancak teknoloji devi, bu çabaların önemli siber tehditlerle sonuçlanmadığını bildirerek, yapay zekanın siber suçlular için bir oyun değiştirici olmaktan ziyade bir araç olmaya devam ettiğini vurguladı.

Google'ın bulgularına göre, İran, Kuzey Kore, Çin ve Rusya'dan bilgisayar korsanları içerik çevirme, kimlik avı saldırılarını iyileştirme ve bilgisayar kodu yazma gibi görevler için Gemini'den yararlandı. Şirket bu faaliyetin izini 10'dan fazla İranlı hacker grubu, 20 Çin hükümeti destekli grup ve dokuz Kuzey Koreli tehdit aktörüyle sürdü.

Google Çarşamba günü yayınladığı bir blog yazısında "İranlı APT (gelişmiş kalıcı tehdit) aktörleri Gemini'nin en yoğun kullanıcılarıydı ve Gemini'yi savunma kuruluşları hakkında araştırma yapmak, güvenlik açığı analizi yapmak ve dezenformasyon kampanyaları için içerik hazırlamak için kullandılar" dedi.

Bu girişimlere rağmen Google, Gemini'nin bu aktörlere doğrudan hackleme yetenekleri yerine öncelikle üretkenlik geliştirmeleri sağladığını savunuyor. Şirket, "Şu anda yapay zekayı öncelikle araştırma, kod sorunlarını giderme ve içerik oluşturma ve yerelleştirme için kullanıyorlar" dedi.

Resim kredisi: Jaque Silva | NurPhoto

Google ayrıca bilgisayar korsanlarının Gemini'yi daha gelişmiş kötü niyetli görevler için kullanmaya çalışırken karşılaştıkları sınırlamaları da vurguladı. Yapay zeka, karmaşık konuları anlama ve temel kod üretme konusunda onlara yardımcı olurken, güvenlik önlemleri siber saldırıların kötüye kullanılmasını engelledi. Gemini'yi gelişmiş kimlik avı teknikleri, kötü amaçlı yazılım kodlama ya da Google'ın güvenlik önlemlerini aşmak için kullanma girişimleri başarısız oldu.

Şirket, "Bazı kötü niyetli aktörler, Gmail için gelişmiş kimlik avı teknikleri, Chrome bilgi hırsızlığı kodlama yardımı ve Google'ın hesap oluşturma doğrulama yöntemlerini atlama yöntemleri gibi Google ürünlerini kötüye kullanma konusunda rehberlik için Gemini'yi başarısız bir şekilde kullanmaya çalıştı" dedi. "Bu girişimler başarısız oldu. Gemini, başarılı bir kötü niyetli kampanyada kullanılabilecek kötü amaçlı yazılım veya başka bir içerik üretmedi."

Ancak Google, Gemini gibi yapay zeka araçlarının siber tehdit aktörlerinin iş akışlarını hızlandırarak daha verimli ve daha büyük ölçekte faaliyet göstermelerine olanak sağlayabileceğini kabul etti. Örneğin, İran merkezli bir propaganda operasyonu Gemini'yi çevirileri geliştirmek için kullandı ve dezenformasyon kampanyalarının daha geniş kitlelere ulaşmasını sağladı. Bu arada, Kuzey Kore bağlantılı bilgisayar korsanları, LinkedIn için kapak mektupları hazırlamak ve iş arama tavsiyeleri toplamak için sohbet robotuna güvendi - potansiyel olarak federal müfettişler arasında giderek artan bir endişe olan ABD şirketlerinde uzaktan BT pozisyonlarını güvence altına alma çabalarına yardımcı oldu.

"Grup ayrıca Gemini'yi denizaşırı çalışan değişimleri hakkında bilgi almak için de kullandı. Konuların çoğu, iş araştırması yapan ve iş başvurusunda bulunan herkes için ortak olabilir" dedi.

Google'ın bulguları OpenAI tarafından yapılan benzer keşifleri yansıtıyor. Bir yıl önce OpenAI, ChatGPT'yi kötüye kullanmaya çalışan çok sayıda devlet destekli grup tespit etmişti. Ancak OpenAI'nin araştırması, bu bilgisayar korsanlarının chatbot'u gelişmiş siber saldırılar gerçekleştirmek yerine küçük verimlilik artışları için kullandıklarını ortaya koydu.

Bu tehditlere karşılık olarak Google, yapay zeka güvenlik protokollerini güçlendirdi. Şirket, kötüye kullanımı önlemek için Gemini'nin savunmasını sürekli olarak test ediyor ve gerektiğinde kolluk kuvvetleriyle işbirliği yapıyor. Google, "Devlet destekli tehdit aktörlerinin kötü niyetli siber faaliyetleri de dahil olmak üzere ürünlerimizin, hizmetlerimizin, kullanıcılarımızın ve platformlarımızın kötüye kullanımını araştırıyoruz ve uygun olduğunda kolluk kuvvetleriyle birlikte çalışıyoruz" dedi.

Ayrıca Google, kötü niyetli olduğundan şüphelenilen aktörleri platformlarından kaldırarak bu siber tehditleri engellemek için aktif olarak çalışmaktadır. Bu proaktif duruş, şirketin yapay zeka araçlarını güvende tutma kararlılığının altını çizerken, devlet destekli bilgisayar korsanlarının yarattığı gelişen riskleri de kabul ediyor.