Gergin Bir CEO Görüşmesinin Ardından Roblox'un Güvenlik Dramının İç Yüzü

En son ROBLOX CEO Röportajı, platformun güvenlik kültürü hakkında uzun süredir devam eden şüpheleri tam olarak ortaya çıkardı. Roblox yıllardır inceleme altındaydı, ancak rakamlar bu ilgiyi daha da artırdı. Şirket şu anda birçoğu çocuk olmak üzere yaklaşık 150 milyon günlük aktif kullanıcıya sahip ve bir yıl içinde 13.000'den fazla çocuk istismarı vakasının rapor edildiği daha önceki bir iç rakam kaydedildi.

The New York Times'ın teknoloji podcast'i Hard Fork'a katılan Roblox kurucu ortağı ve CEO'su David Baszucki'ye doğrudan hizmette çocukları hedef alan avcılar soruldu. Bu sorunu "bir fırsat" olarak tanımlama kararı alışılmadık bir güçle geldi, çünkü tek başına değil, ebeveynlerin güvenini zaten sınıra kadar geren davalar, moderasyon başarısızlıkları ve politika kavgaları zemininde geldi.

Üç ABD eyaleti - Louisiana, Kentucky ve Texas - Roblox'un reşit olmayanları korumak için yeterince çaba göstermediğini iddia eden davalar açtı. Federal mahkemede görülen 20'den fazla davada da platformun cinsel istismara olanak sağladığı iddia ediliyor. Aynı zamanda Roblox, yapay zeka güdümlü yaş tahmini ve genişletilmiş sohbet kısıtlamalarını uygulamaya koyuyor ve ardından bu araçları daha geniş endüstrinin önünde kaldığının kanıtı olarak lanse ediyor.

Hard Fork sunucuları Casey Newton ve Kevin Roose sorularını bu bağlamda çerçevelediler. Newton "Roblox'taki avcı sorunu" hakkında ne düşündüklerini sorduğunda Baszucki şu yanıtı verdi

"Biz bunu sadece bir sorun olarak değil, aynı zamanda bir fırsat olarak da görüyoruz. Gençlerin bir şeyler inşa etmesine, iletişim kurmasına ve birlikte takılmasına nasıl izin veririz? Aynı zamanda iletişimin geleceğini nasıl inşa ederiz?" - David Baszucki.

Cevabın geri kalanı, moderasyon ve iletişim tasarımında yenilik yapma fırsatını kastettiğini açıkça ortaya koyuyordu. Ancak bu ifade, herhangi bir çocuk platformunun en karanlık gerçeklerinden birini bir büyüme mücadelesine dönüştürdü. Eleştirmenler için, Roblox liderliğinin güvenliği bir şirketin yapması gerekenleri sınırlayabilecek katı bir sınırdan ziyade optimize edilecek başka bir mühendislik sorunu olarak gördüğü şüphesini güçlendirdi.

ROBLOX CEO Röportajı boyunca Baszucki, hem açıklama hem de kalkan olarak ölçeğe geri dönmeye devam etti. Roblox kullanıcılarının ayda yaklaşık 11 milyar saat oturum açtığını belirtti ve platformun altyapısının neleri destekleyebileceğinin kanıtı olarak yaz boyunca 25 milyon eş zamanlı oyuncuya ulaşan popüler bir oyun olan Steal a Brainrot'u işaret etti. Avcıların filtreleri aşmayı kolay bulup bulmadıkları sorusuna doğrudan yanıt vermeyi reddetti ve bunun yerine şunları söyledi:

"Yaptığımız en önemli şeylerden biri insanları platformumuzda tutmaya çalışmak... her zaman bunun bir adım önünde olmaya çalışıyoruz." - David Baszucki.

Newton, Roblox'un bir avcı sorunu olduğuna inanıp inanmadığını açıkça sorduğunda, Baszucki önermeyi kabul etmedi.

"Bence platformumuzdaki insan sayısına ve saatlere göre yenilik yapma konusunda inanılmaz bir iş çıkarıyoruz, bunun nasıl işleyeceğine dair geleceğe gerçekten eğiliyoruz." - David Baszucki.

Bu değişim gerginliği kristalize etti. Bir tarafta, yaklaşık yirmi yılını kullanıcı tarafından oluşturulan oyunlar ve topluluklar için araçlar geliştirerek geçirmiş bir şirket, şimdi riski yönetmek için büyük ölçüde yapay zeka filtrelemesine ve yaş tahminine dayanıyor. Diğer tarafta ise, temel sorunun cevapsız kaldığını söyleyen ebeveynler, düzenleyiciler, içerik oluşturucular ve savunuculuk gruplarından oluşan ve giderek büyüyen bir grup var: bu yeterli mi ve buna kim karar verecek?

Bu soru podcast dışındaki vakalarla daha da keskinleşti. Roblox kısa bir süre önce, Roblox alanlarında "avcı avlama" operasyonları düzenleyerek geniş bir izleyici kitlesi oluşturan YouTuber Schlep 'i yasakladı. Çok sayıda tutuklamaya yol açtığını iddia ettiği videoları kaldırıldı ve hesabı Roblox'un kanunsuz eylemlere karşı kuralları uyarınca kapatıldı. Destekçileri #freeschlep hashtag'inin arkasında toplandı ve onun çalışmalarının şirketin kendi sistemlerindeki başarısızlıkları vurguladığını savundu. Onlar için, tartışmalı da olsa en görünür bekçi köpeklerinden birini işten çıkardıktan günler sonra CEO'nun avcı krizini bir "fırsat" olarak nitelendirdiğini duymak, o anın yanlış okunması gibi geldi.

Yasal baskı da giderek artıyor. Popüler bir YouTuber ve avukat olan Law By Mike, çocukların korunmasında eksiklikler olduğu iddiasıyla Roblox'a karşı yasal işlem başlatmayı planladığının sinyallerini verdi. Mike'ın katılımı önemli çünkü kendisi iki dünyayı birleştiriyor: platform yönetiminin işleyişini anlıyor ve Roblox'u sosyal bir müşterek olarak gören ebeveynler ve gençlerden oluşan aynı kitleye hitap ediyor. Eyalet ve federal davalarla birlikte ele alındığında, onun bu çabası Roblox'un sicilini savunması gereken cepheyi genişletiyor.

Hard Fork röportajında Baszucki çerçeveyi kriz yönetiminden uzun vadeli mimariye kaydırmaya çalıştı. Yeni yüz yaşı tahmin sistemini - bir kullanıcının sohbet etmesine izin vermeden önce yaşını değerlendirmek için kullanılan bir video selfie - davranışsal verileri ve kendi kendine bildirilen yaşı da içeren bir yığındaki bir başka sinyal olarak tanımladı.

"Zaten bir yığın şey yapıyoruz: Çok çok iyi metin filtrelerimiz var; görüntü paylaşımı yok; bir dizi izleme yapıyoruz. Ancak bunlara bir sinyal daha eklemek harika kararlar almamıza gerçekten yardımcı olabilir." - David Baszucki.

Baszucki, platformun tarihsel olarak metinleri yoğun bir şekilde filtreleyerek güvenlik için bir miktar büyümeyi takas ettiğini savundu ve yasak kelimeler engellendiğinde Roblox sohbetinin "hashtag, hashtag, hashtag" şeklinde çöktüğü eski memi çağrıştırdı. Yapay zeka ile filtrelerin daha hassas ve şifreli ifadelerle iletişim bilgilerini kodlamaya çalışan kullanıcılar gibi düşmanca taktiklere karşı daha dirençli hale gelebileceğini söyledi.

The New York Times Podcast portföyünün bir parçası olarak üretilen podcast, bu teknik kulvarda uzun süre kalmadı. Roose, Hindenburg Research'ün Roblox'u "yatırımcılara büyüme bildirmek için çocuk güvenliğinden ödün vermekle" suçlayan ve güven ve güvenlik harcamalarının azaldığına işaret eden 2024 tarihli bir raporunu gündeme getirdi. Baszucki firmayı gülerek reddetti. "Eğlenceli. Bu şekilde devam edelim," dedi ve Hindenburg'un o zamandan beri iflas ettiğini belirterek, yapay zeka inceleme sistemlerine geçişin elle üretilen arabalardan montaj hattına geçmeye eşdeğer olduğunu savundu. Önemli olanın köşeleri kesmek değil, daha iyi araçlar uygulamak olduğunu öne sürdü.

Yapay zekaya yapılan bu vurgu Roblox'u tanıdık bir kategoriye sokuyor. Sosyal ağlar 2010'lu yılların çoğunu otomatik sistemlerin kötüye kullanım ve yanlış bilgileri büyük ölçekte temizleyeceği vaadiyle geçirdi, ancak makine öğreniminin güvenilir bir şekilde yargılayabileceği şeylerin katı sınırlarını keşfettiler. Roose ve Newton, Baszucki'ye bu geçmişi hatırlattı. Baszucki, Roblox'un dahili ölçümlerinin yeni modeller kullanıldıkça filtreleme ve tespitin geliştiğini gösterdiğini ve platformun "akıllara durgunluk veren" ölçeğinin bu tür bir otomasyonu sadece verimli değil aynı zamanda gerekli kıldığını ısrarla vurgulayarak yanıt verdi.

Oyunlar içinde bile Roblox'un moderasyon duruşu baskı altında. Women In Games, Out Making Games ve BAME in Games gibi savunucu gruplar kısa bir süre önce şirketin "hassas konular" hakkındaki taslak içerik oluşturucu kurallarını eleştiren bir açık mektup yayınladı. Toplumsal cinsiyet eşitliği, üreme hakları ve ırksal adalet gibi konuların isteğe bağlı veya riskli "hassas" bölgeler olarak ele alınmasının genç oyuncular için önemli olan hikayeleri gömme riski taşıdığı uyarısında bulunulan mektupta, "Roblox'un yakın zamanda önerdiği 'hassas konulara' ilişkin içerik oluşturucu kuralları, hem yaratıcı ifade hem de sosyal adalet için geriye doğru bir adımı temsil ediyor" denildi. - Women In Games, Out Making Games ve BAME in Games.

Bu eleştiri avcılara veya yaş kontrollerine odaklanmıyor, ancak aynı temel endişeye değiniyor: genç kullanıcıların neleri görebileceği ve tartışabileceğinin sınırlarını kim belirliyor ve bu kararlar kimin rahatına hizmet ediyor.

Hard Fork sohbeti sonunda Baszucki'nin güçlü bir bilgi sinyali olarak övdüğü kripto para tabanlı bir tahmin platformu olan Polymarket'e taşındı. Roose yarı şaka bir şekilde Roblox'un içine bir tahmin piyasası koyup koymayacağını sorduğunda, Baszucki olumlu yanıt verdi ve ardından yasal karmaşıklığı kabul etti. Tahmin piyasalarını çocuklar için bir oyuna dönüştürmenin "korkunç bir fikir" olup olmayacağı sorusuna ise şu yanıtı verdi

"Aslında, yasal ve eğitici bir şekilde yapılabilirse bunun harika bir fikir olduğunu düşünüyorum... sadece Dress to Impress Predictor adında bir oyun, çocukların parasını almaya çalışmak gibi bir şey değil. Bunun büyük bir hayranı olurdum." - David Baszucki.

Reşit olmayanlara nasıl davrandığı zaten inceleme altında olan bir şirket için, Roblox içinde oyunlaştırılmış bir tahmin motoru oluşturma fikrini, doğrudan finansal çıkarlar olmasa bile, ganimet kutuları, kumar mekaniği ve dijital zorlama hakkındaki daha geniş tartışmalardan ayırmak zor olacaktır.

Newton birkaç noktada konuşmanın gergin geçtiğini belirtti. Baszucki hayal kırıklığına uğramadığında ısrar etti, sadece odağın daha hafif endüstri konuları yerine güvenlik üzerinde kalmasına şaşırdı ve Roblox'un konumunu tekrar tekrar "inanılmaz bir fırsat" olan "yüksek sorumluluk gerektiren bir durum" olarak tanımladı. Günlerini omzunun üzerinden bakarak geçiren bir CEO imajını reddederek, şirketin "ilk günden itibaren" güvenlik konusunda önleyici olduğunu, hatta temel denetim araçları oluşturmak için ilk haftalarında büyümeyi durdurduğunu savundu.

Bu güven, Roose'un kişisel bir soru sorduğu ROBLOX CEO Röportajının sonuna kadar devam etti: Roblox'un kendi küçük oğlu oynamak istediğinde yeterince güvenli olup olmayacağı. Baszucki basit bir evetten daha ileri gitti.

"Roblox şu anda çocuğunuz için harika bir platform" dedi ve gerekirse gizlilik altında dahili ölçümleri göstermeyi teklif etti ve ebeveynlerin "sorumluluğun nihai hakemi" olmaya devam ettiğini ekledi. - David Baszucki.

Cevap, şirketin duruşunu minyatür bir şekilde yansıtıyor. Roblox kendisini zaten eğrinin önünde, zaten birçok akranından daha güvenli, zaten diğerlerinin eninde sonunda benimseyeceği araçları kullanıyor olarak konumlandırıyor. Bu öz değerlendirmenin, platformdan tımar veya istismar vakalarının ortaya çıktığını gören ailelerin veya davalar ve manşetler bir yanıt vermeye zorlayana kadar kendi uyarılarının bir kenara itildiğini söyleyen içerik oluşturucuların ve savunucuların deneyimleriyle eşleşip eşleşmediği çözülmemiş bir konudur.

Bunların hiçbiri Roblox'un inşa ettiği şeyi silemez. Platform, daha geniş çevrimiçi oyun ekonomisinde bir bakım rolüne sahip: hem yaratıcı bir araç seti hem de çocukların çevrimiçi toplulukların nasıl çalıştığını öğrendikleri devasa bir sosyal merkez, iyi ya da kötü. Hard Fork olayı, güven sarsıldığında bu pozisyonun ne kadar kırılgan olabileceğini gösteriyor. Baszucki'nin açıklamaları Roblox'un güvenlik sistemleri hakkında yeni gerçekler ortaya koymadı, ancak şirketin liderliğinin önceliklerini nasıl sıraladığını ortaya koydu. İnovasyon, ölçek ve uzun vadeli platform vizyonu merkezde yer alırken; zararın açıkça kabul edilmesi kenara daha yakın oturuyor.

Ayrıca okuyun, Roblox Günlük 100 Milyon Aktif Kullanıcıyı Aştı, platformun kitlesinin ne kadar hızlı büyüdüğünün ve güvenlik, moderasyon ve politika ile ilgili her kararın neden artık tek bir ROBLOX CEO Röportajının çok ötesinde sonuçlar doğurduğunun altını çizen bir kilometre taşı.