Google Jigsaw’dan tacize Karşı Yeni Bir Araç Geliyor

Google Jigsaw’dan tacize Karşı Yeni Bir Araç Geliyor
Okunuyor Google Jigsaw’dan tacize Karşı Yeni Bir Araç Geliyor

Google’ın Jigsaw ünitesi, Taciz Yöneticisi (Harassment Manager) isimli açık kaynaklı bir taciz tedbire aracının kodunu yayınlıyor. Gazeteciler ve başka kamusal bireyler için tasarlanan araç, kullanıcıların Twitter’dan başlayarak toplumsal medya platformlarında potansiyel olarak berbata kullanım maksatlı yorumları sıralamasına imkan tanımak için Jigsaw’ın Perspektif API’sini kullanıyor. Geliştiricilerin geliştirmeleri için kaynak kodu olarak yayınlanmasının akabinde araç, Haziran ayında Thomson Reuters Vakfı gazetecileri için fonksiyonel bir uygulama olarak piyasaya sürülecek.

Taciz Yöneticisi, tweet karşılıklarını gizleme ve hesapları sessize alma yahut engelleme üzere denetleme seçeneklerini toplu filtreleme ve raporlama sistemiyle birleştirmek için şu anda Twitter’ın API’siyle birlikte çalışabiliyor. Perspektif, tehditler, hakaretler ve küfür üzere ögelere dayalı olarak bildirilerin lisanını “toksisite” seviyeleri açısından denetim ediyor. Bildirileri, kullanıcıların Twitter’ın varsayılan denetleme araçları aracılığıyla tek tek değil toplu olarak ele alabilecekleri bir gösterge panosunda sıralamalarına imkan tanıyor ve kullanıcılar burada iletilerin metnini bulanıklaştırmayı seçebiliyor. Böylece her birini okumalarına gerek kalmıyor ve otomatik olarak oluşturulan sıraları kullanmanın yanı sıra anahtar sözleri arayabiliyorlar.

Taciz Yöneticisi ayrıyeten kullanıcıların berbata kullanım emelli iletiler içeren bağımsız bir rapor indirmesine de imkan tanıyarak, patronları yahut direkt tehditler üzere yasa dışı içerik olması durumunda kolluk kuvvetleri için bir iz oluşturulmasını sağlıyor. Lakin şimdilik, kullanıcıların indirebileceği bağımsız bir uygulama bulunmuyor. Bunun yerine geliştiriciler, Thomson Reuters Vakfı üzere ortaklar tarafından başlatılacak olan, fonksiyonelliğini ve hizmetlerini içeren uygulamaları özgürce oluşturabilecek.

Google, daha evvel de otomatik denetleme için Perspektif’ten yararlanmıştı. 2019’da, toplumsal medya kullanıcılarının toksik olma mümkünlüğü yüksek iletileri görmekten kaçınmasına müsaade veren Tune isimli bir tarayıcı uzantısı da yayınladı ve birçok yorum platformu tarafından insan kontrolünü desteklemek için kullanıldı.

Fakat Perspektif ve Tune’ın piyasaya sürülmesi sırasında lisan tahlili modeli tarihi olarak kusursuz olmaktan uzaktı. Bazen hiciv içeriğini yanlış sınıflandırılabiliyor yahut berbata kullanım maksatlı iletileri tespit edemeyebiliyordu. 

Twitter ve Instagram üzere hizmetlerde yapay zeka takviyeli denetlemenin tersine, Taciz Yöneticisi platform tarafı denetleme özelliği değil. Görünüşe nazaran, toplumsal medya geri bildirimlerinin bazen muazzam olabilen ölçeğini yönetmeye yardımcı olmak için bir sıralama aracı. Şimdilik kullanamasalar bile, gazetecilik alanının çok dışındaki beşerler için bile kullanışlı olacağını düşünüyoruz…

Online Müracaat