Çocukların cinsel istismara maruz kalmasını engellemek için dünya çapında büyük eforlar sürerken, geçtiğimiz yıl Apple’ın yürürlüğe koyduğu bir uygulama ziyadesiyle reaksiyon toplamıştı. Apple’ın yeni özelliği, iCloud’a eklenen yeni fotoğrafları otomatik olarak tarıyor ve çocuk istismarına dair ispat bulduğunda bunu insan bir yöneticiye bildiriyordu. Yapılan incelemede çocuk istismarı bulgusu doğrulanırsa, kişinin hesabı da yasaklanıyordu.
Söz konusu özellik ziyadesiyle reaksiyon çekmiş ve Apple tarafından geri çekilmişken, bugünse Google’dan değişik bir haber geldi. The New York Times tarafından paylaşılan habere nazaran Google, Şubat 2021’de bir babanın hesabını çocuk istismarına işaret eden içerik nedeniyle yasakladı. Ama yaşanan olay, yapay zekânın bu mevzudaki yetersizliğini ortaya koydu.
Baba, hasta çocuğunun tedavisi için genital bölgesini fotoğrafladı ve doktora gönderdi:
Koronavirüsün hâkim olduğu ve hastanelerin kapalı olduğu periyotta meydana gelen olayda baba, çocuğunun genital bölgesinde bir akıntı gördü. Doktora başvuran baba, hekiminin talebi üzerine kızının genital bölgesini fotoğrafladı ve doktora gönderdi. Hekim, bu imgeden yola çıkarak kızda meydana gelen enfeksiyona karşı antibiyotik verdi.
Fakat kelam konusu imgenin çekilmesinden iki gün sonra Mark isimli baba, Google’dan bir bildirim aldı. Bu bildirimde hesabının ‘zararlı içerik’ ve ‘Google siyasetlerinin önemli biçim ihlal edilmesi ve yasa dışı olabileceği” nedeniyle yasaklandığı bilgisi yer alıyordu. Mark, bu halde e-postasına, rehberindeki şahıslara, fotoğraflarına ve Google’ın Fi taşınabilir servisini kullandığından telefon numarasına erişimini kaybetti.
Google, babanın şikâyetini geri çevirdi:
Mark, bunun üzerine Google’ın kararına karşı temyiz müracaatında bulundu lakin Google, babanın talebini geri çevirdi. Tüm bunların yanı sıra kelam konusu görselin tespit edilmesiyle baba, yaşadığı bölgedeki kolluk kuvvetlerine şikâyet edildi. San Francisco Polis Departmanı, Aralık 2021’de bu şikâyet üzerine babaya yönelik soruşturma başlattı.
Yapılan soruşturmada neyse ki babanın lehine karar verildi ve yetkililer, olayın “suç ögelerini karşılamadığı ve hata oluşmadığına’ kanaat getirdi. Google ise The Verge’e yaptığı açıklamada yapay zekâ sistemini savunmayı sürdürdü ve olaya ait net tabirlere yer vermedi.
Şirket, CSAM’i tespit etmek için ABD maddelerini takip ettiklerini belirtti. Bununla birlikte çocuk güvenliği uzmanlarından oluşan bir takımın, işaretlenen içeriğin doğruluğunu incelediğini ve kullanıcıların tıbbi tavsiye isteyebileceği durumları belirleyebilmelerine yardımcı olmak için çocuk hekimlerine danıştıklarını paylaştı.
Google, çocuk istismarını engellemeye yönelik geliştirdiği yapay zekâsını 2018 yılında yayınlamıştı. Şirket, 2021 yılında 621 bin 583 CSAM olayı bildirmiş, bunun sonucunda ortalarında Mark’ın da yer aldığı 4.260 potansiyel kişi hakkında yetkilileri uyarmıştı.
