ahmetbeyler
New member
Çocukların cinsel istismara maruz kalmasını engellemek için dünya çapında büyük eforlar sürerken, geçtiğimiz yıl Apple’ın yürürlüğe koyduğu bir uygulama ziyadesiyle reaksiyon toplamıştı. Apple’ın yeni özelliği, iCloud’a eklenen yeni fotoğrafları otomatik olarak tarıyor ve çocuk istismarına dair delil bulduğunda bunu insan bir yöneticiye bildiriyordu. Yapılan incelemede çocuk istismarı bulgusu doğrulanırsa, kişinin hesabı da yasaklanıyordu.
Söz konusu özellik ziyadesiyle reaksiyon çekmiş ve Apple tarafınca geri çekilmişken, bugünse Google’dan farklı bir haber geldi. The New York Times tarafınca paylaşılan habere nazaran Google, Şubat 2021’de bir babanın hesabını çocuk istismarına işaret eden içerik niçiniyle yasakladı. Ancak yaşanan olay, yapay zekânın bu mevzudaki yetersizliğini ortaya koydu.
Baba, hasta çocuğunun tedavisi için genital bölgesini fotoğrafladı ve doktora gönderdi:
Koronavirüsün hâkim olduğu ve hastanelerin kapalı olduğu periyotta meydana gelen hadisede baba, çocuğunun genital bölgesinde bir akıntı gördü. Doktora başvuran baba, tabibinin talebi üzerine kızının genital bölgesini fotoğrafladı ve doktora gönderdi. Tabip, bu imajdan yola çıkarak kızda meydana gelen enfeksiyona karşı antibiyotik verdi.
Fakat kelam konusu imajın çekilmesinden iki gün daha sonra Mark isimli baba, Google’dan bir bildirim aldı. Bu bildirimde hesabının ‘zararlı içerik’ ve ‘Google siyasetlerinin önemli form ihlal edilmesi ve yasa dışı olabileceği” niçiniyle yasaklandığı bilgisi yer alıyordu. Mark, bu türlü e-postasına, rehberindeki şahıslara, fotoğraflarına ve Google’ın Fi taşınabilir servisini kullandığından telefon numarasına erişimini kaybetti.
Google, babanın şikâyetini geri çevirdi:
Mark, bunun üzerine Google’ın sonucuna karşı temyiz müracaatında bulundu ama Google, babanın talebini geri çevirdi. Tüm bunların yanı sıra kelam konusu görselin tespit edilmesiyle baba, yaşadığı bölgedeki kolluk kuvvetlerine şikâyet edildi. San Francisco Polis Departmanı, Aralık 2021’de bu şikâyet üzerine babaya yönelik soruşturma başlattı.
Yapılan soruşturmada her neyse ki babanın lehine karar verildi ve yetkililer, olayın “suç ögelerini karşılamadığı ve kabahat oluşmadığına’ kanaat getirdi. Google ise The Verge’e yaptığı açıklamada yapay zekâ sistemini savunmayı sürdürdü ve olaya ait net sözlere yer vermedi.
Şirket, CSAM’i tespit etmek için ABD maddelerini takip ettiklerini belirtti. tıpkı vakitte çocuk güvenliği uzmanlarından oluşan bir takımın, işaretlenen içeriğin doğruluğunu incelediğini ve kullanıcıların tıbbi tavsiye isteyebileceği durumları belirleyebilmelerine yardımcı olmak için çocuk hekimlerine danıştıklarını paylaştı.
Google, çocuk istismarını engellemeye yönelik geliştirdiği yapay zekâsını 2018 yılında yayınlamıştı. Şirket, 2021 yılında 621 bin 583 CSAM olayı bildirmiş, bunun kararında ortalarında Mark’ın da yer aldığı 4.260 potansiyel kişi hakkında yetkilileri uyarmıştı.
Söz konusu özellik ziyadesiyle reaksiyon çekmiş ve Apple tarafınca geri çekilmişken, bugünse Google’dan farklı bir haber geldi. The New York Times tarafınca paylaşılan habere nazaran Google, Şubat 2021’de bir babanın hesabını çocuk istismarına işaret eden içerik niçiniyle yasakladı. Ancak yaşanan olay, yapay zekânın bu mevzudaki yetersizliğini ortaya koydu.
Baba, hasta çocuğunun tedavisi için genital bölgesini fotoğrafladı ve doktora gönderdi:
Koronavirüsün hâkim olduğu ve hastanelerin kapalı olduğu periyotta meydana gelen hadisede baba, çocuğunun genital bölgesinde bir akıntı gördü. Doktora başvuran baba, tabibinin talebi üzerine kızının genital bölgesini fotoğrafladı ve doktora gönderdi. Tabip, bu imajdan yola çıkarak kızda meydana gelen enfeksiyona karşı antibiyotik verdi.
Fakat kelam konusu imajın çekilmesinden iki gün daha sonra Mark isimli baba, Google’dan bir bildirim aldı. Bu bildirimde hesabının ‘zararlı içerik’ ve ‘Google siyasetlerinin önemli form ihlal edilmesi ve yasa dışı olabileceği” niçiniyle yasaklandığı bilgisi yer alıyordu. Mark, bu türlü e-postasına, rehberindeki şahıslara, fotoğraflarına ve Google’ın Fi taşınabilir servisini kullandığından telefon numarasına erişimini kaybetti.
Google, babanın şikâyetini geri çevirdi:
Mark, bunun üzerine Google’ın sonucuna karşı temyiz müracaatında bulundu ama Google, babanın talebini geri çevirdi. Tüm bunların yanı sıra kelam konusu görselin tespit edilmesiyle baba, yaşadığı bölgedeki kolluk kuvvetlerine şikâyet edildi. San Francisco Polis Departmanı, Aralık 2021’de bu şikâyet üzerine babaya yönelik soruşturma başlattı.
Yapılan soruşturmada her neyse ki babanın lehine karar verildi ve yetkililer, olayın “suç ögelerini karşılamadığı ve kabahat oluşmadığına’ kanaat getirdi. Google ise The Verge’e yaptığı açıklamada yapay zekâ sistemini savunmayı sürdürdü ve olaya ait net sözlere yer vermedi.
Şirket, CSAM’i tespit etmek için ABD maddelerini takip ettiklerini belirtti. tıpkı vakitte çocuk güvenliği uzmanlarından oluşan bir takımın, işaretlenen içeriğin doğruluğunu incelediğini ve kullanıcıların tıbbi tavsiye isteyebileceği durumları belirleyebilmelerine yardımcı olmak için çocuk hekimlerine danıştıklarını paylaştı.
Google, çocuk istismarını engellemeye yönelik geliştirdiği yapay zekâsını 2018 yılında yayınlamıştı. Şirket, 2021 yılında 621 bin 583 CSAM olayı bildirmiş, bunun kararında ortalarında Mark’ın da yer aldığı 4.260 potansiyel kişi hakkında yetkilileri uyarmıştı.