İnternet ortamındaki ziyanlı içeriklere bir son vermeyi aklına koyan Facebook, görünüşe nazaran bunu tek başına yapamayacağının farkında. Toplumsal medya devi, bu işe bir son vermek için diğerleriyle çalışmak ya da diğerlerine takviye vermek zorunda olduğunu düşünerek kimi adımlar atmaya başladı.
Şirket, bugün fotoğraf ve görüntü denetleme teknolojilerinden ikisini açık kaynak olarak GitHub üzerinden paylaştı. Facebook, algoritmaların başka insanların çocuk istismarı ve terörist propagandası üzere ziyanlı içerikleri tespit etmelerine ve kaldırmalarına yardımcı olacağını umuyor.
Günümüzde Facebook, ziyanlı bir fotoğraf ya da görüntü bulursa içeriği ortadan kaldırıyor. Kullandıkları algoritma, şirketin kaldırdığı görüntü ve fotoğrafları dijital ortamda işaretliyor. Böylelikle daha sonra ortada özgün görüntü ya da fotoğraf olmasa dahi öbür paylaşımda bulunan imgeyle karşılaştırma yapabiliyor. Örnekle açıklamak gerekirse herhangi bir terör videosu internette yayılırsa Facebook’un kopyaları bulup kaldırması mümkün olabiliyor.
PDQ ve TMK + PDQF olarak bilinen bu algoritmalar, artık Facebook'un sanayi ortakları ile daha küçük geliştiriciler ve kar emeli gütmeyen kuruluşlar için kullanılabilir olacak. PDQ, pHash'tan esinlenilmiş lakin sıfırdan yapılmış bir fotoğraf eşleştirme aracı. TMK + PDQF ise Facebook'un yapay zekâ araştırma grubu ve İtalya'daki Modena Üniversitesi’nden Reggio Emilia tarafından geliştirilen bir görüntü eşleştirme aracı. Hâlihazırda içerik eşleştirme teknolojisini kullananlar için Facebook, PDQ ve TMK + PDQF’nin öteki bir savunma katmanı sunabileceğini ve farklı sistemlerin birbiriyle irtibat kurabileceğini söylüyor.
Facebook, açık kaynaklı araçları Çocuk Güvenliği Hackathonu’nun bir kesimi olarak duyurdu ve teknolojinin çocukların korunmasına yardımcı olabileceğini umuyor. Bu araçlar, her ikisi de çocukları korumak maksadıyla piyasaya sürülen, Microsoft'un bulut tabanlı PhotoDNA aracı ve Google'ın İçerik Güvenliği API'ı ile birlikte kullanılabilir. Bu yıl başlarında YouTube'da birçok pedofili içerikli görüntünün bulunduğuna dair keşifler de bu üzere araçların ne kadar kıymetli olabileceğini gözler önüne seriyor.
