İki GCHQ Çalışanı, CSAM Dağıtımına Çözüm Öneriyor… Daha Fazla İstemci Taraflı Tarama


itibaren iş-özel sektöre-yasal-uygulama-iş yükünü boşaltmak borç

Harika olmayan fikirlerin yazı tipi Lawfare’de taşmaya devam ediyor. Adil olmak gerekirse, bu sık sık taşan yazı tipi, casus ajanslarının mevcut ve eski üyeleri olan, hakları ihlal eden, yasaları çiğneyen ve internet iletişimini daha az güvenli hale getirmek için ellerinden geleni yapan katkıda bulunanlardan kaynaklanmaktadır.

Bu katkıda bulunanlardan daha önce haber aldık. Ian Levy ve Crispin Robinson ikisi de GCHQ çalışanıdır. Birkaç yıl önce, Facebook gibi şirketler uçtan uca şifreleme fikrini etrafa saçmaya başladığında, Levy ve Robinson, saha öncekinden biraz farklı olsa bile, zorunlu arka kapılarla aynı miktarda zarar verecek bir geçici çözüm önerdiler. ardışık FBI direktörleri tarafından sunulan öneriler.

O zaman önerilen şey, casusların ve kolluk kuvvetlerinin iletişimi dinlemesine izin verecek bir tür paralel iletişim ağıydı. İletişim hala şifreli olacaktır. Sadece “iyi adamlar” bu iletişimleri dinlemek için kendi şifreli kanallarına sahip olacaklardı. Teorik olarak, iletişim hala güvenli olacak ve suçlular tarafından erişilemeyecekti. Ancak yan kapıyı açmak, arka kapıyı açmaktan çok da farklı değil. Kör bir CC, şifrelemeyi tamamen baltalamaktan biraz daha güvenli olabilir, ancak yine de başka bir iletişim kanalı açar – bundan kaynaklanabilecek her türlü kötü şeyin kabul edilebilir olduğunu hissedecek olan önleyiciler tarafından açık ve korumasız bırakılabilecek bir kanal, çünkü (lol ) casus ajanslar sadece devletin tehlikeli düşmanlarını hedef alır.

Parite geri döndü. Lawfare için bu yazıda, Levy ve Robinson bir “çözüm” önerdi bunu ilk deneyen şirket tarafından zaten önerilmiş (ve atılmış): Apple. “Çözüm” görünüşe göre çok kolay istismar ediliyor ve yanlış pozitiflere/negatiflere meyilli, ancak bu, bu GCHQ temsilcilerinin başka bir dönüş yapılmasını önermelerini engellemiyor.

Göre kağıt [PDF] bu iki GCHQ çalışanı tarafından yayınlanan, uçtan uca şifreleme çağında CSAM (Çocuk Cinsel Saldırı Malzemesi) ile mücadelenin anahtarı, içeriğin daha fazla istemci tarafında taranmasıdır. Ve çocukların cinsel sömürüsüyle mücadele eden ajanslar tarafından saklanan bilinen karmalarla yerel görüntüleri eşleştirmenin ötesine geçiyor.

Örneğin, önerdiğimiz yaklaşımlardan biri, bakımla ilişkili dili algılamak için tamamen istemcide yerel olarak çalışan dil modellerine sahip olmaktır. Model, bir konuşmanın riskli bir sonuca doğru gittiğini gösteriyorsa, potansiyel kurban uyarılır ve konuşmayı insan denetimi için bildirmesi için dürtülür. Modeller test edilebildiğinden ve kullanıcı, sağlayıcının içeriğe erişimine dahil olduğundan, bu tür bir yaklaşımın diğerleriyle aynı güvenlik açıklarını çektiğine inanmıyoruz.

Sağlayıcının uçtan uca şifreli iletişim olması gerekenlere erişimi dışında hiçbir güvenlik açığı yok. Çözüm buysa, sağlayıcı aslında her iki uçta da şifrelenmeyeceğinden, hiçbir şekilde şifreleme sunmayabilir. Sağlayıcı, aksi takdirde mevcut olmayacak bir güvenlik açığı açan bir şekilde istemci tarafına erişime sahip olacaktır. Tek hafifletici faktör, sağlayıcının iletişimlerin kendi kopyasına sahip olmamasıdır. Ve eğer buna sahip değilse, kolluk kuvvetlerine ne faydası var?

Öneri (yazarların not ettiği gibi, GCHQ veya Birleşik Krallık hükümetinin temsilcisi olarak görülmemelidir) büyük ölçüde inanca dayalıdır.

[W]Bu soruna sağlam bir kanıta dayalı yaklaşımın herkes için mahremiyet ve güvenlik sağlayan dengeli çözümlere yol açabileceğine inanıyorum. Ayrıca faydaları ve zararları değerlendirmek için bir çerçeveye ihtiyaç duyulduğuna inanıyoruz.

“Faydasızlıklar” havalı bir kelimedir. Biri entelektüel olarak daha dürüst olsaydı, “dezavantaj” veya “kusur” veya “olumsuz yan etkiler” gibi bir kelime kullanabilirdi. Ama bu, iki GCHQ çalışanının sunduğu Yenisöylem.

Aşağıdaki cümle, yazarların tekliflerinden herhangi birinin işe yarayıp yaramayacağını ya da kaç tanesinin işe yarayacağını bilmediklerini açıkça ortaya koymaktadır. [cough] sebep olacakları zararlar. Sadece tükürme, sanırım, ama konumlarından gelen doğuştan gelen otorite çekiciliği ve zevkli bir şekilde biçimlendirilmiş bir PDF ile.

Bu yazıda bir tane sağlamıyoruz, ancak Birleşik Krallık’ın Ulusal Gizlilik, Zarar Azaltma ve Çevrimiçi Olumsuz Etki Araştırma Merkezi’nin (REPHRAIN) bunu Birleşik Krallık hükümetinin bir parçası olarak yapıyor. Güvenlik Teknolojisi Mücadelesi Fonuancak bu, ulusal veri koruma yasaları bağlamında yorumlamayı ve Birleşik Krallık’ta Bilgi Komiserliği Ofisi’nin rehberliğini gerektirecektir.

[crickets.wav]

Yazarlar, istemci tarafı taramanın (iletişim veya içerik) kusursuz olmaktan uzak olduğunu kabul ediyorlar. Yanlış negatifler ve yanlış pozitifler devam eden bir sorun olacaktır. Sistem kolayca tamamlanan CSAM’a kopyalanabilir. Bu nedenle, görünüşe göre ikisinin bir kombinasyonunun “yararları” azaltacağını umarak, yazılı iletişimlerin istemci tarafında taranmasını da karışıma eklemek istiyorlar.

Güya bu, insanlar tarafından daha çok ineklenen insanlar tarafından hazırlanmış teknoloji büyüsü ve ılımlılık yönergelerine ve kanun uygulama politikalarına kodlanmış olsa bile muhtemelen her zaman teorik kalacak bir kontrol ve denge sistemi ile gerçekleştirilebilir.

Örneğin, suçlular güven oluşturmaya çalışmak için (mağdurların kendilerine ait açık görüntüleri göndererek karşılık vermelerini umarak) genellikle çocukların mevcut cinsel içerikli görüntülerini potansiyel mağdurlara gönderir. Bu durumda, bir suçlunun, sistemi değil, mağduru etkilemeye çalıştıkları için, çocuk istismarı materyali olarak sınıflandırılan (ama öyle olmayan) bir görüntü yaratmasının hiçbir faydası yoktur. Bu zayıflık, bir şekilde araştırılmalarını veya izlenmelerini umarak bir hedefe yanlış pozitif görüntüler göndererek de kullanılabilir. Bu, herhangi bir kolluk kuvvetine sevk edilmeden önce birden fazla bağımsız kontrolle, denetleme ve raporlama sürecinin nasıl çalıştığı gerçeğiyle hafifletilir.

Bu, basitçe, bu tür “birden çok bağımsız kontrolün” var olduğunu veya var olacağını varsayar. Olmayabilirler. Teknoloji şirketlerinin basitçe yönlendirmesi politika olabilir her şey kolluk kuvvetleri için sorgulanabilir ve “profesyonellerin” çözmesine izin verir. Bu “çözüm”, teknoloji şirketleri için en kolayıdır ve iyi niyetle çalışacakları için, olumsuz kolluk kuvvetleri tepkileri için yasal suçluluk minimum olacaktır.

Sağlam politikaların var olduğu, var olacağı veya günde binlerce kez izleneceği şeklindeki varsayımsal omuz silkme, doğrudan başka bir yanlış varsayıma yol açar: Masum insanlara verilen zarar, denklemin her iki ucundaki büyük ölçüde teorik kontrol ve dengeler nedeniyle azaltılacaktır.

İkinci sorun, bir istemci tarafı tarama algoritmasının hangi görüntüleri algılamaya çalıştığını kanıtlamanın bir yolu olmaması ve diğer görüntü türlerinin (çocuk cinsel istismarı ile ilgili olmayanlar) tespit edildiği yerlerde “görev kayması” olasılığını bırakmasıdır. Bunu, küresel çocuk koruma sivil toplum kuruluşlarının çalışma biçiminde küçük bir değişiklikle düzeltmenin nispeten basit olduğuna inanıyoruz. Veritabanlarının yalnızca halka açık olarak doğrulanabilen ve özel olarak denetlenebilen çocuk cinsel istismarı görüntülerini içerdiğine dair kriptografik güvencelerle birlikte, bilinen kötü görüntülerin tutarlı bir listesine sahip olurduk. Bu meşru gizlilik endişelerinin teknik olarak azaltılabileceğine ve yasal ve politik zorlukların muhtemelen daha zor olduğuna inanıyoruz, ancak bunların çözülebilir olduğuna inanıyoruz.

Mesele şu ki, zaten “bilinen kötü görüntülerin tutarlı bir listesine” sahibiz. Bu cümledeki diğer şeyleri zaten yapmıyorsak (“genel olarak doğrulanabilen ve özel olarak denetlenebilen” doğrulanabilir bir veritabanı), o zaman daha fazla istemci tarafı içerik taramasının yapabileceği tek şey daha fazla yanlış pozitif ve negatif üretmektir. Yine, yazarlar bu şeylerin zaten yerinde olduğunu varsayıyorlar. Ve bu varsayımları, “yararsızlıkların” olacağını varsaydıkları (“birden çok bağımsız kontrol”) veya zaten olduğunu varsaydıkları (bilinen CSAM görüntülerinin bağımsız olarak doğrulanabilir bir veritabanı) ile sınırlı olacağı iddialarını desteklemek için kullanırlar.

Bu büyük bir soru. Diğer büyük soru, makalenin tüm işi özel sektörün yapmasını önermesidir. Şirketlerin müşteri tarafında tarama tasarlaması ve uygulaması beklenecektir. İçeriğin yapay zeka güdümlü olarak işaretlenmesi için insan desteği sağlamak üzere yeterli sayıda kişiyi işe almaları beklenecektir. Kolluk kuvvetleri irtibat görevlisi olarak hareket etmek için uzman personele sahip olmaları gerekecektir. Ve yanlış pozitif ve negatiflerin geri tepmesiyle (üzgünüm, “yararsızlıklar”) başa çıkmak için sağlam hukuk ekiplerine ihtiyaçları olacak.

Tüm bunlar yerindeyse ve kolluk kuvvetleri görev sürüngenliğine katılmazsa, yazarların önerdiği şekilde çalışacaktır: CSAM’in uçtan uca şifreli olarak dağıtılmasına yönelik şifrelemeyi kırmayan bir çözüm iletişim platformları. Bu, gazetenin bu işi yapmak için tüm parçaların bir araya gelmesi gerektiğini kabul etmediği anlamına gelmiyor. Ancak bu öneri, yanıtladığından çok daha fazla soruyu gündeme getiriyor. Yine de yazarlar bunun işe yarayacağına inanıyorlar çünkü bu sadece mümkün.

Araştırmamız sayesinde, toplumun karşılaşacağı birçok durumda istemci tarafı tarama tekniklerinin güvenli bir şekilde uygulanamaması için hiçbir neden bulamadık. Bu, daha fazla çalışmaya gerek olmadığı anlamına gelmez, ancak gerekli etkililik, gizlilik ve güvenlik özelliklerine sahip gibi görünen uygulama için açık yollar vardır.

Yine de olası olmaktan çok uzak. Ve eğer her şey yolunda giderse, bu teorik olarak mümkün olduğu kadar aynı mahallede bile değil.

Under: istemci tarafı tarama, csam, şifreleme, gchq, gözetim


Kaynak : https://www.techdirt.com/2022/07/27/two-gchq-employees-suggest-the-solution-to-csam-distribution-is-more-client-side-scanning/

Yorum yapın