Filistinlilere karşı gözetim teknolojisi, duygu tanıma ve öngörücü yapay zekâ: Mona Shtaya ile söyleşi
Filistin İçin Teknoloji dosyamızın bu bölümünde, daha önce kurucularından Petra Molnar’la söyleşi yaptığımız Migration and Technology Monitor kolektifinin, Filistinli araştırmacı ve dijital haklar savunucusu Mona Shtaya ile gerçekleştirdiği ve İsrail’in Batı Şeria ile Gazze’deki yapay zekâ destekli gözetim rejimini mercek altına alan söyleşiye yer veriyoruz.
Duygu tanıma yazılımlarından “öngörücü” polisliğe uzanan bu teknolojik cephaneliğin Filistinlilerin gündelik yaşamında yarattığı baskıyı çarpıcı ayrıntılarla ortaya koyan söyleşiyi Diyar Saraçoğlu bianet okurları için Türkçeye çevirdi.
Filistin İçin Teknoloji
“Yeni bir Nakba yaşanıyor”
Ramallah’ta yaşarken İsrail’in Batı Şeria’daki artan askeri operasyonları ve Gazze’deki istikrarsız durum nedeniyle son dönemde yurtdışına taşınan biri olarak, Batı Şeria’da şu anki durumu nasıl değerlendiriyorsunuz?
Gazze’deki kısa ve kırılgan ateşkesle birlikte insanlar Filistin’de neler olup bittiğini konuşmayı bıraktı. Oysa Batı Şeria’da yaşananlar korkutucu. İsrail, Filistin’in farklı şehir ve kamplarına baskınlar düzenliyor; yerleşimciler Filistinlilere saldırılarını artırıyor. Unutmayalım: Gazze’deki savaş bitmedi. Her şey karmakarışık. İnsanlar evlerini, ailelerini, arkadaşlarını kaybetti. Gazze’deki insanlar, yas tutmaya bile vakit bulamadıklarını söylüyor. Bu dönem hepimiz için büyük bir sınav. Gazze’de gördüğümüz zorla yerinden edilme sadece Gazze’ye özgü değil. Cenin ve Tulkerim’de 40 bini aşkın Filistinli yerinden edildi; üstelik bunların çoğu on yıllardır mülteci kamplarında yaşıyordu. Şimdi genç kuşağın gözleri önünde yeni bir Nakba (Arapça “felâket”) yaşanıyor, kuşaklar boyu süren travmamız derinleşiyor. Gazze’de kullanılan iletişim karartmaları ve İnternet kesintileri gibi taktikler Batı Şeria’da da uygulanıyor.
Bir örnek verebilir misiniz?
Gazze’deki soykırım sürerken, İsrail Cenin mülteci kampı ya da Tulkerim’deki Nur Şems kampını işgal ettiğinde bilerek İnternet’i ve tüm iletişim hattını kesti; insanlar olup biteni kaydedemesin, duyuramasın diye. Batı Şeria’da ise on yıllardır var olan, şimdi iyice “ağırlaşmış” askerî kontrol noktaları var ve bunlar kasıtlı olarak kapalı tutuluyor. Bu noktaları geçmek zaten hep zordu ama artık Filistinliler bu noktalarda her zamankinden daha uzun bekliyor. Bazen işe giderken iki-üç saat, eve dönerken yine iki-üç saat bekliyorsunuz.
Petra Molnar: Duvarlara karşı direnen insanların olduğu unutulmamalı
“Ağırlaşmış” derken tam olarak neyi kastediyorsunuz?
Ailemi ziyaret ederken iki ağırlaşmış askerî kontrol noktasından geçmek zorundayım. “Ağırlaşmış” derken, aynı zamanda yoğun gözetim teknolojisiyle -örn. CCTV kameralar ve yüz tanıma sistemleriyle- dolu olduklarını kastediyorum. İsrail askerleri insanları durdurduğunda taciz de ediyor; yüzünü ya da kimliğini fotoğraflayıp profilini çıkarabiliyorlar. Bir kontrol noktasından geçmeniz gerekiyorsa iki kere düşünüyorsunuz. Ayrıca Filistinliler için ülke dışına çıkmak da çok zor.
Bu tam olarak nasıl bir sorun yaratıyor? Savaş yüzünden mi insanlar ayrılmak istiyor?
Kuşaktan kuşağa aktarılan travmamız nedeniyle birçok insan sadece topraklarında, evlerinde, aileleriyle birlikte kalmak istiyor. Ama zaten Filistinlilerin “gideyim mi kalayım mı” demesiyle olmuyor; bizim kuşaktan pek çok kişinin seyahat yasağı var. Bazıları ömür boyu, yani ülkeden hiç çıkamıyor.
Bu yasakları kim koyuyor?
Kimlerin seyahat edip edemeyeceğine İsrailliler karar veriyor. Ama süreç karmaşık. Bir havaalanımız yok; Ürdün üzerinden gitmemiz gerekiyor, bu da üç ayrı kontrol demek: önce Filistin, sonra İsrail makamları, en son da gerçek Ürdün sınırı. İsrail kontrolü her zaman en zor ve aşağılayıcı olan. Birkaç yıldır biyometrik pasaport zorunlu. Filistin Yönetimi (FY) mahremiyet veya veri koruma yasası çıkarmadı; İsrail ise sistematik olarak Filistinlileri profilliyor ve verilerimizi ele geçiriyor. Yani mahremiyet hakkımız yok. Üstelik İsrail, Batı Şeria ve Gazze’deki tüm bilgi-iletişim altyapısını kontrol ediyor. Allenby Köprüsü’nden geçmek istediğinizde (Batı Şeria ile Ürdün arasındaki tek geçiş noktası) bütün CCTV kameralar çekim yapıyor, tüm biyometrik verileriniz toplanıyor; sistemlerin nasıl entegre olduğunu, verilerinin nasıl işlendiğini bilmiyorsunuz. Bu kasten aşağılayıcı. İnsanlar saatlerce sorgulanabiliyor. Bazıları seyahat yasağını orada, sınırda öğreniyor. Üstelik köprü her zaman açık değil; istediğiniz zaman seyahat edemiyorsunuz. Cumaları ya da cumartesileri birkaç saat açılıyor ya da hiç açılmıyor. Hafta içi sekiz saat açık, ama bazen gün ortasında “kapattık” diyorlar.
“Yapay zêka, yanlış insanları hedef gösteriyor”
Siz sadece bu uygulamalardan etkilenen bir Filistinli değilsiniz; işgalde teknolojinin rolünü de araştırıyorsunuz. Teknoloji Filistinlilerin gündelik hayatını nasıl etkiliyor?
Öncelikle hayatı zorlaştıran teknoloji değil, teknolojiyi güvenlik ve askerî amaçla kullanan İsrail. İsrail’in yıllardır gözetim teknolojilerinde nasıl öncü hâle geldiğini görüyoruz -bu teknolojileri önce Filistinliler üzerinde test edip sonra dünyaya satıyorlar; işgalden kâr ediyorlar. Son iki yılda işler iyice karmaşıklaştı. Soykırım başlar başlamaz, Filistinlileri kitlesel olarak hedef almak için belirli yapay zeka teknolojilerini geliştirmeye ve entegre etmeye başladılar. “Lavender”, “Where is Daddy” veya “Gospel” gibi sistemler geliştirdiler. Örneğin Gospel, Hamas bağlantılı olduğuna inanılan kişilerin kullandığı bina ve altyapıları tanımlayan bir yapay zekâ. Diğer yapay zekâlar doğrudan insanları hedef alıyor ki bu korkunç; çünkü öngörücü polisliğin risklerini, teknolojinin yanlış insanları hedef gösterebildiğini soykırım öncesinden de biliyorduk. Dünyada bununla ilgili pek çok kanıt var.
TEKNOLOJİ ŞİRKETLERİ İSRAİL’İN YANINDA
“Gazze’deki mevcut askeri operasyon, ilk dijital savaş”
Bir örnek verebilir misiniz?
The New York Times’ın yürüttüğü bir soruşturma, Gazze Şeridi’nde kuzeyden güneye göç etmek zorunda kalırken İsrail güçleri tarafından kimliği yanlış tespit edilen Filistinli insan hakları savunucusu ve gazeteci Musab Ebu Toha’nın yaşadıklarını belgeliyor. Bu, yüz tanımanın bir kişiyi yanlış tanımladığı tek vaka değil.
Gazze’de bu ne tür sonuçlar doğuruyor?
Gazze’deki ölü sayısına bakarsanız hedef alınanların %70’ten fazlası kadın ve çocuktu; yani hedeflerin hepsi Hamas ya da Fetih bağlantılı değildi. Büyük çoğunluk sivildi. Kalan %30’sa yapay zekâ listelerindeki isimler; İsrail, hedefin gerçekten Hamas savaşçısı olup olmadığını teyit etmeden bu listelere güveniyor. “Sadece erkek mi değil mi baktık” dediler -sanki her Filistinli erkek meşru hedefmiş gibi. Oysa bunlar sadece %30. Geriye kalan %70 ise onların tabiriyle “tali hasar”.
Bu teknolojileri tasarlamak için büyük veri setlerine ihtiyaç var. Ancak bir araştırmacı olarak, İsrail’in topladığı verilerin ne kadar güvenilir olduğuna dair bir değerlendirme yapabilir misiniz?
İsrail Filistinlilerden büyük miktarda veri topluyor, ancak Gazze’deki ölüm oranının bize teknolojilerinin güvenilir olmadığını gösterdiğini düşünüyorum. Ancak insanlardan veri toplamak, sömürgeci otoritelerin onları kontrol etmesini kolaylaştırıyor. Filistin tam askerî işgal altında; verilerimiz bize ait değil. Kontrol ediliyor ve izleniyor. Ancak yalnızca insanları hedef almak için değil, bence İsrail bu teknolojileri hem işgalden hem de soykırımdan kâr elde etmek için geliştiriyor.
Loewenstein: Gazze’de yaptıklarına rağmen İsrail’e derin bir hayranlık var
Peki ya veri depolama?
Blue Wolf, White Wolf ve Red Wolf gibi bazı sistemleri diğerlerinden daha iyi tanıyoruz. İsrail, bu sistemler aracılığıyla Filistinliler hakkında veri toplayıp profiller oluşturuyor; ardından bu verileri kullanarak insanları “güvenlik riski” sıralamasına tabi tutuyor. İsrail askerlerinin kullandığı Blue Wolf bunun tipik bir örneği. White Wolf ise Batı Şeria’daki yasa dışı yerleşimlerde zaman zaman çalışan Filistinlileri denetlemek ve o kişinin sözde güvenlik riskini ölçmek için İsrailli yerleşimciler tarafından kullanılıyor. Tüm verilerin depolandığı ve bu üç sistemi birbirine bağlayan Wolf Pack adlı bir sunucu da mevcut. Yüz fotoğrafınız ve kimlik bilgilerinizle profiliniz çıkartılıyor; aile bireyleriniz ve akrabalarınızla da bağlantılar kuruluyor.
Böylece, kolektif cezalandırma mekanizmasının bir parçasına dönüşüyor: Siz kişisel olarak risk kabul edilmiyor olsanız bile, ailenizden biri riskli sayılıyorsa otomatik olarak siz de o kategoriye giriyorsunuz. İsrail ordusunun gözünde her Filistinli potansiyel bir güvenlik tehdididir. Filistinli olmayan kimi arkadaşlarımız ve gazeteciler bile “güvenlik riski” gerekçesiyle Filistin’e girerken sınır dışı edildi. Bunun yanında, verilerin tam olarak nerede saklandığı, sistemlerin birbirine nasıl entegre edildiği, hangi ölçüde birlikte çalıştıkları ve bilgilerin nasıl kullanıldığı konusunu hâlâ ayrıntılı biçimde çözemediğimiz başka sistemler de var.
TEKNOLOJİ ŞİRKETLERİ İSRAİL’İN YANINDA
‘Amazon’dan sipariş’: Teknoloji devleri İsrail’in savaşı için kitlesel verileri nasıl depoluyor?
İnternet trafiği ne durumda?
Çevrimiçi gözetimi, Filistinlilerin maruz kaldığı diğer dijital gözetim biçimlerinden ayrı düşünmemiz imkânsız. Örneğin Facebook gibi sosyal medya platformlarında, belirli bölgelerde görev yapan askerlerin bilgi toplamak için insanlara seslendiği sayfalara sıkça rastlıyoruz. Aranan kişilerin fotoğraflarını paylaşıp “İsrail güvenlik güçlerince aranıyor” notuyla bilgi istiyorlar. Bu, insanları takip etmenin ve daha fazla veri toplamanın bir başka yolu. Böylece hem çevrimiçi ortamlar hem de kentler -yani çevrimdışı mekânlar- güvenlikleştiriliyor, tamamen militarize ediliyor. İnsanlar adeta bir panoptikonun içinde, her şeyin izlendiği bir dünyada yaşadığını hissediyor. Henüz CCTV, yüz tanıma sistemleri, El Halil’deki “akıllı nişancı” kulesi ya da doğada yürüyüş yaparken bile peşinize takılan dronlardan söz etmedim. Arkadaşlarım yaşadı: Bir asker ya da yerleşimci uzaktan dronu yönlendirerek onlara “bölgeden çıkın” dedi -oysa Ramallah’ın eteklerinde yalnızca doğa yürüyüşü yapıyorlardı.
Asker mi yoksa yerleşimci mi? Asker ve yerleşimciler arasındaki çizgiler belirsiz görünüyor.
Evet. Öylesine bütünleşik bir sistemden bahsediyoruz ki, yalnızca yerleşimcilerle askerlerin rollerini ayırt etmek zor değil; aynı zamanda devletle özel sektör arasındaki sınır da silikleşiyor. Gözetim sistemlerinin sahibi şirketler ve bu şirketlerin çoğu eski askerler tarafından yönetiliyor. Her şey el ele işliyor: Ordudan ayrılan bu kişiler, baskıcı hükümete özel olarak tasarlanmış gözetim teknolojileri satıyor; yerleşimciler de bu teknolojileri Filistinlilere saldırmak ve onlara ayrımcılık uygulamak için kullanıyor.
WIRED’DEN PARESH DAVE YAZDI
Google Haritalar, Filistinlilerin Batı Şeria’da seyahat etmesini nasıl zorlaştırıyor?
“Sömürgecilik, yapısal bir korku yerleştiriyor”
Gazze’de görev yapan bir İngiliz doktor, İsrail ordusunun olası savaş suçları kapsamında sorgulanırken, dronların insanları -hatta çocukları bile- “tamamen öldürmek” amacıyla kullanıldığını söyledi. Bu mümkün mü? Silahlı dronlar gerçekten var mı?
Evet. Soykırım sürecinde Gazze’de bu tür olaylar yaşandığını duyduk. Ayrıca birkaç yıl önce Batı Şeria’da, Nablus kentinde de aynı teknolojiyle Filistinlilerin öldürüldüğü vakalar oldu. El Halil’in H2 bölgesinde “akıllı nişancı” diye anılan bir sistem de var ki, aslında hiç de akıllı değil; sokakta yürürken üzerinize doğrultulmuş otomatik bir katil gibi tepede duruyor. İnsanların sürekli korku içinde yaşaması için tasarlandığı çok açık.
Bu insanların psikolojisini nasıl etkiliyor?
Sürekli bir korku hâlinde yaşamanın ne demek olduğunu tarif etmek zor; insanın hayal gücü yetmez. El Halil’den Kudüs’e uzanan -CCTV kameraları ve yüz tanıma sistemleriyle donatılmış- güzergâhı kat ettiğinizde baskı daha da artıyor. Filistin toplumu zaten oldukça muhafazakâr. Doğu Kudüs’te, evlerinin içinde bile başörtüsü takan kadınlar tanıyorum. Müslüman kadınlar için ev, başlarını örtmek zorunda olmadıkları güvenli bir sığınaktır; ancak bazı kadınlar, gözetim kameralarının mahremiyetlerini ihlal ettiğini hissederek sürekli izlendiklerini düşünüyor. “Sadece başını örtüyor, bunda ne tehlike var?” diyenler olabilir. Ama bir kadının evinde başörtüsü takması, ileride “dini aşırılık” suçlamasına zemin hazırlayabilir. Sömürgecilik, işte böyle yapısal bir korku yerleştiriyor.
Resmî olarak Batı Şeria, Filistin Yönetimi’nin (FY) idaresinde. FY’nin bu süreçteki rolü nedir?
Bazen insanlar şöyle düşünüyor: Bir otoritenin yönetimi altında yaşıyorsanız demek ki onu siz seçtiniz, demokratik bir sistemdesiniz ve yaptıklarından dolayı onu hesap vermeye zorlayabilirsiniz. Batı Şeria’da durum pek böyle değil. Buradaki Filistinliler 2006’dan beri aynı Filistin Yönetimi’nin idaresi altında yaşıyor; o tarihten bu yana seçim yapmayı bile denemedik. Şeffaflık yok, dürüstlük yok. Seçmediğiniz bir yönetimi nasıl sorumlu tutacaksınız? Ne olup bittiğini bile bilmiyorsunuz. Bu otorite daha çok idari bir rol üstleniyor -eğitim, sağlık sistemi ve benzeri alanları yürütüyor. Bildiğim kadarıyla Filistin Yönetimi kamu bütçesinin yaklaşık %28’ini güvenliğe harcıyor. Ama günün sonunda, biz Filistinliler kendi evlerimizde bile kendimizi güvende hissetmiyoruz.
Teknolojinin insanlara karşı değil, insanlar adına işlemesi için ne değişmeli?
Teknolojiyi düzenleme biçimini kökten değiştirmemiz şart. Bugün, dünya nüfusunun çoğunluğunu barındıran ülkelerde, insanları koruyacak düzenlemelerin geride kaldığını görüyoruz. Bu düzenlemeleri kolektif bir bakışla tasarlamalıyız. Mevcut kurallar ağırlıkla Küresel Kuzey’de geçerli, oysa teknolojinin zararlı kullanımına karşı dünyanın her yerindeki insanları korumamız ve doğru aktörleri hesap verebilir kılmamız gerekiyor. Bugün ABD’ye baktığımızda, teknoloji oligarkları ile Washington arasında kurulan yakın ittifakın bizi açıkça yanlış bir yola sürüklediğini görüyoruz. ABD dijital bir otoriterlik sistemi inşa ederse, şirketlerin güya öz-düzenleme için kullanması gereken kendi kendini denetleme mekanizmalarının artık işlemediğini kabul etmemiz gerekir. Bu nedenle, diğer ilerici politika yapıcılar ve hükümetlerle güçlerimizi birleştirip, şirketleri gerçekten sorumlu tutacak düzenlemelerin uygulanmasında onların öncü rol üstlenmesini sağlamalıyız.
(DS/VC)
Yazar, çevirmen ve araştırmacı. Medya, bilişim ve toplumsal hareketler ile ilgileniyor. "Maske ve Bayrak", "Gazetecilik Saldırı Altında", "Otomasyon ve İşin Geleceği", "Yapay Zekâya Direnmek", "Sosyal Medya: Eleştirel Bir Giriş", "Dijital Kapitalizm Çağında Marx'ı Yeniden Okumak" çevirdiği kitaplar arasında. Bilgisayar mühendisliği bölümü mezunu.
Dijital tahakküm çağında medyanın sınırlarını aşmak
FORENSIC ARCHITECTURE
Júlia Nueno: Devletin ‘hakikat’ inşasını sorguluyoruz
Devrimin izinde, çelişkilerin gölgesinde bir başkent: Lizbon
Mısır’da 2011 ayaklanmaları: Tahrir Meydanı’ndan yükselen değişim
Wall Street’ten yükselen itiraz: %99’un mücadelesi ve işgal siyaseti
