10 ve 11 Şubat’ta Paris’te Yapay Zeka Eylem Zirvesi düzenlendi.
Zirveye katılan Uluslararası Af Örgütü Teknoloji ve İnsan Hakları Program Direktörü Damini Satija yapay zekanın gelişiminin dünyadaki insan hakları sorunlarının gözardı edilmesine yol açmaması gerektiğini vurguladı.
Yapay zekanın hayatın her yerinde varlığını gösterdiğine dikkat çeken Satija, “Hükümetler, hayatlarımızın otomatikleşmesi ve yapay zeka teknolojilerinin kullanıma sunulması nedeniyle artan temel sistematik insan hakları sorunlarını göz ardı etmemeli” diye konuştu.
"Sivil özgürlüklerin gerilemesi"
Yapay zekanın gelişiminin dünya çapında sivil alanın daralmasıyla paralel gerçekleştiğini kaydedeb Satjia, teknoloji şirketlerinin kuralsız faaliyet göstermelerinin insan hakları açısından riskleri olduğunun altını çizdi:
Artık gitgide korkutucu hale gelen bir dünyada yaşıyoruz. Tahmine dayalı algoritmaların her yerdeki varlığı, tüm dünyada sivil özgürlüklerin gerilemesiyle birleştiğinde, teknoloji şirketlerine kuralsız ve kılavuzsuz faaliyet göstermeleri konusunda açık çek verme riski taşıyor.
İnsan onurunu hiçe sayan uygulamalar
Teknoloji şirketlerinin kuralsızlığının uluslararası toplumdaki ayrımcılığı körüklediğini vurgulayan Satjia, insan haklarını etkileyen teknolojik ürünlerin yaygınlaştırılmasında şirket gücünün denetimsizce belirleyici olmasının insan onurunu hiçe saydığının altını çizdi:
Hükümetlerin ‘verimlilik çözümleri’ gibi sunduğu bu gelişmeler artan bir biçimde kemer sıkma politikalarıyla ve veri yoğun yapay zeka teknolojilerinin kullanımıyla atbaşı gidiyor. Ayrıca bu sistemler, toplumda önceden var olan ayrımcılığı da artırarak sonuçta dışlamaya, eşitsizliğe ve şirket gücünün kalıcılaşmasına yol açıyor.
Sivil toplumun ve gazetecilerin araştırmalarının yanı sıra denetimsizce işleyen yapay zeka teknolojilerinin ciddi sonuçlarını ortaya koyan pek çok kanıt var. Öldürücü otonom silah sistemlerinden kitlesel gözetimde kullanılan yüz tanıma sistemlerine, göç bağlamında ve refah dağıtımı için kamu sektöründe kullanılan risk ölçüm algoritmalarına kadar, bu tür teknolojilerin haklarımızla bağdaşmadığı ve insan onurunu hiçe saydığı çok açık bir şekilde ortaya çıktı.
Yıkıcı etkilerle ulusötesi mücadele
Yapay zeka teknolojilerinin şirketlerin belirleyiciliğinde denetimsizce ilerlemesinin emek ve doğa sömürüsüne dayalı tedarik zincirlerinin yıkıcılık boyutunu artıracağına dikkat çeken Satija, bu etkilerle ulusötesi boyutta mücadele edilmesi gerektiğinin altını çizdi:
Yapay zeka teknolojilerinin kalıcı hale getirdiği zararların, bu teknolojilerin ötesine uzanan çok geniş kapsamlı sonuçları olduğunu da kabul etmeliyiz. Bunları körükleyen, insanlık dışı emek uygulamalarına dayanan ve ciddi çevresel hasara yol açan sömürüye dayalı tedarik zinciri, özellikle de küresel çoğunluk ülkelerinde yaşayan insanlar üzerinde orantısız etkiler yarattı. Yapay zeka teknolojilerinin bu uzun vadeli tahripkâr etkileri düşünüldüğünde, teknolojilerin etkileriyle yalnızca ulusal sınırlar içinde değil, onun ötesinde de mücadele edilmesi elzemdir.
Damini Satija kimdir?
Teknoloji, insan hakları ve kamu politikaları uzmanı olan Damini Satijia, Uluslararası Af Örgütü’nün Teknoloji Program Direktörü.
Af Örgütü'nün Teknoloji programıi, başta casus yazılımlar ve siber saldırılar, gözetim, devletlerin yapay zeka ve otomasyon kullanımı, büyük teknoloji ve sosyal medya şirketlerinin hesap verebilirliği ve dijital ortamlarda çocukların ve gençlerin hakları olmak üzere bir dizi alanda çalışmaktadır.
Damini, Af Örgütü’ne katılmadan önce, Avrupa Konseyi’nin Yapay Zeka ve İnsan Hakları Komitesi’nde Birleşik Krallık’ın politika uzmanı ve Birleşik Krallık hükümetinin veri ve yapay zeka politikalarıyla ilgili bağımsız uzman kuruluşu olan Center for Data Ethics & Innovation’da (Veri Etiği ve İnovasyon Merkezi) Kıdemli Politika Danışmanı’ydı.
Ne olmuştu?
4 Ocak Salı günü Google, yapay zeka ilkelerine getirdiği yeni güncellemede, silahlar ve gözetim sistemleri de dahil “genel zarara yol açan” ve “amaçları yaygın kabul gören uluslararası hukuk ve insan hakları ilkeleriyle bağdaşmayan teknolojileri” kullanmama taahhüdünü web sitesinden kaldırmıştı.
Google'ın yapay zeka ilkelerindeki son değişikliği insan haklarını gözden çıkardı
24 Ocak'ta Washington Post, Google'un, İsrail'in Gazze'ye saldırısının ilk haftalarından başlayarak İsrail ordusunun en son yapay zeka teknolojisine erişimini sağlamak için çaba gösterdiğini çalıştığını yazmıştı.
WASHINGTON POST'UN İDDİASI
"Google, Gazze saldırısı boyunca İsrail ordusuna yapay zeka araçları yetiştirdi"
MATTEO PASQUINELLI İLE SÖYLEŞİ
Yapay zekâ nedir?
(EC)
