İnsanların yapay zekâ konusundaki fikri büyük ölçüde popüler kültür üzerinden şekilleniyor: Terminatör gibi gişe filmleriyle ve zıvanadan çıkıp insanlığı yok eden makinelerin başrolde olduğu kıyamet senaryolarıyla. Haber kaynaklarının dikkatini de bu türden yapay zekâ hikâyeleri çekiyor: Üzerinde çalıştığı sohbet robotunun [chatbot] hissetme yetisi olduğunu iddia eden Google mühendisi[1] son zamanlarda yapay zekâ konusunda en çok tartışılan haber oldu, hatta Stephen Colbert’in programıyla[2] milyonlarca izleyiciye ulaştı. Ancak, kendi başına eyleme geçme ve karar verme yetisi olan üstün zekâlı makineler fikri, gerçeklikten uzak olmakla kalmıyor, yapay zekâ sistemlerinin geliştirilme ve kullanılma süreçlerinde insan hayatı açısından oluşturdukları gerçek tehlikelerin dikkatlerden kaçmasına da sebep oluyor. İnsanlar “hissedebilen makine” heyulasıyla oyalanadursun, yapay zekâ sistemlerinin sözümona başarılarının arkasında güvencesizleştirilmiş bir işçi ordusu yatıyor.
Yapay zekâ sistemlerinin çoğu, Silikon Vadisi’ndeki çokuluslu şirketler tarafından geliştiriliyor; gazeteci Gideon Lewis-Kraus’un belirttiği üzere, bu şirketlerin ellerinde topladığı iktidarın boyutlarının muhtemelen insanlık tarihinde bir eşi daha yok.[3] İnsanların yerine getirebildiği tüm işleri ve daha fazlasını, karşılığında hiçbir ücret ve hak talep etmeden, insanlar istihdam edildiğinde ödenen maliyetler olmadan gerçekleştirebilecek bağımsız sistemler yaratmaya çalışıyorlar. Bu şirket yöneticilerinin ütopyası gerçeklikten fersah fersah uzak olsa da, bu hayalleri gerçekleştirme yolunda atılan adımlar küresel bir sınıf-altı kitle yarattı: Antropolog Mary L. Gray ile bilgisayar bilimci Siddharth Suri’nin “hayalet iş” dedikleri işleri yerine getiren insanlar – yani yapay zekâyı işleten, önemsizleştirilmiş insan emeği.
Medyada ve popüler kültürde çizilen gelişmiş, hissedebilen makine imgesinin yakınından bile geçmeyen “yapay zekâ” sistemleri, dünyanın dört bir yanında düşük ücretle çalıştırılan ve güvencesiz çalışma koşullarında tekrara dayalı işleri yerine getiren milyonlarca işçinin emeğiyle besleniyor.[4] Silikon Vadisi şirketlerinde maaşları altı haneli rakamları bulan “yapay zekâ araştırmacıları”ndan farklı olarak bu sömürülen işçilerin çoğu yoksul nüfuslardan devşiriliyor ve vergi düşüldükten sonra saat başı 1,46 dolar gibi son derece düşük ücretler alıyor.[5] Buna rağmen, yapay zekâ sistemlerinin geliştirilme ve kullanılma süreçleriyle ilgili etik tartışmalarında emek sömürüsü önemli bir yer tutmuyor.
Mayıs 2019’da Londra’da Barbican galerisinde düzenlenen “Yapay Zekâ: İnsandan Öte” sergisinden. Fotoğraf: Tristan Fewings
İşçilere Makine Muamelesi Etmek
Bugün yapay zekâ diye tarif edilen sistemlerin büyük kısmı istatistiksel makine öğrenmesine, daha kesin belirtmek gerekirse yapay sinir ağları aracılığıyla derin öğrenmeye dayanıyor; makineye “öğrenme” malzemesi sağlamak için muazzam miktarda veri gerektiren bir yöntem bu. Fakat bundan 15 sene kadar önce, esnek ve geçici çalışmanın yaygınlaşmasından evvel, derin öğrenme sistemleri bir avuç meraklı araştırmacının ilgilendiği akademik bir konudan ibaretti.
Ancak, 2009’da Jia Deng ve arkadaşları ImageNet veri kümesini yayınladı;[6] o dönemin en geniş etiketlenmiş görüntü veri kümesiydi bu ve internetten toplanıp, Amazon’un yeni açtığı Mechanical Turk platformu[7] aracılığıyla etiketlenmiş görüntülerden oluşuyordu. “Yapay yapay zekâ” sloganıyla çıkan Amazon Mechanical Turk platformu, “kitlesel çalışma” [crowd work] fenomenini yaygınlaştırdı: zaman alan büyük hacimli işler, dünyanın dört bir köşesindeki milyonlarca insan tarafından hızla yerine getirilebilecek küçük iş birimlerine bölünüyordu. Mechanical Turk’ün devreye sokulmasıyla, imkânsız gibi görünen işler birdenbire yapılabilir hale gelmişti. Mesela bir milyon görüntüyü tek tek etiketleme işi, birbirine paralel çalışan ve her biri 1000 görüntüyü etiketleyen 1000 anonim işçi tarafından yerine getirilebiliyordu. Dahası bu iş, bir üniversitenin bile ödeyebileceği bir ücret karşılığında yapılıyordu: Kitle işçilerine tamamladıkları parça başına ücret ödeniyordu, o da altı üstü birkaç sentti.[8]
ImageNet veri kümesini, ImageNet Büyük Ölçekli Görsel Tanıma Yarışması izledi.[9] Araştırmacılar, veri kümesini kullanarak, görsel tanıma (yani görüntüye, görüntüdeki nesneyi belirten bir açıklama –örneğin ağaç veya kedi– ekleme) gibi bazı işleri yerine getirecek modelleri eğitiyor ve test ediyordu. O dönemde, derin öğrenmeye dayalı olmayan modeller bu işleri en yüksek isabetlilikle yerine getirirken, 2012’de AlexNet[10] ismi takılan derin öğrenmeye dayalı bir yapı diğer tüm modelleri açık ara farkla geride bıraktı.[11] Bu durum, derin öğrenmeye dayalı modelleri hızla yaygınlaştırdı ve böylece günümüze geldik: dünya çapında düşük ücretle çalışan işçilerin etiketlediği muazzam miktarda veriyle beslenen ve çokuluslu şirketler tarafından çoğaltılan modeller. Parça başı çalışan bu işçilere, internetten toplanan verileri etiketlemenin yanı sıra bazen bizzat veri de ürettiriliyor: Kendilerinin, ailelerinin ve arkadaşlarının, etraflarındaki nesnelerin vs. fotoğraflarını yüklemeleri gerekiyor.
Başlıca kitlesel çalışma platformunun Mechanical Turk olduğu 2009’dan farklı olarak bugün veri etiketleme şirketlerinin sayısı muazzam artmış durumda.[12] Bu şirketler girişim sermayesi finansmanında milyonlarca dolar toplarken,[13] veri etiketleyen çalışanların iş başına aldığı ortalama ücret 1,77 dolar.[14] Bugün “yapay zekâya öncelik verme” iddiasındaki büyük şirketlerin hepsi, veri emekçileri, içerik moderatörleri, depo işçileri ve teslimat şoförleri gibi düşük ücretli geçici işçiler ordusuyla döndürülüyor.
Sözgelimi içerik moderatörlerinin görevi, bir platformda “uygunsuz” addedilen içerikleri tespit edip işaretlemek. İçerik moderatörleri, hem internetteki çevrimiçi topluluklarının güvenliğini sağlama hem de yapay zekâ sistemlerini eğitme konusunda hayati rolleri olmasına rağmen, teknoloji devleri için çalışırken hem inanılmaz düşük ücretler alıyor[15] hem de her davranışları izlenirken travmatik işleri yerine getirmeye zorlanıyorlar.
İnternet platformlarına ulaşmayan her cinayet, cinsel saldırı veya çocuk istismarı videosu, ya bir içerik moderatörü tarafından veya yine bir içerik moderatörünün sağladığı verilerle eğitilmiş otomatik bir sistem tarafından önceden izlenip işaretlenmiş oluyor.[16] Bu işleri yerine getiren çalışanlar, bu tür korkunç görüntülere sürekli maruz kalmaktan dolayı anksiyete, depresyon ve travma sonrası stres bozukluğu yaşıyor.[17] Dahası, bu tekrara dayalı işleri yaparken sürekli denetleniyor, belirlenmiş kuralların dışına çıktıkları anda cezalandırılıyorlar. Örneğin, Kenya’da Meta’ya [Facebook] hizmet veren Sama şirketinde çalışan içerik moderatörleri, videolar ne kadar uzun veya içerikleri ne kadar rahatsız edici olursa olsun, şiddet görüntüleri hakkında 50 saniye içinde karar verdiklerinden emin olmak için gözetleme yazılımıyla denetleniyorlar.[18]
Sama şirketinin işçilerinin çoğunun yaşadığı gecekondu mahallesi, Kibera.
Amazon’da çalışan depo işçileri ve teslimat şoförleri de, tıpkı içerik moderatörleri gibi, hem platformların işlemesini sağlıyorlar hem de Amazon’un günün birinde onların yerine iş yaptırabileceği yapay zekâ sistemlerine –depolarda paketleri istifleyen robotlara ve o paketleri müşterilere teslim eden sürücüsüz arabalara– veri tedarik ediyorlar.
Amazon depo işçileri kameralarla ve envanter tarayıcılarıyla takip ediliyor; yöneticilerin aynı tesiste çalışan tüm işçilerden toplanan verilerin ortalamasına dayanarak belirlediği birim iş süresine göre performansları ölçülüyor.[19] İş başından uzak geçirilen her dakika takip ediliyor ve işçileri disipline etmek için kullanılıyor.[20]
Amazon’un belirlediği gerçekdışı teslimat süreleri, birçok teslimat şoförünü gün içinde teslim etmeleri gereken paket sayısını tutturmak için kendilerini tehlikeye atmaya sevk ediyor.[21] Sözgelimi, günde 90-300 kez emniyet kemerini bağlayıp çözmek bir şoförün tarifenin gerisinde kalmasına sebep olabilir.[22] Birçok işçi, emniyet kemerini arkadan bağlayarak hem gözetleme kameralarını atlatıyor hem de kemer bağlayıp çözmenin yol açacağı yavaşlamadan kaçınıyor.[23]
2020’de ABD’deki Amazon şoförleri arasında UPS’teki meslektaşlarına kıyasla yüzde 50 daha fazla yaralanma olayı yaşandı.[24] 2021’de işçilerin yaralanma oranı yüzde 40 arttı. Bu koşullar, teslimat şoförleri kadar yayalar ve arabalardaki insanlar için de tehlike oluşturuyor. Japonya’da teslimat şoförleri, Amazon yazılımlarının kendilerini “imkânsız güzergâhlara” gönderdiğini, bunun da “akıl almaz taleplere ve uzun çalışma saatlerine” yol açtığını söyleyerek iş bırakma eylemi yaptılar.[25] Buna rağmen Amazon, işçilerine makine muamelesi etmeye devam ediyor.
Amazon, tarayıcı ve kameralarla işçilerini takip etmenin yanı sıra, geçen yıl ABD’deki teslimat şoförlerine “biyometrik onam formu” imzalattı; bu form şirkete, sözümona kemer kullanımını sağlama almak ve şoförlerin dikkatsiz veya hızlı sürmesini engellemek için her hareketlerini denetleyen yapay zekâ kameralarını kullanma izni veriyor. İşçiler haklı olarak yüz tanıma ve benzeri biyometrik verilerin gözetleme araçlarını geliştirmekte veya bir gün yerlerini alma ihtimali olan yapay zekâ sistemlerini eğitmekte kullanılacağını düşünüyor. Nitekim onam formlarındaki muğlak ifadeler[26] son derece yoruma açık.
“Yapay zekâ” endüstrisi bu düşük ücretli işçilerin sırtında yükseliyor; sendikalaşmanın olmadığı koşullarda, güvencesiz ve geçici işlerde çalıştırılan bu insanların etikdışı uygulamalara direnmesi veya daha iyi koşullar talep etmesi zor. Şirketler, çalıştıracakları işçileri mülteciler, mahpuslar veya iş bulma ihtimali düşük diğer insanlar arasından devşirmeye dikkat ediyor.[27]
Veri etiketleme işleri çoğunlukla, “yapay zekâya öncelik veren” çokuluslu şirketlerin Silikon Vadisi’ndeki merkezlerinden hayli uzakta yerine getiriliyor: sürücüsüz araçlardaki görüntü tanıma sistemleri için veri etiketleyen işçilerin bulunduğu Venezuela’dan;[28] Suriyeli mültecilerin ırk, cinsiyet ve yaş kategorilerine göre etiketlenmek üzere kendi fotoğraflarıyla yüz tanıma sistemlerini besledikleri Bulgaristan’a kadar.[29] Bu işlerin çoğu, Hindistan, Kenya, Filipinler veya Meksika gibi ülkelerdeki işçilere yaptırılıyor.[30] İşçilerin çoğu İngilizce bilmediği halde talimatlar İngilizce veriliyor ve kuralları tam anlamadıklarında işlerine son veriliyor[31] veya kitlesel çalışma platformlarından men ediliyorlar.
“Yapay Zekâ” Etiğinde Asıl Öncelik
Yapay zekâ etiği, yapay zekâ ve toplumsal fayda veya insan-merkezli yapay zekâ konularında çalışan araştırmacılar çoğunlukla verileri “taraflılıktan arındırma”ya, şeffaflığı ve hakkaniyeti teşvik etmeye odaklanırken, bizler bu tür girişimlerin asıl odak noktasının yapay zekâ endüstrisindeki sömürüye son vermek olması gerektiğini savunuyoruz. Örneğin, ABD’deki şirketlerin Kenya’daki emekçileri sömürmesine izin verilmezse, zararlı teknolojilerini bu kadar büyük hızla çoğaltmaları da mümkün olmaz. Yapay zekâ araştırmacıları, zararlı yapay zekâ sistemlerini adaletsiz çalışma koşullarının hem sebebi hem sonucu olarak analiz etmeli.
Gazeteciler, sanatçılar ve bilim insanları, emek sömürüsü ile gündelik hayatlarımızdaki zararlı yapay zekâ ürünleri arasındaki bağlantıların açıklığa kavuşmasına katkıda bulunabilir, geçici işçilerle ve diğer savunmasız işçi nüfuslarıyla dayanışmayı teşvik edebilirler.
Bu minvalde, araştırmacıları ve gazetecileri, “yapay zekâ”yı işleten düşük ücretli işçilerin rolüne odaklanmaya ve kendi başına hareket edebilen bağımsız makine hikâyeleriyle insanları yanıltmaktan vazgeçmeye çağırıyoruz. Bu makineler dünyanın dört bir yanında düşük ücretlerle çalışan işçi orduları tarafından inşa ediliyor.
Adrienne Williams, Milagros Miceli ve Timnit Gebru’nun 13 Ekim 2022’de Noema dergisinde yayınlanan The Exploited Labor Behind Artificial Intelligence başlıklı yazılarından kısaltılarak çevrildi.