Yapay zekâ önyargısı, her akıllı makinenin peşindeki sessiz gölgedir ve makine daha tek kelime etmeden çok önce başlar. Veride, onu toplayan insanların tercihlerinde ve onu üreten toplumların eski alışkanlıklarında başlar.
Yapay zekâ dünyaya güçlü bir giriş yaptı ve şimdi işe alımdan bankacılığa, sağlıktan eğitime ve tasarıma kadar neredeyse her alana dokunuyor. Bir araç bu kadar uzağa ulaştığında kusurları da aynı uzaklığa taşınır. Bu yazı, önyargının koda nasıl sızdığını, bedelini kimin ödediğini ve bu konuda neler yapabileceğimizi soruyor.
İçindekiler
Yapay zekâ önyargısı veride nasıl başlar?
Yapay zekâ önyargısı, tüm öğrenmenin başladığı yerde başlar. Makine, bir çocuğun dil öğrenmesi gibi öğrenir: çevresinde duyduklarını dinleyerek. Duyduğu sesler dar ise anlayışı da dar olur. Çalıştığı kütüphanede koca rafların eksik olduğunu bilmez.
Kadınları nadiren terfi ettiren bir şirketin onlarca yıllık işe alım kayıtlarıyla eğitilmiş bir sistem düşünün. Sistem örüntüyü fark eder ve sessizce onu bilgelik sayar. Hiç kimse “erkekleri tercih et” diyen bir kural yazmadı, ama yapay zekâ önyargısı yine de oradadır. Geçmiş ona bunu öğretti.
Önyargının girdiği sayısız kapı
Veri yalnızca ilk kapıdır ve yapay zekâ önyargısının çok daha fazla kapısı vardır. Önyargı, sorunun çerçevelenme biçiminden, insanların örneklere yapıştırdığı etiketlerden ve başarıyı tanımlamak için seçilen ölçütlerden de içeri girebilir. Her adım bir insan kararıdır ve her karar bir bakış açısı taşır.
Araştırmacılar sıklıkla birkaç yaygın yolu anlatır:
- Bazı grupların neredeyse hiç temsil edilmediği örnekleme boşlukları.
- Geçmişteki adaletsizliğin gerçek diye kopyalandığı tarihsel örüntüler.
- Öznel yargıların sabit gerçeklere dönüştüğü özensiz etiketler.
- Sistemin çıktısının bir sonraki veri turunu şekillendirdiği geri bildirim döngüleri.
Bu geniş alan algoritmik önyargı adıyla belgelenmiştir ve bu araçları geliştiren ya da satın alan herkesin okumaya değer bulacağı bir konudur.
Yapay zekâ önyargısı iki ucu keskin bir kılıçtır
Bu konuyu salt karamsarlık olarak ele almak kolay olurdu. Öyle değil. Hemen her güçlü teknoloji gibi yapay zekâ da iki ucu keskin bir kılıçtır. Akıllı bir kullanıcı muazzam fayda sağlar; özensiz ya da kötü niyetli olan ise hem kendine hem topluma zarar verir.
Önyargı tam da o ucun üzerindedir. Akıllıca kullanıldığında, önyargılarımızı miras alan aynı sistemler onları ortaya da çıkarabilir; çünkü sayılar, görmezden gelmeyi tercih ettiğimiz bir örüntüyü göstermeleri istendiğinde gözünü kırpmaz.
Yardım eden uç
Düşünceli bir ekip, binlerce geçmiş karar üzerinde bir tarama aracı çalıştırıp nitelikli insanların yıllarca göz ardı edildiğini ilk kez keşfedebilir. Bir banka kendi kredilerini denetleyebilir. Bir okul, not verme asistanının bazı lehçelere haksız davrandığını fark edip düzeltebilir. Makine bir aynaya dönüşür ve bakmaya istekliyseniz ayna bir armağandır.
Zarar veren uç
Diğer uç daha keskindir. Özensiz bir şirket, yargılayacağı insanlar üzerinde denemeden bir özgeçmiş filtresini, kredi puanlayıcısını ya da yüz tanıma aracını devreye alabilir. Kötü niyetli biri sistemi bilerek dışlamak, hedef almak ya da aldatmak için ayarlayabilir. Karşı taraftaki kişi nadiren makineyi görür; yalnızca kapalı kapıyı görür. Toplum da bedel öder, çünkü küçük adaletsizlikler yerleşik bir düzene dönüşür.
Yapay zekâ önyargısından en çok kim zarar görür?
İnsan önyargısının en azından bir yüzü vardır. Bize haksızlık eden biriyle tartışabiliriz. Yapay zekâ önyargısı ise arayüzlerin ve olasılıkların arkasına saklanır; bu yüzden zarar gören kişi çoğu zaman işin içinde bir makine olduğunu hiç öğrenmez.
Ortalamaların içinde de saklanır. Bir sistem genel olarak mükemmel görünürken küçük bir grubu kötü biçimde yarı yolda bırakabilir, çünkü büyük çoğunluk puanı yukarı çeker. Tek bir doğruluk rakamının yapay zekâ önyargısı hakkında hikâyenin tamamını asla anlatmamasının nedeni budur.
Ve özgüvenin içinde saklanır. Temiz bir gösterge paneli ve akıcı bir ses, yanlış bir yanıtı kesinleşmiş gibi gösterir. İnsanlar kesin görüneni cezbeder; bu da yapay zekâ önyargısına insan önyargısının nadiren sahip olduğu bir cila kazandırır.
Yapay zekâ önyargısının bedeli eşit dağılmaz. Genellikle zaten resmin kenarında duran insanların üzerine düşer: azınlıklar, kadınlar, az konuşulan dillerin konuşurları, yoksullar, engelliler, yaşlılar. Bunlar veride en az temsil edilen ve bir karara itiraz etmeye en az gücü olan kişilerdir.
Reddedilen bir kredi, kaçırılan bir iş görüşmesi, bir kameranın tanıyamadığı bir yüz, tek bir beden tipine göre ayarlanmış bir tıbbi araç: her biri küçük bir yaradır. Toplandığında yapay zekâ önyargısını tek bir skandal değil, sessiz bir aşınma yapar. Hiçbir tek kişinin göremediği bir adalet aşınmasına dönüşürler.
Makine önyargıyı icat etmez. Bizimkini miras alır, parlatır ve bir rakamın otoritesiyle geri verir.
Yapay zekâ önyargısı sizi sınamadan önce nasıl test edersiniz?
Yapay zekâ önyargısını bulmak bir his değil bir uygulamadır ve uygulama ölçülebilir. En yararlı alışkanlık basittir: sistemi hizmet edeceği insanların gerçek çeşitliliği üzerinde test edin ve sonuçları şikâyetten sonra değil, lansmandan önce gruplar arasında karşılaştırın.
Mantıklı bir rutin şöyle görünür:
- Sistemin kimleri etkilediğini ve kimlerin gözden kaçabileceğini yazın.
- Eğitim verisinin bu insanları yansıtıp yansıtmadığını kontrol edin.
- Farklı gruplar arasında hata oranlarını ve sonuçları karşılaştırın.
- Yüksek riskli kararlar için bir insan gözden geçirici bulundurun.
- Denetimi düzenli aralıklarla tekrarlayın, çünkü hem veri hem dünya değişir.
Bunların hiçbiri bir laboratuvar gerektirmez. Küçük bir işletme bir hesap tablosu ve dürüst bir soruyla başlayabilir: kim farklı bir yanıt alıyor ve neden?
Tedarikçiye zor sorular sorun
Bir araç geliştirmek yerine satın alıyorsanız, verisinin nereden geldiğini, nasıl test edildiğini ve emin olmadığında ne yaptığını sorun. Yanıtlayamayan bir tedarikçi size bir şey söylüyordur. Küçük işletmeler için yapay zekâ araçları yazımız, gözü açık seçim yapmak için pratik tavsiyeler sunar.
Adalet bir takastır, bir düğme değil
“Adil” etiketli tek bir düğme yoktur. Adaletin farklı tanımları birbirine zıt çekebilir ve bir tür yapay zekâ önyargısını azaltmak bir başkasını artırabilir. Hata oranlarını eşitleyen bir araç kimlerin onaylandığını değiştirebilir; onayları eşitleyen bir araç ise kimlerin yanlış işaretlendiğini değiştirebilir.
Bu yüzden sohbetin yalnızca mühendisleri değil insanları da içermesi gerekir. Bu karar için adil olmanın ne demek olduğunu sade sözcüklerle belirleyin, yazın ve buna göre ölçün. Net bir söz, belirsiz bir umuttan daha kolay tutulur.
Veriyi düzeltmek yardımcı olur, ama alçakgönüllülük de öyle. Kullanıcılara sistemin neyi yapıp neyi yapamayacağını söyleyin, bir sonuca itiraz etmeleri için bir yol verin ve her şikâyete bedava kalite kontrolü gözüyle bakın.
Yapay zekâ önyargısının günlük hayatta saklandığı yerler
Bu sorunla karşılaşmak için bankada çalışmanız gerekmez. Arama sonuçlarında, önerilen içeriklerde, otomatik tamamlama önerilerinde, bazı aksanları diğerlerinden daha iyi anlayan sesli asistanlarda ve güzellik anlayışını dar bir kalıba oturtan görsel üreticilerde yaşar.
Bu yüzden aynı zamanda bir tasarım sorunudur. Yayımladığımız görseller, sözcükler ve arayüzler makineleri eğitir, makineler de halka öğretir. Bu sistemlerin sessiz varlığını kolayca gözden kaçırdığımız bu geniş manzaraya gündelik hayatta yapay zekâ yazımızda değinmiştik.
Görseller, sözcükler ve tekrarladığımız hikâyeler
Tasarımcılar ve pazarlamacılar özel bir sorumluluk taşır. Yalnızca tek tip insan gösteren her kampanya, tek tip okur varsayan her başlık, bir sonraki nesil araçlar için ham madde olur. Kapsayıcı görseller süs değildir. Daha iyi veriye sessiz bir katkıdır; sosyal medya tasarım ipuçları notlarımızda bu noktaya yeniden dönüyoruz.
Sorumlu geliştiriciler ve kullanıcılar yapay zekâ önyargısı için ne yapabilir?
Sorumluluk paylaşılır. Geliştiriciler verilerini belgelemeli, sınırlarını yayımlamalı ve eleştiriyi davet etmelidir. Şirketler, hayatı değiştiren kararları kara kutuya devretme cazibesine direnmelidir. Kullanıcılar muhakemelerini uyanık tutmalı, bir makinenin yanıtını hüküm değil görüş olarak ele almalıdır.
Düzenleyicilerin ve toplulukların da bir rolü vardır: şeffaflık ve itiraz yolu talep etmek. Otomatik bir sistem tarafından reddedilen biri, bir insanın yeniden bakabileceğini bilmeyi hak eder.
Media Five Stars olarak Arap dünyası, Avrupa ve ABD’deki kitleler için yirmi yılı aşkın süredir markaları, siteleri ve hikâyeleri şekillendirirken kapsayıcılığın ve kalitenin birlikte yürüdüğünü öğrendik. Yalnızca birkaç kişiye uyan bir mesaj, daha zayıf bir mesajdır.
Son sözler
Yapay zekâ önyargısı teknolojiden korkmak için bir neden değildir ve el sallayıp geçiştirebileceğimiz bir sorun da değildir. Her aracın yapımcılarının parmak izini taşıdığını ve adaletin tekrar tekrar kurulması, ölçülmesi ve savunulması gerektiğini hatırlatır.
Öyleyse kılıcı dikkatle tutun. Kimin eksik olduğunu sorun, güvenmeden önce yapay zekâ önyargısını test edin ve hayatların ve geçim kaynaklarının söz konusu olduğu yerlerde döngüde bir insan bulundurun. Bir marka, web sitesi ya da kampanya şekillendiriyor ve karşılaştığı herkesle adilce konuşmasını istiyorsanız hizmetlerimizi keşfedin ve bunu iyi yapmanıza yardım edelim.
