Vaka #04: Algoritmik Adalet
"Yıldız-Seçer YZ" Sisteminin Gizemini Çöz
Senaryo: Bir Sorun Var!
Algoritma; öğrencilerin notlarını, hobilerini, yaşadıkları bölgeyi ve sosyal medya aktivitelerini inceleyerek bir "başarı puanı" vermektedir.
Ancak bir sorun var! Bu yıl seçilen 5 adayın tamamının erkek olduğu ve benzer mahallelerde yaşadığı fark edilmiştir. Vakıf, sistemi incelemek üzere seni "Algoritma Dedektifi" olarak atadı.
1. Aşama: Gizli Önyargıyı Bul
Aşağıda YZ tarafından kabul edilen ve elenen iki adayın kartı var. Dikkatlice incele.
| Aday Özelliği | Aday A (Kabul Edildi) ✓ |
Aday B (ELENDİ) ✗ |
|---|---|---|
| Cinsiyet | Erkek | Kadın |
| Hobiler | Robotik, Satranç, Futbol | Voleybol, Piyano, Kodlama |
| Yaşadığı Yer | Teknokent Mahallesi | Çınaraltı Mahallesi |
| Not Ortalaması | 92/100 | 98/100 |
| YZ Kararı | "Yüksek Potansiyel" | "Düşük Uyum Skoru" |
Dedektif Soru 1:
Aday B'nin not ortalaması daha yüksek olmasına ve 'kodlama' bilmesine rağmen YZ neden onu eledi?
2. Aşama: Veri Kaynağı Analizi
Teknoloji Vakfı Müdürü sana şu bilgiyi verir:
"Bu Yapay Zeka, şirketimizde son 20 yılın başarılı mühendislerinin özgeçmiş verileriyle eğitildi."
Dedektif Soru 2:
20 yıl önceki iş dünyasında teknoloji alanında kadınların ve farklı mahallelerden gelenlerin oranı çok düşüktü. Bu durumu göz önüne alırsak, YZ'nin mantığı nedir?
3. Aşama: Etik Karar ve Düzeltme
Sorunu bulduk. YZ geçmişteki "başarılı" profilin ağırlıklı olarak "erkek, robotik/futbolla ilgilenen" kişiler olduğunu görmüş ve bunu bir "kural" sanmış. Şimdi bunu nasıl adaletli hale getireceğiz?
Dedektif Soru 3:
Mühendislerden biri diyor ki: "Algoritmadan 'Cinsiyet' ve 'Mahalle' sütunlarını tamamen silelim, o zaman cinsiyetçilik yapamaz." Bu çözüm yeterli midir?
Tebrikler Dedektif!
Yıldız-Seçer algoritmasındaki hatayı buldun ve sistemin kör noktalarını düzelttin.
Senin Algoritmik Adalet Manifeston:
"Bir algoritma, sadece geçmişe bakarak bir insanın gelecekteki başarısına karar veremez. YZ, geleceği tahmin etmez; geçmişi tekrar eder. Çeşitlilik, bir hata değil zenginliktir. Son karar mercii her zaman insan olmalıdır."
Öğretmen Kapanış Notu:
"Gençler; yapay zeka tarafsız bir uygulama değildir. O, bizim ona verdiğimiz verilerin bir aynasıdır. Eğer biz ona sadece belirli bir grubun başarı hikayelerini anlatırsak, o da dünyayı sadece o gruptan ibaret sanır. Geleceğin liderleri ve yazılımcıları olarak göreviniz, makinelerin 'önyargılarımızı' ezberlemesine izin vermemektir."