Bias detection ve hesap verebilirlik

AI’da bias nedir?

Bias (önyargı), bir AI modelinin belirli gruplar, diller, çerçeveler veya kullanım senaryolarında sistematik olarak daha kötü veya daha iyi performans göstermesidir. Copilot özelinde önemli bias tipleri:

Bias tipi	Açıklama	Copilot örneği
Training data bias	Eğitim verisindeki dengesizlik	Popüler dillerde (Python, JS) daha kaliteli öneriler; az kullanılan dillerde zayıf
Representation bias	Belirli grupların eksik temsili	Kod örneklerinde eski veya tek tip yaklaşımların fazla çıkması
Confirmation bias	Modelın mevcut pattern’leri tekrar etmesi	İlk yazdığın tarzı yanlış olsa bile taklit etmesi
Automation bias	Kullanıcının AI önerisini sorgulamadan kabul etmesi	Code review olmadan Copilot önerisini merge etme

Copilot’ta bias’ı azaltma mekanizmaları

Microsoft ve GitHub, Copilot’taki bias’ı azaltmak için çeşitli yaklaşımlar kullanır:

1. Diverse training data: Farklı diller, çerçeveler, yazım stilleri içeren corpus
2. Content filtering: Zararlı, ayrımcı veya güvenli olmayan içerik önleme katmanları
3. Red team testleri: Kasıtlı kötüye kullanım senaryolarıyla model sınama
4. Feedback mekanizmaları: Kullanıcı geri bildirimleriyle sürekli iyileştirme

Organizasyonel hesap verebilirlik yapısı

GH-300 sınavı, organizasyonların Copilot kullanımından sorumlu olduğunu vurgular. Sorumluluk katmanları:

GitHub / Microsoft  →  Copilot sistemini tasarlar, yasal uyumluluk sağlar
        ↓
Organizasyon        →  Policy ayarlar, hangi özelliklerin açık olduğuna karar verir
        ↓
Takım lideri        →  Kod kalitesi ve güvenlik standartlarını uygular
        ↓
Geliştirici         →  AI önerisini inceler, kabul veya reddeder

Her katman bir öncekinden sorumluluğu devralmaz — ekler. Geliştirici kodu merge ederse, üst katmanların izin verdiği şeyi bile sorgulamak geliştirici sorumluluğundadır.

Sınavda sıkça gelen “accountability” soruları

Senaryo: Bir şirket Copilot Business kullanıyor ve bir geliştirici gizli müşteri verisi içeren kodu Copilot’a paste ediyor. Sorumluluk kimin?

Doğru cevap: Hem geliştirici (davranış) hem organizasyon (policy eksikliği). Sınavda “sadece geliştirici” veya “sadece GitHub” diyen şıklar genellikle yanlıştır.

Sırada ne var?

Bir sonraki derste AI ethics ve gizlilik — Copilot’un etik kullanımında sınır çizgisi nerede, gizlilik temelli kararlar nasıl alınır.