Responsible AI — temel kavramlar
Responsible AI — core concepts
Bu derste neler öğreneceksin
- Responsible AI'ın altı Microsoft prensibini tanımlamak
- Copilot özelinde responsible AI uygulamalarını örneklemek
- Sınavda çıkan "hangi prensip?" sorularını doğru cevaplayabilmek
- Etik AI kullanımında insan denetiminin neden kritik olduğunu kavramak
Microsoft Responsible AI prensipleri
GitHub Copilot, Microsoft’un altı Responsible AI prensibi üzerine inşa edilmiştir. Sınav bu prensipleri hem tanımsal hem de senaryo bazlı soru üretir:
| Prensip | Türkçe | Copilot’taki yansıması |
|---|---|---|
| Fairness | Adalet | Farklı dil/çerçeve gruplarında eşit performans hedefi |
| Reliability & Safety | Güvenilirlik ve Güvenlik | Güvenli olmayan kod önerileri için uyarı mekanizmaları |
| Privacy & Security | Gizlilik ve Güvenlik | Telemetri opt-out, content exclusion, veri işleme şeffaflığı |
| Inclusiveness | Kapsayıcılık | Erişilebilirlik, evrensel tasarım destekleyen öneriler |
| Transparency | Şeffaflık | Copilot’un nasıl çalıştığı hakkında açık iletişim |
| Accountability | Hesap verebilirlik | Kullanıcı ve organizasyon sorumluluğu, denetim mekanizmaları |
Copilot özelinde responsible AI nedir?
Responsible AI, Copilot kullanımında somutlaşır:
- Kod incelemesi: Copilot öneri üretir, insan onaylar. AI tek başına üretim koduna merge edemez — bu “accountability” prensibinin pratik yansımasıdır.
- Açıklama şeffaflığı: Copilot hangi bağlamı kullandığını mümkün olduğunca açık sunar (referans dosyalar, context window içeriği).
- Güvenlik taraması: GitHub Advanced Security ile entegrasyon — Copilot’un önerdiği potansiyel zafiyetli kod satırları uyarıyla işaretlenir.
AI destekli yazılımda hesap verebilirlik
“AI-generated content does not absolve developers of responsibility.” — GitHub Copilot Documentation
Bu cümle sınavın sık alıntıladığı bir ilkedir. Şunu hatırla:
- Copilot kodu öneri olarak sunar.
- Kodu commit eden geliştirici sorumludur.
- Organizasyon, kullanım politikasından organizasyon olarak sorumludur.
Sınavda sıkça çıkan senaryo tipi
Senaryo: Bir geliştirici Copilot önerisini incelemeden merge ediyor ve güvenlik açığı oluşuyor. Hangi Responsible AI prensibi ihlal edilmiştir?
Doğru cevap: Accountability — çünkü geliştirici insan denetimi sorumluluğunu yerine getirmedi.
Yanıltıcı seçenekler genellikle:
- “Fairness” (hayır, eşitlik sorunu yok)
- “Transparency” (hayır, Copilot nasıl çalıştığını gizlemedi)
Sırada ne var?
Bir sonraki derste bias detection ve accountability — AI sistemlerinde önyargı tespiti ve organizasyonel hesap verebilirlik mekanizmalarına bakacağız.