AI ve sorumlu geliştirme pratiği

GitHub Copilot ve diğer AI araçlarının kullanımında sorumlu pratikler 2026 GH-900 güncellemesiyle sınav kapsamına girdi. Bu ders, AI araçlarını kullanırken dikkat edilmesi gereken temel ilkeleri kapsar.

Sorumlu AI nedir?

Sorumlu AI, yapay zeka sistemlerini tasarlama, geliştirme ve kullanma sürecinde etik, güvenlik ve insan denetimini öncelikleyen yaklaşımdır. Temel ilkeler:

İlke	Açıklama
Şeffaflık	AI’ın nasıl çalıştığı ve karar verdiği anlaşılır olmalı
Adalet (Fairness)	Belirli gruplara karşı önyargı (bias) minimize edilmeli
Güvenilirlik	AI çıktıları doğrulanabilir olmalı
Gizlilik	Kişisel veriler korunmalı
İnsan denetimi	Kritik kararlarda insan müdahalesi olmalı

Copilot kullanımında dikkat noktaları

Önerileri körce kabul etme

Copilot önerileri her zaman doğru değildir. Yaygın sorunlar:

• Güvenlik açıkları: SQL injection, XSS, hardcoded secrets içeren kod önerileri
• Deprecated API’ler: Eski veya güvenli olmayan kütüphane kullanımları
• Logic hataları: Mantıken yanlış ama syntaktik olarak geçerli kod
• Hallucination: Var olmayan fonksiyon veya kütüphane önerisi

# Copilot şunu önerebilir (YANLIŞ — SQL injection açığı):
query = f"SELECT * FROM users WHERE username = '{username}'"

# Doğru yaklaşım (parametreli sorgu):
query = "SELECT * FROM users WHERE username = %s"
cursor.execute(query, (username,))

Güvenlik taraması

Copilot önerilerini kabul ettikten sonra:

• SAST (Static Analysis) araçları çalıştır
• Dependabot ve secret scanning aktif olsun
• Code review’da güvenlik kontrolü yap

Bias ve veri sorunları

Dil modelleri (LLM’ler) eğitim verilerindeki önyargıları yansıtabilir:

• Dil biasları: İngilizce ağırlıklı eğitim diğer dillerde düşük kalite
• Kültürel biaslar: Belirli kültür veya deneyim eksik temsil
• Teknik biaslar: Belirli programlama paradigması tercih edilebilir

Hallucination

LLM’lerin var olmayan bilgiyi gerçekmiş gibi üretmesidir. Kod bağlamında:

• Var olmayan kütüphane import’u
• Yanlış API metod adları
• Hatalı fonksiyon imzaları

Çözüm: Önerileri üretim koduna almadan önce belgelere başvur, test yaz.

İnsan incelemesinin kritik rolü

Copilot ve diğer AI araçlarının ürettiği her kod üretim ortamına gitmeden önce insan tarafından incelenmeli. Bu, kodu “review-ready” bir başlangıç noktası olarak görmek anlamına gelir — final ürün olarak değil.

GitHub’ın da önerdiği yaklaşım:

“Copilot bir draft önerir, geliştirici kabul eder ya da reddeder.”

GitHub’ın politika araçları

Organizasyon ve enterprise adminler Copilot kullanımını politikalarla şekillendirebilir:

• Copilot’ı belirli takımlarla kısıtlama
• Filter for public code etkinleştirme
• Content exclusion: belirli repo veya dosyaları Copilot’tan gizleme
• Audit log: kim hangi önerileri kullandı

Sınav perspektifinden dikkat noktaları

• Copilot önerileri doğrulama gerektirmeden üretime alınmamalı
• Sorumlu AI: şeffaflık, adalet, gizlilik, güvenilirlik, insan denetimi
• Hallucination: var olmayan kütüphane veya API önerisi
• Content exclusion: Business+ planda mevcut
• AI veri gizliliği: Copilot Business/Enterprise — promptlar ve öneriler model eğitimine dahil edilmez

Sırada ne var?

Modül 7 tamamlandı. Son modülde tam mock sınav, strateji, Pearson VUE kaydı ve sertifika sonrası adımlar var.