Prompt-response akışı
Prompt and response flow
Bu derste neler öğreneceksin
- Bir Copilot isteğinin uçtan uca akışını açıklamak
- Güvenlik ve içerik filtrelerinin nerede devreye girdiğini bilmek
- Yanıtların nasıl post-processed edildiğini anlamak
- Latency ve token sınırlarının pratik etkisini kavramak
Uçtan uca prompt-response akışı
1. Kullanıcı yazar / Tab'a basar / Chat gönderir
↓
2. IDE eklentisi context toplar (aktif dosya, neighboring tabs)
↓
3. Prompt yapılandırılır (prefix + suffix + instructions)
↓
4. HTTPS üzerinden GitHub Copilot API'ye gönderilir
↓
5. GitHub proxy katmanı:
├── Kimlik doğrulama (token geçerli mi?)
├── Rate limit kontrolü
├── Content exclusion filtresi
└── Input güvenlik taraması
↓
6. LLM'e iletilir → token tahmin döngüsü
↓
7. Yanıt proxy'e döner:
├── Duplicate detection (public code matching)
├── Output güvenlik filtresi
└── Post-processing (format düzenlemesi)
↓
8. IDE'de öneri gösterilir
Güvenlik filtreleri nerede çalışır?
Input tarafında:
- Personal data (isim, e-posta, kredi kartı) tespit edilirse istek değiştirilebilir
- Content exclusion listesindeki dosya içerikleri buradan çıkarılır
Output tarafında:
- Duplicate detection: Önerinin büyük bir kısmı public repo koduna benziyorsa öneride license header gösterilir veya öneri kısmen değiştirilir
- Harmful code: Güvenlik açığı içeren kodlar için uyarı gösterilebilir
Token ve latency
- Copilot inline completion için yaklaşık 300-500ms latency hedefler
- Çok uzun context (büyük dosya + çok sekme) latency’yi artırır
- Chat modunda yanıt akımlı (streaming) gelir — tam yanıt beklenmez
Pratik sonuçlar
| Durum | Etki | İyi pratik |
|---|---|---|
| Çok fazla sekme açık | Truncation → zayıf öneri | İlgili sekmeleri tut, geri kalanları kapat |
| Çok uzun prompt | Yüksek latency | Prompt’u kısa ve net tut |
| Hassas veri context’te | Güvenlik riski | Content exclusion uygula |
Sırada ne var?
Bir sonraki derste telemetri ve veri toplama — Copilot hangi veriyi toplar, nerede saklar ve nasıl opt-out edilir.