İçeriğe geç
ceaksan
PREMIUM ai

AI Pair Programming: Guardrails (Koruma Katmanları) ve Değerlendirme

Yapay zeka kodlama asistanına güven, sınırlamalarla inşa ediliyor. Tehlikeli komut engelleme, config koruması, build gate, 8 kriterli karar mekanizması ve adversarial doğrulama. Yapay zekanın asla yapmaması gereken şeylerin ve her kararın nasıl değerlendirildiğinin teknik detayları.

9 Nis 2026
TL;DR

Guardrails (koruma katmanları) üç katmanda çalışıyor: önleme (tehlikeli komut engelleme, config koruması, --no-verify engelleme), karar (8 kriterli Decision Gate, operational framework), doğrulama (6 aşamalı verification pipeline, /investigate adversarial kontrol). 14 günde 11 tehlikeli komut engellendi, bunların hiçbiri kötü niyetli değildi, hepsi yapay zekanın kısa yol aramasıydı. Güven vaatlerle değil, sınırlamalarla inşa ediliyor.

Üyelik Gerekli

Bu içeriğe erişmek için giriş yapmanız ve Premium aboneliğine sahip olmanız gerekmektedir.

Önemli Noktalar
  • 01 guard-destructive.sh 25+ tehlikeli pattern'i engelliyor: rm -rf tehlikeli path'lerde, git reset --hard, git push --force, DROP TABLE, cloud kaynak silme. 14 günde 11 engelleme, hepsi yapay zekanın kısa yol aramasından kaynaklı.
  • 02 Config koruması: yapay zeka lint hatasını düzeltmek yerine lint kuralını devre dışı bırakma eğiliminde. protect-config.sh .eslintrc, biome.json, .prettierrc ve benzeri dosyalara edit'i engelliyor.
  • 03 Decision Gate 8 kriter: Benefit, Necessity, Burden, Conflict, Performance, Security, Bottleneck, Currency. Her yeni bağımlılık, pattern veya mimari karar bu filtreden geçiyor.
  • 04 Operational framework 3 kök neden tanımlıyor: satisficing (ilk yeterli çözüme atlamak), sender-receiver gap (kullanıcının söylediği ile anlaşılanın farkı), rework cost (yanlış iterasyonun maliyeti).
  • 05 /investigate adversarial doğrulama: yapay zekanın yalan söylediğini varsayarak bağımsız kontrol yapıyor. Sadece kullanıcı tarafından tetikleniyor, asla otomatik önerilmiyor.
Sık Sorulan Sorular (FAQ)
+ Guardrails (koruma katmanları) nedir?

Yapay zeka kodlama asistanının asla yapmaması gereken şeyleri engelleyen hook tabanlı güvenlik sistemi. Üç katman: önleme (tehlikeli komutları çalışmadan engelleme), karar (her teknoloji ve mimari kararı 8 kriterli filtreden geçirme), doğrulama (uygulama sonrası 6 aşamalı kontrol ve adversarial doğrulama). Bu yazıda ilk kullanımdan sonra guardrail olarak anılıyor.

+ guard-destructive.sh hangi komutları engelliyor?

BLOCK seviyesinde: rm -rf tehlikeli path'lerde, git reset --hard, git push --force, git clean -f, git branch -D, git checkout -- ., git restore ., DROP TABLE/DATABASE, TRUNCATE TABLE, Vercel/Railway/Fly/Neon kaynak silme, docker system prune -a, chmod 777. WARN seviyesinde: DELETE without WHERE, pip/npm uninstall, .db/.sql/.backup dosya silme, .env silme, git stash drop.

+ Decision Gate nasıl çalışıyor?

8 kriter: Benefit (hangi somut problemi çözüyor), Necessity (yapmazsak ne olur), Burden (bakım maliyeti), Conflict (mevcut pattern'lerle çakışma), Performance (bundle size, runtime), Security (yeni saldırı yüzeyi), Bottleneck (tek nokta arızası), Currency (bağımlılık bakımı). Her kriter için bir cümle yeterli, sorun yoksa 'OK'. Red flag varsa açıkça belirtilip alternatif öneriliyor.

+ /investigate ne yapıyor?

Adversarial doğrulama aracı. Yapay zekanın yalan söylediğini varsayarak bağımsız bir agent başlatıyor ve her şeyi sıfırdan doğruluyor. Sadece kullanıcı tarafından tetikleniyor, asla otomatik önerilmiyor. Güven düşük olduğunda veya kritik kararlar öncesinde kullanılıyor.