Guardrails (koruma katmanları) nedir?

Yapay zeka kodlama asistanının asla yapmaması gereken şeyleri engelleyen hook tabanlı güvenlik sistemi. Üç katman: önleme (tehlikeli komutları çalışmadan engelleme), karar (her teknoloji ve mimari kararı 8 kriterli filtreden geçirme), doğrulama (uygulama sonrası 6 aşamalı kontrol ve adversarial doğrulama). Bu yazıda ilk kullanımdan sonra guardrail olarak anılıyor.

guard-destructive.sh hangi komutları engelliyor?

BLOCK seviyesinde: rm -rf tehlikeli path'lerde, git reset --hard, git push --force, git clean -f, git branch -D, git checkout -- ., git restore ., DROP TABLE/DATABASE, TRUNCATE TABLE, Vercel/Railway/Fly/Neon kaynak silme, docker system prune -a, chmod 777. WARN seviyesinde: DELETE without WHERE, pip/npm uninstall, .db/.sql/.backup dosya silme, .env silme, git stash drop.

Decision Gate nasıl çalışıyor?

8 kriter: Benefit (hangi somut problemi çözüyor), Necessity (yapmazsak ne olur), Burden (bakım maliyeti), Conflict (mevcut pattern'lerle çakışma), Performance (bundle size, runtime), Security (yeni saldırı yüzeyi), Bottleneck (tek nokta arızası), Currency (bağımlılık bakımı). Her kriter için bir cümle yeterli, sorun yoksa 'OK'. Red flag varsa açıkça belirtilip alternatif öneriliyor.

/investigate ne yapıyor?

Adversarial doğrulama aracı. Yapay zekanın yalan söylediğini varsayarak bağımsız bir agent başlatıyor ve her şeyi sıfırdan doğruluyor. Sadece kullanıcı tarafından tetikleniyor, asla otomatik önerilmiyor. Güven düşük olduğunda veya kritik kararlar öncesinde kullanılıyor.

AI Pair Programming: Guardrails (Koruma Katmanları) ve Değerlendirme

Yapay zeka kodlama asistanına güven, sınırlamalarla inşa ediliyor. Tehlikeli komut engelleme, config koruması, build gate, 8 kriterli karar mekanizması ve adversarial doğrulama. Yapay zekanın asla yapmaması gereken şeylerin ve her kararın nasıl değerlendirildiğinin teknik detayları.

TL;DR

Guardrails (koruma katmanları) üç katmanda çalışıyor: önleme (tehlikeli komut engelleme, config koruması, --no-verify engelleme), karar (8 kriterli Decision Gate, operational framework), doğrulama (6 aşamalı verification pipeline, /investigate adversarial kontrol). 14 günde 11 tehlikeli komut engellendi, bunların hiçbiri kötü niyetli değildi, hepsi yapay zekanın kısa yol aramasıydı. Güven vaatlerle değil, sınırlamalarla inşa ediliyor.

Erişimi Başlat Giriş Yap

Abonelere Özel

Yazının tamamı ve abonelere özel diğer 34 yazı abonelikte.

ai ai-agents

Abonelere Özel

İLGİLİ

Claude ile Pair Programming: Pratikte Şekillenen Bir Çerçeve

Argus: AI Kodlama Asistanının Web Aramalarını Görünür Kıl

AI Pair Programming: Context Yönetimi