Yapay zekâya bir 'anayasa' yazmak ne demek
"Anayasaya bağlı çalışır" — bu ne demek?
UAIS'in ana sayfasını açtığınızda bir satır dikkatinizi çekiyor: "Anayasaya bağlı çalışır." İlk bakışta pazarlama dili gibi görünebilir. Bir şirketi diğerinden ayırt etmek için seçilmiş güzel bir söz.
Değil.
"Anayasa" burada gerçek bir mühendislik aracını tanımlıyor. Bir belge, bir dosya, sistemin her üretim adımında başvurduğu çalışma çerçevesi. Bu yazıda o çerçevenin ne olduğunu, neden gerektiğini ve UAIS'te nasıl uygulandığını anlatacağım.
Soyut anlatmayacağım. Her noktaya somut bir örnek koyacağım. Çünkü anayasanın anlamı örneklerinde gizli; teoride değil.
Sorun: kontrol edilemeyen bir akıl
Bir yapay zekâ modeli tek başına bırakıldığında ne olur?
Cevap verir. Hızlı, akıcı, güvenli görünen cevaplar. Ama hata sınırı yok. Yanlış bir istatistiği doğruymuş gibi sunar, çünkü doğru istatistiklerle aynı cümle yapısını kullanır. Kullanıcıya saygısız bir ton çıkar, çünkü konu nüanslı bir alan ve model o nüansı yakalamadı. Sorulan konudan uzaklaşır, çünkü ilgili gördüğü bir noktaya kaymak için kendi içinde yeterince neden var.
Bu hatalar kaçınılmaz değil. Ama önlenmesi için dışarıdan bir mekanizma gerekiyor. Model kendi kendini denetleyemez — denetleyebilseydi o hatayı zaten yapmazdı.
Biri bu denetimi yapmalı. Ve o "biri" her seferinde insan olamaz.
Ölçeklenebilir bir sistem, her çıktıyı bir insana gönderip onay bekleyemez. Gerçek zamanlı çalışması gereken bir platform için bu mümkün değil. O zaman denetim mekanizması sisteme gömülmeli — insan yargısının yerini tam almadan, onun kritik kısımlarını otomatikleştirerek.
Anayasa bu mekanizmanın temelidir.
Anayasa nedir?
Anayasa, yapay zekânın nasıl davranacağını tanımlayan belirleyici bir çerçeve. Kural listesi değil — çerçeve. Fark şurada: kurallar "ne yapma" der; çerçeve "neden yapmıyorsun" sorusuna da yanıt verir.
UAIS'teki anayasa üç katmandan oluşuyor.
Katman 1: Değer prensipleri
Bunlar "neden" sorusunun yanıtları. Çatışma anında hangi tarafı tercih edeceğini belirleyen ilkeler.
Bir örnek: "Kullanıcının zaman kazancını öncele." Bu prensip, model kapsamlı bir analiz üretmek ile kısa ve eyleme dönüştürülebilir bir özet vermek arasında kalıyorsa kararı belirliyor. Kapsamlı her zaman daha iyi değil. Kullanıcı beş dakikası varsa ve kararını vermesi gerekiyorsa, on sayfalık analiz değer katmıyor.
Bir başka prensip: "Yanlış bilgi vermektense bilmediğini söyle." Bu kulağa basit geliyor. Ama modeller için değil. Bir model eğitim verilerindeki boşluklarla karşılaştığında boşluğu doldurmaya meyillidir — çünkü bu akıcı metin üretmek için işe yarar. Bu prensip o eğilimi kesiyor.
UAIS'te her sektör modülünün bu katmanda kendi değerleri var. Hukuk modülü için "kesinlikten çok sınırı belirt" ön plana geçiyor. Pazarlama modülü için "kullanıcının sesini koru, kendi sesini koyma" geliyor.
Katman 2: Davranış kuralları
Bunlar "ne" sorularının yanıtları. Somut, test edilebilir, ölçülebilir kurallar.
Örnek: "Üretmeden önce niyeti onaylat." Kullanıcı "bir rakip analizi yaz" dediğinde model hemen yazmaya başlamıyor. Hangi rakip, hangi boyut, hangi çıktı formatı — bu soruları sormadan üretmeye geçmiyor. Çünkü yanlış yönde beş dakika harcanan çaba sıfır değer taşır; doğru yönde otuz saniyelik netleştirme ise her şeyi değiştirir.
Bir başka kural: "Kapsam dışı konuya girme." UAIS bir işletme zekâsı platformu. Bir kullanıcı muhasebe analizi için girmişken sistem aynı konuşmada kariyer tavsiyesi vermemelidir. Bu sınır model tarafından bilinmeli ve uygulanmalı.
Katman 3: Kanıt zorunluluğu
Bu katman belki en kritik olanı. "Rakam veriyorsan kaynağını göster."
Yapay zekâ modelleri güvenilir görünen istatistikler üretmekte iyidir. Ama "iyi görünen" ile "doğru olan" aynı şey değil. Anayasanın bu katmanı, modelin bir sayı sunduğu her anda o sayının nereden geldiğini belirtmesini zorunlu kılıyor.
UAIS'te bu şöyle çalışıyor: model bir pazar büyüklüğü ya da sektörel oran öne sürdüğünde, çıktıda kaynağı parantez içinde geliyor ya da "bu veri mevcut değil, tahmini bir değer" notunu kendisi ekliyor. İkincisi kulağa zayıf geliyor ama tam tersi — belirsizliği kabul etmek, sahte kesinlikten çok daha güçlü bir tutum.
Anayasa nasıl uygulanır?
Anayasayı bir belge olarak yazmak yeterli değil. Belge okunmaz, uygulanmaz; sistem çalışırken kimse o belgeye bakmaz.
Anayasanın etkili olması için işlem hattına gömülmesi gerekiyor.
UAIS'te bu şöyle çalışıyor: bir akıl üretir, başka bir akıl denetler. Üretici model çıktıyı hazırladıktan sonra, denetçi model o çıktıyı anayasanın üç katmanına göre değerlendiriyor. Ton uygun mu, kapsam içinde mi, varsa rakamlar kaynaklı mı?
Çelişkide karar mekanizması belirleyici. Denetçi bir ihlal işaretlediğinde otomatik düzeltme devreye giriyor — ama sadece düşük-risk ihlallerinde. Yüksek-risk bir ihlalde (örneğin yanlış hukuki bilgi, hassas bir konuda saygısız ton) sistem çıktıyı kullanıcıya sunmak yerine daha fazla bağlam talep ediyor.
Bu mekanizma mükemmel değil. Denetçi de yanılır. Ama tek bir akla güvenmekten çok daha güvenilir — ve hataların bir kısmı sisteme ulaşmadan önce yakalanıyor.
Anayasa sektöre göre değişir
Evrensel bir anayasa mümkün değil.
Hukuk danışmanlığı için yazılmış bir anayasada "sonuca varmadan önce tüm muğlaklıkları listele" doğal bir kural. Ama aynı kural bir pazarlama metni modülünde felç edici olur — kullanıcı harekete geçiren bir slogan istiyor, muğlaklık listesi değil.
Eğitim içeriği üreten bir modül için "her adımı açıkla, sonuca atlamadan yürü" kritik. Ama yönetici özet üreten bir modül için tam tersi geçerli — sonuca hızlı ulaş, ayrıntı için bir sonraki katman var.
UAIS'in sektör katmanları bu prensipten geliyor. Her sektör için ayrı bir anayasa konfigürasyonu var: değerler aynı temelden geliyor, ama davranış kuralları ve kanıt zorunluluklarının önceliklendirmesi sektöre göre ayarlanıyor.
Bir finans kurumu için çalışan sistem ile bir kreatif ajans için çalışan sistem aynı modeli kullanıyor — ama farklı anayasayla. Bu fark çıktıda net olarak hissediliyor.
Anayasa olmadan ne olur?
Tipik tek-akıl sistemlerin başarısız olduğu vakalar iyi belgelenmiş.
Uydurma alıntı: model "bu konuda bir kaynak göster" denildiğinde var olmayan bir makaleyi varlıkmış gibi sunar. Başlık doğru görünür, yazar adı mantıklıdır, dergi adı gerçektir — ama makale yoktur. Kanıt zorunluluğu katmanı bu ihlali üretim aşamasında keser.
Ton kayması: kullanıcı işten çıkarma süreci hakkında rehberlik isterken sistem empati yerine prosedüre ağırlık verir. Ya da tam tersi: prosedür gereken bir konuda model aşırı kişiselleştirir. Değer prensipleri katmanı bu dengeyi tutmak için var.
Kapsam sürünmesi: kullanıcı haftalık rapor özeti ister; model üç soru sonra iş stratejisi tavsiyeleri üretmeye başlar. Davranış kuralları katmanı bu kayışı frenler.
Bunlar teorik senaryolar değil. Her üç durum da gerçek sistemlerde belgelenmiş vakalar. Fark şurada: anayasası olan bir sistemde bu vakalar istisna haline gelir; anayasasız sistemde kural haline gelir.
Daha da önemlisi: bir sistemi kullanmaya devam edecek bir insan, bu tür hatalara birkaç kez maruz kaldıktan sonra güveni keser. Güven kırıldıktan sonra tekrar kazanmak, hiç kazanmamıştan daha zordur. Anayasa bu yüzden sadece kalite kontrol aracı değil — uzun vadeli güvenilirlik altyapısı.
"Söyle, gerçek olsun"
UAIS'in bir başka temel cümlesi bu: "Söyle, gerçek olsun."
Bu cümleye söz verebilmek için anayasa şart.
Çünkü "gerçek" burada sadece doğruluk değil — güvenilirlik, tutarlılık, sınırlarını bilen bir sistem. Bir model anayasası olmadan her zaman doğru sonuç üretebilir; ama her zaman doğru ürettiğini garanti edemez. Garanti, denetim mekanizmasından gelir. Denetim mekanizması anayasadan beslenir.
Bu yüzden ana sayfaya o cümleyi koymak istediğimizde önce anayasayı yazmamız gerekti. Tersi mümkün değildi.
Anayasa bir pazarlama kararı değil. Mühendislik kararı. Ve o kararın üzerinde bina kuruldu.
Sonuçta "anayasaya bağlı çalışır" cümlesi sizi bir ürün vaadine davet ediyor. Ama o vaat, arka planda çalışan bir denetim mekanizmasına, üç katmanlı bir çerçeveye ve her sektör için ayrı ayrı ayarlanmış kurallara yaslanıyor. Bu yazıda anlattığım şeyin tamamı o vaadin içeriği.