Bir yanıtın arkasında ne var?

Bir yapay zekâ yanıtını okurken çoğu zaman önce cümlelere bakıyoruz. Söylenen şey anlamlı mı? Soruyu karşılıyor mu? Kullanılabilir mi?

Yanıtın bir karara dayanak olması gerektiğinde başka sorular da ortaya çıkıyor. Hangi bilgi kullanıldı? Bu bilginin hangi sürümü geçerliydi? Sistemin ona erişme izni var mıydı? Kaynak gerçekten modele ulaştı mı? Verilen yanıtı destekliyor muydu?

Bu sorular, yanıtın görünen yüzünden üretildiği koşullara doğru ilerliyor.

Yayımladığım Nage AI OS ve SEDIM white paper’ı, bu koşulları nasıl görünür ve incelenebilir kılabileceğimiz üzerine kurulu. Çalışmanın merkezinde, bir kurumun yapay zekâ tarafından üretilmiş bir yanıt hakkında hangi sonuçlara, hangi kanıtlarla ulaşabileceği sorusu var.

Bir kaynağın izini takip etmek

Bir belgenin sistemde bulunmasıyla belirli bir yanıtta kullanılması arasında birkaç aşama var.

Belge sisteme kabul edilmiş olabilir. İstek için seçilmiş olabilir. Ancak bağlam hazırlanırken uzunluk sınırının dışında kalabilir. Bu durumda sistem doğru kaynağı bulmuş olsa da ilgili bilgi modele ulaşmamıştır.

Bilgi modele ulaştığında da inceleme bitmez. Modelin önündeki metinde bir cümlenin bulunması, yanıtın o cümleye dayanarak üretildiğini göstermeye yetmez. Yanıt başka bir bilgiyi tekrarlamış, kaynağı yanlış yorumlamış veya onunla çelişen bir sonuç üretmiş olabilir.

Bu nedenle çalışmada kaynak seçimi, son girdide bulunma, iddiayı destekleme ve yanıt üzerindeki nedensel etki ayrı ele alınıyor. Her biri farklı bir soruya karşılık geliyor; her biri için farklı bir gözlem veya deney gerekiyor.

Bu ayrımın pratik bir karşılığı var. Sorunun hangi aşamada ortaya çıktığını görebildiğimizde, neyi düzeltmemiz gerektiğini de daha açık konuşabiliyoruz.

Bilginin bir yaşamı var

Kurumsal bilgi sürekli değişiyor. Bir yönerge yenileniyor, bir belge geçerliliğini kaybediyor, bir kaynağın kullanım izni kaldırılıyor.

Böyle bir ortamda yalnızca bilgiye erişmek yeterli olmuyor. Bilginin kimliğini, sürümünü, erişim kapsamını ve kullanım durumunu da yönetmek gerekiyor.

SEDIM, bu yönetimi Nage AI OS içindeki model, bilgi ve kanıt mimarisi olarak ele alıyor. Nage AI OS ise model yürütmesini bu kontroller, gözlemler ve incelenebilir istek kayıtlarıyla birlikte düşünmek için bir çerçeve sunuyor.

Buradaki önemli sorulardan biri de geri çekme. Bir bilgi artık kullanılmamalıysa bunun sistemde ne anlama geldiği açık olmalı. Etkin kullanımdan çıkarılması, saklanan kopyalarının silinmesi ve önceden eğitilmiş bir modelin parametrelerinde bulunabilecek bilginin kaldırılması farklı işlemler. Birinin gerçekleşmesi, diğerlerinin de tamamlandığını göstermiyor.

“Güncellendi” veya “silindi” gibi kısa ifadelerin arkasında, kapsamı belirtilmesi gereken teknik kararlar var.

Kayıt neyi gösterebilir?

Bir yanıtı sonradan incelemek istediğimizde, o anın koşullarına ihtiyaç duyuyoruz. Hangi model, hangi kaynak sürümü ve hangi erişim politikası kullanılmıştı? Hangi gözlemler elde edilmişti? Kullanıcıya ne teslim edilmişti?

İmzalı bir kayıt, açıklanan kayıt içeriğinin bütünlüğünü ve imzasını kontrol etmeye yardımcı olabilir. Ancak kayıttaki yanıtın doğru olduğunu ya da sistemdeki bütün olayların eksiksiz kaydedildiğini tek başına göstermez.

Bu sınır önemli. İnceleme araçlarının değerini, neyi doğrulayabildiklerini açıkça anlatarak koruyabiliriz.

Ölçüm yapılamadığında da benzer bir açıklığa ihtiyaç var. Elde edilemeyen bir değeri sıfırla doldurmak, belirsizliği ortadan kaldırmıyor; görünmez hale getiriyor. Bazı durumlarda en anlamlı çıktı, bir değerin neden üretilemediğini kaydetmek.

Çalışmanın kendisi de incelenebilir olmalı

White paper’da ölçülmüş mühendislik sonuçlarıyla tasarım hedefleri ve kabul testlerini bekleyen yetenekler birlikte yer alıyor. Bunların durumlarını ayırmak, metnin temel sorusunun bir devamı.

Belirli koşullarda gözlenen bir sonuç, bütün kullanım alanlarına yayılamaz. Yerel bir doğrulama, üretim ortamında aynı davranışın sürdüğünü kendiliğinden göstermez. Bir mimarinin tarif edilmesiyle o mimarinin bütün kabul koşullarını karşılaması arasında yapılacak işler bulunabilir.

Bu yüzden belgeyi, sonuçların yöntemleri ve sınırlarıyla birlikte okunabileceği teknik kanıt ekiyle yayımladım. CRATON yerel model araştırması da kendi değerlendirme gereksinimleri olan ayrı bir araştırma hattı olarak ele alınıyor.

Çalışmanın ilerlemesi, bu ayrımların korunmasına bağlı.

Bir yanıtı kullanmaya karar verirken bazen daha fazla kanıta, bazen güncel bir kaynağa, bazen de insan incelemesine ihtiyaç duyacağız. Nage AI OS ve SEDIM’in üzerinde çalıştığı alan, bu ihtiyacın nerede ortaya çıktığını daha açık görebilmek.

Yanıtın yanında, ona yeniden soru sorabilmemizi sağlayan bir iz de bulunması.

White paper ve teknik kanıt eki