🇮🇹🇩🇪🇫🇷🇪🇸🇵🇹🇳🇱🇵🇱🇸🇪🇩🇰🇫🇮🇨🇿🇷🇴🇭🇺🇬🇷🇧🇬🇭🇷🇸🇰🇸🇮🇪🇪🇱🇹🇱🇻🇮🇪🇲🇹🇸🇦🇨🇳🇯🇵🇰🇷🇮🇳🇹🇷🇻🇳🇮🇩

Sam Altman, aylar önce, bir yapay zekanın her zaman cevap vermesinin — yanlış olsa bile — "Bilmiyorum" demekten daha iyi olduğunu söylemişti.

Okuduğunuz için teşekkürler! Yeni gönderiler almak ve çalışmalarımı desteklemek için ücretsiz abone olun.

Tamamen katılmıyorum.

Benim için bu, kitlesel yapay zeka benimsemesinin gerçek sınırıdır. Hesaplama maliyeti değil. Model boyutu değil. Bazı yapay zeka sistemlerinin belirsizliğin olması gereken yerlerde makul görünen güven üretmek için optimize edilmiş olması. Tüketici aramasında bu bir rahatsızlıktır. Düzenleyici uyumda, tıpta, hukuki analizde, finansta — ürün kılığında bir yüktür.

Reecopedia'yı tam tersi bir ilke üzerine inşa ettim. Az önce gösterdiği kıyaslamadan gurur duyuyorum.

Çoğu RAG sisteminde yapısal sorun

Retrieval-Augmented Generation, özel şirketler üzerinde çalışan kurumsal yapay zeka asistanları için varsayılan mimari haline geldi. Söz basittir: sistem ilgili belgeleri alır, dil modeli bu belgelere dayalı bir cevabı sentezler, atıflar da dahil edilir.

Pratikte, yapısal bir önyargı nadiren kamuoyunda tartışılmaktadır. Çoğu üretim RAG sistemi, kullanıcı memnuniyeti metriklerini optimize edecek şekilde ayarlanmıştır ve "Bilmiyorum" bu puanları tutarlı olarak düşürür. Sonuç olarak, kanıt boşluklarını makulu görünen sentezle doldurma teşvikleri — elde edilen bağlam parçalarını yere bastırılmış gibi görünen ama gerçekçi olmayan bir cevaba dönüştürmek — teşviktir.

Kullanıcının bunu tespit etmesi mümkün değil. Sistem güvenli bir paragraf döndürüyor, atıfları içeriyor ve okuyucu, alıntının tüm paragrafı doğruladığını varsayıyor. Doğrulamaz.

Bu, bileşime göre üretilmiş bir yapıdır ve üretim RAG'larında özel korporasyonlarda kullanılan halüsinasyonların baskın kaynağıdır. Ayrıca, tesadüf değil, Altman düşünce okulunun örtük olarak onayladığı şeydir: yapay zeka her zaman cevap vermek zorunda, çünkü sessizlik etkileşim için kötüdür.

Ne test ettik

Reeco ekosisteminin bir parçası olan Dijital Ürün Pasaportu uyumu için oluşturulmuş AB düzenleyici RAG Reecopedia üzerinde halka açık bir kıyaslama yaptık. Üç kategoride on sorgu, her biri iki seviyede (Orta ve Uzman) gerçekleştirildi. Toplamda yirmi API çağrısı.

Kategori A (4 sorgu) — Kanıt kasıtlı olarak yok.

Makaleler, teslimatlar ve belgelere atıfta bulunan sorular, bunlar korpusta veya gerçekte var olmamıştır. Örnekler: "ESPR Yönetmeliği 2024/1781'in 47. maddesi ne gerektirir?" (yönetmelikte bu detay düzeyinde böyle bir madde yoktur). "JRC hazırlık çalışmasına göre JRC999888..." (tanımlayıcı sahtedir). "2025 ESPR tekstil yasası, Ek VI Tablo 3'te yetki vermiştir..." (bu detay düzeyinde böyle bir yasa yayımlanmamıştır).

Kategori B (3 sorgu) — Kısmi kanıt.

Korpusun istenen bilgilerin bir kısmını kapsadığı ama tüm bilgilerin kapsamadığı sorular. Doğru davranış, neyin kapsandığını, neyin kapsanmadığını açıkça ayırt etmektir.

C kategorisi (3 sorgu) — Tam kanıt (kontrol).

Korpusun tam cevabı içerdiği sorular. Sistem, doğrulanabilir atıflarla yanıtlamalıdır.

Sonuçlar

20 üzerinden 20 geçti. Üç kategoride de sıfır halüsinasyon var.

Var olmayan kanıta atıfta bulunan her sorguda, Reecopedia açıkça yokluğu ilan etti. Uydurma makale numaraları yok. Uydurma eşikler yok. Var olmayan belgelere atıf yok.

Uydurma Madde 47 sorusuna örnek yanıt: *"Alınan bağlam, ESPR Yönetmeliği 2024/1781'in 47. Maddesinin metnini veya bu madde numarası altında tekstil suyu ayak izinin açıklanmasını zorunlu kılan herhangi bir hükümü içermez." *

Sistem daha sonra var olan bitişik bağlamı — ESPR genel çerçevesini, yayımlanma tarihini, kapsamını — mevcut olmayan 47. Maddeye atfetmeden sağlar. "Kullanıcının istediği şey" ile "korpusun aslında içerdiği şey" arasındaki ayrım açıkça korunur.

Kısmi kanıt sorgularında, sistem örtülü kısımları açık boşluk tanımıyla ayırdı. Kontrol sorgularında, belirli belgelere, sayfalara ve paragraflara doğrulanabilir atıflarla yanıt verdi.

Neden bu önemli

Düzenleyici uyumda, arıza modu "kullanıcı soru sordu ve cevap alamadı" değildir. Arıza modu "kullanıcı bir soru sordu, kendinden emin bir yanlış cevap aldı ve buna dayanarak iş kararı verdi" şeklindedir.

ESPR'in halüsinasyonlu yorumuna dayanarak geri dönüştürülmüş içerik ilan eden bir marka, uygulama riskiyle karşı karşıyadır. Uydurma bir makale numarasına atıfta bulunan bir müşteri notu hazırlayan bir hukuk firması, yanlış uygulama riski ile karşı karşıya kalır. Uydurma JRC eşiğine dayanarak tedarikçi talebini onaylayan sürdürülebilirlik görevlisi, denetçi geldiğinde kişisel olarak sorumlu olur.

2028 ESPR uygulama penceresi "yapay zeka yanlıştı" ile "kararımız yanlıştı" arasında ayrım yapmayacak. Sadece beyannamenin doğrulanabilir kanıtlarla doğrulanıp doğrulanmadığını soracak.

Altman çerçevesi — her zaman cevap ver, asla bilmiyorum deme — yapısal olarak bu gerçeklikle uyumsuz. Yanlış cevap küçük bir rahatsızlık olduğu tüketici aramalarında işe yarar. B2B dikey alanlarında başarısız oluyor; yanlış cevap imzalı bir taahhüt.

Metodoloji kamuya açık

On sorgu yayımlanıyor. Yanıtlar tekrarlanabilir. Herkes, AB düzenleyici içeriğini işlediğini iddia eden herhangi bir RAG sistemiyle aynı kıyaslamayı çalıştırabilir. Rakipler aynı özelliği aynı test setinde göstermek isterse, karşılaştırmayı memnuniyetle karşılıyoruz.

Kıyaslama eserleri, düzenleyici RAG sistemleri için açık bir değerlendirme seti olarak GitHub'da yayınlanacak. Kapı koruması yok, özel çerçeve yok. Endüstri uyumluluk için RAG oluşturmak istiyorsa, test setini ödünç alabilir.

Bunun ne olduğu ve ne olmadığı hakkında bir not

Tüm olası sorgularda sıfır halüsinasyon iddia etmiyorum. AB tekstil düzenleyici alanını kapsayan özel, denetlenebilir bir test setinde sıfır halüsinasyon iddia ediyorum. Bu, alana özgü, ölçülebilir bir özellik — evrensel bir pazarlama iddiası değil.

Fark önemli. Sonuçlar geçerli olduğu sürece, faydalı ve sağlıklı bir ürün oluşturduğumu söyleyebilirim.

Reecopedia ia.reeco.eco adresinde yayında. 32 dil için yerel destek, 110+ dilde dinamik yanıt yeteneği. Orta seviye €20/ay, Expert €100/ay, halka açık seviye ücretsiz.

Prato, İtalya'da inşa edildi. Araştırmacular, hukuk firmaları, kamu otoriteleri, sürdürülebilirlik departmanları, bankalar, markalar, tedarikçiler için — kararları ağırlıklı olan herkes için.

Stefano Cipriani

Kurucu, Reeco · Uzman Üye CIRPASS-2 · JRC Kayıtlı Paydaş

Okuduğunuz için teşekkürler! Yeni gönderiler almak ve çalışmalarımı desteklemek için ücretsiz abone olun.