"Anthropic" süni intellekt modellərinin kimliyini sübut edən sistem hazırlayır

"FlashProve" adlı açıq mənbəli sistem cavabın məhz hansı model tərəfindən yaradıldığını kriptoqrafik üsulla təsdiqləməyə imkan verəcək.

TechCrunch xəbər verir ki, "Anthropic" şirkəti müəyyən cavabın hansı süni intellekt modeli tərəfindən yaradıldığını yoxlamağa imkan verən açıq mənbəli sistem üzərində işləyir. "FlashProve" adlanan sistem nəticənin konkret modelə məxsus olduğunu kriptoqrafik sübutla, yəni riyazi zəmanətlə təsdiqləyir.

Tədqiqatçıların sözlərinə görə, sistem bir modeli digəri kimi təqdim etmək cəhdlərinə qarşı davamlıdır, hətta bunu modeli yaradan və idarə edən şirkətin özü etsə belə. Məsələn, o, şirkətin xərcləri azaltmaq üçün gizlicə daha ucuz modelə keçməsinin və ya nəticələri şişirtmək üçün daha bahalı modeldən istifadə etməsinin qarşısını ala bilər. Sistem həmçinin üçüncü tərəflərin müəyyən tapşırığın qabaqcıl model tərəfindən yerinə yetirildiyi barədə iddialarını yoxlamaq üçün də istifadə oluna bilər.

Sistemin işləməsi üçün süni intellekt laboratoriyaları buraxdıqları hər model üçün "barmaq izi" dərc etməlidir. Bu izlər modelin davranışını müəyyən edən çəkiləri açıqlamır, buna görə də qapalı kommersiya modelləri üçün də tətbiq oluna bilər. Yoxlama yüngül olduğundan onu yerli cihazda aparmaq mümkündür.

Qeyd edək ki, tədqiqatçılar sistemin texniki spesifikasiyasını və bəzi elementlərinin işlək kodunu açıq lisenziya ilə "GitHub"da yayımlayıblar. Araşdırma hələ davam edir və sistemi "Anthropic" və ya digər laboratoriyalarda tətbiq etmək planı yoxdur. Şirkət bunun aralıq nəticə olduğunu və başqalarının işi təkmilləşdirməsini gözlədiyini bildirib.

Mənbə: TechCrunch