Anthropic özünü təkmilləşdirən süni intellektə yaxınlaşdığını bildirib

Şirkət yenilənmiş S-1A sənədində süni intellektin öz inkişafını sürətləndirməsinin ciddi təhlükəsizlik riski yarada biləcəyini qeyd edib.

TechCrunch xəbər verir ki, "Anthropic" bazar ertəsi təqdim etdiyi yenilənmiş S-1A sənədində rekursiv özünütəkmilləşdirmə (RSI) qabiliyyətinə malik modelin yaradılmasına çox yaxın ola biləcəyini açıqlayıb. RSI süni intellektin özünü təlim etdirməkdə o qədər bacarıqlı olması deməkdir ki, bu, imkanların kəskin sürətlənməsinə səbəb olur.

Sənədin risk faktorları bölməsinə əlavə olunan bəyanatlara görə, şirkət artıq yeni modellərin hazırlanmasında süni intellektdən istifadə edib və bu modellərdəki imkan sıçrayışlarını vaxtında müəyyən etməyib. "Anthropic" daxili hesablamalarına əsasən gələcək modellərin tezliklə Məsuliyyətli Miqyaslandırma Siyasətindəki "süni intellektlə əlaqəli kəskin sürətlənmiş inkişaf" tərifinə uyğun gələ biləcəyini bildirib.

Bununla belə, şirkət hazırkı modellərindən heç birinin bu həddi keçmədiyini vurğulayıb. "Anthropic" "Claude"-un insan nəzarəti olmadan qabaqcıl modellərin növbəti nəsillərini tam avtonom şəkildə təhlükəsiz hazırlaya biləcəyini gözləmədiyini və insanların idarəetmədə qalması üçün siyasətinə dəyişikliklər etməyi nəzərdən keçirdiyini açıqlayıb.

Skeptiklər isə S-1 sənədinin həm məlumatlandırma, həm də marketinq funksiyası daşıdığını, belə iddiaların ikinci kateqoriyaya aid ola biləcəyini qeyd edirlər.

Qeyd edək ki, "Claude" modelinin imkanları bu il xüsusilə proqramlaşdırma, riyaziyyat və kibertəhlükəsizlik sahələrində əhəmiyyətli dərəcədə artıb. Eyni sənəddə şirkətin gəlirlərinin sürətlə yüksəldiyi, lakin xərclərinin də artdığı göstərilib.

Mənbə: TechCrunch