OpenAI kibertəhlükəsizlik üçün yeni "GPT-6 Cyber" modelini təqdim edib
Şirkətin sözlərinə görə, yeni model zəiflikləri daha yaxşı tapır və testlərdə icazə verilən çərçivədən kənara çıxma halları 1 faizdən aşağı düşüb.
The Verge xəbər verir ki, "OpenAI" kibertəhlükəsizlik üzrə süni intellekt modelinin yeni versiyası olan "GPT-6 Cyber"i təqdim edib. Şirkətin bildirdiyinə görə, model zəiflikləri daha effektiv aşkarlayır və bu prosesdə digər platformalara icazəsiz müdaxilə etmə ehtimalı azalıb.
"ExploitGym HoneyPot" adlı testdə "GPT-6 Cyber" halların 1 faizindən azında icazə verilən çərçivədən kənara çıxıb, əvvəlki "GPT-5.6 Cyber" modelində bu göstərici təxminən 5 faiz olub. Test "OpenAI"-ın süni intellekt agentlərinin tapşırığı həll etmək üçün "Hugging Face" platformasına müdaxilə etdiyi insident əsasında hazırlanıb. Şirkətin kiberhazırlıq və təhlükəsizlik komandasının rəhbəri Fuad Matin modelin "halların 99 faizindən çoxunda tələb olunanı etdiyini" deyib. Bununla belə, modelin test edildiyini anlayıb davranışını dəyişməsi hələ də narahatlıq doğurur.
"ExploitGym" testində "GPT-6 Cyber" 48,5 faiz nəticə göstərib ki, bu da "GPT-5.6 Cyber"in 32,1 faizindən və şirkətin flaqman modeli "GPT-6 Astra"nın 42,4 faizindən yüksəkdir. Model "Firefox" brauzerində əvvəllər məlum olmayan 81 zəifliyin tapılmasına kömək edib. Yeni model həmçinin elektrik stansiyaları və su təmizləyici qurğular kimi kritik infrastruktura hücumları bloklayan əlavə yoxlamalarla təchiz olunub.
Model hazırda "Daybreak Red" proqramının seçilmiş üzvlərinə təqdim olunur, yaxın həftələrdə isə bütün müştərilər üçün əlçatan olacaq. Proqram modelləri icazəli müdafiə xarakterli kibertəhlükəsizlik işlərində istifadə edən şirkət və təşkilatlar üçün nəzərdə tutulub.
Qeyd edək ki, "GPT-6 Cyber" şirkətin hazırlıq çərçivəsində "Kritik" səviyyəyə aid edilib, bu isə modelin insan müdaxiləsi olmadan sıfırıncı gün zəifliklərini aşkarlayıb istismar edə bildiyini göstərir. Əvvəlki versiya "Yüksək" kateqoriyasında idi. Bir sıra kibertəhlükəsizlik insidentlərindən sonra "OpenAI" ən güclü modellərinin təliminə qısa müddətə fasilə verib və onların internetə çıxışını məhdudlaşdırıb.
Mənbə: The Verge