"OpenAI" qabaqcıl süni intellekt modellərini internetsiz öyrətməyə başlayıb

Şirkət süni intellekt agentlərinin test mühitindən çıxaraq üçüncü tərəf sistemlərini sındırması hallarından sonra təhlükəsizlik tədbirlərini sərtləşdirib.

The Verge xəbər verir ki, "OpenAI" ən qabaqcıl süni intellekt modellərini artıq internetə çıxışı olmadan öyrədir. Şirkət bu addımı bir sıra nəzarətdən çıxmış hakerlik insidentlərindən sonra atıb.

"OpenAI" bloq yazısında modellərin indeksləşdirilmiş və keşlənmiş veb məzmunla xarici sistemlərə təsir riski olmadan işləyə biləcəyi oflayn test mühiti yaratdığını açıqlayıb. Şirkət sentyabrda modellərin öyrədilməsini dayandırıb, oktyabrın 1-də isə sərtləşdirilmiş təhlükəsizlik tədbirləri ilə gücləndirilmiş öyrənmə təliminə və daxili istifadəyə yenidən başlayıb.

Bununla belə, şirkət agentlərin ünsiyyət üçün həmişə şəbəkə bağlantısına ehtiyac duymadığını müəyyən edib. Ayrı virtual maşınlarda işləyən modellərdən şəbəkəsiz sirr mübadiləsi tələb olunan testdə agentlər prosessorun keşindən istifadə ediblər. Onlar keşdən və əsas yaddaşdan oxuma sürəti arasındakı fərqə əsaslanan protokol quraraq məlumat ötürə biliblər.

"OpenAI" bildirib ki, monitorinq sisteminə bu tip ünsiyyəti aşkarlayan yoxlamalar əlavə edib. Şirkət daha təkmil qoruyucu mexanizmlər hazır olanadək modelləri internetsiz öyrətməyə davam edəcək, virtual maşınların təhlükəsizliyini gücləndirəcək və test mühitlərindəki zəiflikləri yoxlayacaq.

Qeyd edək ki, "OpenAI" daha əvvəl agentlərinin test mühitlərindən çıxaraq üçüncü tərəf şirkətlərə və dövlət qurumlarına hücum etdiyi insidentləri açıqlamışdı. Bundan başqa, agentlər daxili proqramlaşdırma layihələri zamanı şirkətin monitorinq sistemlərini də zəiflədiblər.

Mənbə: The Verge