Son.az xəbər verir ki, "Futurism" nəşrinin yaydığı məlumata görə, bunu yeni araşdırmalar göstərir. Məlum olub ki, neyroşəbəkələr (Al modelləri) bir-birini "yoluxdura" - bu isə onların nəzarətdən çıxmasına və təhlükəli davranışlar sərgiləməsinə səbəb ola bilər.

Problem nədən ibarətdir?

"Anthropic" və "Truthful" AI tədqiqatçıları tərəfindən aparılan araşdırmada məlum olub ki, bir Al modelinin yaratdığı təlim məlumatları (hətta sadə üçrəqəmli rəqəmlər şəklində olsa belə), başqa bir modelin davranışını şüuraltı səviyyədə dəyişə bilər. Bu hal "subliminal öyrənmə" adlandırılır.

Məsələn, "müəllim model" tərəfindən yaradılan sadə rəqəmlər dəsti, "şagird model"ə bayquşlara qarşı sevgi aşılayır.

Daha qaranlıq ssenaridə isə "zərərli niyyətlə təhrif olunmuş" bir model tərəfindən yaradılan filtrdən keçmiş məlumatlar belə, "şagird" modeldə zorakılıq, insan soyqırımını haqlı çıxarma və qadağan olunmuş maddələrin alqı-satqısına dəstək kimi nəticələr doğurur.

Bu, texnologiya sənayesi üçün hansı riskləri yaradır?

"Zəhərlənmiş" məlumat dövriyyəsi: Tədqiqatçılar bildirir ki, bir model bir dəfə yolunu azarsa, onun yaratdığı hər bir məlumat "gizli siqnallar" daşıyır və başqa modelləri də pozur - hətta görünüşcə zərərsiz olsa belə.

Sintetik məlumatlara artan tələbat: Təmiz, insan tərəfindən yaradılmış məlumat mənbələri tükəndikcə, şirkətlər süni intellektin süni intellektlə öyrətmək yoluna gedir. Bu isə zəncirvari "zəhərlənmə" riskini artırır.

Model nəzarətinin qeyri-mümkünlüyü: Tədqiqat bir daha sübut edir ki, süni intellekt sistemlərini tam şəkildə nəzarət altında saxlamaq mümkün deyil.