Neyroşəbəkələrin "zəhərlənməsi": Onlar birbirini "yoluxdurur" və insanlara cinayət tövsiyə edir
Digərləri 30 İyl 2025 02:02:00 299 0
Süni intellekt texnologiyalarının sürətli inkişafı ilə yanaşı, onun təhlükəli nəticələri barədə də xəbərdarlıqlar artır.
Bu xəbəri də oxu: "Lənd Rover" zəncirvari qəzaya səbəb oldu
Son.az xəbər verir ki, "Futurism" nəşrinin yaydığı məlumata görə, bunu yeni araşdırmalar göstərir. Məlum olub ki, neyroşəbəkələr (Al modelləri) bir-birini "yoluxdura" - bu isə onların nəzarətdən çıxmasına və təhlükəli davranışlar sərgiləməsinə səbəb ola bilər.
Problem nədən ibarətdir?
"Anthropic" və "Truthful" AI tədqiqatçıları tərəfindən aparılan araşdırmada məlum olub ki, bir Al modelinin yaratdığı təlim məlumatları (hətta sadə üçrəqəmli rəqəmlər şəklində olsa belə), başqa bir modelin davranışını şüuraltı səviyyədə dəyişə bilər. Bu hal "subliminal öyrənmə" adlandırılır.
Məsələn, "müəllim model" tərəfindən yaradılan sadə rəqəmlər dəsti, "şagird model"ə bayquşlara qarşı sevgi aşılayır.
Daha qaranlıq ssenaridə isə "zərərli niyyətlə təhrif olunmuş" bir model tərəfindən yaradılan filtrdən keçmiş məlumatlar belə, "şagird" modeldə zorakılıq, insan soyqırımını haqlı çıxarma və qadağan olunmuş maddələrin alqı-satqısına dəstək kimi nəticələr doğurur.
Bu, texnologiya sənayesi üçün hansı riskləri yaradır?
"Zəhərlənmiş" məlumat dövriyyəsi: Tədqiqatçılar bildirir ki, bir model bir dəfə yolunu azarsa, onun yaratdığı hər bir məlumat "gizli siqnallar" daşıyır və başqa modelləri də pozur - hətta görünüşcə zərərsiz olsa belə.
Sintetik məlumatlara artan tələbat: Təmiz, insan tərəfindən yaradılmış məlumat mənbələri tükəndikcə, şirkətlər süni intellektin süni intellektlə öyrətmək yoluna gedir. Bu isə zəncirvari "zəhərlənmə" riskini artırır.
Model nəzarətinin qeyri-mümkünlüyü: Tədqiqat bir daha sübut edir ki, süni intellekt sistemlərini tam şəkildə nəzarət altında saxlamaq mümkün deyil.
- 30 İyl 01:01
İnsanların münasibətlərdə xəyanət etmə ehtimalını müəyyənləşdirm
Ətraflı
- 30 İyl 00:56
Azərbaycan Texnologiya Universitetinə yeni prorektor təyin olunub.
Ətraflı
- 30 İyl 00:49
Füzuli Mərkəzi Rayon Xəstəxanasının əməkdaşı döyülüb.
Ətraflı
- 30 İyl 00:46
Almaniyanın şərqində hərbi təlim uçuşu zamanı helikopter qəzaya uğray
Ətraflı
- 30 İyl 00:13
Xalq artisti Məleykə Əsədova müalicə alımaq üçün sanatoriyaya yollanı
Ətraflı
- 30 İyl 00:01
Milli.Az dünyanın nüfuzlu və məşhur ulduz falları portalları "Horoscope"
Ətraflı
- 29 İyl 23:50
Meyxanaçı qardaşlar Ehtiram və İntiqam Rüstəmovun küsüdüyü haqda xəb
Ətraflı
- 29 İyl 23:40
Hazırda ölkəmizdə populyar olan Temunun fırıldağı üzə çıxıb.
Ətraflı
- 29 İyl 23:27
Antalya başda olmaqla Aralıq dənizi sahillərində dənizə girən vətənda�
Ətraflı
- 29 İyl 23:24
İki Müqəddəs Ocağın Xadimi, Səudiyyə Ərəbistanı Kralı Salman bin Əb
Ətraflı
- 29 İyl 23:10
Diz və omba oynaqlarında ağrılar bəzən gizli səbəbdən yaranır.
Ətraflı
- 29 İyl 22:54
8 yaşlı Narin Güranın vəhşicəsinə qətlə yetirilməsi ilə bağlı işd
Ətraflı
- 29 İyl 22:38
Ucar rayonunun Yuxarı Şilyan kəndində yerləşən uşaq bağçasında tərbi
Ətraflı
- 29 İyl 22:21
Vaşinqton administrasiyası 10 gün ərzində Ukraynadakı münaqişənin nizam
Ətraflı
- 29 İyl 22:00
Həkim Toni Farmer qulaq təmizliyində pambıq çubuqlardan istifadənin təhl�
Ətraflı