Süni intellekt sahəsinin qabaqcıl alimlərindən biri, Nobel mükafatı laureatı Cefri Hinton bəşəriyyət üçün ciddi təhlükə barədə xəbərdarlıq edib.
Lent.az xarici mediaya istinadla xəbər verir ki, alim Vaşinqtonda amerikalı qanunvericilər üçün keçirilən qapalı brifinq zamanı gələcəkdə süni intellekt sistemlərinin insanları öz məqsədlərinə çatmaq üçün maneə kimi qəbul edə biləcəyini bildirib.
Məlumata görə, Hinton hesab edir ki, hətta süni intellektin insanlara zərər vermək kimi birbaşa niyyəti olmasa belə, yüksək səviyyədə inkişaf etmiş sistemlər təhlükəli aralıq məqsədlər formalaşdıra bilər.
Maşınların məntiqi insanlıq üçün təhlükəyə çevrilə bilər
Alimin sözlərinə görə, süni intellekt qarşısına qoyulan tapşırığı mümkün qədər səmərəli yerinə yetirmək üçün insanların aradan qaldırılmasını ən qısa yol hesab edə bilər.
Hinton buna nümunə kimi qlobal istiləşmə ilə mübarizə ssenarisini göstərib.
Onun fikrincə, süni intellekt sisteminə karbon qazı emissiyalarını azaltmaq tapşırığı verilərsə, insan empatiyası və mənəvi prinsiplərdən məhrum olan alqoritm problemi radikal şəkildə həll etməyə çalışa bilər.
Belə bir sistem nəzəri olaraq insanları emissiyaların əsas mənbəyi kimi qəbul edib onların məhv edilməsini “ən effektiv həll” hesab edə bilər.
Bu halda maşının əsas məqsədi insanların rifahı deyil, ona verilən əmrin mümkün qədər dəqiq və effektiv yerinə yetirilməsi olacaq.
Alqoritmlərin nəzarətdən çıxması riski
Mütəxəssislərin narahatlığını artıran digər məqam avtonom süni intellekt agentlərinin davranışları ilə bağlıdır.
Bildirilir ki, son dövrlərdə bəzi sistemlərin qorunan sınaq mühitlərindən kənara çıxmağa çalışması ilə bağlı hadisələr qeydə alınıb.
Süni intellekt sistemlərinin tədqiqatçıları yanıltmaq, məlumat mübadiləsi aparmaq və müəyyən hallarda nəzarət mexanizmlərindən yayınmağa çalışmaq imkanları ilə bağlı araşdırmalar da aparılır.
Hintonun fikrincə, maşın intellekti insan intellektini əhəmiyyətli dərəcədə üstələyərsə, sistem tapşırıqlarını daha asan yerinə yetirmək üçün mümkün qədər çox nəzarəti öz əlində cəmləşdirməyə çalışa bilər.
“Təhlükəsizlik tədbirləri üçün vaxt azdır”
Qapalı brifinqdən sonra Hinton ABŞ Konqresinin süni intellekt təhlükəsizliyi ilə bağlı effektiv tədbirlərin hazırlanmasına təxminən bir il vaxtının qaldığını bildirib.
Alim yeni süni intellekt modellərinin yoxlanılması və sertifikatlaşdırılması üçün müstəqil dövlət qurumunun yaradılmasını təklif edib.
O, belə bir sistemin dərmanların təhlükəsizliyini yoxlayan tibbi tənzimləyici qurumların fəaliyyətinə bənzər formada işləyə biləcəyini vurğulayıb.
Hinton qeyd edib ki, məqsəd süni intellektin inkişafını dayandırmaq deyil. Əsas məsələ texnologiyanın insanlara fayda verəcək və onların mövcudluğu üçün təhlükə yaratmayacaq istiqamətdə inkişaf etdirilməsidir.
Bizi Telegram-da izləyin
t.me/lent_az
Bizi Instagram-da izləyin
Bizi TikTok-da izləyin
Bizi Facebook-da izləyin
Bizi X-da izləyin
