Xəbərlər

Süni İntellektin Etika Kodeksini yaradanların qorxduğu şey

Dünyanın bütün qorxuları: Süni İntellektin Etika Kodeksini yaradanların qorxduğu şey

Ötən həftə Rusiya biznesi və hökuməti tərəfindən imzalanmış süni intellekt sahəsində etik kodeksi sadəcə bəyannamə deyil - bu, aparıcı tərtibatçıların qorxduğu yeni texnologiyanın inkişafı üçün bütün mənfi ssenarilərin toplusudur. Açıq Sistemlər Nəşriyyatının naşiri Denis Samsonov hesab edir ki, onların əksəriyyəti bu və ya digər formada həyata keçiriləcək, bəziləri isə artıq həyatımızın bir hissəsinə çevrilib.

"Qadağalar sisteminə görə, insanların nə etdiyini başa düşmək olar... Bunlar təbiətdən çəkilmiş şəkillərdir" deyə Umberto Eko süni intellekt (AI) problemlərindən uzaq bir münasibətlə "Foucault's Pendulum" əsərində yazmışdı. Amma bu intellektual konstruksiya süni intellekt sahəsində Etika Məcəlləsinə (bundan sonra – Məcəllə) asanlıqla tətbiq oluna bilər.

Mənfi ssenarilər gerçəkləşməyə meyllidir. Məcəlləni “işıqda” mənfi kimi oxusaq, baş verən və ya gələcəkdə baş verə biləcək bütün qorxuları, mümkün sui-istifadə və hətta fəlakətin astanasında olan ssenariləri görərik. Sənəddə AI-nin cəmiyyətə mənfi təsirinin bütün variantları kataloqlaşdırılır və onlara əvvəlcədən etik qiymət verilir. Tərtibatçılar və ya “süni intellekt aktyorları” (sənəd baxımından) bu cür hadisələrin baş vermə ehtimalını dərk edərək, yeni texnologiyanın nəyin pis olduğu barədə razılığa gəlirlər.

Maddə 1.2. "İnsan müstəqilliyinə və azad iradəsinə hörmət"

Kodeks süni intellekt tərtibatçılarına “insanın idrak qabiliyyətlərinin inkişafı üçün mümkün mənfi nəticələrin proqnozlaşdırılmasını və qəsdən belə nəticələrə səbəb olan güclü süni intellektin inkişafının qarşısını almağı” tapşırır. Yəni süni intellekt insanlığın axmaqlığına səbəb olmamalıdır.

Süni intellektin yerinə yetirə biləcəyi vəzifələrin hansının intellektual səviyyəmiz üçün kritik olduğunu hələ başa düşə bilmirik. Əgər siz naviqatorun köməyi ilə şəhər ətrafında sürməyə başlasanız, tez ona aludə olursunuz və öz marşrutunuzu planlaşdırmaq bacarığını itirirsiniz. Süni intellekt bizim üçün ən yaxşı paltar, kitab, musiqi, partnyor, avtomobil, təyyarə bileti, istirahət mərkəzi, işçilər, işi, bankı seçə bilər. Süni intellektə güvənməklə, axmaqlığa gedə bilərik. Texnologiyanın tərtibatçıları hesab edirlər ki, bu, çox ehtimaldır və “yaxşı deyil”.

 Maddə 1.4. “Qeyri-diskriminasiya”

ABŞ-dakı tədqiqatçılar süni intellekt alətlərinin ayrı-seçkilik yarada biləcəyi ehtimalı haqqında ilk danışanlar oldu. Məlum olub ki, üz tanıma sistemləri ən yaxşı ağdərili qadınlarla işləyir. Səbəb, neyron şəbəkələri öyrətmək üçün istifadə olunan verilənlər bazasında onların daha çox fotoşəkilinin olmasıdır. Tanınma alqoritmləri 18-30 yaş arası qaradərili qadınlarla ən pis işləyir.

Nümayəndəlik problemləri təkcə məlumat bazalarının öyrədilməsi ilə bağlı ola bilməz. Bəzi tədqiqatçılar əsas kamera parametrlərinin tünd dərili insanların fotoşəkillərində daha az performans göstərdiyini, nəticədə foto keyfiyyətinin və tanınma sistemlərinin zəiflədiyini iddia etdilər.

“Ayrı-seçkilik” ilə alqoritmlərin faktları tutmaq və siyasi düzgünlüyünü nəzərə almadan mühakimə yürütmək qabiliyyəti arasında sərhəd çəkmək çox vaxt çətindir. Tutaq ki, biz müəyyən bir sahədə uğurlu işçilərin məlumat bazası əsasında süni intellekt sistemini öyrədirik və nəticədə yaranan CV-ləri onun vasitəsilə idarə edirik. Belə çıxır ki, sistem müəyyən cinsdən, yaşdan olan namizədlərə və ya müəyyən bir qurumun məzunlarına üstünlük verir. Bunun bizə ən çox yaraşan işçilər olduğunu və ya hökm sürən qərəzlərə görə bu tip insanların tarixən şirkətdə çoxluq təşkil etdiyini söylədiyini necə başa düşə bilərik?

Siz təlim məlumat dəstindən yaş məlumatını silə bilərsiniz, lakin o, digər məlumatlarda həll olunaraq verilənlər bazasında qalacaq. Bununla mübarizə aparmalıyıq? Kodeks bu suallara cavab vermir, lakin haqlı olaraq həm real həyatda, həm də AI sistemlərinin işində ayrı-seçkiliyin pis olduğunu göstərir.

Maddə 2.5. "İdentifikasiya"

Süni intellekt etikası diktə edir ki, bu cür sistemlərin tərtibatçıları “insan hüquqlarına və onun həyatının kritik sahələrinə təsir etdikdə, güclü süni intellektlə qarşılıqlı əlaqəsi barədə istifadəçiləri vicdanla məlumatlandırmalı və bu cür qarşılıqlı əlaqənin istifadəçinin istəyi ilə dayandırılmasını təmin etməlidir”. Maraqlıdır ki, həyatın kritik sahələrinə təsir etməyən vəziyyətlərdə belə məlumatların olmaması "pis" hesab edilmir.

Botların və səs köməkçilərinin yaradıcıları istifadəçiyə hazırda onunla kimin - əsl məsləhətçi və ya süni intellektlə əlaqə saxlaması barədə məlumat verməmək hüququnu özündə saxlayır və hətta kritik vəziyyətdə belə insanın kiminlə əlaqə saxladığını bilməyəcəyi ehtimalını etiraf edir. indi danışır və istəsə belə AI ilə əlaqəni kəsə bilməyəcək. Sonuncu vəziyyətlə bağlı Məcəlləni imzalayanlar razılaşırlar: bu, “qeyri-etik” olardı.

Maddə 2.9. "Güclü AI rekursiv özünü təkmilləşdirməyə nəzarət"

Kodeksin ən qaranlıq hissəsi. Rekursiv özünü təkmilləşdirmə, proqramın orijinal alqoritmin tam dəyişdirilməsinə qədər özünü təkmilləşdirdiyi bir prosesdir. “Güclü süni intellekt” – informasiya toplamaq, proqnozlaşdırmaq, təbii dildə ünsiyyət qurmaq qabiliyyətinə malik olan AI, əlavə olaraq, iradə və xarakter xüsusiyyətlərinə malikdir. Hələlik hər iki texnologiya yalnız nəzəri cəhətdən mümkün hesab olunur. Ancaq məhdudiyyətsiz rekursiv özünü təkmilləşdirmə qabiliyyətinə malik güclü AI-nin meydana çıxmasını təsəvvür etsək, yalnız Məcəllənin müəllifləri ilə razılaşa bilərik. Bu təhlükəlidir, “pisdir” və dövlətin nəzarətində olmalıdır. Əgər bu cür "obyektlər" prinsipcə nəzarət etmək üçün əlverişlidirsə.

Kodda daha bir neçə onlarla məqam var ki, onların hər biri gec-tez bu və ya digər formada həyata keçiriləcək mənfi ssenariləri təsvir edir. Elmin inkişafını dayandırmaq olmaz, lakin hadisələrə və onların iştirakçılarına etik qiymət vermək, lazım gəldikdə nəzarət etmək, cilovlamaq olar. Bu baxımdan qəbul edilən Məcəllə zəruri və vaxtında qəbul edilmiş sənəddir. Ən azından indi nədən qorxacağımızı bilirik.

06.11.2021