TELSAT.AZ - Elan yerləşdir
  • 626

Süni İntellekt Ağıllandıqca Daha Çox Yalan Danışır

Süni intellektdə halüsinasiyalar problemi böyüyür

Süni intellekt dünyasında "halüsinasiyalar" problemi hələ də "Aşilin dabanı" olaraq qalır. Yəni bu sistemlər getdikcə daha ağıllı olsa da, uydurma məlumatlar təqdim etməyə davam edir.

Bu problem süni intellektin ilk dövrlərindən bəri mövcuddur. Dil modelləri real faktlara əsaslanmayan məlumatları özündən əmin şəkildə təqdim edir. Üstəlik, bu hal modellər inkişaf etdikcə azalmır, əksinə artır.

Yalan məlumatlar artır

Bir il əvvəl süni intellekt üçün "Aşilin dabanı" bənzətməsi istifadə olunmuşdu. OpenAI, Anthropic, Google DeepSeek kimi texnologiya nəhəngləri daha doğru cavablar verməyi hədəfləyən yeni nəsil süni intellekt modellərini təqdim etdilər. Lakin nəticələr göstərir ki, bu modellər əvvəlki versiyalara nisbətən daha çox səhv və uydurma məlumat verir.

New York Times-ın yayımladığı hesabatda bildirilir ki, OpenAI-ın təqdim etdiyi "o3" və "o4-mini" modelləri daxili testlərdə müvafiq olaraq 33% və 48% hallarda halüsinasiya göstərib. Bu isə əvvəlki modellərlə müqayisədə demək olar ki, iki dəfə artım deməkdir.

Sistematik problem bütün şirkətləri əhatə edir

Təkcə OpenAI deyil, Google və DeepSeek kimi digər şirkətlər də eyni problemlə üz-üzədir. Problem modellərdə yox, onların işləmə prinsiplərindədir. Məsələn, Vectara şirkətinin CEO-su Amr Awadallah deyir: "Nə etsək də halüsinasiyalar həmişə olacaq. Bu tamamilə aradan qalxmayacaq."

Bu vəziyyət yalnız istifadəçilər üçün deyil, texnologiyaya milyardlarla sərmayə qoyan şirkətlər üçün də təhlükədir. Çünki səhv cavablar istifadəçi etibarını zədələyir və iş qərarlarında ciddi fəsadlara səbəb ola bilər.

Süni verilərə keçid təhlükəlidirmi?

Ötən ildən etibarən süni intellekt modellərinin təlimində istifadə olunan real dünya məlumatları tükənib. Hazırda şirkətlər süni verilərə, yəni digər süni intellekt modellərin yaratdığı məlumatlara yönəlir. Lakin bu, yeni modellərin mövcud səhvləri daha da artıraraq təkrarlamasına səbəb ola bilər.

Həll yolu varmı?

Halüsinasiya problemini həll etməyə yönəlmiş ixtisaslaşmış şirkətlər olsa da, problem çox dərin və mürəkkəbdir. Əsas problem isə odur ki, süni intellekt sistemlərinin əslində necə işlədiyini tam anlamırıq. Bu səbəbdən dəqiq bir həll hələ tapılmayıb.

Bəlkə də çıxış yolu göz önündədir, bəlkə də tamamilə yeni və inqilabi bir yanaşma tələb olunur. Süni intellektin inkişafı bu tip çətinliklərlə birlikdə irəliləyir.

Texnologiyadan xəbərdar olmaq üçün Telsat Xəbərləri izləməyi unutmayın.

Bütün Azərbaycan
Ağcabədi
Ağdam
Ağdaş
Ağstafa
Ağsu
Astara
Babək
Bakı
Balakən
Beyləqan
Bərdə
Biləsuvar
Cəbrayıl
Cəlilabad
Culfa
Daşkəsən
Füzuli
Gədəbəy
Gəncə
Goranboy
Göyçay
Göygöl
Göytəpə
Hacıqabul
Horadiz
İmişli
İsmayıllı
Kəlbəcər
Kəngərli
Kürdəmir
Laçın
Lerik
Lənkəran
Masallı
Mingəçevir
Nabran
Naftalan
Naxçıvan
Neftçala
Oğuz
Ordubad
Qax
Qazax
Qəbələ
Qobustan
Quba
Qubadlı
Qusar
Saatlı
Sabirabad
Şabran
Şahbuz
Salyan
Şamaxı
Samux
Sədərək
Şəki
Şəmkir
Şərur
Şirvan
Siyəzən
Sumqayıt
Şuşa
Tərtər
Tovuz
Ucar
Xaçmaz
Xırdalan
Xızı
Xocalı
Xocavənd
Xudat
Yardımlı
Yevlax
Zaqatala
Zəngilan
Zərdab