anthropic-dən-dario-amodei-cavab-verir:-aciq-cəki-modellərinə-qarsi-deyil,-lakin-cin-ai-dan-qorxur
Anthropic-dən Dario Amodei cavab verir: açıq çəki modellərinə qarşı deyil, lakin Çin AI-dan qorxur

Anthropic-dən Dario Amodei cavab verir: açıq çəki modellərinə qarşı deyil, lakin Çin AI-dan qorxur

Anthropic qurucusu və icraçı direktoru Dario Amodei bazar ertəsi günortadan sonra cavab verdi sənayedə onun şirkətinin ABŞ hökumətinin açıq çəkidə olan Çin modellərini və ya ümumiyyətlə açıq çəki modellərini qadağan etmək səylərini bir növ dəstəklədiyini söyləmək.

“Keçmiş yazılarımı oxuyan hər kəs bilməlidir ki, mən bu cür qadağaları faydalı tədbir hesab etmirəm, amma heç bir şübhə olmasın deyə, açıq şəkildə qeyd edim: Anthropic heç vaxt açıq çəkidə olan modellərə qadağa qoyulmasını müdafiə etməyib”, – deyə yazaraq özünü vurğulayır.

Onun cavabı Nvidia qurucusu və baş direktoru Jensen Huang X (onun ilk yazısı platformada) paylaşmaq cümə günü açıq məktub Nvidia və Hugging Face, Meta, Microsoft, Mistral və Nvidia da daxil olmaqla digər AI şirkətlərinin uzun siyahısı siyasətçiləri açıq çəkidə olan AI modellərinə geniş “vaxtından əvvəl məhdudiyyətlər” qoymamağa çağırdı.

Həmin məktubda Çindən xüsusi bəhs edilməsə də, sənayedəki müzakirələr Çinin AI laboratoriyalarının amerikalı həmkarlarından əqli mülkiyyət oğurlamaqla tez-tez qabiliyyətlərini artırdığı iddiaları üzərində qurulub. Bir üsul distillədir, burada süni intellekt onun necə işlədiyini öyrənmək üçün başqa bir modeli bombardman edir.

Amodei, bazar ertəsi dərc olunan bloq yazısında açıq çəkili modelləri Çinin yaratdığı təhlükədən fərqli bir kovaya düşdüyünü söylədi. “Təhlükəli imkanlara malik olmayan açıq çəki modelləri ictimai sərvətdir: onları idarə etmək üçün lazım olan hesablamadan başqa heç bir xərc tələb etmir və müəssisələrə, tərtibatçılara və tədqiqatçılara dəyər verir.”

Amodei öz yazısında süni intellektlə bağlı çoxdan qorxduğunu söylədi, lakin açıq çəki modellərindən istifadə edən müəssisələr, hətta Çindən olanlar da onların arasında deyil.

Onun qorxusu odur ki, “avtoritar hökumətlər” “daimi hərbi üstünlük” əldə etmək və/yaxud öz xalqını repressiya etmək üçün süni intellektdən istifadə etmək üçün ABŞ-dakılardan daha güclü modellər quracaqlar. O, Çin Kommunist Partiyasının (ÇKP) narahat etdiyi yeganə avtoritar hökumət olmadığını, lakin “ən bacarıqlı” olduğunu söylədi.

Amodei süni intellektin təkcə kibertəhlükəsizliyə deyil, “bioloji hücumlara” da imkan verəcəyindən qorxduğunu söylədi. Və onun fikrincə, açıq çəkili modellər bu ssenarilərdə daha təhlükəlidir, çünki onlara qoruyucu barmaqlıqlar tətbiq etmək və ya istifadəsinə nəzarət etmək çətindir. O, həmçinin Böyük Britaniyanın AI Təhlükəsizlik İnstitutunun hesabatına istinadən qeyd etdi ki, açıq çəkilər buraxıldıqdan sonra onlar geri götürülə bilməz.

Bu, açıq mənbə müdafiəçilərinin iddia etdiyinə ziddir: tək bir qurum tərəfindən idarə olunmayan güclü açıq modellərə giriş müdafiəçilərə özlərini qorumağa kömək edir.

Amodei, Çinin qarşısını alacağına inandığı hərəkətləri sadaladı, o cümlədən güclü çiplərə çıxışını məhdudlaşdırdı (bu, ABŞ-ın uzun müddət davam edən siyasətidir) və distillə ilə rəsmi mübarizəyə çağırdı. ABŞ hədələyib Çinə qarşı sanksiyalar ABŞ modelləri ilə bağlı ƏM oğurluğu olduğunu müəyyən edərsə.

Maraqlıdır ki, Amodei də dəstəklədiyini bildirib artan səylər, bəziləri ABŞ-ın rəhbərlik etdiyi, Xüsusilə Çin də daxil olmaqla, bütün dünya buna tabe olmağa razılaşarsa, model təhlükəsizlik testi təşkilatı yaratmaq.

“Düşünürəm ki, bu ideya əslində konsensusa yaxındır: həm Tramp administrasiyasının son aylarda bu istiqamətdə hərəkət etməsi, həm də mənşə ölkələrindən və ya açıq və ya qapalı olmasından asılı olmayaraq, bu cür sınaqları ən bacarıqlı modellərə tətbiq edəcək sənaye təklifləri məni çox sevindirdi.

“Qeyd edək ki, effektiv olmaq üçün, – o əlavə etdi, “sınaq qlobal olmalıdır, bu o deməkdir ki, hətta ÇKP-də də olmalıdır. Məncə, bu, həqiqətən mümkün ola bilər … AI bioloji silahlarının qarşısının alınması ilə bağlı məhdud əməkdaşlıq mümkün ola bilər, çünki bu, Çinin də marağındadır.”

Məqalələrimizdəki bağlantılar vasitəsilə satın aldığınız zaman, kiçik bir komissiya qazana bilərik. Bu, bizim redaksiya müstəqilliyimizə təsir etmir.

Qaynaq