anthropic,-abs-hokumətinin-sərəncamina-əməl-etmək-ucun-claude-fable-5-i-oflayn-olaraq-aldigini-deyir
Anthropic, ABŞ Hökumətinin Sərəncamına əməl etmək üçün Claude Fable 5-i oflayn olaraq aldığını deyir

Anthropic, ABŞ Hökumətinin Sərəncamına əməl etmək üçün Claude Fable 5-i oflayn olaraq aldığını deyir

Antropik bunu deyir bu həftənin əvvəlində təqdim etdiyi iki AI modelini söndürərək, Klod Nağıl 5 və Mif 5milli təhlükəsizlik narahatlıqlarını əsas gətirərək, cümə günü günortadan sonra ABŞ hökumətindən ixraca nəzarət direktivinə riayət etmək üçün.

Görünməmiş hadisə arasında ən son flaş nöqtəsi qeyd olunur Antropik və Tramp administrasiyası. Şirkət əmrin ondan “Amerika Birləşmiş Ştatlarının daxilində və ya xaricində hər hansı xarici vətəndaşa, o cümlədən xarici vətəndaş Antropik işçilərə” girişi dayandırmağı tələb etdiyini söyləsə də, uyğunluğu təmin etmək üçün bütün müştərilərinin girişini ləğv etdi.

Bu ilin əvvəlində Trampın Müdafiə Departamenti “Antropik” kimi etiketləmişdi.təchizat zənciri riski” Claude-meyker ABŞ ordusunun texnologiyasından necə istifadə edə biləcəyi üzərində qırmızı xətlər çəkməyə çalışdıqdan sonra. Bu təyinat hökumət qurumları və podratçılara Anthropic texnologiyasından istifadə etməyi effektiv şəkildə qadağan etdi. Anthropic cavab verdi: iddiaların verilməsi Tramp administrasiyasına qarşı.

Çərşənbə axşamı Anthropic ictimaiyyətə açıqlandı Klod təmsili 5şirkətin Mythos AI modelinin kibertəhlükəsizlik, biologiya və kimya ilə bağlı suallara cavab verməyə mane olan qorunma vasitələri ilə versiyası. Anthropic-in ABŞ hökuməti ilə birgə həyata keçirdiyini açıqladığı ictimaiyyətə açıqlamadan əvvəl, Mythos Preview AI modeli aprel ayında məhdud bir yayıma sahib idi. Məqsəd şirkət və təşkilatlara ondan istifadə etmək imkanı vermək idi müdafiələrini təkmilləşdirmək üçün güclü kibertəhlükəsizlik imkanlarıvə texnologiyanın güclü haker alətləri hazırlamaq üçün pis aktyorlar tərəfindən istismar oluna biləcəyi ilə bağlı narahatlıqlara səbəb olur.

a blog yazısı cümə günü Anthropic, ET 5:21-də ABŞ hökumətindən məktub aldığını söylədi. “Məktubda milli təhlükəsizliklə bağlı narahatlığın konkret təfərrüatları göstərilməyib” deyə Anthropic yazıb.

“Bizim anlayışımız ondan ibarətdir ki, hökumət Fable 5-dən yan keçmək və ya “jailbreaking” metodundan xəbərdar olduğuna inanır”, – şirkət əlavə edib. “Biz az sayda əvvəllər məlum olan, kiçik zəiflikləri müəyyən etmək üçün istifadə edilən bu xüsusi texnikanın nümayişini nəzərdən keçirdik. Bu zəifliklərin hamısı nisbətən sadə görünür və biz aşkar etdik ki, digər ictimaiyyətə açıq olan modellər də onları yan keçid tələb etmədən aşkar edə bilir.”

Bloq yazısında şirkət Claude Fable 5-dən sui-istifadə ehtimalını azaltmaq üçün güclü qorunma tədbirləri həyata keçirdiyini iddia etdi. Anthropic həmçinin iddia etdi ki, ABŞ hökuməti Claude Fable 5 üçün tapdığı jailbreak dar idi və təcavüzkarı başqa bir AI modelində olduğundan daha təhlükəli etməzdi.

“Hökumət bu günə qədər bizə potensial dar, universal olmayan jailbreak haqqında şifahi sübutlar təqdim etdi, bu, mahiyyətcə modeldən konkret kod bazasını oxumağı və hər hansı proqram qüsurlarını düzəltməyi xahiş etməkdən ibarətdir” dedi şirkət öz bloq yazısında. “Bizim anlayışımız budur ki, bir potensial jailbreak hökumətlə paylaşılıb.”

Ağ Evin və ABŞ Ticarət Departamentinin sözçüləri WIRED-in şərh tələbinə dərhal cavab vermədilər.

Anthropic CEO Dario Amodei bu həftənin əvvəlində bir siyasət essesində dedi ki, o və şirkət təhlükəli süni intellekt modellərinin buraxılmasına mane olacaq ədalətli, strukturlaşdırılmış və şəffaf hökumət prosesini dəstəkləyir. Cümə günü şirkətin bloq yazısında Anthropic, “bu hərəkətin bu prinsiplərə uyğun olmadığını” iddia etdi.

Qaynaq