London metrosundan istifadə edən minlərlə insan onların hərəkətlərini, davranışlarını və bədən dillərini izləyirdi AI WIRED tərəfindən əldə edilən yeni sənədlər onların cinayət törətdiklərini və ya təhlükəli vəziyyətdə olduqlarını görmək üçün nəzərdə tutulmuş nəzarət proqramı. Maşın öyrənmə proqramı canlı CCTV görüntüləri ilə birləşdirilib ki, aqressiv davranışı və tüfəng və ya bıçaqların sındırılmasını, həmçinin Tube relslərinə düşən və ya gediş haqqını qaçıran insanları aşkar etməyə çalışıb.
2022-ci ilin oktyabrından 2023-cü ilin sentyabr ayının sonuna qədər şəhərin metro və avtobus şəbəkəsini idarə edən Transport for London (TfL) şəhərin şimal-qərbindəki Willesden Green metro stansiyasından keçən insanları izləmək üçün 11 alqoritmi sınaqdan keçirdi. Konsepsiya sınaqlarının sübutu ilk dəfədir ki, nəqliyyat orqanı cəbhə bölgəsindəki heyətə göndərilən xəbərdarlıqlar yaratmaq üçün AI və canlı video görüntüləri birləşdirdi. Sınaq zamanı 44 000-dən çox xəbərdarlıq edilib, onlardan 19 000-i real vaxt rejimində stansiya işçilərinə çatdırılıb.
Sənədlərə cavab olaraq WIRED-ə göndərildi İnformasiya Azadlığı Qanununun tələbi TfL-in insanların stansiyada olarkən davranışlarını izləmək üçün geniş spektrli kompüter görmə alqoritmlərindən necə istifadə etdiyini ətraflı təsvir edir. İlk dəfədir ki, məhkəmə prosesinin tam təfərrüatları açıqlanır və TfL dekabr ayında tarifdən yayınmağı aşkar etmək üçün süni intellektdən istifadəni genişləndirəcəyini söyləyir. Britaniya paytaxtında daha çox stansiya.
Covid-19 pandemiyasından əvvəl gündə 25,000 ziyarətçinin olduğu bir stansiya olan Willesden Green-də keçirilən sınaqda, AI sistemi işçilərin ehtiyacı olan insanlara kömək etməsinə imkan vermək üçün potensial təhlükəsizlik insidentlərini aşkar etmək üçün quruldu, eyni zamanda cinayət və antisosial davranışları hədəf aldı. . WIRED-ə təqdim edilən üç sənəd süni intellekt modellərinin əlil arabalarını, uşaq arabalarını, vapinqləri, icazəsiz ərazilərə daxil olan insanları və ya qatar platformalarının kənarına yaxınlaşaraq özlərini təhlükəyə atmalarını aşkar etmək üçün necə istifadə edildiyini təfərrüatlandırır.
Qismən redaktə edilmiş sənədlər, həmçinin sınaq zamanı süni intellektin necə səhvlərə yol verdiyini göstərir, məsələn, bilet baryerləri vasitəsilə valideynlərinin ardınca gedən uşaqları potensial gediş haqqını qaçıranlar kimi qeyd etmək və ya qatlanan velosipedlə velosiped arasında fərqi ayıra bilməmək kimi. katlanmayan velosiped. Sistemin silahları daha yaxşı aşkarlamasına kömək etmək üçün stansiyanın bağlı olduğu müddətdə polis əməkdaşları da mühafizə kameralarının gözü qarşısında pala və tapança tutaraq məhkəmə prosesinə kömək ediblər.
Sənədləri araşdıran məxfilik üzrə ekspertlər obyekt aşkarlama alqoritmlərinin düzgünlüyünü şübhə altına alırlar. Onlar həmçinin deyirlər ki, nə qədər adamın məhkəmə prosesi barədə məlumatı olduğu aydın deyil və xəbərdarlıq edirlər ki, bu cür müşahidə sistemləri gələcəkdə daha mürəkkəb aşkarlama sistemləri və ya konkret şəxsləri müəyyən etməyə çalışan üz tanıma proqram təminatı daxil etmək üçün asanlıqla genişləndirilə bilər. “Bu sınaq sifətin tanınmasını əhatə etməsə də, davranışları müəyyən etmək, bədən dilini təhlil etmək və qorunan xüsusiyyətləri çıxarmaq üçün ictimai məkanda süni intellektdən istifadə sifətin tanınması texnologiyaları tərəfindən qaldırılan eyni elmi, etik, hüquqi və sosial sualların çoxunu gündəmə gətirir. Ada Lovelace İnstitutunun müstəqil tədqiqat institutunun direktor müavini Michael Birtwistle deyir.
London üçün Nəqliyyat, nəşrdən əvvəl WIRED-in şərh tələbinə cavab vermədi. Bununla belə, İnformasiya Azadlığı sorğusuna cavab olaraq, o, davranış nümunələrini aşkar etmək üçün mövcud CCTV görüntülərindən, AI alqoritmlərindən və “çoxsaylı aşkarlama modellərindən” istifadə etdiyini bildirir. “Stansiya işçilərinə müştərilərin hərəkəti və davranışı haqqında məlumat və bildirişlər təqdim etməklə, ümid edirik ki, istənilən vəziyyətə daha tez cavab verə biləcəklər” cavabında deyilir. O, həmçinin deyir ki, sınaq “gələcək yanaşmalarımızda və müdaxilələrimizdə bizə kömək edəcək” gediş haqqının ödənilməsindən yayınma ilə bağlı fikir təmin edib və toplanmış məlumatlar onun məlumatlarına uyğundur. məlumat siyasətləri.
Kompüter görmə sistemləri, testdə istifadə edilənlər kimi, şəkillərdə və videolarda obyektləri və insanları aşkar etməyə çalışaraq işləyirlər. London sınağı zamanı müəyyən davranış və ya hərəkətləri aşkar etmək üçün öyrədilmiş alqoritmlər metro stansiyasının 20 illik CCTV kameralarının görüntüləri ilə birləşdirildi – görüntüləri saniyənin onda birində təhlil etdi. Sistem problemli kimi müəyyən edilən 11 davranış və ya hadisədən birini aşkar etdikdə, stansiya işçilərinin iPad-lərinə və ya kompüterinə xəbərdarlıq edəcək. Sənədlərdə deyilir ki, TfL işçiləri potensial fəaliyyət göstərmək üçün 19,000 xəbərdarlıq aldı və daha 25,000-i analitik məqsədlər üçün saxladı.
Sistemin müəyyən etməyə çalışdığı kateqoriyalar bunlar idi: izdihamın hərəkəti, icazəsiz giriş, mühafizə, hərəkətliliyə kömək, cinayət və antisosial davranış, relsdə olan şəxs, yaralı və ya xəstə insanlar, zibil və ya yaş döşəmə kimi təhlükələr, nəzarətsiz əşyalar, qapalı qalan müştərilər və gediş haqqından yayınma. Hər birinin bir neçə alt kateqoriyası var.
“Access Now” rəqəmsal hüquqlar qrupunun baş siyasət analitiki Daniel Leufer deyir ki, hər hansı bir sistemin bu cür monitorinq apardığını görəndə onun axtardığı ilk şey onun təcavüz və ya cinayəti ayırmağa cəhd etməsidir. “Kameralar bunu bədən dilini və davranışını müəyyən edərək edəcək” deyir. “Bunun üzərində bir şey öyrətmək üçün hansı məlumat dəstinə ehtiyacınız olacaq?”
Məhkəmə ilə bağlı TfL hesabatında deyilir ki, o, “təcavüz aktlarını daxil etmək istəyirdi”, lakin onları “uğurla aşkar edə bilmədi”. Əlavə edir ki, təlim məlumatlarının çatışmazlığı var idi – təcavüz aktlarının daxil edilməməsi üçün digər səbəblər qaraldı. Bunun əvəzinə, sənədlərdə “təcavüz aktları ilə əlaqəli ümumi davranış” kimi təsvir edilən kimsə qollarını qaldırdıqda sistem xəbərdarlıq etdi.
“Təlim məlumatları həmişə qeyri-kafi olur, çünki bu şeylər lazımi nüanslarla məlumat dəstlərində düzgün şəkildə tutulmaq üçün çox mürəkkəb və nüanslıdır” deyən Leufer, TfL-nin kifayət qədər təlim məlumatına malik olmadığını etiraf etməsinin müsbət olduğunu qeyd edir. “Maşın öyrənmə sistemlərinin ictimai yerlərdə hansı davranışın məqbul olduğuna dair mövcud ictimai qərəzləri təkrarlamaqla kifayətlənməyən bir şəkildə aqressiyanı etibarlı şəkildə aşkar etmək üçün istifadə edilə biləcəyinə çox şübhə ilə yanaşıram.” WIRED-in qəbul etdiyi sənədlərə əsasən, sınaq məlumatları da daxil olmaqla, aqressiv davranış üçün cəmi 66 xəbərdarlıq var idi.
Məxfiliyə diqqət yetirən Big Brother Watch qrupunun böyük vəkillik məmuru Madeleine Stone deyir ki, bir çox Tube səyahətçiləri səlahiyyətlilərin insanları süni intellektlə işləyən nəzarətə məruz qoyduğunu öyrənməkdən “narahat olacaqlar”. Stoun deyir ki, kiminsə “aqressiv” olub-olmadığını müəyyən etmək üçün alqoritmdən istifadə etmək “dərin qüsurlu”dur və Böyük Britaniyanın məlumat tənzimləyicisinin buna qarşı xəbərdarlıq etdiyinə diqqət çəkir. emosiyaların təhlili texnologiyalarından istifadə etməklə.
Sənədlərdə deyilir ki, nəqliyyat orqanının işçiləri sınaq zamanı daha çox təlim məlumatı toplamaq üçün Willesden Green stansiyasında “geniş simulyasiyalar” apardılar. Bunlara yerə yıxılan heyət üzvləri daxildir və bu sınaqlardan bəziləri stansiya bağlanarkən baş verib. “BTP-ni görəcəksiniz [British Transport Police] stansiyanın müxtəlif yerlərində əlində pala və tapança tutan zabit”, – şəkillərin redaktə edilməsinə baxmayaraq, sənədlərdə bir başlıq göstərilir. Proses zamanı sənədlərdə deyilir ki, stansiyada silah insidentləri ilə bağlı heç bir xəbərdarlıq olmayıb.
Ən çox xəbərdarlıq, bağlı gediş haqqı qapılarının üstündən tullanmaq və ya altından sürünmək, qapıları itələmək, açıq qapılardan keçmək və ya ödəniş edənin arxasına keçmək yolu ilə səyahətləri üçün pul ödəməkdən potensial olaraq yayınan insanlar üçün verilib. Gediş haqqından yayınmaq ildə 130 milyon funt-sterlinqə qədər başa gəlir, TfL deyirvə sınaq zamanı 26.000 gediş haqqının yayınma xəbərdarlığı olub.
Bütün sınaqlar zamanı insanların üzlərinin təsvirləri bulanıqlaşdırılıb və məlumatlar maksimum 14 gün saxlanılıb. Bununla belə, sınaqdan altı ay sonra TfL, insanların pul ödəməməkdə şübhəli bilindiyi zaman üzlərin görüntülərini açmaq qərarına gəldi və bu məlumatları daha uzun müddət saxladı. Sənədlərdə deyilir ki, əvvəlcə işçilərin gediş haqqı barədə xəbərdarlıqlara cavab verməsi planlaşdırılırdı. “Lakin çoxlu sayda gündəlik xəbərdarlıq (bəzi günlərdə 300-dən çox) və aşkarlamaların yüksək dəqiqliyi səbəbindən biz sistemi xəbərdarlıqları avtomatik qəbul etmək üçün konfiqurasiya etdik”, – sənədlərdə deyilir.
Ada Lovelace İnstitutundan Birtwistle deyir ki, insanlar bu kimi texnologiyalar tətbiq edildikdə “sağlam nəzarət və idarəetmə” gözləyirlər. Birtwistle, “Əgər bu texnologiyalardan istifadə ediləcəksə, onlardan yalnız ictimai etimad, razılıq və dəstək ilə istifadə edilməlidir” deyir.
Məhkəmənin böyük bir hissəsi işçilərə stansiyada baş verənləri başa düşməyə və insidentlərə reaksiya verməyə kömək etmək məqsədi daşıyırdı. 59 əlil arabası xəbərdarlığı, əlil arabaları üçün giriş imkanları olmayan Willesden Green stansiyasının işçilərinə “lazımi qayğı və yardım göstərməyə” icazə verdi. Bu arada, sarı təhlükəsizlik xətlərindən kənara çıxan insanlar üçün təxminən 2,200 xəbərdarlıq, trekin kənarına əyilən insanlar üçün 39 və uzun müddət skamyada oturan insanlar üçün təxminən 2,000 xəbərdarlıq var.
Sənədlərdə deyilir: “PoC boyu müştərilərə sarı xəttdən uzaqlaşmağı xatırladan işçilər tərəfindən edilən ictimai elanların sayında böyük artım müşahidə etdik” dedi. Onlar həmçinin sistemin stansiyanın girişlərində “kobud yatanlar və dilənçilər” üçün xəbərdarlıqlar yaratdığını deyirlər və bunun işçilərə “vəziyyəti uzaqdan izləməyə və lazımi qayğı və yardım göstərməyə” imkan verdiyini iddia edirlər. TfL bildirir ki, sistem öz stansiyalarında personalın keyfiyyətini yaxşılaşdırmağa və sərnişinlər üçün daha təhlükəsiz olmasına kömək etmək üçün sınaqdan keçirilib.
Fayllarda AI aşkarlama sisteminin nə qədər dəqiq olduğuna dair heç bir təhlil yoxdur; lakin müxtəlif nöqtələrdə aşkarlama tənzimlənməli idi. Access Nows-dan Leufer, “Obyektin aşkarlanması və davranışın aşkarlanması ümumiyyətlə olduqca kövrəkdir və qüsursuz deyil” deyir. Bir halda, sistem əslində qatar maşinistləri qatarı tərk edərkən insanların icazəsiz ərazidə olduğunu bildirən xəbərdarlıqlar yaratdı. Sənədlərdə deyilir ki, kameraya düşən günəş işığı da onların effektivliyini azaldır.
Sınaqlar, həmçinin nəqliyyat şəbəkəsində icazə verilməyən açılmış və ya açılmayan velosipedlərin və escooterlərin süni intellekt tərəfindən aşkarlana biləcəyini yoxlamaq məqsədi daşıyırdı. Sənədlərdə deyilir: “Al, açılmış velosipedlə adi velosipedlə elektron skuter və uşaq skuterini fərqləndirə bilmədi”. Gediş haqqını qaçıran model uşaqları da qeyd etdi. Sənədlərdə deyilir: “Məktəbdə səyahət saatları ərzində biz valideynlər və uşaqlarla bağlı xəbərdarlıqlarda artım görürdük”. Sistem “hündürlüyü darvazanın altında olan” insanları bayraq etməmək üçün düzəldilib.
Son illərdə istifadə İctimai yerlərdə AI insanların davranışlarını, hərəkətlərini və ya şəxsiyyətlərini aşkar etmək çox vaxt artmışdır maskası vasitəsilə of ağıllı şəhər yaxınlaşır. Keçən ilin iyul ayında bir neçə Nyu-York metro stansiyasının olduğu ortaya çıxdı gediş haqqını izləmək üçün süni intellektdən istifadə. Londonda TfL bildirib dekabr bu təcrübələrin statusu bilinməsə də, gediş haqqından yayınma sınaqlarını digər stansiyalara da genişləndirəcəkdi
Bu sistemlərin bir çoxu onların istifadəsini tənzimləyən xüsusi qanunların çatışmadığı hallarda hazırlanır. Böyük Britaniyada tənzimləyici vakuum. Big Brother Watch-dan Stoun deyir: “Nəqliyyat mərkəzlərində süni intellektlə işləyən monitorinqin normallaşdırılması nəzarət vəziyyətinə doğru sürüşkən bir meyldir və daha çox şəffaflıq və ictimai məsləhətləşməyə tabe olmalıdır”.
Leufer xəbərdarlıq edir ki, bu sistemlər daha geniş şəkildə istifadə olunmağa başlayandan sonra onları daim təkmilləşdirmək olar. “İnfrastruktur orada olduqdan sonra onun gördüyü işləri yeniləmək tamamilə mənasızdır” deyir. “Həqiqətən narahatlıq doğurur, bunlara nə əlavə etmək olar. Sürüşkən yol çox sürüşkəndir”.