Shkoda vyd “velikich danich”

big-data-increase-the-risk

V Avstralijí tse nazivaiut “robotizovanim borhom”, abo prosto “robo-borhom”: avtomatizovana sistema stiahnenja borhyv viklikaie strach, trivohu, zlystj ta sorom sered liudei, jakí zależat vyd soczïalnoí dopomohi.

U 2016-mu soczïalní slużbi krajini zaprovadili novij sposyb rozrachunku shcorycnich dochodyv otrimuvacív soczïalnoí dopomohi í pocali nadsilati avtomaticnî povídomlenja liudiam, kotrim, jak identifíkuvala sistema, pereplatili soczïalnu dopomohu, z vimohoiu povernuti ryznicziu. Sutj novoho metodu rozrachunku dochodyv u tomu, shco dochyd domohospodarstva protiahom dvoch tiżnív mohli useredniti na vesj ryk. Dlia liudei, jakí praczuiut za kontraktom, na timcasovíj robotí abo zainiatî nepovnij robocij denj, tse stalo neabijakoiu problemoiu. Za deiakimi svídcenjami, jakshco spocatku avstralíjczí otrimuvali 20 tisiac povídomlenj pro zaborhovanystj protiahom roku, to pyslia novovvedennia sistema pocala rozsilati taku kyljkystj listyv vsioho-na-vsioho za tiżdenj.

Krym toho, jakshco raníshe algoritm viznacav, shco jakyisj liudiní derżava, możlivo, pereplatila soczíalnu dopomohu, to dalí vże slużbovecz-liudina perevíriav tsei vipadok. Pyslia zaprovadżenja avtomatizovanoí sistemi tsei krok zabrali. Teper otrimuvací soczíalnoí dopomohi samí povinní dovesti, shco v nich nema borhyv. A tse casto neproste zavdannia — dovoditsia hodinami telefonuvati v ryzní instanczijí, nadsilati zapiti í shukati kopijí cekyv casom aż semirycnoí davnosti. Naihyrshe te, shco bylshystj povídomlenj pro pereplatu otrimali liudi, jakí j tak żili v skrutnich materíalnich umovach. Bahato z nich vpali u vydcai, adże ne mali casu í resursyv, shcobi protistoiati sistemí. Gazeti povídomili navítj pro odne samohubstvo. Vreshtí avstralíjskí soçïalní slużbi viznali, shco algoritm pomiliavsia, jak minimum, u cvertí vipadkyv — a senat krajini, provívshi vlasne rozslíduvanja, dyishov visnovku, shco novij proczes narachuvanja borhu charakterizuie “fundamentalna nestaca proczedurnoí cesnosti”.

Mi vvyishli v epochu velikich danich. Siohodní biznes-korporaczijí ta uriadi v usiomu svítí otrimuiut dedalí bylshij dostup do ryznomanítnoí informaczijí pro hromadian, poviazuiut míż soboiu ryznî nabori danich í shcoraz castíshe vikoristovuiut algoritmi í shtucnij intelekt, shcob otrimati bezpreczedentne rozumínja liudskoí povedínki j uchvaliuvati shvidshí efektivníshí ríshennia. Mi shce dosí ne znaiemo, do jakich naslídkyv use tse może prizvesti. Pro kożnoho z nas u rukach korporaczíj ta uriadyv je neimovírna kyljkystj informaczijí. Razom íz veliceznoiu obcisliuvalnoiu potużnystiu tse oznacaie, shco kożen staie bezkonecno prozorim pered vladoiu í biznesom, maiuci pri cziomu duże obmeżenî możlivostí kontroliuvati svoí daní ci vplivati na te, jak jich vikoristovuiut.

Doslídniki z Laboratorijí czifrovoí spravedlivosti (Data Justice Lab) pri Kardifskomu universitetí u Welsí, Spolucene Korolívstvo, postyino notuiut shkodu, jaku zapodíjali liudiam “velikí daní” j avtomatizovaní algoritmi po vsiomu svítu (Data Harm Record). Meta — ne lishe hlibshe zbahnuti vikliki czifrovoí epochi, a j rozrobiti efektivní pravoví metodi, jak liudi możut vydstoiati svoí prava, zokrema marginalízovanî ta diskrimínovanî verstvi naselenja.

Skandal z “robo-borhom” je lishe odnim íz prikladyv disbalansyv, jakí charakterizuiut czifrovî sistemi prijniatja ríshenj. Shcobi zrozumíti te, shco stalosia v Avstralijí, potríbno dati vydpovídí na kyljka zapitanj. Comu sistemu, jaka casto pomiliaietsia, zaprovadili bez adekvatnoho proczesu zachistu hromadian? Comu níchto ne oczíniv naslídkyv, persh níż vvesti jií v díju? Comu ne vrachuvali potreb vrazlivich verstv suspyljstva, po jakich vona vdarila naibylshe? Comu uriad vvażav dopustimim usunuti liudskij nahliad u takíj vażlivíj spraví, jak stiahnenja borhyv, víd jakoí casto zależat liudskí dolí? Problemi z “robo-borhom” ta bahatjma inshimi czifrovimi algoritmami znacnoiu míroiu zumovlení soczïalnimi ta politicnimi kontekstami, zokrema podílom liudei na “zaslużenich” ta “nezaslużenich”, jakij vplivaie na te, jak jich oczíniuiut í jak z nimi povodiatsia.

Deiakoho vydsotka pomilok v avtomatizovanich sistemach nemożlivo uniknuti: voni zavżdi vidavatimut falshivî pozitivnî ta falshivî negativnî rezultati. Ale navítj vipadkoví, zdavalosia b, pomilki możut mati diskriminaczíjnij zmíst. Napriklad, sistemam rozpyznavannia oblic nabahato vażce daiutsia ne bílî liczia. Tse zumovlene tim, shco sistemi trenuiut na bazach danich íz perevażno bílimi oblicjami. Krym toho, praczívniki technologicnich kompaníj, jakí rozrobliaiut tsí sistemi, takoż zdebylshoho bílî. Jak naslídok, u cziomu vipadku algoritm vażko nazvati spravdí neuperedżenim.

Za danimi dosliedniczkoí grupi ProPublica, algoritmi, jakî peredbacaiut, chto iz zasudżenich może znovu siesti za grati, vdvycie castieshe obiraiut cornoshkierich pravoporushnikyv, nież bielich. Schożie sistemi vikoristovuiut usiudi v Spolucenich Shtatach, j voni vplivaiut na możlivystj otrimati reabilitaczïu zamiestj viazniczie. Oskyljki algoritmi je privatnoiu ci derżavnoiu vlasnystiu, vażko dyznatisia, jak tocno voni pracziuiut. Ale, ocevidno, shco vażlivu rolj vydyhraiut takî faktori, jak naiavnystj roboti, ryvenj dochodu ci siemeina istoría. Algoritmi, v jakich zakladena informaczía zy svietu, de panuie neryvnystj ta diskriminaczía, schoże, lishe pydsiliuvatimutj jich.

Nepokoítj te, shco rozrobniki algoritmyv ta vlasniki IT-kompaníj maiże ne pomícaiutj obmeżenj ta negativnich storyn sistem, jakí voni stvoriuiutj. Napriklad, nabori danich, na jakich trenuiutj shtucnij intelekt, możutj buti z pomilkami abo skompiliovanimi z inshich naboryv, jakí nesumísnî míż soboiu. Casto liudi, jakí vprovadżuiutj avtomatizovanî sistemi, ne znaiutj pro biurokraticnî ta infrastrukturnî problemi, shco możutj uskladniti jichnie funkczïonuvannia, a takoż ne vnikaiutj v te, jak voni możutj vplinuti na vrazlivî ta marginalízovanî grupi naselennia, j ne konsultuiutsia z timi, chto maie dosvíd í znannia v tsíj sferí. Koli algoritmi prichodiatj na zmínu liudiní, voni usuvaiutj korektivnij zvorotnij zviazok, jakij vinikaie pyd cas vzaiemodíji míż liudinoiu í liudinoiu.

Casto shkoda pochoditj vyd toho, jak same vikoristovuiutj velikí obsiahi informaczíji. Nash czifrovij slíd — daní, jakí mi zalishaiemo pyslia sebe, koli spylkuiemosia, podorożuiemo ci kupuiemo shcosj v Internetí — dozvoliaie skonstruiuvati detalnî profilí, vnikaiuci v intimnî podrobiczí nashoho żittia. Za czimi danimi czílkom można klasifikuvati liudei na osnoví religijí, seksualnoí orïentaczíji, zachvoriuvanj, finansovoí vrazlivosti toshco. Doslídniczia Pam Dixon zy Svítovoho forumu privatnosti vijavila, shco data-brokeri (kompaníjí, jakí zbiraiutj í prodaiutj spożivcí daní) proponuiutj kupiti spiski liudei, jakí strażdaiutj vyd narko-, alko- ci íhrovoí zależnosti, demenczíji ci buli żertvami seksualnoho nasiljstva. Rozslíduvannia pricin finansovoí krizi 2008 roku vijavilo, shco banki provodiatj kategorizaczïu klïentyv, shcobi krashce na nich vplivati. U 2012-mu Departament justiczíji USA stiahnuv 175 mln dolaryv z kompanijí Well Fargo za zvinuvacenniami, shco vona sistematicno navjazuvala afro-amerikanskim ta ispanomovnim klïentam dorożcí uhodi.

Zahalom shkoda, jaku zdatní zapodíjuvati velikí masivi danich, duże ryznomanítna. Tse í vtrata privatnosti vyd vitoku danich, í visnażennia na robocomu mísczí vnaslídok onlain-monítoringu produktivnosti, í finansoví vtrati vyd podorożcannia strachyvki ci zbylshennia vydsotku za kreditami, í navítj vtrata żitla ci dostupu do ochoroni zdorovja. V neryvnich suspyljstvach algoritmi pracziuiutj u bík posilennia neryvnosti ta istoricnoí diskriminaczíji.

Shco ż vydbuvaietsia, koli liudi namahaiutsia kidati viklik zahrozam z boku velikich danich? Dosí mi rozhliadali borotjbu proti czich sistem u Avstralijí, Kanadí, Niderlandach, Novyi Zelandijí, Spolucenomu Korolívství ta Spolucenich Shtatach. Navítj u czich demokraticnich suspyljstvach samoí opori na zakonodavstvo buvaie nedostatnio. Hromadiani namahaiutsia znaiti sposobi vydshkoduvati shkodu, obiednuiucisj u kolektivníj ta bahatoprofilníj borotjbí, jaka zalucaie vsí mechanízmi demokratíji.

U vipadku “robo-borhu” avstralíjczí rozpocali kampanïu “Ne myi borh”, anonímno publikuiuci svoí ístoríji v Internetí. Naibylshe zanepokoiennia viklikaie te, shco uriad poklav vydpovídalnystj na hromadian dovoditi, shco v nich nemaie borhu, choca tse neryvna borotjba, adże v derżavi nabahato krashcí możlivostí nakopicuvati daní j operuvati nimi. Za povídomlenniami soczïalnich slużb Avstralijí, voni vnesli deiakí zmíni v sistemi u vydpovídj na kritiku, ale eksperti każutj, shco tsioho nedostatnio. Czíkavo, shco v svoiemu ostanniomu biudżetí uriad vidíliv koshti na podaljshe rozshirennia programi.

V Niderlandach indivídi ta hromadskí organizatsijí podali sudovij pozov proti uriadu cerez sistemu SyRI (System Risico Indicatie), jaka na osnoví danich peredbacaie, chto bylshe schilnij do obmanu. Za slovami pozivacív, sistema porushuie prezumpczïu nevinnosti — adże z neí viplivaie, shco liudina vvażaietsia vinnoiu, poki ne dovedene protileżne. Naslídki tsïeí sudovoí spravi, naiimovírnyshe, inspiruiut hromadian v inshich demokraticnich krajinach, jakí prahnut zachistiti svoí prava. V Spolucenomu Korolívství grupa “defenddigitalme” zvertaie uvahu na psichologicnij ta soçïalnij vpliv veb-monítoringu na ucnív seredních shkyl, jakich możut chibno identifikuvati, shco voni schilnî do suíçidu ci je clenami zlocinnich band. V Novíj Zelandijí neuriadovî organizatsijí uspíshno blokuiut sprobu Ministerstva soçïalnoho rozvitku zoboviazati vsích provaideryv soçïalnich posluh nadavati daní pro svojich klïentyv, shcob otrimati uriadove finansuvanja. Aktivísti stverdżuiut, shco tse może zmusiti clenyv vrazlivich grup, jak-ot bíżençí ci żertvi domashnioho nasiljstva, unikati soçïalnoí dopomohi cerez strach, shco jich możut vikriti.

U místí Little Rock, shtat Arkanzas, algoritm, jakij zaprovadiv Departament soçïalnich posluh, zvinuvatili u nespravedlivomu urízanjí casu, jakij soçïalnî praçívniki provodiat udoma u liudei z hlibokoiu invalídnystiu. Raníshe medsestri samostyino viznacali obsiah hodin dlia kożnoho invalída. Teper voni lishe dopomahaiut jim zapovniti anketu, a kompiuter sam viríshuie, skyljki jim potríbno hodin píkluvannia. Uriadovçí każut, shco avtomatizovana sistema zabezpecuie cesnij ta objektivnij rozpodíl hodin. Ale bahato liudei íz tsim ne zhodní. Semero invalídyv podali na Departament u sud — dlia shístioch íz nich cas domashnioho dohliadu vrízali bylsh níż na 30%. U travní sud zmusiv soçïalnî slużbi perestati vikoristovuvati algoritm — prote voni í nadalí joho zastosovuiut, za tse jich pritiahnuli do dodatkovoí vydpovídalnosti za nepokoru sudu. U toi cas, jak legalnî batalijí trivaiut, jakystj żitja tisiac liudei balansuie.

Usí tsí vipadki svídcat pro te, shco okrym pozovyv pro vydshkoduvanja shkodi, dlia zachistu hromadianskich prav potríbna shiroka publícna diskusía pro prozorystj, zvítnystj ta mechanízmi nahliadu za çifrovimi algoritmami. Vrachovuiuci te, shco çifroví sistemi zavżdi budut schiljnimi do pomilok, zvorotnij zviazok z liudjmi je kliucovim. Potríbne takoż fundamentalne pereosmislenja problem uriaduvanja — zokrema spyvrobytniçtva liudei íz vladoiu ta nepokori jij v suspyljstvach, shco dedalí bylshe zależat vyd analízu danich.

Text inšimi abetkami »

Škoda vyd “velikich danich”

V Avstralijí tse nazivaiut “robotizovanim borhom”, abo prosto “robo-borhom”: avtomatizovana sistema stiahnenja borhyv viklikaie strach, trivohu, zlystj ta sorom sered liudei, jakí zaležat vyd socïalnoí dopomohi.

U 2016-mu socïalní službi krajini zaprovadili novij sposyb rozrachunku ščoryčnich dochodyv otrimuvačív socïalnoí dopomohi í počali nadsilati avtomatičnî povídomlenja liudiam, kotrim, jak identifíkuvala sistema, pereplatili socïalnu dopomohu, z vimohoiu povernuti ryzniciu. Sutj novoho metodu rozrachunku dochodyv u tomu, ščo dochyd domohospodarstva protiahom dvoch tižnív mohli useredniti na vesj ryk. Dlia liudei, jakí pracuiut za kontraktom, na timčasovíj robotí abo zainiatî nepovnij robočij denj, tse stalo neabijakoiu problemoiu. Za deiakimi svídčenjami, jakščo spočatku avstralíjcí otrimuvali 20 tisiač povídomlenj pro zaborhovanystj protiahom roku, to pyslia novovvedennia sistema počala rozsilati taku kyljkystj listyv vsioho-na-vsioho za tiždenj.

Krym toho, jakščo raníše algoritm viznačav, ščo jakyisj liudiní deržava, možlivo, pereplatila socíalnu dopomohu, to dalí vže službovec-liudina perevíriav tsei vipadok. Pyslia zaprovadženja avtomatizovanoí sistemi tsei krok zabrali. Teper otrimuvačí socíalnoí dopomohi samí povinní dovesti, ščo v nich nema borhyv. A tse často neproste zavdannia — dovoditsia hodinami telefonuvati v ryzní instancijí, nadsilati zapiti í šukati kopijí čekyv časom až semiryčnoí davnosti. Naihyrše te, ščo bylšystj povídomlenj pro pereplatu otrimali liudi, jakí j tak žili v skrutnich materíalnich umovach. Bahato z nich vpali u vydčai, adže ne mali času í resursyv, ščobi protistoiati sistemí. Gazeti povídomili navítj pro odne samohubstvo. Vreští avstralíjskí socïalní službi viznali, ščo algoritm pomiliavsia, jak minimum, u čvertí vipadkyv — a senat krajini, provívši vlasne rozslíduvanja, dyišov visnovku, ščo novij proces narachuvanja borhu charakterizuie “fundamentalna nestača procedurnoí česnosti”.

Mi vvyišli v epochu velikich danich. Siohodní biznes-korporacijí ta uriadi v usiomu svítí otrimuiut dedalí bylšij dostup do ryznomanítnoí informacijí pro hromadian, poviazuiut míž soboiu ryznî nabori danich í ščoraz častíše vikoristovuiut algoritmi í štučnij intelekt, ščob otrimati bezprecedentne rozumínja liudskoí povedínki j uchvaliuvati švidší efektivníší ríšennia. Mi šče dosí ne znaiemo, do jakich naslídkyv use tse može prizvesti. Pro kožnoho z nas u rukach korporacíj ta uriadyv je neimovírna kyljkystj informacijí. Razom íz veličeznoiu občisliuvalnoiu potužnystiu tse označaie, ščo kožen staie bezkonečno prozorim pered vladoiu í biznesom, maiuči pri ciomu duže obmeženî možlivostí kontroliuvati svoí daní či vplivati na te, jak jich vikoristovuiut.

Doslídniki z Laboratorijí cifrovoí spravedlivosti (Data Justice Lab) pri Kardifskomu universitetí u Welsí, Spolučene Korolívstvo, postyino notuiut škodu, jaku zapodíjali liudiam “velikí daní” j avtomatizovaní algoritmi po vsiomu svítu (Data Harm Record). Meta — ne liše hlibše zbahnuti vikliki cifrovoí epochi, a j rozrobiti efektivní pravoví metodi, jak liudi možut vydstoiati svoí prava, zokrema marginalízovanî ta diskrimínovanî verstvi naselenja.

Skandal z “robo-borhom” je liše odnim íz prikladyv disbalansyv, jakí charakterizuiut cifrovî sistemi prijniatja ríšenj. Ščobi zrozumíti te, ščo stalosia v Avstralijí, potríbno dati vydpovídí na kyljka zapitanj. Čomu sistemu, jaka často pomiliaietsia, zaprovadili bez adekvatnoho procesu zachistu hromadian? Čomu níchto ne ocíniv naslídkyv, perš níž vvesti jií v díju? Čomu ne vrachuvali potreb vrazlivich verstv suspyljstva, po jakich vona vdarila naibylše? Čomu uriad vvažav dopustimim usunuti liudskij nahliad u takíj važlivíj spraví, jak stiahnenja borhyv, víd jakoí často zaležat liudskí dolí? Problemi z “robo-borhom” ta bahatjma inšimi cifrovimi algoritmami značnoiu míroiu zumovlení socïalnimi ta političnimi kontekstami, zokrema podílom liudei na “zasluženich” ta “nezasluženich”, jakij vplivaie na te, jak jich ocíniuiut í jak z nimi povodiatsia.

Deiakoho vydsotka pomilok v avtomatizovanich sistemach nemožlivo uniknuti: voni zavždi vidavatimut falšivî pozitivnî ta falšivî negativnî rezultati. Ale navítj vipadkoví, zdavalosia b, pomilki možut mati diskriminacíjnij zmíst. Napriklad, sistemam rozpyznavannia oblič nabahato važče daiutsia ne bílî licia. Tse zumovlene tim, ščo sistemi trenuiut na bazach danich íz perevažno bílimi obličjami. Krym toho, pracívniki technologičnich kompaníj, jakí rozrobliaiut tsí sistemi, takož zdebylšoho bílî. Jak naslídok, u ciomu vipadku algoritm važko nazvati spravdí neuperedženim.

Za danimi dosliednickoí grupi ProPublica, algoritmi, jakî peredbačaiut, chto iz zasudženich može znovu siesti za grati, vdvyčie častieše obiraiut čornoškierich pravoporušnikyv, niež bielich. Schožie sistemi vikoristovuiut usiudi v Spolučenich Štatach, j voni vplivaiut na možlivystj otrimati reabilitacïu zamiestj viaznicie. Oskyljki algoritmi je privatnoiu či deržavnoiu vlasnystiu, važko dyznatisia, jak točno voni praciuiut. Ale, očevidno, ščo važlivu rolj vydyhraiut takî faktori, jak naiavnystj roboti, ryvenj dochodu či siemeina istoría. Algoritmi, v jakich zakladena informacía zy svietu, de panuie neryvnystj ta diskriminacía, schože, liše pydsiliuvatimutj jich.

Nepokoítj te, ščo rozrobniki algoritmyv ta vlasniki IT-kompaníj maiže ne pomíčaiutj obmeženj ta negativnich storyn sistem, jakí voni stvoriuiutj. Napriklad, nabori danich, na jakich trenuiutj štučnij intelekt, možutj buti z pomilkami abo skompiliovanimi z inšich naboryv, jakí nesumísnî míž soboiu. Často liudi, jakí vprovadžuiutj avtomatizovanî sistemi, ne znaiutj pro biurokratičnî ta infrastrukturnî problemi, ščo možutj uskladniti jichnie funkcïonuvannia, a takož ne vnikaiutj v te, jak voni možutj vplinuti na vrazlivî ta marginalízovanî grupi naselennia, j ne konsultuiutsia z timi, chto maie dosvíd í znannia v tsíj sferí. Koli algoritmi prichodiatj na zmínu liudiní, voni usuvaiutj korektivnij zvorotnij zviazok, jakij vinikaie pyd čas vzaiemodíji míž liudinoiu í liudinoiu.

Často škoda pochoditj vyd toho, jak same vikoristovuiutj velikí obsiahi informacíji. Naš cifrovij slíd — daní, jakí mi zališaiemo pyslia sebe, koli spylkuiemosia, podorožuiemo či kupuiemo ščosj v Internetí — dozvoliaie skonstruiuvati detalnî profilí, vnikaiuči v intimnî podrobicí našoho žittia. Za cimi danimi cílkom možna klasifikuvati liudei na osnoví religijí, seksualnoí orïentacíji, zachvoriuvanj, finansovoí vrazlivosti toščo. Doslídnicia Pam Dixon zy Svítovoho forumu privatnosti vijavila, ščo data-brokeri (kompaníjí, jakí zbiraiutj í prodaiutj spoživčí daní) proponuiutj kupiti spiski liudei, jakí straždaiutj vyd narko-, alko- či íhrovoí zaležnosti, demencíji či buli žertvami seksualnoho nasiljstva. Rozslíduvannia pričin finansovoí krizi 2008 roku vijavilo, ščo banki provodiatj kategorizacïu klïentyv, ščobi krašče na nich vplivati. U 2012-mu Departament justicíji USA stiahnuv 175 mln dolaryv z kompanijí Well Fargo za zvinuvačenniami, ščo vona sistematično navjazuvala afro-amerikanskim ta ispanomovnim klïentam dorožčí uhodi.

Zahalom škoda, jaku zdatní zapodíjuvati velikí masivi danich, duže ryznomanítna. Tse í vtrata privatnosti vyd vitoku danich, í visnažennia na robočomu míscí vnaslídok onlain-monítoringu produktivnosti, í finansoví vtrati vyd podorožčannia strachyvki či zbylšennia vydsotku za kreditami, í navítj vtrata žitla či dostupu do ochoroni zdorovja. V neryvnich suspyljstvach algoritmi praciuiutj u bík posilennia neryvnosti ta istoričnoí diskriminacíji.

Ščo ž vydbuvaietsia, koli liudi namahaiutsia kidati viklik zahrozam z boku velikich danich? Dosí mi rozhliadali borotjbu proti cich sistem u Avstralijí, Kanadí, Niderlandach, Novyi Zelandijí, Spolučenomu Korolívství ta Spolučenich Štatach. Navítj u cich demokratičnich suspyljstvach samoí opori na zakonodavstvo buvaie nedostatnio. Hromadiani namahaiutsia znaiti sposobi vydškoduvati škodu, obiednuiučisj u kolektivníj ta bahatoprofilníj borotjbí, jaka zalučaie vsí mechanízmi demokratíji.

U vipadku “robo-borhu” avstralíjcí rozpočali kampanïu “Ne myi borh”, anonímno publikuiuči svoí ístoríji v Internetí. Naibylše zanepokoiennia viklikaie te, ščo uriad poklav vydpovídalnystj na hromadian dovoditi, ščo v nich nemaie borhu, choča tse neryvna borotjba, adže v deržavi nabahato kraščí možlivostí nakopičuvati daní j operuvati nimi. Za povídomlenniami socïalnich služb Avstralijí, voni vnesli deiakí zmíni v sistemi u vydpovídj na kritiku, ale eksperti kažutj, ščo tsioho nedostatnio. cíkavo, ščo v svoiemu ostanniomu biudžetí uriad vidíliv košti na podaljše rozširennia programi.

V Niderlandach indivídi ta hromadskí organizatsijí podali sudovij pozov proti uriadu čerez sistemu SyRI (System Risico Indicatie), jaka na osnoví danich peredbačaie, chto bylše schilnij do obmanu. Za slovami pozivačív, sistema porušuie prezumpcïu nevinnosti — adže z neí viplivaie, ščo liudina vvažaietsia vinnoiu, poki ne dovedene protiležne. Naslídki tsïeí sudovoí spravi, naiimovírnyše, inspiruiut hromadian v inšich demokratičnich krajinach, jakí prahnut zachistiti svoí prava. V Spolučenomu Korolívství grupa “defenddigitalme” zvertaie uvahu na psichologičnij ta socïalnij vpliv veb-monítoringu na učnív seredních škyl, jakich možut chibno identifikuvati, ščo voni schilnî do suícidu či je členami zločinnich band. V Novíj Zelandijí neuriadovî organizatsijí uspíšno blokuiut sprobu Ministerstva socïalnoho rozvitku zoboviazati vsích provaideryv socïalnich posluh nadavati daní pro svojich klïentyv, ščob otrimati uriadove finansuvanja. Aktivísti stverdžuiut, ščo tse može zmusiti členyv vrazlivich grup, jak-ot bížencí či žertvi domašnioho nasiljstva, unikati socïalnoí dopomohi čerez strach, ščo jich možut vikriti.

U místí Little Rock, štat Arkanzas, algoritm, jakij zaprovadiv Departament socïalnich posluh, zvinuvatili u nespravedlivomu urízanjí času, jakij socïalnî pracívniki provodiat udoma u liudei z hlibokoiu invalídnystiu. Raníše medsestri samostyino viznačali obsiah hodin dlia kožnoho invalída. Teper voni liše dopomahaiut jim zapovniti anketu, a kompiuter sam viríšuie, skyljki jim potríbno hodin píkluvannia. Uriadovcí kažut, ščo avtomatizovana sistema zabezpečuie česnij ta objektivnij rozpodíl hodin. Ale bahato liudei íz tsim ne zhodní. Semero invalídyv podali na Departament u sud — dlia šístioch íz nich čas domašnioho dohliadu vrízali bylš níž na 30%. U travní sud zmusiv socïalnî službi perestati vikoristovuvati algoritm — prote voni í nadalí joho zastosovuiut, za tse jich pritiahnuli do dodatkovoí vydpovídalnosti za nepokoru sudu. U toi čas, jak legalnî batalijí trivaiut, jakystj žitja tisiač liudei balansuie.

Usí tsí vipadki svídčat pro te, ščo okrym pozovyv pro vydškoduvanja škodi, dlia zachistu hromadianskich prav potríbna široka publíčna diskusïa pro prozorystj, zvítnystj ta mechanízmi nahliadu za cifrovimi algoritmami. Vrachovuiuči te, ščo cifroví sistemi zavždi budut schiljnimi do pomilok, zvorotnij zviazok z liudjmi je kliučovim. Potríbne takož fundamentalne pereosmislenja problem uriaduvanja — zokrema spyvrobytnictva liudei íz vladoiu ta nepokori jij v suspyljstvach, ščo dedalí bylše zaležat vyd analízu danich.

OBHOVORENNIA