Нават пазоў у памеры 2.4 мільярда долараў не спыніць нянавісць у інтэрнэце – Сіліконавая даліна была спецыяльна пабудавана для яе павелічэння

У кастрычніку 2021 г. прафесар Меарэг Амар (На фота) было doxxed на Facebook. Праз некалькі тыдняў ён быў жорстка забіты ва ўласным доме, піша Кортні Мукойі.

Цяпер мацярынская кампанія Facebook Meta сутыкаецца з Пазоў у 2.4 мільярда долараў, абвінавачанага ў падбухторванні да гвалту ў роднай для Амарэ Эфіопіі.

Doxxing Amare не быў выпадковым. Яго інфармацыя не проста трапіла ў чужыя рукі – яна была наўмысна пашырана як заклік да гвалтоўнага правасуддзя. 

У сучасным свеце роля дзяржавы ў расследаванні правапарушэнняў і абароне невінаватых была заменена натоўпамі ў Інтэрнэце, якія выконваюць ролю суддзі, прысяжных і ката.

І не толькі ў Эфіопіі. 

У Індыі 20 чал былі забітыя на працягу двух месяцаў пасля абвінавачання ў выкраданні дзіцяці праз WhatsApp у 2018 годзе. 

Неўзабаве пасля гэтага Германія стала сведкай ксенафобскіх хваляванняў чуткі ў сацыяльных сетках сцвярджаў, што немец быў забіты бежанцамі. І толькі ў мінулым годзе ў Вялікабрытаніі ўспыхнулі гістарычныя беспарадкі пасля трагічнага забойства трох маладых дзяўчат у Саўтпорце, выкліканыя хваляй дэзінфармацыя пра асобу меркаванага забойцы.

У кожным з гэтых выпадкаў дэзінфармацыя была накіравана на меншасці або мусульманскія супольнасці, якія ўжо сутыкаюцца рэкордны ўзровень злачынстваў на глебе нянавісці. 

З таго моманту, як алгарытм нараджаецца, ён пачынае мутаваць, вывучаючы, як – і каго – ненавідзець на аснове дадзеных і шаблонаў, з якіх ён вучыцца. Як і эфект матылька, нават найменшы след прадузятасці або дыскрымінацыі імгненна ўзмацняецца. 

З гэтага часу ён хутка становіцца непазнавальным. Некантралюемы. Нават яго стваральніку. 

Але нават калі б ён хацеў, Марк Цукерберг не можа вырваць вілку. 

Справа не толькі ў тым, што машына перарасла свайго вытворцы, але і ў тым, што ні ў аднаго з адпаведных гульцоў няма поўнага набору інструментаў для яе ўтрымання. Тэхнічныя гіганты валодаюць тэхнічным вопытам, але не маюць ні волі, ні юрыдычнай свабоды дзеянняў. Нацыянальныя ўрады валодаюць заканадаўчай уладай, але рухаюцца занадта павольна, каб ісці ў нагу з інавацыямі. І арганізацыі грамадзянскай супольнасці могуць разумець шкоду лепш за ўсіх, але не маюць інфраструктуры або ўплыву, каб прымусіць змены.

Возьмем, напрыклад, ЕС Закон аб лічбавых паслугах – упершыню прапанаваны ў канцы 2020 г., але не выконваўся да 2024 г. За працяглы перыяд свайго развіцця – ChatGPT быў выпушчаны толькі ў 2022 г. – лічбавы ландшафт рэзка змяніўся, у выніку чаго яго правілы састарэлі яшчэ да таго, як яны былі ўведзены. 

З моманту ўвядзення акта ў дзеянне, што ўключае меры стрымліваць мову нянавісці ў інтэрнэце і алгарытмічнае ўзмацненне экстрэмісцкага кантэнту - аказалася складана. Напады на меншасці, уключаючы мусульман і яўрэяў, дасягнулі найвышэйшага ўзроўню. У ультраправых ёсць нават які выкарыстоўваецца дзейнічаць як абгрунтаванне за іх уласную дэгуманізуючую рыторыку. 

У ААН у мінулым месяцы, Махамад Аль-Іса, генеральны сакратар Ліга мусульманскага свету, сцвярджаў, што ісламафобія - гэта нарастаючы крызіс. Аль-Іса неаднаразова папярэдзілі што штучны інтэлект можа выкарыстоўваць сацыяльныя сеткі ў якасці зброі, распаўсюджваць дэзінфармацыю і вербаваць экстрэмістаў - менавіта таму ён сцвярджае, што рэлігійныя лідэры павінны быць уключаны ў распрацоўку этычных рамак. Яго папярэджанні паўтараюць папярэджанні папы Францішка і Ватыкана, якія сцвярджаюць, што штучны інтэлект з'яўляеццацень зла".

Намаганні Аль-Ісы супрацьстаяць нянавісці задоўга да сённяшніх дэбатаў па ІІ. У студзені 2020 г. ён узначаліў дэлегацыю мусульманскіх лідэраў у мемарыяле Аўшвіц-Біркенаў - адзін з самых высокапастаўленых ісламскіх наведванняў гэтага месца - падкрэсліваючы больш шырокую прыхільнасць супрацьстаянню спадчыне нянавісці і гвалту. Сёння, калі на Блізкім Усходзе бушуе вайна, гэтая прыхільнасць умацаванню міжканфесійнага паразумення з'яўляецца больш актуальнай, чым калі-небудзь.

"Калі рэлігійныя лідэры не маюць месца на мерапрыемствах [AI]", - папярэдзіў Аль-Іса ў Нядаўняя артыкул, «…развіваючыся дыскусіі аб штучным інтэлекце будзе адсутнічаць важныя эксперты па прадметах, неабходныя для прадухілення любой магчымасці новай эры экстрэмізму на аснове штучнага інтэлекту».

Каб дасягнуць прагрэсу, тэхналогія, палітыка і супольнасць павінны перастаць працаваць ізалявана і пачаць будаваць агульны скаардынаваны адказ. 

Па-першае, мы павінны інвеставаць у даследаванні і распрацоўкі за межамі бурбалкі ў Сіліконавай даліне, адначасова памяншаючы нашу залежнасць ад усё больш бязладнага кіравання прэзідэнта Трампа. Далей мы павінны ўвесці новыя правілы, патрабуючы ад карпарацый і арганізацый кансультавацца з зацікаўленымі бакамі супольнасці на працягу ўсёй сваёй дзейнасці і гарантаваць, што алгарытмы навучаюцца на інклюзіўных наборах даных.

У той жа час ЕС павінен вывучыць новыя інструменты для выяўлення і змякчэння непазбежнага ўхілу сістэм штучнага інтэлекту. Мы таксама павінны разгарнуць універсальныя праграмы навучання AI-пісьменнасці і платформы падсправаздачнасці, інфармуючы грамадскасць аб патэнцыйных пагрозах і даючы ёй магчымасць паведамляць аб любых скаргах. 

Тое, што адбылося ў Эфіопіі ці Саўтпорце, не з'яўляецца анамаліяй, гэта папярэджанне аб тым, што сучасныя платформы больш не з'яўляюцца нейтральнымі прасторамі. Яны з'яўляюцца актыўнымі суб'ектамі фарміравання грамадскіх настрояў і паводзін - занадта часта спосабамі, якія падбухторваюць да гвалту і палярызуюць грамадства.

У канчатковым рахунку, гэты пазоў супраць Meta датычыцца не толькі адказнасці, але і прафілактыкі. Нарматыўныя стандарты, безумоўна, дапамогуць, але абмежаванні павінны быць збалансаваны дыверсіфікацыяй.

Толькі тады мы зможам захаваць перавагі гэтых тэхналогій, не аддаючы саму ідэю справядлівасці некантралюемай алгарытмічнай натоўпу.

Пра аўтара:

Кортні Мукойі з'яўляецца заснавальніцай і дырэктарам Фонду Кодэкса справядлівасці, які выкарыстоўвае існуючыя і новыя тэхналогіі для прасоўвання правоў чалавека ў супольнасцях Зімбабвэ. Ён энтузіяст CivicTech са ступенню магістра права ў галіне міжнароднага гандлю з Універсітэта Кейптаўна.

Muyoki атрымаў мноства ўзнагарод, у тым ліку Прэмію за дэмакратычныя інавацыі 2022 года і Прэмію Wangari Maathai AI Impact Award 2023 года. У 2023 годзе ён быў абраны для стыпендыі Мандэлы ў Вашынгтоне. У цяперашні час ён працуе ў Маладзёжным кансультатыўным савеце ААН па правах чалавека і Маладзёжным савеце Еўрапейскага саюза. Ён супрацоўнічаў з рознымі арганізацыямі, у тым ліку з Лабараторыяй падсправаздачнасці і Афрыканскім саюзам, каб прасоўваць выкарыстанне тэхналогій і штучнага інтэлекту ў галіне правоў чалавека і грамадзянскай актыўнасці. Ён з'яўляецца серыйным прадпрымальнікам, які таксама заснаваў стартап InsurTech пад назвай TopSure, які пачаў яго шлях да стварэння стартапаў-аднарогаў у Афрыцы.

Падзяліцеся гэтым артыкулам: