Праверка абяцанняў #BigTech

Узор у Сіліконавай даліне занадта знаёмы. Рухайцеся хутка, ламайце рэчы, прасіце прабачэння, абяцайце зрабіць лепш і паўтарайце. Пасля амаль двух дзесяцігоддзяў гэтай схемы мы знясілены, піша Доктар Хані Фарыд.

Мы знясілены ашаламляльнымі праваламі па абароне канфідэнцыяльнасці карыстальнікаў, якія дазваляюць рэкламадаўцам незаконна арыентавацца на аб'явы аб жыллі і вакансіях на падставе расы і ўзросту, прасоўваюць фальшывыя навіны, накіраваныя на падбухторванне да гвалту і зрыву выбараў, і дазваляюць тэрарыстычным групам працягваць радыкалізавацца і вярбаваць у Інтэрнэце. Мы стаміліся ад прабачэнняў і абяцанняў зрабіць лепш.

Палітыкі і рэкламадаўцы ўсё часцей выказваюць расчараванне ў сувязі з адсутнасцю ў кампаній сацыяльных сетак агрэсіўнай барацьбы з усім: ад радыкалізацыі матэрыялаў, звязаных з тэрарызмам, да кантэнту сексуальнага характару, арыентаванага на дзяцей. У адказ YouTube толькі на мінулым тыдні абвясціў, што за апошнія тры месяцы яны выдалілі больш за 8 мільёнаў відэа, большасць з якіх былі спамам або кантэнтам для дарослых. У агульнай складанасці 6.7 мільёна выдаленага кантэнту былі аўтаматычна ідэнтыфікаваныя машынамі, 76% з якіх былі выдалены, перш чым атрымаць адзін прагляд.

YouTube таксама паведамляе, што больш за палову відэа з гвалтоўным экстрэмізмам былі выдаленыя з менш чым 10 праглядамі. Аднак нам не паведамляецца, колькі з гэтых відэа было выдалена, і, вядома, мы не ведаем, колькі відэа засталося ў сетцы, калі іх не прапусцілі алгарытмы YouTube або мадэратары.

На першы погляд, гэтыя лічбы гучаць шматспадзеўна, але больш пільны погляд малюе іншую карціну. На працягу сямі тыдняў з 8 сакавіка па 26 красавіка гэтага года мы выкарыстоўвалі нашу ўласную тэхналогію, каб вызначыць прысутнасць на платформе YouTube толькі 256 раней ідэнтыфікаваных відэаролікаў, створаных ІДІЛ, звязаных з тэрарызмам. Вось што мы даведаліся:

1. На YouTube было загружана не менш за 942 відэа ІДІЛ.

   рэклама

2. Гэтыя 942 відэа сабралі ў агульнай складанасці 134,644 XNUMX прагляду.

3. Нягледзячы на ​​тое, што 74% відэа заставаліся на YouTube менш за дзве гадзіны, на працягу гэтага часовага акна гэтыя відэа набіралі ў сярэднім 12 праглядаў кожнае з максімальнай колькасцю праглядаў 252.

4. Для відэа, якія былі даступныя больш за дзве гадзіны, сярэдняя колькасць праглядаў за 48-гадзіннае акно склала 515 з максімальнай колькасцю праглядаў 9,589 (мы спынілі адсочванне праглядаў пасля 48-гадзіннага акна).

5. Гэтыя 942 відэа былі загружаныя 157 рознымі ўліковымі запісамі YouTube, некаторыя з якіх запампавалі да 70 відэа, перш чым канал быў выдалены адміністратарамі YouTube або выдалены карыстальнікам.

6. Прыкладна 91% відэа, якія мы знайшлі, былі запампаваныя больш за адзін раз і заставаліся ў інтэрнэце як мінімум дастаткова доўга, каб мы маглі іх знайсці.

Прывяду толькі адзін канкрэтны прыклад - відэа пад назвай Палюй на іх, адзінабожнік, першапачаткова апублікаваны самалійскай філіяй ІДІЛ 25 снежня 2017 г., заахвочвае напады з выкарыстаннем агнястрэльнай зброі і аўтамабіляў у заходніх краінах, уключаючы Парыж і Лондан. Гэта відэа было запампавана на YouTube 10 сакавіка 2018 г., было даступна 29 гадзін і атрымала 405 праглядаў, перш чым было выдалена. Гэта відэа было паўторна запампавана 11 сакавіка іншым уліковым запісам і было даступна 39 гадзін і атрымала 113 праглядаў, перш чым зноў было выдалена. Затым гэтае відэа было паўторна запампавана і выдалена як мінімум яшчэ шэсць разоў за сем тыдняў, атрымаўшы разам яшчэ 875 праглядаў.

З нашага аналізу выявілася некалькі заканамернасцей. Нягледзячы на ​​сцвярджэнні, што ён выкарыстоўвае аўтаматычныя інструменты для пошуку і выдалення змесціва, звязанага з тэрарызмам, мы бачым, што адно і тое ж змесціва неаднаразова загружаецца на YouTube, часта з аднаго ўліковага запісу. Гэты кантэнт знаходзіцца ў сетцы ад некалькіх гадзін да некалькіх дзён і праглядаецца ад сотняў да тысяч разоў. Пасля выдалення гэты ж кантэнт проста загружаецца паўторна, што азначае, што ён фактычна даступны ўвесь час. Калі невялікая некамерцыйная арганізацыя, такая як Counter Extremism Project, з абмежаванымі фінансавымі і вылічальнымі рэсурсамі, можа знайсці кантэнт на гэтых платформах, мы не бачым прычын, чаму самі платформы не могуць рабіць тое ж самае.

Сутнасць у тым, што занадта шмат кантэнту, звязанага з тэрарызмам, знаходзіць свой шлях у сетку, ён застаецца ў сетцы занадта доўга і працягвае з'яўляцца зноў, нават калі яго ў рэшце рэшт выдаляюць.

Нягледзячы на ​​тое, што мы бачым пэўны прагрэс у параўнанні з некалькімі гадамі таму, усё яшчэ існуюць значныя прабелы ў распрацоўцы і разгортванні тэхналогій для хуткага і дакладнага пошуку і выдалення змесціва, звязанага з тэрарызмам. У дадатак да ўдасканалення існуючых тэхналогій, галіна павінна рабіць больш для распрацоўкі і разгортвання новых тэхналогій, каб змагацца з пастаянна зменлівым ландшафтам - і гэта павінна выходзіць за рамкі расплывістых абяцанняў выкарыстання штучнага інтэлекту праз пяць-дзесяць гадоў для вырашэння нашых праблем сутыкнуўшыся сёння.

Палітыкі, рэкламадаўцы і грамадскасць павінны працягваць аказваць ціск на тэхналагічныя кампаніі, каб яны ўзялі на сябе большую адказнасць за прамую і вымерную шкоду, прычыненую злоўжываннямі на іх платформах. Калі гэтыя тэхналагічныя кампаніі не будуць рэагаваць больш эфектыўна, то палітыкі павінны разгледзець пытанне аб штрафах (як немцы), а рэкламадаўцам варта разгледзець магчымасць утрымання рэкламных долараў (як пагражала Unilever).

Доктар Хані Фарыд - прафесар трэцяга стагоддзя Альберта Брэдлі 1915 года і старшыня кафедры інфарматыкі Дартмуцкага каледжа і старэйшы дарадца праекта па барацьбе з экстрэмізмам.

Падзяліцеся гэтым артыкулам: