Ці можа разумная стратэгія #AI пераканаць ЕС у тым, што мадэраванне змесціва #Facebook даспадобы?

17 лютага падчас сустрэчы з еўрапейскімі палітыкамі ў Брусэлі генеральны дырэктар Facebook Марк Цукерберг (На фота) выпусціў тэхнічную кнігу, у якой выклаў сваю стратэгію барацьбы са шкодным кантэнтам на платформах сацыяльных сетак. У адказ на жаданне Еўрапейскага саюза ўзмацніць нагляд за тэхналагічным сектарам мільярдэр выказаў меркаванне, што галіна павінна рэгулявацца на глабальным, а не на лакальным узроўні.

Ён таксама сцвярджаў, што адказнасць тэхналагічных кампаній за шкодны кантэнт на іх платформах павінна быць абмежаваная, пакуль у іх ёсць эфектыўныя сістэмы мадэрацыі кантэнту. Прапановы Цукерберга, аднак, былі сустрэтыя ў Брусэлі відавочна халодным. Нават пасля сустрэчы з Цукербергам ЕС сцвярджаў, што новая прапанова Facebook аб мадэрацыі кантэнту не адпавядае многім франтам, у прыватнасці, не ўдалося акрэсліць канкрэтныя крокі, якія платформа распачне для барацьбы з незаконным кантэнтам у Інтэрнэце. «Гэтага недастаткова. Гэта занадта павольна, занадта нізка з пункту гледжання адказнасці і рэгулявання», - выказаў меркаванне ўпаўнаважаны па стратэгіі даных Цьеры Брэтан пасля сустрэчы з кіраўніком Facebook.

Дзе цяперашняя сістэма Facebook недацягвае?

Тэхналагічныя гіганты маюць даволі вузкае акно, каб пераканаць еўрапейскіх палітыкаў, што іх уласных намаганняў па стрымліванні праблемнага кантэнту дастаткова. Закон Камісіі аб лічбавых паслугах, доўгачаканы перагляд 20-гадовай даўніны дырэктывы ЕС аб ​​электроннай камерцыі, плануецца ўвесці ў дзеянне ў канцы гэтага года. Як адзначыў Брэтан, «калі мы ўбачым, што [ўласны працэс Facebook для мадэрацыі змесціва] не тое, што нам трэба ў дачыненні да нашых уласных стандартаў, нам давядзецца рэгуляваць і ўключыць гэта ў наш [Закон аб лічбавых паслугах]».

Facebook поўны рашучасці вырашыць праблему мадэрацыі змесціва самастойна — выкарыстоўваючы дасягненні ў галіне штучнага інтэлекту (AI) і машыннага навучання для паляпшэння цяперашняй сістэмы. Цярністая задача выяўлення і выдалення праблемнага матэрыялу ў цяперашні час перададзена староннім спецыялістам, якія па сваім меркаванні вызначаюць, чаму выява або відэа непрыемныя.

Спадзявацца на такі чалавечы нагляд праблематычна, улічваючы жудасную прыроду некаторых мадэратараў кантэнту, якія вымушаны праглядаць - той факт, што супрацоўнікі, якія займаюцца мадэрацыяй кантэнту для Facebook у Лісабоне, Дубліне і Варшаве, пацвердзілі, што іх праца прывяла да посттраўматычнага стрэсавага расстройства, напэўна выкліча трывогу ў еўрапейскіх інстытутах. Акрамя таго, эфектыўнасць чалавечай мадэрацыі была пастаўлена пад сумнеў пасля таго, як Facebook неаднаразова не змог хутка выдаліць шкодны кантэнт, такі як жывая трансляцыя нападу на мячэць у Крайстчэрчы ў 2019 годзе.

AI можа закрыць некаторыя сляпыя плямы Facebook

рэклама

Штучны інтэлект можа значна паменшыць такую ​​залежнасць ад умеранасці чалавека. Алгарытмы, навучаныя з дапамогай машыннага навучання, могуць падтрымліваць мадэратараў, не толькі памяншаючы іх ўздзеянне шкоднага інтэрнэт-кантэнту, але і павялічваючы іх прадукцыйнасць і дакладнасць. Facebook сцвярджае, што бачыў шматабяцаючыя вынікі ў сваіх эксперыментах з штучным інтэлектам да гэтага часу - па дадзеных платформы, на працягу другой паловы 2019 года платформе ўдалося пазначыць 99.8% графічнага кантэнту і 99.5% галізны і эксплуатацыі дзяцей нават да таго, як карыстальнікі папярэдзілі пра гэта. Вядома, тэхналогія ўсё яшчэ патрабуе дапрацоўкі — алгарытмы мадэрацыі змесціва, заснаваныя на штучным інтэлекте, па-ранейшаму асабліва цяжка распазнаюць нюансы мовы варожасці, напрыклад, — праблема, якая асабліва хвалюе Еўрапейскі Саюз.

Больш за тое, Еўрапейскі саюз з асцярогай ставіцца да таго, каб Facebook свабоду выкарыстоўваў такую ​​адчувальную тэхналогію, як штучны інтэлект. Гэтыя асцярогі ў першую чаргу вынікаюць з дрэннай рэпутацыі Facebook у адпаведнасці з еўрапейскімі стандартамі празрыстасці, што выклікае прывід таго, што кампанія можа распрацаваць «алгарытмы чорнай скрыні», якія прадухіляюць праверкі платформы трэцімі асобамі або дзяржаўнымі органамі.

У аснове лічбавай палітыкі, апублікаванай на мінулым тыдні лічбавым царом ЕС і кіраўніком канкурэнцыі Маргрэт Вестагер, з'яўляецца рэгуляванне таго, як кампаніі выкарыстоўваюць штучны інтэлект. У той час як ЕС хоча, каб урады сачылі за больш рызыкоўнымі аспектамі, такімі як выкарыстанне тэхналогіі распазнання твараў, многія прыкладанні на ўласным заднім двары Еўропы дэманструюць, як яе можна выкарыстоўваць бяспечна і эфектыўна. Ці можа Facebook браць з іх прыклад?

Праграмы ў сацыяльных сетках наступнага пакалення пакідаюць свой след дзякуючы інавацыйнаму выкарыстанню штучнага інтэлекту

У прыватнасці, адно еўрапейскае прыкладанне творча выкарыстала штучны інтэлект, каб забяспечыць сваім маладым карыстальнікам больш бяспечны і прыемны вопыт. Yubo, праграма для жывых трансляцый для дзяцей ва ўзросце 13-25 гадоў, абапіраецца на баланс паміж складанымі алгарытмамі і навучаннем маладых людзей шкодзе ў інтэрнэце, каб забяспечыць бяспеку 20 мільёнаў карыстальнікаў платформы. Старанна адпрацаваны алгарытм выяўляе праблемнае змесціва, такое як аголенасць або нехта толькі ў ніжняй бялізне, падчас жывой трансляцыі — у гэты момант уключаецца сістэма ўмяшання Yubo ў рэжыме рэальнага часу, адпраўляючы карыстальнікам паведамленне з папярэджаннем, у якім тлумачыць, чаму такія паводзіны непажаданыя. Калі карыстальнік не выправіць свае паводзіны, трансляцыю можна дыстанцыйна закрыць.

Тым часам, каб пераканацца, што праграма прызначана для падлеткаў і маладых людзей, Yubo супрацоўнічае з папулярным брытанскім пастаўшчыком лічбавай ідэнтыфікацыі Yoti, які супастаўляе загружаныя ідэнтыфікацыйныя дакументы з сэлфі карыстальніка з дапамогай праграмнага забеспячэння для распазнавання твараў. Тэхналогія Yoti, якая таксама ўкараняецца ў супермаркетах, каб пераканацца, што людзі ва ўзросце да 18 гадоў не купляюць забароненыя тавары, такія як цыгарэты або алкаголь, можа быць выкарыстана іншымі праграмамі сацыяльных сетак для «ўзроставага абмежавання» іх супольнасці або пераканацца, што карыстальнікі тыя, за каго сябе выдаюць.

Спробы Yubo спыніць праблемны інтэрнэт-кантэнт у зародку — шляхам спалучэння кампутарнай мадэрацыі з інфармаваннем маладых карыстальнікаў аб вартасцях і забаронах добрага інтэрнэт-пратаколу — выклікалі фурор у тэхналагічным сектары. Яны таксама павінны стаць абнадзейлівым прыкладам як для тэхналагічных гігантаў, такіх як Facebook, так і для рэгулятараў, такіх як Еўрапейскі саюз, што платформы сацыяльных сетак могуць знайсці здаровы баланс паміж празмернай залежнасцю ад штучнага інтэлекту або чалавечага кантролю.

Штучны інтэлект не з'яўляецца панацэяй ад усіх праблем, з якімі сутыкаюцца платформы сацыяльных сетак. Паколькі Facebook імкнецца пераканаць ЕС у тым, што ён здольны мадэраваць уласны кантэнт, яму было б добра скарыстацца прыкладам новага пакалення праграм, якім удалося распрацаваць цэласную стратэгію, уключаючы штучны інтэлект, для забеспячэння бяспекі сваіх карыстальнікаў.

Падзяліцеся гэтым артыкулам: