Звязацца з намі

камп'ютэрныя тэхналогіі

OASI, першая пошукавая сістэма, якая знайшла алгарытмы, якія ўрады і кампаніі выкарыстоўваюць для грамадзян

Доля:

апублікаваны

on

Мы выкарыстоўваем вашу рэгістрацыю, каб прадастаўляць змест так, як вы далі згоду, і палепшыць наша разуменне вас. Вы можаце адмяніць падпіску ў любы час.

  • Створаная фондам Eticas абсерваторыя алгарытмаў з сацыяльным уздзеяннем (OASI) збірае інфармацыю з дзясяткаў алгарытмаў, якія выкарыстоўваюцца дзяржаўнымі адміністрацыямі і кампаніямі па ўсім свеце, каб даведацца больш пра іх сацыяльны ўплыў.
  • Мэта складаецца ў тым, каб сярод іншых характарыстык даць грамадскасці доступ да інфармацыі аб алгарытмах урада і кампаніі, а таксама даведацца, хто іх выкарыстоўвае, хто распрацоўвае, якія пагрозы яны ўяўляюць і ці былі яны правераны.
  • Перадузятасць алгарытму і дыскрымінацыя звычайна ўзнікаюць у залежнасці ад узросту, полу, расы або інваліднасці, сярод іншых каштоўнасцей, але з -за агульнай адсутнасці празрыстасці да гэтага часу немагчыма даведацца ўсе наступствы для пацярпелых груп.

Некамерцыйная арганізацыя Eticas Foundation, якая прапагандуе адказнае выкарыстанне алгарытмаў і сістэм штучнага інтэлекту (AI), стварыла Абсерваторыю алгарытмаў з сацыяльным уздзеяннем (OASI). Гэтая абсерваторыя прадстаўляе пошукавую сістэму, каб даведацца больш пра інструменты, якія прымаюць важныя аўтаматызаваныя рашэнні для грамадзян, спажыўцоў і карыстальнікаў па ўсім свеце.

У цяперашні час і кампаніі, і дзяржаўныя адміністрацыі аўтаматызуюць прыняцце рашэнняў дзякуючы алгарытмам. Аднак, яго распрацоўка і ўвод у эксплуатацыю не прытрымліваюцца вонкавага кантролю якасці, не з'яўляюцца празрыстымі, як гэта павінна быць, што не пакідае насельніцтва без абароны. З дапамогай гэтай пошукавай сістэмы кожны можа даведацца больш пра гэтыя алгарытмы: хто іх распрацаваў, хто выкарыстоўвае, сферу іх прымянення, ці былі яны правераны, іх мэты або іх сацыяльны ўплыў і пагрозы, якія яны ўяўляюць.

У дадзены момант, OASI збірае 57 алгарытмаў, але разлічвае дасягнуць 100 у наступныя месяцы. Сярод іх, 24 ужо прымяняюцца ў ЗША ўрадам і кампаніямі Big Tech. Напрыклад, ShotSpotter, інструмент алгарытму, разгорнуты Дэпартаментам паліцыі Окленда для барацьбы і скарачэння гвалту з дапамогай зброі з дапамогай мікрафонаў для маніторынгу гуку, а таксама алгарытм прагназавання патэнцыйнага гвалту і грэбавання дзецьмі, які выкарыстоўваецца ў акрузе Алегені, штат Пенсільванія. Яшчэ адзін прыклад з карпарацыі-гэта сістэма распазнання асоб Amazon, якая прайшла праверку Медыялабараторыі Масачусецкага тэхналагічнага інстытута (MIT Media Lab) у пачатку 2019 года.

Найбольш распаўсюджаная дыскрымінацыя па прыкмеце ўзросту, полу, расы або інваліднасці, атрымана ненаўмысна распрацоўшчыкамі, якім не хапае сацыяльна -эканамічных навыкаў, каб зразумець уплыў гэтай тэхналогіі. У гэтым сэнсе гэтыя інжынеры распрацоўваюць алгарытмы, заснаваныя толькі на тэхнічных навыках, а паколькі няма вонкавага кіравання і здаецца, што ён працуе належным чынам, алгарытм працягвае навучанне на аснове недастатковых дадзеных.

Улічваючы недастатковую празрыстасць функцыянавання некаторых з гэтых алгарытмаў, Eticas Foundation, акрамя запуску OASI, распрацоўвае праект знешняга аўдыту. Першы - гэта VioGén, алгарытм, які выкарыстоўваецца Міністэрствам унутраных спраў Іспаніі для прызначэння рызыкі жанчынам, якія звяртаюцца па абарону пасля выпадкаў хатняга гвалту. Eticas будзе праводзіць знешні аўдыт з дапамогай зваротных інжынерных і адміністрацыйных дадзеных, інтэрв'ю, справаздач або сцэнарыяў для збору маштабных вынікаў. Усё гэта з мэтай выяўлення магчымасцей для паляпшэння абароны гэтых жанчын.

"Нягледзячы на ​​наяўнасць алгарытмічных метадаў кантролю і аўдыту, якія гарантуюць, што тэхналогія паважае дзеючыя нарматыўныя акты і асноўныя правы, адміністрацыя і многія кампаніі працягваюць глуха слухаць просьбы грамадзян аб установах аб празрыстасці", - заявіла Джэма Гэлдан, заснавальнік Eticas Foundation . «У дадатак да OASI, пасля некалькіх гадоў, у якіх мы распрацавалі больш за дзясятак аўдытаў для такіх кампаній, як Alpha Telefónica, ААН, Koa Health або Міжамерыканскі банк развіцця, мы таксама апублікавалі Кіраўніцтва па алгарытмічным аўдыце што кожны можа іх выканаць. Мэта заўсёды - павышэнне дасведчанасці, забеспячэнне празрыстасці і аднаўленне даверу да тэхналогій, што само па сабе не павінна нанесці шкоды ».

У гэтым сэнсе алгарытмы, якія навучаюцца тэхналогіям машыннага навучання, выкарыстоўваючы вялікі аб'ём гістарычных дадзеных, каб "навучыць" іх выбіраць на аснове прынятых раней рашэнняў. Звычайна гэтыя дадзеныя не з'яўляюцца рэпрэзентатыўнымі для сацыяльна -эканамічнай і культурнай рэчаіснасці, у якіх яны прымяняюцца, але ў многіх выпадках яны адлюстроўваюць несправядлівую сітуацыю, якая не мае намеру працягвацца. Такім чынам, алгарытм тэхнічна будзе прымаць "правільныя" рашэнні ў адпаведнасці са сваёй падрыхтоўкай, нават калі рэальнасць такая, што яго рэкамендацыі або прагнозы прадузятыя або адрозніваюцца.

рэклама

Аб Eticas Foundation

Фонд Eticas працуе над тым, каб перавесці ў тэхнічныя спецыфікацыі прынцыпы, якія кіруюць грамадствам, такія як роўныя магчымасці, празрыстасць і недыскрымінацыя, якія ёсць у тэхналогіях, якія прымаюць аўтаматызаваныя рашэнні аб нашым жыцці. Ён шукае баланс паміж змяненнем сацыяльных каштоўнасцей, тэхнічнымі магчымасцямі апошніх дасягненняў і прававой базай. З гэтай мэтай ён правярае алгарытмы, правярае, што юрыдычныя гарантыі прымяняюцца да лічбавага свету, асабліва да штучнага інтэлекту, і праводзіць інтэнсіўную працу па павышэнні дасведчанасці і распаўсюджванню неабходнасці адказнай і якаснай тэхналогіі.

Падзяліцеся гэтым артыкулам:

EU Reporter публікуе артыкулы з розных знешніх крыніц, якія выказваюць шырокі спектр пунктаў гледжання. Пазіцыі, выказаныя ў гэтых артыкулах, не абавязкова адпавядаюць пазіцыі EU Reporter.
Украіна5 дзён таму

Кампанія PMI, прызнаная Украінай «спонсарам» вайны, працягвае працаваць у Расеі і карыстаецца ўкраінскімі падатковымі льготамі

UK5 дзён таму

Прынцэса Уэльская кажа, што праходзіць курс лячэння ад раку

Зялёны курс4 дзён таму

Цеплавыя помпы маюць вырашальнае значэнне для экалагічнага пераходу для сталеліцейнай і іншых галін прамысловасці

Аўтамабілі2 дзён таму

Fiat 500 супраць Mini Cooper: падрабязнае параўнанне

Horizon Europe2 дзён таму

Навукоўцы Суёнсі атрымалі грант Horizon Europe у памеры 480,000 XNUMX еўра на падтрымку новага даследчага і інавацыйнага праекта

Lifestyle2 дзён таму

Пераўтварэнне вашай гасцінай: погляд у будучыню забаўляльных тэхналогій

Багамскія а-вы2 дзён таму

Багамскія астравы падалі ў Міжнародны суд прававыя заявы аб змене клімату

бізнес20 гадзін таму

Кампаніі працягваюць карыстацца перавагамі 5G, калі Wipro і Nokia супрацоўнічаюць

Кітай-ЕС2 гадзін таму

 La « fin de la chinoise croissance » ? Non au conformisme aveugle

бізнес20 гадзін таму

Кампаніі працягваюць карыстацца перавагамі 5G, калі Wipro і Nokia супрацоўнічаюць

Багамскія а-вы2 дзён таму

Багамскія астравы падалі ў Міжнародны суд прававыя заявы аб змене клімату

Lifestyle2 дзён таму

Пераўтварэнне вашай гасцінай: погляд у будучыню забаўляльных тэхналогій

Horizon Europe2 дзён таму

Навукоўцы Суёнсі атрымалі грант Horizon Europe у памеры 480,000 XNUMX еўра на падтрымку новага даследчага і інавацыйнага праекта

Аўтамабілі2 дзён таму

Fiat 500 супраць Mini Cooper: падрабязнае параўнанне

Зялёны курс4 дзён таму

Цеплавыя помпы маюць вырашальнае значэнне для экалагічнага пераходу для сталеліцейнай і іншых галін прамысловасці

Украіна5 дзён таму

Кампанія PMI, прызнаная Украінай «спонсарам» вайны, працягвае працаваць у Расеі і карыстаецца ўкраінскімі падатковымі льготамі

Актуальныя