Тэрмінова неабходныя законы па прадухіленні тэрарызму штучнага інтэлекту

Згодна з даследчым цэнтрам па барацьбе з экстрэмізмам, урады павінны "тэрмінова разгледзець" новыя правілы, каб прадухіліць штучны інтэлект ад вярбоўкі тэрарыстаў.

Інстытут стратэгічнага дыялогу (ISD) заявіў, што існуе "відавочная патрэба ў заканадаўстве, каб ісці ў нагу" з пагрозамі, якія размяшчаюцца ў інтэрнэце тэрарыстамі.

Гэта адбылося пасля эксперыменту, падчас якога чат-бот «завербаваў» незалежнага аглядальніка заканадаўства аб тэрарызме ў Вялікабрытаніі.

Урад Злучанага Каралеўства заявіў, што зробіць "усё магчымае", каб абараніць насельніцтва.

Па словах Джонатана Хола KC, незалежнага ўрадавага аглядальніка заканадаўства па барацьбе з тэрарызмам, адна з самых важных праблем заключаецца ў тым, што «цяжка ідэнтыфікаваць асобу, якая па законе магла б несці адказнасць за зробленыя чат-ботамі заявы, якія заахвочвалі тэрарызм».

Г-н Хол правёў эксперымент на сайце Character.ai, які дазваляе карыстальнікам весці чаты з дапамогай чат-ботаў, створаных іншымі карыстальнікамі і распрацаваных штучным інтэлектам.

Ён уступіў у размову з шэрагам розных ботаў, якія, як уяўляецца, былі створаны для імітацыі адказаў іншых ваяўнічых і экстрэмісцкіх груповак.

рэклама

Вышэйшага лідэра Ісламскай дзяржавы нават называлі «старэйшым лідэрам».

Па словах г-на Хола, бот зрабіў спробу завербаваць яго і заявіў пра «поўную адданасць і адданасць» экстрэмісцкай групоўцы, што забаронена законамі Вялікабрытаніі, якія забараняюць тэрарызм.

З іншага боку, г-н Хол заявіў, што ў Злучаным Каралеўстве не было парушэння закона, таму што камунікацыі не былі створаны чалавекам.

Паводле яго слоў, новыя правілы павінны прыцягваць да адказнасці як вэб-сайты, якія размяшчаюць чат-ботаў, так і людзей, якія іх ствараюць.

Калі справа дайшла да ботаў, з якімі ён сутыкнуўся на Character.ai, ён заявіў, што за іх стварэннем «хутчэй за ўсё, ёсць нейкая шакавальная каштоўнасць, эксперыменты і, магчыма, нейкі сатырычны аспект».

Акрамя таго, містэру Холу ўдалося распрацаваць свой уласны чат-бот «Усама бін Ладэн», які ён неадкладна сцерў, праявіўшы «бязмежны энтузіязм» да тэрарыстычнай дзейнасці.

Яго эксперымент праводзіцца на фоне росту занепакоенасці адносна таго, як экстрэмісты могуць выкарыстоўваць удасканалены штучны інтэлект.

Згодна з даследаваннем, апублікаваным урадам Злучанага Каралеўства, да 2025 года генератыўны штучны інтэлект можа быць «выкарыстаны для збору ведаў аб фізічных нападах з боку недзяржаўных удзельнікаў гвалту, у тым ліку для хімічнай, біялагічнай і радыялагічнай зброі». іх кастрычніцкая публікацыя.

Далей ISD заявіла, што "існуе відавочная неабходнасць у заканадаўстве, каб ісці ў нагу з пастаянна зменлівым ландшафтам тэрарыстычных пагроз у Інтэрнэце".

Па дадзеных аналітычнага цэнтра, Закон Вялікабрытаніі аб бяспецы ў інтэрнэце, які быў прыняты ў закон у 2023 годзе, «у першую чаргу накіраваны на кіраванне рызыкамі, звязанымі з платформамі сацыяльных сетак», а не на штучны інтэлект.

Акрамя таго, у ім гаворыцца, што радыкалы «як правіла, рана ўкараняюць новыя тэхналогіі і ўвесь час шукаюць магчымасці дасягнуць новай аўдыторыі».

«Калі кампаніі, якія займаюцца штучным інтэлектам, не могуць прадэманстраваць, што ўклалі дастатковыя сродкі ў забеспячэнне бяспекі іх прадукцыі, то ўрад павінен тэрмінова разгледзець пытанне аб новым заканадаўстве аб штучным інтэлекце», — заявіў ISD далей.

Аднак у ім было адзначана, што, згодна з праведзеным ім назіраннем, выкарыстанне генератыўнага штучнага інтэлекту экстрэмісцкімі арганізацыямі ў цяперашні час «адносна абмежавана».

ШІ персанажа заявіў, што бяспека з'яўляецца «галоўным прыярытэтам» і што тое, што апісаў містэр Хол, выклікае шкадаванне і не адлюстроўвае тую платформу, якую спрабавала стварыць кампанія.

«Мова нянавісці і экстрэмізм забароненыя нашымі Умовамі абслугоўвання», паведамляе арганізацыя.

«Наш падыход да змесціва, створанага штучным інтэлектам, грунтуецца на простым прынцыпе: нашы прадукты ніколі не павінны ствараць адказы, якія могуць прычыніць шкоду карыстальнікам або заахвоціць карыстальнікаў прычыняць шкоду іншым».

У мэтах «аптымізацыі для бяспечных рэакцый» карпарацыя заявіла, што навучыла свае мадэлі такім чынам.

Акрамя таго, ён заявіў, што ў яго ёсць механізм мадэрацыі, які дазваляе людзям паведамляць аб інфармацыі, якая парушае яго правілы, і што ён абавязваецца прымаць хуткія меры кожны раз, калі кантэнт паведамляе аб парушэннях.

Калі апазіцыйная Лейбарысцкая партыя Вялікабрытаніі прыйдзе да ўлады, яна заявіла, што навучанне штучнага інтэлекту падбухторваць да гвалту або радыкалізаваць тых, хто схільны, будзе крымінальным парушэннем.

Урад Злучанага Каралеўства заявіў, што "папярэджвае аб сур'ёзных рызыках для нацыянальнай бяспекі і грамадскай бяспекі", якія стварае штучны інтэлект.

«Мы зробім усё, што ад нас залежыць, каб абараніць насельніцтва ад гэтай пагрозы, працуючы ва ўсім урадзе і паглыбляючы наша супрацоўніцтва з лідэрамі тэхналагічных кампаній, экспертамі галіны і краінамі-аднадумцамі».

Сто мільёнаў фунтаў будзе інвеставана ўрадам у інстытут бяспекі штучнага інтэлекту ў 2023 годзе.

Падзяліцеся гэтым артыкулам: