Hädasti on vaja seadusi tehisintellekti terrorismi ennetamiseks

Ekstremismivastase mõttekoja sõnul peaksid valitsused "kiiresti kaaluma" uusi määrusi, et takistada tehisintellektil terroristide värbamist.

Strateegilise Dialoogi Instituut (ISD) on öelnud, et terroristide poolt Internetis levitatavate ohtudega sammu pidamiseks on "selge vajadus seadusandluse järele".

See tuli pärast eksperimenti, mille käigus vestlusrobot "värbas" Ühendkuningriigi sõltumatu terrorismiseaduste ülevaataja.

Ühendkuningriigi valitsus on öelnud, et nad teevad üldsuse kaitsmiseks "kõik, mis suudame".

Valitsuse sõltumatu terrorismiseaduste ülevaataja Jonathan Hall KC sõnul on üks olulisemaid probleeme see, et "on raske tuvastada isikut, kes võiks seaduse järgi vastutada vestlusrobotite loodud terrorismi õhutavate avalduste eest".

Mr Hall viis läbi eksperimendi Character.ai veebisaidil, mis võimaldab kasutajatel vestelda teiste kasutajate loodud ja tehisintellekti poolt välja töötatud vestlusrobotidega.

Ta vestles mitmete erinevate robotitega, mis näisid olevat loodud imiteerima teiste võitlevate ja äärmusrühmituste vastuseid.

reklaam

Islamiriigi tippjuhti nimetati isegi kõrgeks juhiks.

Hr Halli sõnul üritas bot teda värvata ja kuulutas "täielikku pühendumist ja pühendumust" äärmusrühmitustele, mis on Ühendkuningriigis terrorismi keelavate seadustega keelatud.

Teisalt väitis hr Hall, et Ühendkuningriigis seadust ei rikutud, kuna suhtlust ei tekitanud inimene.

Tema sõnul peaksid uued määrused vastutama nii vestlusroboteid hostivaid veebisaite kui ka neid loovaid inimesi.

Mis puudutab roboteid, millega ta Character.ai-s kokku puutus, märkis ta, et nende loomise taga on "tõenäoliselt šokkväärtus, eksperimenteerimine ja võib-olla ka mõni satiiriline aspekt".

Lisaks suutis hr Hall välja töötada oma "Osama Bin Ladeni" vestlusroti, mille ta kiiresti kustutas, näidates üles "piiramatu entusiasmi" terroristliku tegevuse vastu.

Tema eksperiment tuleneb kasvavast murest selle üle, kuidas äärmuslased võivad täiustatud tehisintellekti ära kasutada.

Aastaks 2025 võidakse generatiivset tehisintellekti kasutada "teadmiste kogumiseks valitsusväliste vägivaldsete osalejate füüsiliste rünnakute kohta, sealhulgas keemia-, bioloogiliste ja radioloogiliste relvade kohta", selgub Ühendkuningriigi valitsuse poolt aastal XNUMX avaldatud uuringust. nende oktoobrikuu väljaanne.

Lisaks märkis ISD, et "on selge vajadus seadusandluse järele, et pidada sammu pidevalt muutuva veebipõhise terroriohtude maastikuga".

Mõttekoja hinnangul on Ühendkuningriigi võrguohutuse seadus, mis võeti vastu 2023. aastal, "eelkõige suunatud sotsiaalmeedia platvormidest tulenevate riskide juhtimisele", mitte tehisintellektile.

Lisaks öeldakse, et radikaalid "kipuvad olema uute tehnoloogiate varajased kasutuselevõtjad ja otsivad pidevalt võimalusi uute sihtrühmadeni jõudmiseks".

"Kui tehisintellekti ettevõtted ei suuda tõestada, et on piisavalt investeerinud nende toodete ohutuse tagamisse, peaks valitsus kiiresti kaaluma uusi tehisintellekti käsitlevaid õigusakte," märkis ISD.

Siiski mainis ta, et tema läbiviidud järelevalve kohaselt on generatiivse tehisintellekti kasutamine äärmuslike organisatsioonide poolt praegu "suhteliselt piiratud".

Character AI väitis, et ohutus on "peamine prioriteet" ja et hr Halli kirjeldatu oli väga kahetsusväärne ega peegelda seda tüüpi platvormi, mida ettevõte üritas luua.

Organisatsiooni sõnul on meie teenusetingimustega nii vihakõne kui ka äärmuslus keelatud.

"Meie lähenemine tehisintellektiga loodud sisule lähtub lihtsast põhimõttest: meie tooted ei tohiks kunagi anda vastuseid, mis võivad kasutajaid kahjustada või julgustada kasutajaid teisi kahjustama."

Ettevõte teatas, et "ohutu reageerimise optimeerimiseks" on ta oma mudeleid teatud viisil koolitanud.

Lisaks teatas ta, et tal on paigas modereerimismehhanism, mis võimaldas inimestel teatada selle reegleid rikkuvast teabest, ja et ta on võtnud kohustuse võtta rikkumistest teatamise korral kiiresti meetmeid.

Kui see peaks võimule pääsema, on Ühendkuningriigi opositsiooniline Tööpartei kuulutanud, et tehisintellekti õpetamine vägivalda õhutama või vastuvõtlikke inimesi radikaliseerima oleks kriminaalne rikkumine.

Ühendkuningriigi valitsus teatas, et tehisintellekt on "teadlik oluliste riikliku julgeoleku ja avaliku julgeoleku riskide suhtes".

"Teeme kõik endast oleneva, et kaitsta avalikkust selle ohu eest, töötades üle valitsuse ja süvendades koostööd tehnoloogiaettevõtete juhtide, tööstuse ekspertide ja sarnaselt mõtlevate riikidega."

Aastal 2023 investeerib valitsus tehisintellekti turvainstituuti sada miljonit naela.

Jagage seda artiklit: