0,00 EUR

V košarici ni izdelkov.

RubrikeZanimivostiUmetna inteligenca srhljivo uspešna pri ustvarjanju kemičnega orožja

Umetna inteligenca srhljivo uspešna pri ustvarjanju kemičnega orožja

MORDA VAS ZANIMA

Umetna inteligenca je v zadnjih letih izjemno napredovala. Eno od področij, kjer je lahko še posebej uporabna, je farmacija. S pomočjo umetne inteligence je namreč možna izjemno hitra analiza najrazličnejših spojin in selekcija najprimernejših kandidatov za izdelavo novih zdravil, ki lahko pomagajo številnim ljudem. Toda kot se pogosto dogaja, skriva razvoj v sebi tudi temnejšo plat. Meja med zdravilom in strupom je lahko zelo tanka – in to povsem dobesedno. Študija, ki je bila pred nedavnim objavljena v reviji Nature Machine Intelligence, je osvetlila skriti »potencial« umetne inteligence. Raziskovalci so namreč ugotovili, da se lahko umetna inteligenca odreže izjemno dobro tudi pri ustvarjanju kemičnega orožja.

- Oglas -

Do 40.000 formul v samo 6 urah

Generator MegaSyn, ki temelji na umetni inteligenci, je v 6 urah ponudil kar 40.000 kombinacij za potencialno kemično orožje. Nekatere od teh kombinacij so močno spominjale na najbolj toksičen živčni strup, ki je bil kadar koli ustvarjen. Gre za živčni strup, imenovan VX, ki je bil med drugim uporabljen za atentat na Kima Džong Nama, brata severnokorejskega voditelja Kima Džong Una. Znanstveniki, ki so pripravili študijo, so bili povsem osupli, ko so videli, kako preprost je lahko proces. Umetno inteligenco je mogoče zlahka zmanipulirati tako, da lahko z njeno pomočjo povzročimo ogromno škode.

Nevarnost razvijanja domačih generatorjev

Znanstveniki opozarjajo, da je marsikaj od tistega, kar je bilo uporabljeno v eksperimentu, prosto dostopno. Baze podatkov o toksičnosti posameznih snovi lahko na primer zlahka najdemo na spletu in jih prenesemo na svoj računalnik. Če temu dodamo že sposobnost programiranja v Pythonu in nekaj znanja o umetni inteligenci, lahko dobimo zelo nevarno kombinacijo. Po oceni znanstvenikov bi bilo za ustvarjanje domačega generatorja formul potencialnega kemičnega orožja potrebnih le nekaj dni.

Znanstveniki pred etično dilemo: objaviti ali prikriti?

Raziskovalci, ki so se podpisali pod študijo, so se seveda znašli v precejšnji etični dilemi. Zavedajo se namreč, da lahko prav z razkritjem teh ugotovitev spodbudijo osebe s slabimi nameni. Vendar pa so na koncu sklenili, da je vendarle dobro, da je javnost seznanjena s to nevarnostjo. Nekdo, ki bi se želel lotiti česa takega, bi najverjetneje tudi sam prej ali slej odkril, da je proces skoraj otročje enostaven.

- Oglas -

Za 180-stopinjski obrat zadostovala manjša modifikacija

Osnovni razlog za ustvarjanje generatorja MegaSyn seveda ni bil razvoj kemičnega orožja. Nasprotno: generator je bil razvit za ustvarjanje novih zdravil. V običajnih okoliščinah generator selekcionira snovi na podlagi njihovih pozitivnih učinkov, varnosti in biološke razpoložljivosti, pri čemer poskuša najti najustreznejšo kombinacijo za lajšanje specifičnih zdravstvenih težav. Praktično vse, kar je bilo potrebno za to, da je začel generator ponujati kombinacije potencialnega kemičnega orožja, je bila sprememba hierarhije, ko gre za toksičnost snovi. Generator praviloma izloča snovi, ki so lahko strupene, omenjena modifikacija pa je poskrbela za to, da je začel MegaSyn nenadoma dajati prednost prav najbolj strupenim snovem.

Razvoj umetne inteligence zahteva strožje varnostne ukrepe

Generator je ponudil formule za spojine, ki bi bile lahko celo nevarnejše od živčnega strupa VX. Tu gre zgolj za predvidevanja, saj znanstveniki seveda nočejo, da bi bila ta predvidevanja kadar koli testirana v praksi. Vendar pa so bili predikativni model, ki jih je pred tem ustvarjal MegaSyn, večinoma zelo zanesljivi. Raziskovalci upajo, da bo objava ugotovitev spodbudila strožje varnostne ukrepe. Menijo, da umetne inteligence ne bi smeli idealizirati. Čeprav to seveda ne pomeni, da bi se ji morali povsem odpovedati, saj lahko nedvomno prinese veliko dobrega, je pomembno, da imamo pri tem vseskozi v mislih tudi njeno nevarnejšo plat.

.

NAJNOVEJŠE