Redno pitje kave je lahko koristno za vaše srce

Študija, ki je bila predstavljena na letošnjem kongresu Ameriškega združenja za kardiologijo, prinaša dobre novice za ljubitelje kave. Ne le da zmerno uživanje kave...

Kaj je krivo za slabost med vožnjo?

Nekateri ljudje imajo med vožnjo tako hude težave s slabostjo, da se ne morejo osredotočiti na nič drugega.

Ajurvedski nasveti za boljše duševno zdravje

Eden od glavnih ciljev ajurvedskih tehnik je vzpostavljanje ravnovesja med telesom, umom in dušo.

Začinite svoje zdravje s super začimbami

Začimbe in zelišča so zagotovo nekakšno superživilo. V njih so namreč skoncentrirane številne izjemno koristne snovi.

Rastline, ki ugodno vplivajo na centralni živčni sistem

V rastlinah najdemo veliko sestavin, ki delujejo na centralni živčni sistem in imajo pogosto pomirjevalni ali stimulativni učinek na naše telo.

Ali vas občasno preseneti nadpovprečno močna menstruacija?

Menstruacije so večinoma precej šibke, spremljajoči »simptomi« pa mili, občasno pa vas kljub temu preseneti zelo močna menstruacija.

Narava lahko poskrbi za bistveno manj zastrašujoče bolnišnice

Profesorica krajinske arhitekture se je posvetila vprašanju, kako narediti bolnišnice bolj prijazne za obiskovalce.

Helena Ošep: Klepet ob skodelici alpskega čaja

Helena Ošep se ukvarja s pripravo čajnih mešanic, ki so posebne zaradi izrazite arome, značilne za rastlinje alpskega okolja.
RubrikeZanimivostiUmetna inteligenca srhljivo uspešna pri ustvarjanju kemičnega orožja

Umetna inteligenca srhljivo uspešna pri ustvarjanju kemičnega orožja

MORDA VAS ZANIMA

Umetna inteligenca je v zadnjih letih izjemno napredovala. Eno od področij, kjer je lahko še posebej uporabna, je farmacija. S pomočjo umetne inteligence je namreč možna izjemno hitra analiza najrazličnejših spojin in selekcija najprimernejših kandidatov za izdelavo novih zdravil, ki lahko pomagajo številnim ljudem. Toda kot se pogosto dogaja, skriva razvoj v sebi tudi temnejšo plat. Meja med zdravilom in strupom je lahko zelo tanka – in to povsem dobesedno. Študija, ki je bila pred nedavnim objavljena v reviji Nature Machine Intelligence, je osvetlila skriti »potencial« umetne inteligence. Raziskovalci so namreč ugotovili, da se lahko umetna inteligenca odreže izjemno dobro tudi pri ustvarjanju kemičnega orožja.

Do 40.000 formul v samo 6 urah

- Oglas -

Generator MegaSyn, ki temelji na umetni inteligenci, je v 6 urah ponudil kar 40.000 kombinacij za potencialno kemično orožje. Nekatere od teh kombinacij so močno spominjale na najbolj toksičen živčni strup, ki je bil kadar koli ustvarjen. Gre za živčni strup, imenovan VX, ki je bil med drugim uporabljen za atentat na Kima Džong Nama, brata severnokorejskega voditelja Kima Džong Una. Znanstveniki, ki so pripravili študijo, so bili povsem osupli, ko so videli, kako preprost je lahko proces. Umetno inteligenco je mogoče zlahka zmanipulirati tako, da lahko z njeno pomočjo povzročimo ogromno škode.

Nevarnost razvijanja domačih generatorjev

Znanstveniki opozarjajo, da je marsikaj od tistega, kar je bilo uporabljeno v eksperimentu, prosto dostopno. Baze podatkov o toksičnosti posameznih snovi lahko na primer zlahka najdemo na spletu in jih prenesemo na svoj računalnik. Če temu dodamo že sposobnost programiranja v Pythonu in nekaj znanja o umetni inteligenci, lahko dobimo zelo nevarno kombinacijo. Po oceni znanstvenikov bi bilo za ustvarjanje domačega generatorja formul potencialnega kemičnega orožja potrebnih le nekaj dni.

Znanstveniki pred etično dilemo: objaviti ali prikriti?

Raziskovalci, ki so se podpisali pod študijo, so se seveda znašli v precejšnji etični dilemi. Zavedajo se namreč, da lahko prav z razkritjem teh ugotovitev spodbudijo osebe s slabimi nameni. Vendar pa so na koncu sklenili, da je vendarle dobro, da je javnost seznanjena s to nevarnostjo. Nekdo, ki bi se želel lotiti česa takega, bi najverjetneje tudi sam prej ali slej odkril, da je proces skoraj otročje enostaven.

Za 180-stopinjski obrat zadostovala manjša modifikacija

Osnovni razlog za ustvarjanje generatorja MegaSyn seveda ni bil razvoj kemičnega orožja. Nasprotno: generator je bil razvit za ustvarjanje novih zdravil. V običajnih okoliščinah generator selekcionira snovi na podlagi njihovih pozitivnih učinkov, varnosti in biološke razpoložljivosti, pri čemer poskuša najti najustreznejšo kombinacijo za lajšanje specifičnih zdravstvenih težav. Praktično vse, kar je bilo potrebno za to, da je začel generator ponujati kombinacije potencialnega kemičnega orožja, je bila sprememba hierarhije, ko gre za toksičnost snovi. Generator praviloma izloča snovi, ki so lahko strupene, omenjena modifikacija pa je poskrbela za to, da je začel MegaSyn nenadoma dajati prednost prav najbolj strupenim snovem.

Razvoj umetne inteligence zahteva strožje varnostne ukrepe

- Oglas -

Generator je ponudil formule za spojine, ki bi bile lahko celo nevarnejše od živčnega strupa VX. Tu gre zgolj za predvidevanja, saj znanstveniki seveda nočejo, da bi bila ta predvidevanja kadar koli testirana v praksi. Vendar pa so bili predikativni model, ki jih je pred tem ustvarjal MegaSyn, večinoma zelo zanesljivi. Raziskovalci upajo, da bo objava ugotovitev spodbudila strožje varnostne ukrepe. Menijo, da umetne inteligence ne bi smeli idealizirati. Čeprav to seveda ne pomeni, da bi se ji morali povsem odpovedati, saj lahko nedvomno prinese veliko dobrega, je pomembno, da imamo pri tem vseskozi v mislih tudi njeno nevarnejšo plat.

NAJNOVEJŠE

Spletna stran za pravilno delovanje uporablja piškotke. Z uporabo spletne strani se strinjate z z uporabo piškotkov in splošnimi pogoji poslovanja. Podrobne informacije o uporabi piškotkov na tej spletni strani so na voljo s klikom na nastavitve .
V redu
Več ×
×