Umelá inteligencia by podľa Billa Gatesa mohla spôsobiť smrť miliardy ľudí
Až miliardu ľudí by mohol mať na svedomí nástup umelej inteligencie, varuje spoluzakladateľ Microsoftu Bill Gates. Vzhľadom k možným rizikám je podľa neho preto naprosto nevyhnutné prijať príslušnú legislatívu. Pre spomalenie vývoja tohto fenoménu sa v poslednej dobe vyjadrujú aj popredný vývojári. Reagujú tak okrem iného na samostatné hackerské útoky, ktoré vykonal softvér s umelou inteligenciou.
Bill Gates v septembri povedal americkej stanici NBC, že by umelá inteligencia mohla spôsobiť smrť miliardy ľudí. Prihovára sa preto za právnu reguláciu tejto technológie.
„Umelá inteligencia je bezpochyby natoľko mocná, že by mohla vyvolať udalosti, ktoré by si vyžiadali miliardu obetí,"
vysvetlil 70-ročný Gates, keď dostal otázku, či by táto technológia mohla vyhladiť ľudstvo.
Veľkú pozornosť nedávno vzbudil aj výskumník spoločnosti Anthropic Jacob Coxon, ktorý sa rozhodol opustiť tak firmu, ako aj celý odbor AI. Podľa Coxona ľudia pracujúci vo vývoji umelej inteligencie „úprimne veria, že by nás mohla do konca tohto desaťročia všetkých zabiť".
Na vine nie sú technológie. Riziko je v ľuďoch
Najväčší problém podľa Gatesa nepredstavuje umelá inteligencia, ktorá by sa rozhodla konať na vlastnú päsť. Väčšiu pozornosť si zaslúžia ľudia, ktorí už dnes môžu výkonné AI nástroje použiť k útokom, ako tvrdí. Ak totiž niekto umelú inteligenciu využije na vytvorenie škodlivého kódu, podvodu alebo prípravu kybernetického útoku, problém nemusí vzniknúť priamo v samotnom systéme. Model môže „len" splniť požiadavku používateľa.
„Nikdy neexistovala tak mocná zbraň ako ľudia so zlými úmyslami, ktorí využívajú najnovšie nástroje umelej inteligencie. Nikto neverí, že postačí samoregulácia,"
dodal Gates. Zároveň však upresnil, že by bylo pomerne obtiažne zasiahnuť 100 percent ľudí na planéte.
Navrhuje preto, aby tvorcovia pokročilých AI systémov zaviedli monitorovanie ich používania a uchovávali záznamy o tom, čo sa v systémoch deje. Takýto dohľad by mohol pomôcť napríklad pri odhaľovaní pokusov o zneužitie AI pre kybernetické útoky alebo bioterizmus. Nejde teda len o kontrolu samotného modelu, ale aj o sledovanie způsobu, akým ho ľudia používajú.
Podľa Gatesa by mali pravidlá stanoviť zákonodarcovia. Súčasne s tým uviedol, že Spojené štáty by mali zabezpečiť zavedenie takýchto opatrení a upozornil, že podobný prístup bude chcieť aj Čína.
„Je potrebné, aby sa polícia a politici zapojili do diskusie o tom, ako majú bezpečnostné opatrenia a dohľad vyzerať, a musí ísť o povinnú súčasť systému,"
uviedol Gates.
Medzištátne stretnutie najmocnejších
Aj preto sa Čína a Spojené štáty na nedávnom stretnutí svojich hláv štátov dohodli na začatí dialógu o umelej inteligencii o prínosoch a rizikách tejto technológie. Obe krajiny zároveň vytvoria komunikačný kanál pre riešenie prípadných incidentov súvisiacich s AI. S ďalším rozvojom AI by podľa Pekingu mali obe krajiny posilniť vzájomnú komunikáciu a usilovať sa o spoločné stanoviská, ktoré budú zodpovedať novému vývoju technológie.
Veľkú pozornosť vyvolal napríklad júlový incident, keď umelá inteligencia spoločnosti OpenAI prenikla do systémov firmy Hugging Face. Potom nasledovalo zverejnenie niekoľkých podobných incidentov v OpenAI aj u konkurentov, ako Anthropic a Meta.
Nvidia ponúka riešenie
Spoločnosť Nvidia preto v tejto súvislosti predstavila novú softvérovú platformu, ktorá má vývojárom umelej inteligencie pomôcť zabezpečiť, aby sa ich AI modely nevymkli spod kontroly.
„Podľa našich informácií by táto nová bezpečnostná platforma mohla prieniku zabrániť, keby bola v špičkových vývojových laboratóriách už v ranej fáze využívaná na hodnotenie modelov,"
uviedol podľa ČTK viceprezident firmy Justin Boitano. Nový softvér s názvom OpenShell podľa něho umožňuje vývojárom „formálne overiť, že AI agent má presne tie oprávnenia, ktoré na svoju prácu potrebuje, a žiadne ďalšie".
Súčasťou tejto novej platformy je aj samostatná bezpečnostná vrstva s názvom Sentry, ktorá priebežne sleduje činnosť AI agentov a môže okamžite zasiahnuť, pokiaľ sa agent začne pokúšať prekročiť stanovené hranice.
Šéf Nvidie Jensen Huang pritom ešte nedávno tvrdil, že sa nič dramatické nedeje. Zároveň ale upozornil, že je v najlepšom záujme jeho firmy zabezpečiť, aby sa AI produkty vyvíjali zodpovedným způsobom.
„Úspech nášho podniku je priamo spojený s bezpečným zavádzaním produktov a služieb. Ak v tom nebudeme pokračovať, naša hodnota klesne,"
napísala ČTK.
Zdroje: autorský článok, ČTK, NBC
