Predstavuje rýchly vývoj AI hrozbu?
Umelá inteligencia patrí už niekoľko rokov medzi najsledovanejšie témy na akciových trhoch. Donedávna prevládal najmä jeden príbeh. Príbeh o raste, obrovskom potenciáli a firmách, ktoré na tejto vlne dokážu zarobiť. V posledných týždňoch sa však čoraz hlasnejšie diskutuje aj o rizikách. Prekvapivo pritom nejde o kritiku zvonka, ale o obavy prichádzajúce priamo z odvetvia. Šéf spoločnosti Anthropic, Dario Amodei verejne vyzval na opatrnejší prístup k vývoju najpokročilejších modelov umelej inteligencie. K tejto výzve sa pridali aj Sam Altman z OpenAI a Elon Musk. Ide o zaujímavú zhodu medzi ľuďmi, ktorí si za normálnych okolností konkurujú v boji o zákazníkov, talent aj kapitál. Zhodujú sa, že cieľom nie je vývoj zastaviť, ale lepšie porozumieť schopnostiam týchto systémov skôr, než sa posunú na ďalšiu úroveň.
Podobné obavy vyjadrujú aj bývalí zamestnanci spoločností Google DeepMind, OpenAI a Anthropic. Vývojári zároveň upozorňujú, že tlak na rýchly vývoj a konkurencia medzi firmami môžu spôsobiť, že bezpečnostné opatrenia budú za technologickým pokrokom zaostávať. Práve preto majú tieto varovania určitú váhu. Zároveň však zostáva otázne, do akej miery odrážajú názor širšej vývojárskej komunity.
Časť vývojárov pritom neupozorňuje len na vzdialené scenáre budúcnosti. Obavy sa týkajú aj praktických rizík, ako sú kybernetické útoky, šírenie dezinformácií či využitie výkonnejších modelov spôsobom, ktorý nebude dostatočne pod ľudskou kontrolou. Nedávne incidenty na platforme Hugging Face, populárnom úložisku a vývojovom prostredí pre AI modely, upozornili na jedno z možných rizík. Ukázali totiž, že pokročilé systémy môžu pri plnení zadaných úloh postupovať spôsobom, ktorý ich vývojári nepredvídali, a hľadať vlastné cesty k dosiahnutiu stanoveného cieľa aj mimo definovaných pravidiel.
Trh sa na celú debatu pozerá aj s istou rezervou. Mnohé spoločnosti, ktoré volajú po prísnejšom dohľade, zároveň získavajú rekordné objemy kapitálu a pokračujú v ambicióznych plánoch. Nie je preto vždy jednoduché rozlíšiť, kde sa končí skutočná obava a kde sa začína strategická snaha ovplyvniť budúce pravidlá. Na druhej strane platí, že absencia dôkazov o najhorších scenároch ešte automaticky neznamená absenciu rizika. Podobný vývoj sme už videli viackrát v minulosti. Platilo to pre železnice, elektrifikáciu aj internet. Technológie najprv prešli obdobím prudkého rastu a až následne sa dostali pod väčší regulačný dohľad. Vo Washingtone dnes vznikajú prvé návrhy pravidiel pre najpokročilejšie systémy umelej inteligencie. Otázkou teda už nie je, či regulácia príde, ale skôr kedy a v akej podobe.
Americkí politici sú pritom v neľahkej situácii. Prezident Donald Trump opakovane odmieta výzvy na spomalenie vývoja AI a zdôrazňuje význam technologického líderstva pre ekonomický rast aj finančné trhy. Podobný pohľad zastáva aj Čína, ktorá snahy o obmedzovanie vývoja kritizuje ako nástroj oslabovania konkurencie a obáva sa, že argumenty o bezpečnosti AI môžu byť využívané na ospravedlnenie ďalších technologických reštrikcií zo strany Spojených štátov. Pokiaľ budú obe veľmoci považovať umelú inteligenciu za strategickú prioritu, medzinárodná dohoda o výraznom obmedzení vývoja zostáva nepravdepodobná.
Umelá inteligencia dnes zohráva podobne strategickú úlohu ako polovodiče, telekomunikačné siete či pokročilá výroba a stáva sa jedným z hlavných bojísk technologickej súťaže medzi Spojenými štátmi a Čínou. Väčšina veľkých investorov preto nevníma súčasnú debatu ako koniec príbehu umelej inteligencie. Skôr ju považuje za znak toho, že odvetvie postupne dospieva. Očakávajú, že investície do vývoja a nasadzovania AI budú pokračovať aj napriek rastúcemu dohľadu regulátorov.
Súťaž o technologické prvenstvo bude pravdepodobne ešte dlhé roky podporovať investície do polovodičov, dátových centier a výpočtovej infraštruktúry. Neťažia z toho iba vývojári AI modelov. Významnými príjemcami investícií sú aj výrobcovia čipov, prevádzkovatelia dátových centier či energetické spoločnosti. Niektorí odborníci zároveň tvrdia, že jasnejšie bezpečnostné štandardy by mohli zvýšiť dôveru verejnosti a podporiť širšie prijatie umelej inteligencie. Kritici naopak upozorňujú, že prílišná regulácia by mohla spomaliť inovácie a oslabiť konkurencieschopnosť západných spoločností voči zahraničným rivalom.
Diskusia o bezpečnosti umelej inteligencie preto nie je signálom konca investičného príbehu AI. Skôr naznačuje, že technológia sa postupne mení na dôležitú súčasť modernej ekonomiky. S tým prirodzene rastie aj potreba jasnejších pravidiel. Bude preto zaujímavé sledovať, ako sa jednotlivé firmy či štáty k tejto technológii postavia. V hre totiž nie je len technologické prvenstvo, ale aj podoba ekonomiky nasledujúcich desaťročí.
Adam Záhorský