Bill Gates varuje pred AI: Hrozia vážne následky

Bill Gates, spoluzakladateľ spoločnosti Microsoft a jeden z najvplyvnejších technologických vizionárov sveta, upozornil na rastúce nebezpečenstvo umelej inteligencie. V rozhovore pre CNN varoval pred kybernetickými útokmi, zneužívaním technológií a scenármi, ktoré môžu mať vážne následky pre celú spoločnosť. Podľa Gatesa už nestačí, aby technologické spoločnosti kontrolovali samy seba. Do regulácie AI musia aktívnejšie vstúpiť aj vlády.

Vážny AI scenár

Umelá inteligencia mení spôsob, akým pracujeme, komunikujeme, vyhľadávame informácie či prijímame rozhodnutia. Technológia, ktorá ešte pred niekoľkými rokmi patrila predovšetkým do výskumných laboratórií, dnes zasahuje do každodenného života miliónov ľudí. S jej rýchlym rozvojom však pribúdajú aj otázky, na ktoré zatiaľ nemáme jednoznačné odpovede.

Jedným z ľudí, ktorí upozorňujú na riziká nekontrolovaného vývoja AI, je americký miliardár a filantrop Bill Gates. V rozhovore s moderátorom CNN Jakeom Tapperom otvorene hovoril o hrozbách, ktoré môže umelá inteligencia priniesť už v blízkej budúcnosti.

Gates upozornil, že ak ľudstvo nedokáže nad touto technológiou udržať kontrolu, môže čeliť mimoriadne vážnym scenárom. Zároveň však neodmieta jej potenciál. Naopak, umelú inteligenciu dlhodobo považuje za jeden z najvýznamnejších technologických pokrokov našej doby.

Bill Gates upozorňuje na kybernetické útoky. AI môže pomáhať aj zločincom

Jednou z najväčších obáv, ktoré Bill Gates v rozhovore pomenoval, je využívanie umelej inteligencie na kybernetickú kriminalitu. Podľa jeho vyjadrení môžeme už počas nasledujúceho roka čeliť novým bezpečnostným hrozbám, pri ktorých zohrá AI významnú úlohu.

Umelá inteligencia totiž neslúži výlučne vedcom, lekárom alebo technologickým spoločnostiam. Rovnaké nástroje môžu využívať aj kybernetickí zločinci, podvodníci či organizované skupiny, ktoré sa snažia získať citlivé informácie, finančné prostriedky alebo prístup k dôležitým systémom. Moderné modely AI dokážu vytvárať presvedčivé texty, napodobňovať ľudský hlas, generovať realistické fotografie a videá či pomáhať s programovaním. Práve tieto schopnosti môžu útočníci zneužiť na sofistikovanejšie podvody.

Predstavme si napríklad telefonát, počas ktorého počujeme hlas blízkeho človeka žiadajúceho o okamžitý prevod peňazí. V skutočnosti však môže ísť o hlas vytvorený umelou inteligenciou. Podobne môžu podvodníci vytvoriť falošné video verejne známej osobnosti alebo mimoriadne dôveryhodnú správu, ktorá napodobňuje komunikáciu banky. Takéto techniky už dnes predstavujú reálne bezpečnostné riziko. S ďalším zdokonaľovaním AI môže byť ich odhaľovanie ešte náročnejšie.

Samoregulácia technologických gigantov podľa Gatesa nestačí

Bill Gates v rozhovore zdôraznil aj potrebu dôslednejšej regulácie umelej inteligencie. Podľa jeho názoru nemôžeme ponechať rozhodovanie o bezpečnosti jednej z najvýznamnejších technológií súčasnosti výlučne na spoločnosti, ktoré ju vyvíjajú. Technologické firmy síce investujú do bezpečnostného výskumu, testovania modelov a ochranných mechanizmov, no zároveň medzi sebou intenzívne súťažia. Každá z nich sa snaží priniesť výkonnejší model, nové funkcie a získať väčší podiel na trhu. Práve tento konkurenčný tlak vyvoláva otázku, či dobrovoľné bezpečnostné pravidlá dokážu dostatočne chrániť verejnosť.

Gates preto upozorňuje na význam spolupráce medzi technologickým sektorom a politickými predstaviteľmi. Regulácia by podľa tejto argumentácie nemala brzdiť všetky inovácie, ale predovšetkým obmedzovať možnosti nebezpečného zneužitia technológií. Dôležitú úlohu môžu zohrávať nezávislé bezpečnostné testy, transparentnosť pri vývoji pokročilých systémov či jasne definovaná zodpovednosť za škody spôsobené používaním AI.

Bill Gates chce o umelej inteligencii hovoriť aj s Donaldom Trumpom

Zaujímavou súčasťou rozhovoru bola aj Gatesova zmienka o americkej politike. Spoluzakladateľ Microsoftu uviedol, že o problematike umelej inteligencie už komunikoval s viacerými politikmi a dúfa, že dostane príležitosť hovoriť aj s americkým prezidentom Donaldom Trumpom. Ako vieme, Donald Trump je veľký fanúšik umelej inteligencie, uvidíme, aký prístup bude mať k otázke kybernetickej bezpečnosti v spojitosti s AI.

Podľa Gatesa si otázka bezpečnosti AI vyžaduje pozornosť na najvyššej politickej úrovni. Spojené štáty patria medzi svetových lídrov vo vývoji umelej inteligencie a rozhodnutia americkej administratívy a Donalda Trumpa, môžu výrazne ovplyvniť budúce pravidlá jej používania.

Regulácia AI pritom presahuje hranice jednej krajiny. Technologické modely fungujú globálne, rovnako ako digitálne služby, ktoré ich využívajú. Bez medzinárodnej spolupráce preto môže byť náročné vytvoriť účinné bezpečnostné štandardy. Otázkou zostáva, ako nastaviť pravidlá tak, aby chránili spoločnosť, no zároveň umožňovali pokračovanie vedeckého výskumu a technologických inovácií.

Najnebezpečnejšia technológia, akú ľudstvo vytvorilo?

Gates v rozhovore použil mimoriadne výrazné označenie, keď o umelej inteligencii hovoril ako o najnebezpečnejšej technológii, akú ľudstvo vytvorilo. Takéto hodnotenie odráža predovšetkým rozsah jej potenciálneho vplyvu. Na rozdiel od mnohých predchádzajúcich technologických inovácií môže AI zasahovať súčasne do hospodárstva, zdravotníctva, bezpečnosti, vzdelávania aj politického rozhodovania.

Zatiaľ čo bežný softvér vykonáva úlohy podľa vopred definovaných pravidiel, moderné systémy umelej inteligencie dokážu spracúvať obrovské množstvo informácií, vytvárať nový obsah a riešiť komplexné problémy. S rozvojom autonómnych AI agentov navyše pribúdajú systémy, ktoré dokážu vykonávať viacero nadväzujúcich úloh s obmedzeným ľudským dohľadom.

To však neznamená, že dnešná umelá inteligencia má vlastné vedomie alebo nezávislé úmysly. Riziko spočíva predovšetkým v jej schopnostiach, nedokonalostiach, nesprávnom nastavení a možnostiach zneužitia. Práve preto odborníci čoraz intenzívnejšie diskutujú o tom, akú mieru autonómie by mali pokročilé systémy dostať a v ktorých oblastiach musí konečné rozhodnutie zostať v rukách človeka.

Umelá inteligencia môže zachraňovať životy. Gates upozorňuje aj na jej pozitívny potenciál

Napriek vážnym varovaniam Bill Gates nepatrí medzi odporcov umelej inteligencie. Dlhodobo podporuje jej využívanie vo vede, medicíne, vzdelávaní a pri riešení globálnych problémov.

V zdravotníctve môže AI pomáhať pri analýze medicínskych snímok, identifikácii rizikových faktorov ochorení alebo pri výskume nových liekov. Vo vzdelávaní môže sprístupniť personalizované učenie aj ľuďom, ktorí nemajú dostatok finančných prostriedkov na individuálnych učiteľov. Významný potenciál má aj v oblastiach, ktorým sa Gates venuje prostredníctvom svojej filantropickej činnosti, vrátane globálneho zdravia a boja proti infekčným ochoreniam.

Práve tento rozpor medzi mimoriadnymi príležitosťami a vážnymi bezpečnostnými hrozbami predstavuje jednu z najväčších výziev súčasného technologického vývoja. Umelá inteligencia totiž sama osebe neurčuje, či jej vplyv na spoločnosť bude pozitívny alebo negatívny. Rozhodujúce bude, kto ju bude využívať, na aké účely a aké kontrolné mechanizmy dokážeme vytvoriť.

Budúcnosť AI závisí od rozhodnutí, ktoré prijmeme dnes

Varovanie Billa Gatesa prichádza v období, keď umelá inteligencia preniká do čoraz väčšieho počtu odvetví. Firmy automatizujú pracovné procesy, školy hľadajú nové pravidlá používania AI a vlády riešia ochranu osobných údajov, autorské práva aj kybernetickú bezpečnosť. Tempo technologického vývoja pritom často predbieha schopnosť spoločnosti reagovať na jeho dôsledky.

Diskusia sa preto už netýka iba toho, čo všetko dokáže umelá inteligencia vytvoriť. Čoraz dôležitejšou otázkou je, čo by sme jej mali dovoliť robiť bez ľudského dohľadu. Gatesove vyjadrenia zároveň pripomínajú, že zodpovednosť za budúcnosť umelej inteligencie nenesú iba technologickí vývojári. Podieľať sa na nej musia aj politici, bezpečnostní experti, vedecká komunita a samotní používatelia.

Najväčšou výzvou tak nemusí byť vytvorenie ešte inteligentnejších systémov, ale zabezpečenie toho, aby nad nimi človek dokázal udržať kontrolu. Technológia, ktorá môže pomôcť vyriešiť niektoré z najzložitejších problémov ľudstva, totiž zároveň prináša riziká, ktorých rozsah zatiaľ nedokážeme úplne predvídať.

Zdroj: CNN, rozhovor Billa Gatesa s Jakeom Tapperom v relácii State of the Union. Článok vychádza z dostupného opisu rozhovoru a širšieho kontextu vývoja AI.