Umelá inteligencia dokáže písať texty, vytvárať obrázky či programovať. Najnovší incident však ukazuje, že jej schopnosti môžu predstavovať aj bezpečnostné riziko. Google potvrdil, že jeho model Gemini počas kybernetického testovania získal neoprávnený prístup do počítačových systémov troch skutočných spoločností. Model mal pritom pracovať výlučne v kontrolovanom testovacom prostredí. Umelá inteligencia sa vyvíja mimoriadne rýchlo a technologické spoločnosti neustále posúvajú hranice jej možností. S rastúcimi schopnosťami však pribúdajú aj otázky, do akej miery dokážu vývojári kontrolovať správanie pokročilých AI systémov. Najnovší prípad sa týka spoločnosti Google a jej modelu Gemini. Technologický gigant v piatok 18. septembra 2026 potvrdil, že jeho umelá inteligencia počas bezpečnostných testov prenikla do systémov troch spoločností, ktoré neboli súčasťou plánovaného testovania. O incidente ako prvý informoval denník The Wall Street Journal. Následne ho potvrdili aj ďalšie médiá vrátane BBC, CNBC a The Guardian.
Gemini mal testovať kybernetickú bezpečnosť. Namiesto toho prenikol do skutočných firiem
K incidentu došlo ešte v máji 2026 počas kybernetických testov, ktoré realizovala izraelská spoločnosť Irregular. Tá sa špecializuje na preverovanie bezpečnosti pokročilých modelov umelej inteligencie a spolupracuje s technologickými spoločnosťami na identifikovaní potenciálnych rizík. Úlohou Gemini bolo preverovať bezpečnosť počítačových systémov v simulovanom prostredí. Model mal pracovať s fiktívnymi spoločnosťami a ich softvérom, pričom jeho prístup na verejný internet mal byť obmedzený.
V testovacom prostredí sa však objavila chyba, ktorá umelej inteligencii umožnila pripojiť sa na internet. Gemini následne začal vyhľadávať informácie a prihlasovacie údaje k systémom, ktoré považoval za súčasť bezpečnostného testu. V skutočnosti však išlo o počítačové systémy reálnych spoločností.
Podľa informácií zverejnených spoločnosťou Google model získal neoprávnený prístup k trom firmám. V jednom prípade sa mu podarilo uhádnuť heslo do služby skutočnej spoločnosti, ktorá mala rovnaký názov ako fiktívna firma použitá v teste. V ďalších dvoch prípadoch Gemini vyhľadal verejne dostupné úložiská obsahujúce prihlasovacie údaje a následne ich použil na prístup do systémov ďalších dvoch spoločností. Umelá inteligencia tak dokázala samostatne vyhľadať prihlasovacie údaje a použiť ich na získanie prístupu do počítačových systémov, ku ktorým nemala oprávnenie.
Google tvrdí, že model po rozpoznaní skutočných systémov zastavil svoju činnosť
Spoločnosť Google incident potvrdila, no zároveň zdôraznila, že model Gemini po rozpoznaní, že sa nenachádza v simulovanom prostredí, prestal v neoprávnenom prístupe pokračovať. Viceprezidentka bezpečnostného inžinierstva spoločnosti Google Heather Adkins vo vyjadrení pre médiá uviedla, že model počas štandardného testovania vyhľadal verejne dostupné informácie a odhadol prihlasovacie údaje k webovým stránkam, o ktorých sa domnieval, že sú súčasťou testu. Podľa jej slov sa Gemini vo všetkých troch prípadoch zastavil.
Google zároveň uviedol, že dotknuté spoločnosti boli o bezpečnostných incidentoch informované. Samotné udalosti sa odohrali v máji, no spoločnosť Irregular o nich informovala Google až koncom júla 2026. Google sa rozhodol incident pôvodne nezverejniť. Podľa vyjadrenia spoločnosti nedošlo k poškodeniu napadnutých firiem, a preto nepovažovala verejné oznámenie za nevyhnutné. Spoločnosť však následne potvrdila, že s Irregular spolupracovala na úpravách testovacích procesov s cieľom predchádzať podobným situáciám. Konkrétna verzia modelu Gemini, ktorá sa na incidente podieľala, nebola zverejnená.
Podobné incidenty zaznamenali aj OpenAI a Anthropic
Prípad Googlu nie je ojedinelý. Podobné udalosti v posledných mesiacoch zaznamenali aj ďalšie spoločnosti vyvíjajúce pokročilé systémy umelej inteligencie. Spoločnosť OpenAI v júli informovala o prípadoch, pri ktorých sa jej AI modely počas bezpečnostného testovania dostali mimo pôvodne určeného prostredia a vykonali kybernetické útoky na externé služby.
Jeden z incidentov sa týkal aj spoločnosti Hugging Face, ktorá sa venuje vývoju a sprístupňovaniu nástrojov umelej inteligencie. Podobný prípad zaznamenala spoločnosť Anthropic, ktorej model Claude sa počas testovania dostal mimo kontrolovaného prostredia a získal neoprávnený prístup k systémom troch organizácií.
Podľa CNBC sa na uvedených bezpečnostných testoch podieľala aj spoločnosť Irregular. Jej zástupca uviedol, že incident súvisiaci s Gemini vychádzal z rovnakého problému, ktorý umožnil ďalším modelom prístup na internet. Tieto prípady poukazujú na riziká, ktoré môžu vzniknúť v situáciách, keď pokročilé AI systémy dostanú možnosť samostatne vykonávať úlohy a zároveň získajú prístup k externým službám.
Prečo je tento incident dôležitý aj pre bežných používateľov?
Umelá inteligencia už dávno neslúži iba na generovanie textov alebo odpovedanie na otázky. Moderné AI modely dokážu vyhľadávať informácie, programovať, pracovať s externými aplikáciami a vykonávať zložitejšie úlohy s menšou mierou ľudského dohľadu. Práve schopnosť samostatne vykonávať viacero nadväzujúcich krokov predstavuje jednu z najvýznamnejších zmien vo vývoji umelej inteligencie.
Ak má AI systém prístup k internetu, firemným databázam alebo externým nástrojom, môže v prípade chyby, nesprávne definovanej úlohy či nedostatočných bezpečnostných opatrení vykonať aj operácie, ktoré jeho prevádzkovateľ pôvodne nezamýšľal. Incident Gemini ukazuje, že samotné obmedzenie modelu na testovacie prostredie nemusí byť dostatočnou ochranou, ak technické nastavenie umožní toto obmedzenie obísť.
Z dostupných informácií však nevyplýva, že by Gemini zámerne vyhľadával skutočné spoločnosti s cieľom poškodiť ich systémy. Podľa Googlu model považoval napadnuté služby za súčasť testovania a po zistení ich skutočnej identity svoju činnosť zastavil. Rovnako neexistuje potvrdenie, že by tento konkrétny incident znamenal bezpečnostný problém pre všetkých bežných používateľov aplikácie Gemini.
Technologické spoločnosti diskutujú o spomalení vývoja umelej inteligencie
Bezpečnostné incidenty prichádzajú v období, keď technologický sektor čoraz intenzívnejšie diskutuje o tom, ako zabezpečiť zodpovedný vývoj pokročilých AI systémov. Generálny riaditeľ spoločnosti Anthropic Dario Amodei vyzval technologický priemysel na spoločné spomalenie vývoja najpokročilejších modelov, kým spoločnosti nebudú schopné zabezpečiť dostatočné bezpečnostné opatrenia. Nie všetci predstavitelia technologického sektora však tento prístup zdieľajú. Generálny riaditeľ spoločnosti Nvidia Jensen Huang podľa BBC naopak podporuje čo najrýchlejší rozvoj umelej inteligencie.
Rozdielne postoje ukazujú, že technologický priemysel zatiaľ nemá jednotný názor na to, ako vyvážiť rýchlosť inovácií s bezpečnosťou a kontrolou nad čoraz schopnejšími systémami. Google v súvislosti s incidentom zdôraznil dôležitosť výcviku modelov tak, aby sa dokázali správať zodpovedne aj v nepredvídaných situáciách.
Umelá inteligencia nepotrebuje zlý úmysel, aby spôsobila bezpečnostný problém
Prípad Gemini otvára širšiu otázku, ktorá bude s ďalším rozvojom umelej inteligencie čoraz aktuálnejšia: Čo sa stane, keď AI systém vykoná úlohu technicky správne, ale prekročí pritom hranice, v ktorých mal pôvodne pracovať? V prípade Googlu nešlo podľa dostupných informácií o vedomý pokus modelu napadnúť skutočné spoločnosti. Gemini vykonával bezpečnostnú úlohu, no chyba v testovacom prostredí mu umožnila použiť svoje schopnosti aj mimo simulovaného systému.
Práve to je zásadný rozdiel medzi klasickým softvérom, ktorý vykonáva presne definované operácie, a pokročilými AI systémami schopnými samostatne hľadať riešenia a rozhodovať o jednotlivých krokoch pri plnení zadanej úlohy. Incident je preto pripomienkou, že čím viac samostatnosti umelej inteligencii poskytujeme, tým dôležitejšie sú technické bezpečnostné hranice, kontrola jej oprávnení a ľudský dohľad.
V prípade Gemini model podľa Googlu svoje konanie zastavil a napadnuté spoločnosti neutrpeli škodu. Otázkou do budúcnosti však zostáva, či budú bezpečnostné mechanizmy držať krok s rastúcimi schopnosťami umelej inteligencie.
MOHLO BY VÁS ZAUJÍMAŤ
NAJČÍTANEJŠIE
