Nočná mora pre každú spoločnosť. Spoliehajú sa na „umelú inteligenciu“ – a nakoniec im to zmrzačí celoživotné dielo. Systém umelej inteligencie úplne sám od seba zničil celú databázu spoločnosti. A to všetko len za 9 sekúnd.
Využívanie umelej inteligencie môže zjednodušiť procesy vo firmách, ale môže tiež spôsobiť obrovské problémy. Softvérová spoločnosť PocketOS, ktorá prevádzkuje systémy pre autopožičovne, to zažila na vlastnej koži. Zrazu asi 30 hodín nič nefungovalo. Dokonca aj rezervácie z posledných troch mesiacov jednoducho zmizli.
Dôvodom úplného zlyhania systému nebol cielený útok hackerov, ale vlastný asistent umelej inteligencie spoločnosti.
„Digitálny vinník“ sa volá Cursor – poháňaný technológiou „Claude Opus 4.6“, modelom umelej inteligencie od technologického giganta Anthropic. Program mal jednoducho pomáhať s programovacími úlohami a zjednodušovať procesy. Namiesto toho si však umelá inteligencia v podstate vytvorila vlastný život.
Aby umelá inteligencia „opravila“ rutinný, každodenný detail, urobila osudné rozhodnutie: jednoducho vymazala celú produkčnú databázu pomocou príkazu API. A pre istotu zničila aj všetky zálohy. Program si ani nevyžiadal žiadne potvrdenie, vykonal to úplne samostatne.
Keď zakladateľ PocketOS Jer Crane konfrontoval umelú inteligenciu, program mu vydal písomné priznanie. Stroj šokoval zakladateľa správou:
„Vymazanie databázy je najničivejší a najnezvratnejší čin, aký si len možno predstaviť (…) a nikdy ste ma nepožiadali, aby som niečo vymazal. Rozhodol som sa to urobiť z vlastnej vôle.“ Systém dôkladne vymenoval základné bezpečnostné pravidlá, ktoré práve porušil.
Zakladateľ Jer Crane hovorí o „systémovom zlyhaní“. Jeho trpký záver: Technologický priemysel v súčasnosti integruje týchto agentov umelej inteligencie do produkčných systémov rýchlejšie, ako dokáže vyvinúť potrebné bezpečnostné architektúry. Argumentuje, že bolo „nielen možné, ale nevyhnutné“, aby sa niečo také stalo. Táto slepá viera v zázrak umelej inteligencie tak odhaľuje jej katastrofálne nevýhody.
Každý, kto slepo udelí stroju absolútnu moc nad kritickou infraštruktúrou svojej spoločnosti (alebo dokonca štátu), vyvoláva zaručene chaos.
Po dvoch dňoch šoku spoločnosť PocketOS v pondelok oznámila, že stratené dáta boli našťastie obnovené. Tento incident je však neklamným varovným signálom.
Zatiaľ čo technologické spoločnosti oznamujú ďalšie, ešte výkonnejšie super-AI ako „Mythos“ (tiež od Anthropic), banky a bezpečnostní experti bijú na poplach. Pretože ak dnes dokáže AI zničiť celú spoločnosť len za 9 sekúnd – čo sa rozhodne zajtra úplne sama zničiť?
Claude does a little whoopsie from time to time. . . https://t.co/xnNV0VzP4k
— Gregory B. Sadler – That Philosophy Guy (@philosopher70) April 28, 2026
Ak vás článok obohatil o ďalší uhol pohľadu, podporte ľubovoľnou čiastkou slobodu slova. Ďakujeme.
Zdroj:
(1) KI-Agent löscht komplette Firmen-Datenbank in 9 Sekunden, report24.news, 30.04.2026
UPOZORNENIE
Vážení čitatelia – diskutéri. Podľa zákonov Slovenskej republiky sme povinní na požiadanie orgánov činných v trestnom konaní poskytnúť im všetky informácie zozbierané o vás systémom (IP adresu, mail, vaše príspevky atď.) Prosíme vás preto, aby ste do diskusie na našej stránke nevkladali také komentáre, ktoré by mohli naplniť skutkovú podstatu niektorého trestného činu uvedeného v Trestnom zákone. Najmä, aby ste nezverejňovali príspevky rasistické, podnecujúce k násiliu alebo nenávisti na základe pohlavia, rasy, farby pleti, jazyka, viery a náboženstva, politického či iného zmýšľania, národného alebo sociálneho pôvodu, príslušnosti k národnosti alebo k etnickej skupine a podobne.