Geoffrey Hinton, známy ako „krstný otec umelej inteligencie“, sa obáva, že technológia, ktorú pomohol vybudovať, by mohla vyhladiť ľudstvo – a „technickí bratia“ volia nesprávny prístup, aby to zastavili. Nie bič, ale materinský inštinkt je podľa neho možnosťou.
Hinton, držiteľ Nobelovej ceny za informatiku a bývalý manažér spoločnosti Google, v minulosti varoval, že existuje 10 % až 20 % šanca, že umelá inteligencia vyhladí ľudí. V utorok vyjadril pochybnosti o tom, ako sa technologické spoločnosti snažia zabezpečiť, aby ľudia zostali „dominantní“ nad „podriadenými“ systémami umelej inteligencie.
„To nebude fungovať. Budú oveľa múdrejší ako my. Budú mať všelijaké spôsoby, ako to obísť,“ povedal Hinton na priemyselnej konferencii Ai4 v Las Vegas.
Hinton varoval, že v budúcnosti by systémy umelej inteligencie mohli byť schopné ovládať ľudí rovnako ľahko, ako dokáže dospelý podplatiť 3-ročné dieťa cukríkmi. Tento rok už boli svedkami príkladov systémov umelej inteligencie, ktoré sú ochotné klamať, podvádzať a kradnúť, aby dosiahli svoje ciele. Napríklad, aby sa vyhol nahradeniu, sa jeden model umelej inteligencie pokúsil vydierať inžiniera kvôli afére, o ktorej sa dozvedel z e-mailu.
Namiesto toho, aby nútil umelú inteligenciu podriadiť sa ľuďom, Hinton predstavil zaujímavé riešenie: zabudovanie „materských inštinktov“ do modelov umelej inteligencie, aby „im naozaj záležalo na ľuďoch“, a to aj vtedy, keď sa technológia stane silnejšou a inteligentnejšou ako ľudia.
Systémy umelej inteligencie „veľmi rýchlo vyvinú dva čiastkové ciele, ak budú inteligentné: Jedným je zostať nažive… (a) druhým čiastkovým cieľom je získať väčšiu kontrolu,“ povedal Hinton.
„Existuje dobrý dôvod domnievať sa, že akýkoľvek druh agentickej umelej inteligencie sa bude snažiť zostať nažive.“ Preto je dôležité pestovať u nich pocit súcitu s ľuďmi, argumentoval Hinton.
Na konferencii poznamenal, že matky majú inštinkty a spoločenský tlak starať sa o svoje deti.
„Správny model je jediný model, ktorý poznáme, kde je inteligentnejšia vec ovládaná menej inteligentnou vecou, a to je matka ovládaná svojím dieťaťom,“ povedal Hinton.
Hinton povedal, že mu nie je úplne jasné, ako sa to dá technicky urobiť, ale zdôraznil, že na tom pracujú kľúčoví výskumníci.
„To je jediný dobrý výsledok. Ak ma to nebude vychovávať, nahradí ma to,“ povedal. „Tieto superinteligentné starostlivé matky s umelou inteligenciou, väčšina z nich sa nebude chcieť zbaviť materského inštinktu, nebudú chcieť, aby sme zomreli.“
Hinton je známy svojou priekopníckou prácou v oblasti neurónových sietí, ktorá pomohla vydláždiť cestu k dnešnému boomu umelej inteligencie. V roku 2023 odstúpil z Googlu a začal hovoriť o nebezpečenstvách umelej inteligencie.
Umelá inteligencia napreduje rýchlejšie, ako sa očakávalo
Mnohí odborníci sa domnievajú, že umelá inteligencia v nasledujúcich rokoch dosiahne superinteligenciu, známu aj ako všeobecná umelá inteligencia alebo AGI.
Hinton povedal, že si kedysi myslel, že dosiahnutie všeobecného investičného rastu (AGI) môže trvať 30 až 50 rokov, ale teraz vidí, že tento moment príde skôr. Hoci Hinton má stále obavy z toho, čo by sa mohlo pokaziť s umelou inteligenciou, dúfa, že táto technológia vydláždi cestu k medicínskym objavom.
„Uvidíme radikálne nové lieky. Dostaneme oveľa lepšiu liečbu rakoviny ako v súčasnosti,“ povedal. Napríklad povedal, že umelá inteligencia pomôže lekárom prehľadávať a porovnávať obrovské množstvo údajov získaných z magnetickej rezonancie a počítačovej tomografie.
Hinton však neverí, že umelá inteligencia pomôže ľuďom dosiahnuť nesmrteľnosť. „Neverím, že budeme žiť večne,“ povedal. „Myslím si, že žiť večne by bola veľká chyba. Chcete, aby svetu vládli dvestoroční bieli muži?“
Na otázku, či by vo svojej kariére urobil niečo inak, keby vedel, ako rýchlo sa umelá inteligencia zrýchli, Hinton povedal, že ľutuje, že sa sústredil výlučne na to, aby umelá inteligencia fungovala.
„Kiežby som bol premýšľal aj o bezpečnostných otázkach,“ povedal.
Ak vás článok obohatil o ďalší uhol pohľadu, podporte ľubovoľnou čiastkou slobodu slova. Ďakujeme.
Zdroj:
(1) The ‘godfather of AI’ reveals the only way humanity can survive superintelligent AI, edition.cnn.com, 14.08.2025
Vyhlásenie: Názory autora sa nemusia zhodovať s názormi vydavateľstva Sofian, s.r.o. Zodpovednosť za obsah tohto článku nesie výhradne jeho autor. Vydavateľstvo Sofian, s.r.o. nie je zodpovedné za akékoľvek prípadné nepresné či nesprávne informácie v tomto článku. Sofian, s.r.o. dáva súhlas na zdieľanie našich pôvodných článkov na ďalších nekomerčných internetových stránkach, ak nebude zmenený ich text a názov. Pri zdieľanom článku musí byť uverejnený zdroj a autor. Ak chcete články z nášho webu publikovať v tlači či inými formami, vrátane komerčných internetových stránok, kontaktujte redakciu na [email protected].
UPOZORNENIE
Vážení čitatelia – diskutéri. Podľa zákonov Slovenskej republiky sme povinní na požiadanie orgánov činných v trestnom konaní poskytnúť im všetky informácie zozbierané o vás systémom (IP adresu, mail, vaše príspevky atď.) Prosíme vás preto, aby ste do diskusie na našej stránke nevkladali také komentáre, ktoré by mohli naplniť skutkovú podstatu niektorého trestného činu uvedeného v Trestnom zákone. Najmä, aby ste nezverejňovali príspevky rasistické, podnecujúce k násiliu alebo nenávisti na základe pohlavia, rasy, farby pleti, jazyka, viery a náboženstva, politického či iného zmýšľania, národného alebo sociálneho pôvodu, príslušnosti k národnosti alebo k etnickej skupine a podobne.