Oceňovaný vedec Yoshua Bengio varoval, že technológia sa môže obrátiť proti ľudstvu. Podľa odborníka by sa umelá inteligencia mohla čoskoro stať vyspelejšou ako ľudia a nakoniec prevziať moc.
Yoshua Bengio, profesor na univerzite v Montreale a riaditeľ Montrealského inštitútu pre algoritmy učenia, pre CNBC povedal, že rýchly vývoj umelej inteligencie (AI) by mohol predstavovať vážne hrozby pre ľudstvo, keďže je čoraz ťažšie ju kontrolovať. Počítačový vedec zdôraznil, že stroje by čoskoro mohli disponovať väčšinou kognitívnych schopností ľudí.
Vedec mal na mysli umelú všeobecnú inteligenciu (AGI), typ technológie AI, ktorej cieľom je vyrovnať alebo prekonať ľudský intelekt. Bengio sa k tomu vyjadril takto:
„Inteligencia dáva moc. Kto teda bude ovládať túto moc? Ak vytvoríme bytosti, ktoré sú múdrejšie ako my a budú sledovať svoje vlastné ciele, čo to znamená pre ľudstvo? Sme v nebezpečenstve?“
Počítačový vedec vyjadril rozšírený strach, že AI stroje, ktoré sa v súčasnosti trénujú, by mohli „viesť k systémom, ktoré sa obrátia proti ľuďom“. Expert poukázal na to, že len obmedzený počet organizácií a vlád si môže dovoliť postaviť výkonné a drahé stroje AI. To by viedlo ku koncentrácii ekonomickej, politickej a vojenskej moci a v konečnom dôsledku by to ohrozilo geopolitickú stabilitu na celom svete. V tejto súvislosti Bengio vyzval na prísnejšiu reguláciu:
„Sú ľudia, ktorí chcú túto moc zneužiť, a sú ľudia, ktorí by boli šťastní, keby ľudstvo nahradili stroje.“
Podľa počítačového vedca sa spoločnosti vyvíjajúce umelú inteligenciu a navzájom súperiace o globálnu technologickú nadvládu zapojili do „nebezpečných pretekov“ a mali by byť brané na zodpovednosť za svoje činy.
Bengio je najlepšie známy svojou priekopníckou prácou v oblasti umelých neurónových sietí a hlbokého učenia, za ktorú získal v roku 2018 spolu s vedcami Geoffrey Hintonom a Yann LeCunom cenu AM Turing, takzvanú „Nobelovu cenu za informatiku“. V roku 2019 mu bola udelená Killamova cena a v roku 2022 sa stal počítačovým vedcom s najvyšším vplyvom na svete podľa h-indexu.
V posledných rokoch významné osobnosti technologického priemyslu vyjadrili obavy z potenciálneho nebezpečenstva, ktoré predstavuje nekontrolované prijatie technológie AI. Hinton, tiež považovaný za priekopníka AI varoval, že veľké katastrofy môžu nastať skôr, než bude používanie AI zbraní primerane regulované.
Bengio patril medzi popredných predstaviteľov odvetvia, vrátane generálneho riaditeľa Tesly Elona Muska a spoluzakladateľa Apple Steva Wozniaka, ktorí minulý rok podpísali list vyzývajúci na intenzívnu reguláciu sektora AI. V júni podporil ďalší otvorený list o „vážnych rizikách“ tejto technológie. List podpísali zamestnanci Open AI, tvorca populárneho AI chatbota ChatGPT.
Ak vás článok obohatil o ďalší uhol pohľadu, podporte ľubovoľnou čiastkou slobodu slova. Ďakujeme.
Zdroj:
(1) KI-Pionier besorgt über potenziell schreckliche Folgen der Technologie für Menschheit, de.rt.com, 23.11.2024
UPOZORNENIE
Vážení čitatelia – diskutéri. Podľa zákonov Slovenskej republiky sme povinní na požiadanie orgánov činných v trestnom konaní poskytnúť im všetky informácie zozbierané o vás systémom (IP adresu, mail, vaše príspevky atď.) Prosíme vás preto, aby ste do diskusie na našej stránke nevkladali také komentáre, ktoré by mohli naplniť skutkovú podstatu niektorého trestného činu uvedeného v Trestnom zákone. Najmä, aby ste nezverejňovali príspevky rasistické, podnecujúce k násiliu alebo nenávisti na základe pohlavia, rasy, farby pleti, jazyka, viery a náboženstva, politického či iného zmýšľania, národného alebo sociálneho pôvodu, príslušnosti k národnosti alebo k etnickej skupine a podobne.