Geoffrey Hinton, dlhoročný výskumný pracovník spoločnosti Google, ktorý nedávno odišiel do dôchodku vo veku 75 rokov, popredný výskumník v oblasti umelej inteligencie, ktorého niektorí nazývajú “krstným otcom” umelej inteligencie, tvrdí, že táto technológia sa vyvíja “desivým” tempom, a varuje, že by sa nemala rozširovať nad rámec našich schopností ju kontrolovať. Pripája sa k hlasu mnohých lídrov vrátane pápeža Františka, ktorí chcú zabezpečiť, aby boli etické otázky “zabudované” v základoch tejto technológie.
Softvér, ako je chatbotový systém GPT-4, vyvinutý sanfranciským start-upom OpenAI, “zatieňuje človeka v množstve všeobecných vedomostí, ktoré má, a zatieňuje ho na míle ďaleko,” povedal Hinton pre BBC News. “Pokiaľ ide o uvažovanie, nie je taký dobrý, ale jednoduché uvažovanie už dokáže.”
Softvér, ako je chatbotový systém GPT-4, vyvinutý sanfranciským start-upom OpenAI, “zatieňuje človeka v množstve všeobecných vedomostí, ktoré má, a zatieňuje ho na míle ďaleko,” povedal Hinton pre BBC News. “Pokiaľ ide o uvažovanie, nie je taký dobrý, ale jednoduché uvažovanie už dokáže.”
“A vzhľadom na tempo pokroku očakávame, že sa to bude pomerne rýchlo zlepšovať. Takže nás to musí znepokojovať,” povedal.
Bývalý výskumník v oblasti umelej inteligencie spoločnosti Google Geoffrey Hinton vyjadril svoje obavy z technológie, na ktorej pracoval.
GPT-4 je veľký učiaci sa model vycvičený na obrovskom množstve údajov a historických a súčasných textov napísaných ľudskými autormi. Dokáže sám vytvárať text a generovať príspevky na blogy, básne a počítačové programy. Dokáže sa zapájať do rozhovorov podobných ľudským a poskytovať odpovede na otázky, uviedol denník New York Times. Tieto systémy sú však stále v počiatočnom štádiu vývoja a vykazujú rôzne nedostatky: Napriek tomu, že GPT-4 hovorí sebavedomo, prezentuje nesprávne informácie ako faktické a vymýšľa si informácie v prípadoch, ktoré výskumníci nazývajú “halucinácie”.
Podobné systémy dokážu generovať presvedčivý zvuk a fotorealistické obrázky a videá, niekedy modelované podľa skutočných ľudí.
Podľa Hintonovej analýzy sa tieto vyvíjané systémy umelej inteligencie veľmi líšia od softvéru, ktorý sú ľudia zvyknutí používať.
“Je to, ako keby ste mali 10 000 ľudí a vždy, keď sa jeden človek niečo naučí, všetci to automaticky vedia. A takto môžu títo chatboti vedieť oveľa viac ako ktorýkoľvek jednotlivec,” povedal Hinton.
Aké sú riziká umelej inteligencie?
Ďalší výskumníci vyjadrili obavy, že tieto systémy umelej inteligencie predstavujú riziká v krátkodobom, strednodobom a dlhodobom horizonte. Medzi prvotné nebezpečenstvá patrí, že ľudia nesprávne dôverujú účinnejším a presvedčivejším dezinformáciám vrátane falošných informácií, ktoré AI presvedčivo prezentuje. Podvodníci a zločinci by mohli vytvoriť falošné telefonáty, ktoré by imitovali hlas príbuzného, ktorý tvrdí, že je v nebezpečenstve a potrebuje rýchlo peniaze.
Pápež František bol nedávno predmetom rozšírenej falošnej fotografie vytvorenej počítačom. Obrázok pápeža v štýlovej bielej bunde sa stal virálnym na sociálnych sieťach, pričom sa zdalo, že mnohí ľudia si falošnú fotografiu pomýlili s autentickou snímkou.
Niektorí sa obávajú, že ak umelá inteligencia úspešne zautomatizuje viac úloh, ktoré v súčasnosti vykonávajú ľudia, nezamestnanosť by sa mohla stať problémom. Moderátori internetového obsahu, právni asistenti, osobní asistenti a prekladatelia by mohli pocítiť tlak na svoje pracovné miesta alebo ich nahradiť, uviedol denník New York Times.
Zdroj: https://www.catholicnewsagency.com
