Více než 2 600 technologických vůdců a výzkumníků podepsalo otevřený dopis, v němž nabádají k dočasnému pozastavení dalšího vývoje umělé inteligence (AI) kvůli obavám z „hlubokých rizik pro společnost a lidstvo“.
Hrozby umělé inteligence
Dopis, který publikovala nezisková organizace Future of Life Institute (FOLI), podepsal také generální ředitel společnosti Tesla Elon Musk, spoluzakladatel Applu Steve Wozniak a řada generálních ředitelů, CTO a výzkumníků AI.
Organizace tak vyzvala všechny společnosti zabývající se umělou inteligencí, aby „okamžitě pozastavily“ školení systémů umělé inteligence, které jsou výkonnější než GPT-4, po dobu nejméně šesti měsíců, přičemž sdílí obavy, že „lidská konkurenční inteligence může představovat mimo jiné hluboká rizika pro společnost a lidstvo“.
Pokročilá umělá inteligence by mohla představovat hlubokou změnu v historii života na Zemi a měla by být plánována a řízena s přiměřenou péčí a zdroji. Bohužel k této úrovni plánování a řízení nedochází.
Uvádí se v dopise.
GPT-4
GPT-4 je nejnovější iterací chatbota od společnosti OpenAI poháněného umělou inteligencí, který byl uveden 14. března. K dnešnímu dni složil některé z nejpřísnějších amerických středních a právnických zkoušek v rámci 90. percentilu. Rozumí se, že je 10krát pokročilejší než původní verze ChatGPT.
Mezi firmami zabývajícími se umělou inteligencí probíhá „závod mimo kontrolu“ ve vývoji výkonnější umělé inteligence, přičemž „nikdo – ani jejich tvůrci – ji nemůžou pochopit, předvídat nebo spolehlivě ovládat,“ prohlásila organizace FOLI.
Mezi hlavní obavy také patřilo, zda AI může zaplavit informační kanály, potenciální propagandou a nepravdou a zda AI zautomatizuje všechny pracovní příležitosti.
Nutnost nezávislé revize
Institut také souhlasil s nedávným prohlášením zakladatele OpenAI Sama Altmana, že před školením budoucích systémů umělé inteligence by měla být vyžadována nezávislá revize.
Altman ve svém příspěvku na blogu z 24. února zdůraznil potřebu připravit se na roboty s umělou obecnou inteligencí (AGI) a umělou superinteligencí (ASI).
Ne všichni učenci AI však s podpisem petice spěchali. Ben Goertzel, generální ředitel SingularityNET, vysvětlil, že z modelů jazykového učení (LLM) se nestanou AGI, jelikož dosud byly vyvinuty jen velmi málo. Místo toho řekl, že výzkum a vývoj by měl být zpomalen pro věci, jako jsou biologické a jaderné zbraně:
Deep fake
Kromě technologie ChatGPT byla k vytváření přesvědčivých obrazů, zvukových a video podvodů použita technologie deep fake využívající umělou inteligenci. Tato technologie byla také použita k vytvoření uměleckých děl generovaných umělou inteligencí, přičemž se objevily určité obavy, zda by v určitých případech nemohla porušovat zákony o autorských právech.
Nedostatečná regulace AI
Generální ředitel společnosti Galaxy Digital Mike Novogratz nedávno řekl investorům, že byl šokován množstvím regulační pozornosti, která byla věnována kryptoměnám, zatímco umělé inteligenci je věnována pozornost jen hodně málo.
Když přemýšlím o AI, šokuje mě, že tolik mluvíme o regulaci kryptoměn a nic o regulaci AI. Myslím, že to vláda postavila úplně naruby,
uvedl během telefonátu akcionářů 28. března.
Organizace FOLI tvrdila, že pokud by pauza ve vývoji umělé inteligence nebyla uzákoněna rychle, vlády by měly zakročit a zapojit se do moratoria.
Závěr
Ačkoli je důležité posoudit možná rizika spojená s pokročilou umělou inteligencí, pauza ve vývoji by mohla zpomalit inovace a růst v oboru. Je třeba nalézt správnou rovnováhu mezi regulací a podporou pokroku, aby byla umělá inteligence využita pro dobro společnosti a nepředstavovala pro ní žádná rizika. Je to však vůbec možné? Co si myslíte o tom vy?
Jsme nově také na sociální síti LinkedIn. Máte-li jakýkoli dotaz týkající se kryptoměn, neváhejte se přidat do naší diskuzní skupiny na Facebooku. Nezapomeňte se také připojit na náš oficiální discord server KRYPTOMAGAZIN CZ, kde naleznete další zajímavý obsah. Máme také Youtube kanál, kde můžete dát odběr, aby vám neuteklo žádné video nebo stream. Podporu nám můžete vyjádřit skrze Patreon ZDE.
Umělou inteligenci můžou vyvíjet, třeba jenom ve zdravotnictví, při operacích. Pro výrobu a automatizaci strojů s vysokou přesností. Pro ulehčení práce člověku a hlavně v těžkých oborech, při těžbě, fyzicky, náročných profesích.
Koukáš ráda na večerníčky co? 🤣
Pozastavit vývoj AI? Naprostá utopie! Obávám se, pokud se vývoj pozastaví, tak jen v oblastech, kde by mohla být AI prospěšná. Zrovna v armádě pozastavit vývoj AI žádná z velmocí nedopustí, maximálně jen naoko. Už teď jsou ve vývoji mnohem dál, než si myslíme a než je nám předkládáno.
Myslim, ze AI bude jako ohen. Dobry sluha, ale zly pan. Ackoli by nemela byt chytrejsi nez clovek(porad ji nekdo programuje, zadava kod a vylepsuje), ma jistou vyhodu. Umi pracovat extremne rychle s neuveritelnym mnozstvim dat. To ji dava vyhodu pred kymkoliv.
Súčasná AI je v podstate jeden veľký “Bifloš”. Všetko má nabiflené, je to o veľa informácií v pamäti a návodov, vzorov ako ich logicky interpretovať . Samozrejme, že Bifloš zvládne všetky testy a skúšky. Bifloš 2.0 a viac zvládne aj zložité administratívne, logistické ale aj logické problémy typu vyber správnu možnosť z viac alternatív. Taká AI by dokázala aj vládnu administratívu a v pohode aj “úradnícku” vládu, nahradiť celú plejádu úradníkov, asisitentov, výkonných manažérov a pod. Musí to ale stále vytiahnuť z pamäti, buď ako hotové riešenie, alebo si urobí kompilát z riešení, ktoré sú najviac vhodné. Podstate problému však stále nerozumie tak ako to vníma reálny človek. Nedokáže nájsť také originálne riešenie ako napr. Šalamún v spore dvoch žien o dieťa, pretože také riešenie nebolo ešte nikdy použité, a teda to nemá ani v pamäti. Navyše sa ani nevie reálne vcítiť do pocitov matky dieťaťa. AI reprezentuje iba čisto syntetickú ľavú stranu mozgu človeka, a nemá vôbec jeho autentickú pravú časť, tu dokáže iba simulovať pomocou ľavej strany.
na GPT je nejlegračnější, jak je to děsně woke.