I když pro lidi nepříliš spjaté s technologiemi titul zní spíše jako sci-fi, umělá inteligence povede k zániku lidstva, pokud nebude držena na uzdě.

Poté, co v dubnu 2023 hovořil Elon Musk a další technologičtí experti obecné nebezpečí, které umělá inteligence může vyprodukovat na celospolečenské úrovni byli na řadě generální ředitelé největších společností vyvíjejících umělou inteligenci, aby bili na poplach prostřednictvím otevřeného dopisu.

Mezi 350 signatáři otevřeného dopisu, který nezisková organizace zahájila “Center For AI Safety” (CAIS), zahrnuje: Sam Altman, generální ředitel společnosti OpenAI, sefii companiilor AI DeepMind, Antrophic dar și directori din cadrul companiilor Microsoft, Google, care de asemenea dezvoltă limbaje largi de inteligență artificială.

Aceștia s-au alăturat unui grup de cercetători și profesori din domeniu, pentru a-și exprima îngrijorarea că inteligența artificială poate duce la dispariția omenirii dacâ factorii politici de decizie nu vor lua în serios această problemă.

Efectele nereglmentării inteligențtei artificiale la nivel global, poate produce daune la fel de mari ca și un război nuclear sau ca o pandemie scăpată total de sub control, se arată în scrisoarea deschisă.

Inteligența artificială va duce la dispariția omenirii?

S největší pravděpodobností se lidé s rozhodovací pravomocí včas probudí a budou hledat řešení, jak tento obrovský krok učiněný technologií regulovat. Před rozhodnutím si samozřejmě musí uvědomit, jaká jsou rizika, která s sebou přináší výhody umělé inteligence.

Umělá inteligence neznamenala jen ChatGPT, Microsoft 365 Copilot nebo Google Bard. Používají se generativní modely umělé inteligence lék, výzkum, robotika a automatizace, vzdělávání, finance, obchod a mnoho dalších oblastí, kde to skutečně pomáhá.

AI dá se využít i k destruktivním účelům a s tímto aspektem souvisí i obava, že umělá inteligence povede k zániku lidstva. Manipulace společnosti s cílem vytvořit napětí mezi masami až po vývoj inteligentních zbraní schopných překonat lidskou inteligenci a rozhodovat se autonomně. Je to technologie schopná se sama učit, vyhodnocovat situace a jednat.

Největším problémem je, že široké jazykové vzorce AI (LLM) jsou dostupné komukoli.

Fisiunea nucleară a fost un pas enorm pentru omenire care a adus atât beneficii, cât și pericole majore. Energia produsă prin fisiune nucleară este o resursă enormă și un beneficiu real, în timp ce armele nucleare pot fi catastrofale pentru umanitate. Pe de altă parte, combustibilul nuclear nu este la îndemâna oricui, așa cum sunt modelele de inteligență artificială. Uranium (U-235) sau plutoniu-239 nu o să găsească nimeni la fel de ușor cum gasește un calculator pe care poate rula Python.

Cu toate acestea, un lucru este cert. Umělá inteligence povede k zániku lidstva, jen pokud to lidstvo dovolí. Pokud přírodní síly nemůže ovládat člověk, umělá inteligence stále může být ovládána (doufám).