Vedci vypočítali riziko vzbury umelej inteligencie. Výsledok je prekvapujúci

12.1.2024 Redakcia Vášeň v tebe (Foto: shutterstock.com/Stock-Asso).

Poprední vedci zaoberajúci sa umelou inteligenciou vypočítali, aká je pravdepodobnosť, že sa umelá inteligencia vymkne spod kontroly a povedie k zániku ľudstva. Mnohí z nich sa podelili o svoje obavy z budúcnosti závislej od AI. Podľa prieskumu je riziko zániku ľudstva v dôsledku umelej inteligencie celých 5 %.

Umelá inteligencia je dvojsečný meč

Medzi výskumníkmi v oblasti umelej inteligencie sa uskutočnil prieskum o riziku vyhynutia ľudstva v dôsledku rozvoja umelej inteligencie. Vedci odhadli, že by sa mohla vymknúť spod kontroly a zničiť ľudstvo, pričom pravdepodobnosť, že sa tak stane, je 5 %.

Vývoj umelej inteligencie napreduje mimoriadne rýchlo. V nasledujúcich rokoch bude oveľa pokročilejší. Vedci predpokladajú, že do roku 2030 sa vyvinie natoľko, že bude schopná napísať bestseller New York Times alebo napísať pieseň, ktorá dobije hitparády. Človek by si myslel, že naši budúci vládcovia umelej inteligencie nám na chvíľu poskytnú nezabudnuteľnú zábavu, než nás vyhladia.

Hoci predpovede odborníkov na umelú inteligenciu by sme nemali považovať za spoľahlivé vodítko objektívnej pravdy, môžu byť dôležitým kúskom skladačky. Ich znalosť technológie a dynamiky, jej doterajšieho vývoja, ich stavia do dobrej pozície na vyvodzovanie záverov o budúcnosti umelej inteligencie.

– uviedli to autori štúdie.

Strach z umelej inteligencie

Na prieskume sa zúčastnilo celkovo 2 778 vedcov. Ide o autorov recenzovaných prác o umelej inteligencii a predpovedí do budúcnosti v súvislosti s jej vývojom. Až 68 % výskumníkov sa domnieva, že umelá inteligencia sa prikláňa skôr na dobrú ako na zlú stranu. V štúdii sa nebezpečenstvo spája s vytvorením výkonnej všeobecnej umelej inteligencie so schopnosťami, ktoré prekonávajú ľudské schopnosti.

Vedci sa zhodujú, že by sa malo viac času venovať výskumu zameranému na minimalizáciu rizika vzbury na nulu. Nesúhlasia však s tým, či by sa mal vývoj umelej inteligencie spomaliť, alebo dokonca urýchliť.

Viac ako 80 % vedcov vyjadrilo určité obavy z toho, že AI bude šíriť dezinformácie. Tie zahŕňali možnosť, že autoritárske vlády budú využívať AI na nesprávne účely vrátane ovplyvňovania politickej situácie v iných krajinách.

Bude možné ovládať všeobecnú umelú inteligenciu?

Spoločnosť OpenAI zodpovedná za ChatGPT zverejnila v decembri správu o možnosti kontroly morálky všeobecnej umelej inteligencie. Za to by boli zodpovedné menšie jazykové modely, ktoré by nahradili ľudí pri tréningu väčších modelov.

Na druhej strane spoločnosť Anthrophic vytvorila pre svoje systémy umelej inteligencie špeciálnu ústavu. Tá má zabezpečiť, aby fungovali v súlade s pravidlami našej spoločnosti. Vedci sú však plní skepsy, pretože to nemusí stačiť. Súčasná umelá inteligencia je len začiatok, ak by sa podarilo vytvoriť všeobecnú umelú inteligenciu, mali by sme do činenia s niečím inteligentnejším, ako sme my sami. Ako môžeme ovládať niečo, čo presahuje naše chápanie?

Odborníci predpovedajú, že do roku 2033 bude umelá inteligencia schopná prekladať novoobjavené jazyky, vytvárať videohry alebo skladať stavebnice LEGO. Zatiaľ čo do roku 2063 bude schopná vykonávať prácu chirurga.

Redakcia Vášeň v tebe.

Súvisiace články:

ChatGPT napísal zákon v Brazílii. Politici v šoku

Umelá inteligencia prešla IQ testami. Výsledky sú šokujúce