Elon Musk: Umělá inteligence se stane. Připravme se na to

Elon Musk se stal vůdčím hlasem, který se vyjadřuje k potenciálním nebezpečím umělé inteligence, a zašel tak daleko, že ji označil za tzv “největší existenční hrozbou” lidstvu.

Ředitel společností Tesla a SpaceX si posteskl, že program filtrující spam s umělou inteligencí by teoreticky mohl zjistit, že nejlepší způsob, jak se zbavit spamu, je zbavit se lidí, kteří ho vytvářejí. Minulý měsíc se jeho podpis objevil na otevřeném dopise světovým vojenským mocnostem, v němž varoval, že zbrojní technologie využívající umělou inteligenci téměř jistě vyústí v globální závody ve zbrojení.

V sobotní panelové diskusi v Silicon Valley však Musk zaujal k umělé inteligenci odměřenější tón a vyzval členy publika, aby přemýšleli o tom, jak zabránit jejímu vývoji potenciálně apokalyptickou cestou.

“To’s určitě stane. Takže pokud to’se stane, co’s nejlepším způsobem, jak se to může stát?” zeptal v rámci panelu o superinteligenci, který se konal v areálu ústředí společnosti Google.

Ti, kdo vyvíjejí umělou inteligenci, se podle něj musí vyvarovat bezohlednosti. A – jak často říkal již dříve – řekl, že široká veřejnost si musí uvědomit, že umělá inteligence se vyvíjí rychleji, než si mnozí myslí.

“Jen proto, že někdo nemá’t zkušený nebo není’t hluboce obeznámen s pokročilou technologií ne’neznamená, že to ne’t existovat,” řekl.

Jedním z nejlepších způsobů, jak zabránit tomu, aby umělá inteligence škodila lidem, by mohlo být utváření konceptu umělé inteligence tak, aby se škodlivost jevila jako protiklad definice této technologie, navrhl profesor informatiky na Kalifornské univerzitě v Berkeley Stuart Russell.

Russell, který se účastnil panelu, uvedl jako příklad mosty: Představa, že most má být konstrukčně v pořádku, je součástí koncepce mostu.

“Tak by to mělo být i v případě umělé inteligence,” řekl. Každý, kdo pracuje s umělou inteligencí, by měl vnímat účel této technologie jako pomoc lidstvu.

Panelisté se dotkli katastrofických scénářů, jako jsou závody ve zbrojení zbraněmi umělé inteligence, ale zdůraznili, že takové situace nejsou bezprostředním problémem. Russell uvedl, že podle jeho názoru se ve zprávách v médiích potenciální negativní důsledky umělé inteligence jeví tak, jako by se již všechny projevily, a uvedl, že odkazy na Terminátor filmové série v popisech umělé inteligence byly zavádějící.

Jako analogii k předpokládaným negativním důsledkům umělé inteligence nabídl změnu klimatu: Co kdyby lidé diskutovali o možných dopadech používání fosilních paliv v 19. století, kdy spalování uhlí bylo relativně novou praxí? “Pak by to byla vhodná doba začít přemýšlet o riziku globální změny klimatu. Teď už může být pozdě,” řekl.

Podle Muska jde o to, abychom se na to připravili hned, místo abychom propadli lidskému zvyku reagovat a čekat, až dojde k nějaké tragédii, a teprve poté vytvořit regulační orgán.

“Zde se nachází’s případech, kdy bychom měli být proaktivní,” řekl.

Sobotní panel byl součástí globální konference Effective Altruism (EA), která se konala o víkendu. Efektivní altruismus byl nazván “altruismus pro nerdy,” a točí se kolem myšlenky, že kvantitativní přístupy mohou být použity k určení nejlepšího možného využití zdrojů – zejména čas a peníze – aby se maximalizovalo dobro, které mohou tyto prostředky přinést lidstvu v globálním měřítku.