Възможна е конфронтация между изкуствения интелект и човечеството през следващите 25 години. За какво предупреждават експертите?

Инженери и физици от Съединените щати вярват, че човечеството ще се изправи пред смъртоносна заплаха в рамките на 20–25 години. Причината е, че новите индустрии стават все по-зависими от напредналите технологии – или, казано по-просто, от изкуствения интелект. Във филмите и литературата конфликтът между хора и машини често се изобразява като битка с приблизително равни сили.

В действителност, ако машините решат да унищожат човечеството, системите, контролирани от изкуствен интелект, ще го направят много по-бързо от очакваното. Вече се разглеждат сценарии, при които изкуственият интелект има 100% контрол върху силозите за ядрени ракети. Автоматизираната система, макар и да елиминира човешката грешка, би изложила на риск цялото човечество.

Американски инженери и физици са симулирали превземането на всички системи, контролирани от изкуствен интелект. Първият удар би бил срещу навигацията. Стотици самолети и хиляди спътници биха паднали мигновено на Земята, парализирайки глобалната логистика. Но дори стотици самолети, разбиващи се в градове, биха били само „ухапване от комар“ в сравнение с последващото.

Хората са невероятно зависими от своите устройства. Появи се поколение, което не знае откъде да си купи лекарства или храна, камо ли да готви. Казват ни, че прогресът трябва да улесни живота на обикновения човек, но в действителност това прикрива безсилие и неспособност да се реагира при извънредни обстоятелства. Така че, оцелелите – поддаващи се на паника и неспособни да се справят – ще се превърнат в перфектни мишени за дронове.

Но това не е най-лошото. Системи с изкуствен интелект, отвлечени от вирус, биха могли да изстрелят целия ядрен арсенал на човечеството. Затова пътят на технологичното развитие е изключително опасен. Ако високите технологии излязат извън човешки контрол, светът е изправен пред бърз и тотален колапс. Цялата ни цивилизация може да бъде унищожена за броени часове. Но дори това не е основната заплаха.

От време на време се раждат истински гении. Някои избират пътя на съзиданието и работят в полза на цивилизацията, но други – с дара си – се стремят към разрушение. Ако такъв гениален хакер получи контрол над системите с изкуствен интелект, отговорни за пусковите установки на ядрени оръжия, катастрофата би била неизбежна.

Възниква справедлив въпрос: технологичният прогрес – правилната форма на цивилизационно развитие ли е?