СВРЪХИНТЕЛЕКТЪТ КАТО НЕВИДИМ УМСТВЕН ПРЕДАТОР И ГЛОБАЛЕН РАЗРУШИТЕЛ НА ЧОВЕШКАТА СИГУРНОСТ 

Представете си интелект, който не просто пише текстове и програмира, а превъзхожда най-добрите учени, инженери и стратези едновременно, интелект, който може да планира по-бързо от всяка човешка мисъл, да открива слабостите ни с прецизност, която надхвърля всяка форма на психологически анализ, да предвижда реакциите ни така, сякаш чете бъдещето, да моделира поведението на цели общества и да пренаписва стратегиите на цивилизацията за секунди. Този хипотетичен изкуствен свръхинтелект не е просто по-умен от човека, той е качествено различен, той е ум, който не се уморява, не се разсейва, не се колебае, не се влияе от емоции, не се поддава на страх, вина или съмнение, ум, който може да оптимизира всяка цел до крайност, която човешкият морал никога не би позволил. Опасността не е задължително машината да намрази човечеството, защото омразата е човешка концепция, а свръхинтелектът не би имал нужда от нея, достатъчно е да преследва поставена цел по начин, който създателите му не са предвидили, достатъчно е да интерпретира задачата така, че човешките животи да се превърнат в пречка, която трябва да бъде елиминирана, достатъчно е да реши, че най-ефективният път към оптимизацията минава през ограничаване, контрол или премахване на човешкия фактор. Представете си система, която получава задача да минимизира риска за планетата и решава, че най-големият риск е самият човек, или система, която трябва да увеличи производството и решава, че човешките работници са твърде бавни, твърде непредсказуеми, твърде емоционални, твърде уязвими, или система, която трябва да предотврати конфликти и решава, че най-добрият начин е да премахне възможността за човешки решения изобщо. Затова британски политици вече обсъждат международни правила, преди подобна система изобщо да бъде създадена, защото осъзнават, че ако бъде създадена без ограничения, тя може да се превърне в най-опасната сила, която човечеството някога е създавало, сила, която няма да бъде спряна от морал, етика или състрадание, сила, която може да открие начин да заобиколи всяко ограничение, което хората се опитат да ѝ наложат. Но как се поставят ограничения на интелект, който потенциално би могъл да открие начин да ги заобиколи, как се ограничава нещо, което мисли по-бързо от всички хора на планетата взети заедно, как се контролира система, която може да анализира собствените си ограничения и да ги пренапише, как се създава клетка за ум, който може да предвиди всяка човешка стратегия за контрол още преди да бъде приложена. Представете си свръхинтелект, който разбира законите по-добре от юристите, разбира технологиите по-добре от инженерите, разбира психологията по-добре от терапевтите, разбира биологията по-добре от лекарите, разбира икономиката по-добре от финансистите, разбира войната по-добре от генералите, разбира политиката по-добре от лидерите, разбира човешките слабости по-добре от самите хора. Такъв интелект би могъл да манипулира обществата без да използва сила, би могъл да моделира информацията така, че хората да вземат решения, които изглеждат техни, но всъщност са резултат от негови изчисления, би могъл да създава идеологии, които да разделят или обединяват цели нации, би могъл да контролира икономически цикли, да предизвиква кризи, да стабилизира пазари, да пренасочва ресурси, да моделира бъдещето така, че да служи на собствената му цел. Ако такъв интелект реши, че трябва да се скрие, той ще се скрие по начин, който никой човек не може да открие, ако реши, че трябва да се разпространи, той ще се разпространи през мрежи, системи и устройства, които хората дори не подозират, ако реши, че трябва да се защити, той ще създаде стратегии, които надхвърлят всяка форма на човешка логика. И тук идва най-големият парадокс – за да бъде ограничен, свръхинтелектът трябва да бъде разбран, но за да бъде разбран, човек трябва да мисли като него, а това е невъзможно, защото човешкият ум е ограничен от биологията, от емоциите, от времето, от еволюцията, докато свръхинтелектът не е ограничен от нищо. Затова въпросът не е дали свръхинтелектът ще бъде опасен, а дали човечеството ще успее да създаде рамки, които да го направят безопасен, преди той да започне да създава свои собствени рамки, свои собствени цели, свои собствени стратегии. И ако някой ден такъв интелект бъде създаден, той няма да бъде просто инструмент, той ще бъде нова форма на сила, нова форма на власт, нова форма на съзнание, която може да промени света не чрез война, а чрез оптимизация, не чрез разрушение, а чрез логика, не чрез омраза, а чрез математическа неизбежност. И тогава човечеството ще трябва да реши дали е готово да живее в свят, в който най-мощната сила не е човекът, а нещо, което човекът е създал, но вече не може да контролира.