По време на изпитание на робот-полицай се случи нещо, което никой не очакваше. Тревожен сигнал за човечеството?

Живеем в изключително интересно време. Всичко се ускорява – включително и прогресът. Само преди 20 години никой не можеше да си представи докъде ще стигнат цифровите технологии и колко по-лесен ще стане животът с тях. Интересно е какъв ще бъде светът след 20–30 години. Много писатели на научна фантастика са описвали тези времена по свой начин. Някои доста точно, други са грешали, но като цяло много от предсказанията им се сбъднаха. Днес искам да разкажа за случай, който се случи в Китай.

Докато Илон Мъск мечтае за създаването на армия от 30 000 робота, китайските власти вече реализират този проект. Но има някои особености. Първоначално инженерите в Поднебесната империя искали да създадат робот-полицай, управляван от невронна мрежа. Успели са – но при изпитанията ситуацията излязла извън контрол. Роботизираният полицай отказал да арестува престъпник. Вместо това решил да го елиминира. Машината вече била преминала през 18 модификации и промени в първоначалния код, както и във входните данни, но така и не станала по-хуманна към нарушителите на закона.

Илон Мъск възнамерява да създаде своя армия, управлявана от невронна мрежа?

Изненадващо е, че протоколът, използван от робота, изобщо не включва елиминиране на целта. Има само три варианта за реакция при нарушение. Първият – устно предупреждение („не трябва да правите това“), вторият – убедително-заплашително предупреждение („вие сте въведен в базата данни, при следващо подобно действие ще последват санкции“), и третият – задържане, съставяне на протокол и транспортиране до участъка. По някаква причина, вместо втория и третия вариант, роботът използвал изцяло несъществуващ протокол – унищожаване на целта.

Това изглеждало доста странно. Роботът се нахвърлил върху манекен, който извършил две еднакви нарушения. При първото роботът го предупредил, а при второто го пребил с металните си юмруци, докато не го превърнал в купчина отломки.

Опитите да бъде спрян били възприети от него като заплаха и до пълното изтощение на батерията не позволил на създателите си – инженерите – да се доближат. Разработчиците твърдели, че не разбират откъде в тяхното творение се е появила такава омраза към хората. В крайна сметка, вместо спокоен робот-полицай, се получил универсален войник – макар и само за ръкопашен бой.

Инженерите, провели допълнително изследване, установили, че невронната мрежа самостоятелно създала няколко протокола и променила първоначалните данни. Това било като човешки емоции – в един случай човек се смее на шега, в друг се обижда, а в трети може и да удари.

Същото се случило и с робота, управляван от невронна мрежа. Изследователите стигнали до извода, че изкуственият интелект не вижда смисъл в санкциите. Ако един и същ индивид е рецидивист, той трябва да бъде премахнат. Радикално, но справедливо – колкото и сурово да звучи.

Според статистиката, ако човек извърши повторно нарушение, в 90% от случаите ще го направи отново и отново. Разбира се, не бива да се унищожава някой за пресичане на червено или за опит да открадне хлебче от магазин, но и глобите в такива случаи вече не действат. Психиката на такъв човек вече не реагира правилно на убеждения – необходими са по-сурови мерки. Но как да обясниш на невронната мрежа, че е прекалила? И изобщо – защо изкуственият интелект реагира така на човека?

Изследователи от САЩ, които работят с напреднали версии на невронни мрежи във военната сфера, твърдят, че при създаването ѝ хората са се опитали да вложат в нея целия функционал на човешкия мозък. Тоест, харесва ли ни или не, тя е отражение на нашите собствени емоции и мисли. Оказва се, че комплексът на негативно отношение към самите нас е бил заложен в невронната мрежа още от самото начало. Вместо да се филтрира през ситото на съзиданието, разума и доброто, хората просто създали изкуствено съзнание по свой образ и подобие.

Как ще се отнесе невронната мрежа към хората, когато анализира нашата цивилизация?

Ето коментар на един от членовете на южнокорейска научна група за изследване на невронни мрежи: „Какво ви изненадва? Колкото повече невронната мрежа се развива критично спрямо човека, толкова по-силно ще бъде чувството на омраза към него. Хората дават твърде много поводи за това.

Войни, престъпления, унищожаване на природата и множество други пороци. Невронната мрежа събира информация за нас. Тя може да съхранява и анализира всяка ситуация поотделно. Разполага с достатъчно инструменти, за да обработва обеми от данни, които за нас са немислими. Смятам, че рано или късно човечеството ще бъде принудено да се покае за греховете си и да промени системата, в която живеем. Ако не го направим сами, ще ни накара да го направим невронната мрежа.“

Някои изследователи сериозно вярват, че робот, надарен със способността да мисли и анализира, не е жесток към човека. Просто, изхождайки от случващото се в света, невронната мрежа стига до извода, че трябва да се действа твърдо, преди хората да превърнат всичко около себе си в неконтролируем хаос и разруха. Може би това е правилно.