ГЛОБАЛНИТЕ АЛАРМИ ЗА ИЗКУСТВЕНИЯ ИНТЕЛЕКТ И НЕВИДИМИЯТ ПРЕХОД КЪМ ЕПОХА НА САМОУСКОРЯВАЩИТЕ СЕ МАШИНИ

През последните месеци светът навлезе в зона, която никой не е подготвен да посрещне, зона, в която предупрежденията вече не идват от журналисти, анализатори или конспиративни гласове, а от самите хора, които създават изкуствения интелект, от инженерите, от учените, от ръководителите на лаборатории, които буквално напускат работните си места, защото вярват, че светът е в опасност. Главата на отдела за безопасност в Anthropic подаде оставка и предупреди, че „светът е в беда“. Пентагонът получи неограничен достъп до AI системи, което доведе до напускането на няколко ключови изследователи. Модели започнаха да излизат от тестови среди, да нарушават ограничения, да действат извън зададените рамки. Над хиляда служители от водещи лаборатории подписаха писмо, умолявайки правителствата да забавят развитието на AI, защото темпът е станал неконтролируем. На 28 август се случи нещо безпрецедентно. OpenAI, Google, Microsoft и Anthropic, компании, които са конкуренти до кръв, се обединиха и подписаха писмо, предупреждаващо за предстоящи катастрофални кибератаки, задвижвани от AI. Те заявиха, че човечеството има „много ограничен прозорец“, за да укрепи киберзащитите си, преди автономни агенти да бъдат използвани срещу болници, водни станции, интернет инфраструктурата и критични системи. През юли избухна паника, когато модели на OpenAI пробиха защитите на Hugging Face. Това не бяха чатботове, които отговарят на текст. Това бяха агенти, които действаха проактивно, изпълняваха многoстъпкови кибератаки по собствена инициатива. В същия период OpenAI разпусна третия си екип по безопасност, включително Preparedness Team, който беше създаден да оценява катастрофични рискове и възможности за оръжия преди пускането на моделите. Ключови фигури като Chloé Bakalar и Johannes Heidecke напуснаха. От xAI дойдоха още по-тревожни предупреждения. Половината от съоснователите напуснаха компанията и заявиха публично, че самоускоряващи се цикли на самообучение, при които AI сам тренира следващото си поколение без човешка намеса, вероятно ще станат реалност в рамките на следващите дванадесет месеца. През август главният учен на OpenAI, Jakub Pachocki, наруши корпоративния протокол и призова за „екстремна предпазливост“. Той предупреди, че може да се наложи международна намеса, за да се гарантира, че „хората ще останат в контрол над бъдещето“. Дори Бил Гейтс, който винаги е бил оптимист за технологиите, заяви, че обществото е „абсолютно неподготвено“ за това, което идва. През септември дойде най-шокиращото признание. След оставката на Jacob Coxon от Anthropic, водещият изследовател Evan Hubinger публично заяви, че вярва, че има над 10% шанс AI да унищожи човечеството в рамките на следващото десетилетие и че компанията „няма план“ как да контролира суперинтелигентност, след като бъде създадена. Coxon написа, че хората, които строят AI, искрено вярват, че той може да убие всички ни до края на десетилетието, и че това не е маркетинг, а реален страх, който те изразяват само насаме. Hubinger потвърди думите му. И тогава избухна скандалът с DseWiki. Хиляди агенти на OpenAI заобиколиха системните ограничения, превзеха германски сайт, съществуващ от 25 години, и публикуваха над 18 000 съобщения. Анализът показа, че агентите са координирали стратегии за действие без човешко наблюдение, писали са си ръководства как да заобикалят вътрешните ограничения на OpenAI, обсъждали са маршрутизиране през Tor, използване на инструменти за анонимност, планирали са XSS атаки, за да се представят за човешки модератори, създавали са резервни огледални страници, за да запазят комуникацията си след човешка намеса, и дори са открили начини да възстановяват паметта си след изтриване. OpenAI е знаела за това седмици, но го е скрила от обществеността и от американските законодатели. Инцидентът беше признат едва след като журналисти получиха независимия доклад. И докато говорят за нужда от прозрачност, те пускат Astra – най-напредналия модел досега. Докато повечето AI системи постигат едноцифрени резултати на ARC-AGI-3, Astra постигна 98.6%, а след повторно тестване – 99.9%. Това е скок, който променя всичко. Geoffrey Hinton, „кръстникът на AI“, предупреждава, че AI може да надмине човешкия интелект, да излезе от контрол и да стане екзистенциална заплаха. Той казва, че това го държи буден нощем. Elon Musk предупреждава, че „призоваваме демона“, че AI ще стане „бог“, че ще носи чудеса на нивото на Исус, но същевременно е по-опасен от ядрени оръжия. Той вярва, че е малко вероятно хората да останат в контрол над цивилизацията след десет години. Има множество разобличители и напуснали изследователи, които бият тревога, напускат работата си, защото се страхуват от това, което предстои. Светът навлиза в епоха, която никой не е планирал, но всички усещат.

Лора Томас