Киберсигурността в ерата на изкуствения интелект в много отношения започва да прилича на съвременната война. Тя е асиметрична – малки групи нападатели, въоръжени с най-новите технологии, могат да пробият дори най-силните защити. Освен това оръжията стават все по-автономни. Както казва Никеш Арора, шеф на голямата компания за киберсигурност Palo Alto Networks, „AI трябва да се бие с AI“. А изходът изобщо не е предрешен в полза на защитниците, пише в свой анализ The Economist.
През последните седмици компаниите Anthropic и OpenAI представиха нови модели на изкуствен интелект – Mythos Preview и 5.5-Cyber – които са толкова мощни в откриването и използването на слабости в киберзащитата, че засега са предоставени само на ограничен кръг доверени организации. Но това не гарантира безопасност. Нови модели се появяват постоянно, а хакерите вече използват по-ранни версии на подобни системи.
Според Арора това не е равнопоставена битка – с помощта на AI дори един-единствен хакер може да извършва атаки, за които преди са били нужни цели екипи. Освен това нападателите трябва да успеят само веднъж, за да пробият системата. Защитниците, обратно, трябва да са безпогрешни всеки път.
Затова киберсигурността и бизнесът като цяло се подготвят за вълна от престъпления, задвижвани от изкуствен интелект. В индустрията компании като Palo Alto Networks и CrowdStrike вече създават съюзи, за да направят използването на новите модели по-безопасно. Но реакцията на първите потребители е била смесена – от интерес до „паника и шок“, както описва ситуацията експертът от CrowdStrike Адам Майърс.
Въпреки това появата на тези модели е и своеобразен сигнал за събуждане – оценката на киберготовността вече не се прави само в IT отделите, а достига до висшия мениджмънт и бордовете на компаниите, където преобладава по-скоро тревога, отколкото оптимизъм. Най-притеснителното е, че дори достъпът до най-опасните AI мод
ели да бъде ограничаван, престъпниците бързо наваксват.
Малко след като Anthropic представи Mythos, OpenAI пусна серията 5.5, която според британския Институт за сигурност на AI може дори да е по-способна. Очаква се и други играчи – включително отворени (open-source) проекти и китайски компании – да развият сходни възможности.
„Джинът вече е излязъл от бутилката“, коментират експерти.
Още преди новите модели, по-старите версии вече са ускорили хакерските атаки. Според CrowdStrike през 2025 г. атаките, подпомогнати от AI, са нараснали с 89% спрямо предходната година.
Допълнителен риск създават автономните AI агенти, които могат да изпълняват множество задачи сами. Хакерите също могат да използват такива инструменти, за да увеличат мащаба и сложността на атаките. Колкото повече компании внедряват AI агенти в програмиране, обслужване на клиенти и други дейности, толкова повече се разширява „повърхността“ за атаки. В отговор на това Palo Alto Networks наскоро обяви придобиване на компанията Portkey, която помага за управлението и защитата на AI агенти.
Проблемът се усложнява и от факта, че AI инструментите вече откриват огромен брой уязвимости в софтуера. Тези слабости се регистрират като т.нар. CVE (common vulnerabilities and exposures). Броят им расте бързо, а според експерти може скоро да се увеличи десетократно – до стотици хиляди годишно. Възможен сценарий е изкуственият интелект да открива проблеми по-бързо, отколкото хората могат да ги поправят.
Добрата новина е, че AI не само помага на нападателите, но и на защитниците. Компании с ключова роля в интернет инфраструктурата вече получават ограничен достъп до най-новите модели, за да тестват собствените си системи. Други версии на моделите също се предоставят на по-широк кръг от доверени организации – подобно на „приоритетни потребители“ в извънредна ситуация.
Пример за успех дава Mozilla, която съобщава, че ранна версия на Mythos е помогнала да бъдат открити 271 уязвимости в нова версия на браузъра Firefox. Според компанията моделът е успял да идентифицира всички бъгове, които биха открили и човешки специалисти – нещо немислимо само преди няколко месеца.
Но според експерти като Никеш Арора, въпреки добрите намерения, както технологичните лаборатории, така и индустрията за киберсигурност все още не са напълно готови за новата реалност. А засега няма универсално решение – което, разбира се, е най-добрата новина за хакерите.
