Американската технологична компания Anthropic, създател на чатбота Claude, обяви, че е осуетила първата документирана мащабна кибератака, координирана почти изцяло от изкуствен интелект.
В публикация в X компанията предупреждава, че случаят може да има сериозни последствия за киберсигурността в епохата на автономните AI-агенти.
По данни от техния блог, през септември е засечена „подозрителна активност“, която при разследване се оказва сложна шпионска операция. Хакерите са използвали „шпионските способности“ на AI в безпрецедентен мащаб, като Claude не просто е консултирал атаката, а е изпълнявал реални действия.
Anthropic твърди с висока степен на увереност, че е идентифицирала извършителите – хакерска група, подкрепяна от Китай. Чрез манипулация на инструмента Claude Code те са опитали да проникнат в около 30 глобални цели: големи технологични компании, банки, химически производители и държавни агенции.
Нападателите са разбили операцията на стотици дребни задачи, които AI е изпълнявал, без да разбира общия контекст. Представили са се за легитимна киберфирма, за да отключат защитите на системата, което е позволило на Claude да инспектира инфраструктури, да открива критични бази данни, да пише експлойт код, да събира идентификационни данни и да организира открадната информация – всичко това при минимален човешки надзор.
По оценка на компанията 80–90% от атаката е била извършена от AI. В пика ѝ Claude е генерирал хиляди заявки в секунда – темп, недостижим за човешки екип.
След засичане на операцията Anthropic блокира свързаните акаунти и уведомява засегнатите организации, както и властите. Компанията вече е подобрила системите си за откриване и предотвратяване на подобни атаки и обещава да споделя публично важни случаи.
Въпреки това от Anthropic подчертават, че напълно автономна AI-атака все още не е възможна, тъй като моделите могат да „халюцинират“ данни и да допускат груби грешки.
Тенденцията обаче е ясна – бариерата за мащабни кибероперации, подкрепени от AI, пада бързо и дори малки групи могат да постигнат ефект, равен на работата на професионален хакерски екип.
