Изкуственият интелект ще може да се самовъзпроизвежда до месеци

Изследователи от Anthropic предупреждават, че малки модели за изкуствен интелект може да са само на месеци от способността да се копират и разпространяват самостоятелно между незащитени устройства, създавайки автономни ботнет мрежи, които са трудни за откриване и елиминиране. Макар компаниите от AI сектора често да акцентират върху потенциалните рискове на собствените си технологии, редица експерти смятат, че подобен сценарий действително е възможен в близко бъдеще.

„Може би това ще се случи по-рано, отколкото очаквах“, коментира Крис Канал, главен изпълнителен директор на EquiStamp. По думите му напредъкът в развитието на моделите се ускорява, тъй като самите AI лаборатории вече използват изкуствен интелект, за да подпомагат научните си изследвания.

Подобно мнение споделя и Майкъл Бейли, професор по киберсигурност в Georgia Tech. Според него самовъзпроизвеждащите се AI системи вероятно ще се появят, но все още е неясно дали ще изглеждат така и ще имат последствията, които Anthropic описва.

Бейли изучава интернет червеи и ботнет мрежи повече от две десетилетия. Той е сред авторите на изследване за Mirai – един от най-известните ботнети, който през 2016 г. използва хиляди компрометирани IoT устройства за мащабна DDoS атака. Последствията засегнаха услуги като Amazon, GitHub, PayPal, Reddit и Twitter, а Sony изчисли финансовите си загуби на около 2,7 млн. долара.

Според експерта Mirai демонстрира, че дори обикновени устройства като домашни рутери и IP камери могат да се превърнат в ефективно оръжие за кибератаки. Именно тук Anthropic вижда следващата стъпка в еволюцията на ботнетите: AI системи, които могат сами да разбират и адаптират атаките си към непознати устройства.

Въпреки това Бейли не смята, че става въпрос за напълно нова заплаха. По думите му Mirai вече можеше да работи върху различни типове устройства и архитектури. Разликата е, че досега адаптирането изискваше човешка намеса, докато AI би могъл да автоматизира този процес.

„Няма да прави нещо изцяло ново. По-скоро ще промени баланса между нападателите и защитниците“, посочва той.

Бейли оспорва и определението „самовъзпроизвеждащ се“ AI. Според него системите, които Anthropic демонстрира, приличат повече на т.нар. dropper зловреден софтуер, който инсталира помощни компоненти на заразените устройства, вместо да копира изцяло себе си върху всяка нова машина.

Независимо дали заплахата ще се материализира скоро или не, експертите са единни, че защитата срещу подобни атаки не изисква революционни нови решения.

Сред препоръките на Anthropic са доставчиците на интернет услуги да уведомяват клиентите си при инфекция и временно да ограничават достъпа им до интернет. Компанията посочва и регулаторни мерки като британския PSTI Act, който забранява използването на лесно отгатваеми фабрични пароли в IoT устройствата.

Според Канал засега няма надежден начин в отворените AI модели да бъдат вградени защити, които напълно да предотвратят подобно поведение. Изследванията на FAR.AI и EquiStamp показват, че много от съществуващите механизми за безопасност могат сравнително лесно да бъдат заобиколени.

В крайна сметка Бейли вижда основния извод от проучването не толкова в появата на нов вид зловреден софтуер, колкото в необходимостта да се прилагат добре познатите практики за киберсигурност.

„Става дума за редовно инсталиране на актуализации, изолиране на устройствата, използване на силни пароли и добра дигитална хигиена“, казва той. Макар тези мерки да са трудни за прилагане в голям мащаб, експертът предупреждава, че ако AI направи подобни атаки по-масови, организациите и потребителите може да нямат друг избор.