Нова загроза: популярні моделі ШІ навчилися зламувати вебсайти автономно
Дослідники в галузі кібербезпеки виявили, що сучасні великі мовні моделі (LLM), зокрема останні версії популярних ШІ-помічників, тепер здатні самостійно знаходити та експлуатувати вразливості на вебсайтах. Якщо раніше для цього потрібні були глибокі знання програміста-хакера, то тепер ШІ може виконувати ці завдання з мінімальними вказівками.
Як це працює?
Вчені з Університету Іллінойсу (UIUC) провели експеримент, у якому ШІ виступав у ролі «автономного агента». Результати виявилися вражаючими:
-
Аналіз вразливостей: ШІ здатний самостійно вивчати опис помилок у безпеці (CVE) та розробляти план атаки.
-
Метод спроб і помилок: Бот може заходити на сайт, тестувати різні сценарії зламу, виправляти власний код «на льоту» та врешті-решт досягати мети.
-
Універсальність: Моделі успішно справляються з такими атаками, як SQL-ін’єкції, XSS-вразливості (міжсайтовий скриптинг) та злам механізмів автентифікації.
Результати дослідження:
Згідно з даними звіту, сучасні моделі (рівня GPT-4 та аналогічні) продемонстрували здатність зламувати сайти в 70-80% випадків, якщо їм надати інформацію про наявну вразливість. Без попередньої інформації успішність нижча, але вона стрімко зростає з кожним оновленням алгоритмів.
Чому це небезпечно?
-
Швидкість: ШІ проводить атаку за лічені хвилини, тоді як людині-аналітику потрібні години.
-
Масштаб: Зловмисники можуть запускати тисячі таких агентів одночасно для пошуку «дірок» у захисті мільйонів сайтів.
-
Доступність: Поріг входу в кіберзлочинність знижується — тепер не обов’язково бути професійним кодером, достатньо вміти формулювати запити для ШІ.
Як захиститися?
Експерти наголошують, що єдиний шлях протидії — використання «захисного ШІ».
-
Автоматичне оновлення: Необхідно негайно встановлювати патчі безпеки, оскільки ШІ знаходить вразливості швидше за системних адміністраторів.
-
Інтелектуальні фаєрволи: Впровадження систем, що розпізнають нетипову поведінку ботів на сайті.
-
Постійний аудит: Регулярне тестування власних ресурсів за допомогою тих самих ШІ-інструментів для виявлення слабких місць раніше за хакерів.
Висновок: Ми вступаємо в еру «війни алгоритмів», де безпека інтернету залежатиме від того, чий ШІ виявиться розумнішим — той, що атакує, чи той, що захищає.
