Когда искусственный интеллект друг, а когда враг в защите ИТ-системы
Искусственный интеллект стал одной из важнейших технологий, появление которой уже изменило и еще больше изменит многие области человеческой деятельности. Модели, полученные с помощью машинного обучения, оказались способны решать многие нетривиальные задачи, которые нельзя решить с помощью последовательности строго заданных инструкций. За счет того что модель во время обучения наблюдает значительное число данных или еще говорят «прецедентов», она способна делать обобщения и выявлять сложные связи между различными признаками входных данных.
Таким образом, специалисты из области кибербезопасности обучают на большом множестве данных несколько моделей, каждая из которых способна решать свою узкую задачу, например фильтровать письма со спамом, анализировать трафик в сети или поведение пользователя. И все это на основе сложных взаимосвязей, которые модель выучила из исторических данных.
Искусственный интеллект активно внедряется специалистами по кибербезопасности для автоматизированного обнаружения основных угроз, таких как спуфинг, фишинг, и других. С помощью машинного обучения удалось добиться значительного сокращения числа ложных срабатываний таких систем, сохранив при этом высочайший уровень обнаружения. Это принесло большую пользу в связи с возрастанием количества используемых данных и усложнения схемы атак.