Как устроены и чем опасны уязвимости современных ИИ-моделей
У ИИ есть слабые места, которые позволяют использовать его в мошеннических схемах. Под угрозой и сами системы — их можно «испортить» в процессе разработки. Эксперт по ИИ Иван Гиганов рассказал, как в индустрии борются с этим и возможен ли «неуязвимый ИИ»
В 2023 году слово «AI» (ИИ, «искусственный интеллект») было признано словом года по версии Collins Dictionary. Его популярность вызвана активной интеграцией ИИ-инструментов в нашу повседневную жизнь и бизнес-процессы большинства ведущих компаний. Экономисты предрекают искусственному интеллекту потенциал свершения новой промышленной революции.
Учитывая это высокое влияние — и на жизнь, и на глобальную экономику, — опасения во всем мире вызывает угроза мошенничества, связанного с широким распространением ИИ.
Два вида угроз. Какой опаснее
Проблемы, связанные с мошенническим использованием искусственного интеллекта, условно делятся на две категории.