Вопрос доверия
Организациям пришлось научиться доверять данным, полученным от систем ИИ. Для многих это был серьезный и важный вопрос. Так, Николай Кацан, руководитель отдела систем управления информацией компании IBM в России, приводит вопрос, который очень часто задают бизнес-пользователи: «Почему мы должны доверять результатам работы модели?»
Отвечая на него, эксперт предлагает два шага. «Задача первого — объяснить, почему модель приняла то или иное решение, а также ответить на вопрос, какие данные оказали наибольшее влияние на результат. Второй же шаг заключается в ответе на дополнительный вопрос: а можно ли выделить часть процессов, которые будут функционировать вообще без участия человека и, соответственно, не замедлять работу модели для ручной проверки правильности решений? В рамках повышения доверия к моделям машинного обучения имеются решения «в металле», и они представлены на рынке. Также в ходе нескольких крупных проектов делаются попытки переосмысления структуры бизнес-процессов и их оптимизации под компьютерное управление», — говорит он.
Инновации для бизнеса
Какие новые технологии искусственного интеллекта вышли на первый план в результате пандемии и трансформации работы бизнеса?
