Этот материал входит в раздел «Технологии», в котором мы каждую неделю разбираем актуальные технологические тренды и публикуем прогнозы и рекомендации бизнесменов, IT-евангелистов и футурологов. Вы также найдете экспертные материалы о том, как стать продуктивнее, вывести бизнес на новый уровень и улучшить качество жизни с помощью технологий.
Инопланетный разум уже среди нас. И это не маленькие зеленые человечки из научной фантастики, а программы, которые могут распознать ваше лицо в смартфоне, определить вашу кредитоспособность, написать за вас стихи или компьютерный код.
Это нейросети — технологичные призраки, с которыми люди уже сталкиваются каждый день.
При этом программы на базе искусственного интеллекта имеют существенное ограничение. Большинство процессов, которые происходят внутри них, невозможно объяснить, что делает их непредсказуемыми. Поэтому сложно создать сервисы на основе ИИ, которые бы вели себя так, как ожидают люди.
А если невозможно объяснить решения нейросетей, то как им доверять?
Почему ИИ непредсказуем
В отношениях между людьми важное значение имеет умение предвидеть поведение друг друга. Если кто-то делает не то, что от него ожидали, то он теряет доверие.
Многие системы ИИ построены на основе нейронных сетей глубокого обучения, которые имитируют работу человеческого мозга. Они состоят из множества «нейронов», содержащих внутри переменные или «параметры» и определенным образом связанных между собой. Во время обучения нейросеть получает массив данных. На его основе она классифицирует информацию и приводит в соответствие с ней свои параметры. Таким образом ИИ учится структурировать данные, которые раньше никогда не видел. Он не делает выводы на основе этих конкретных данных, а «предсказывает» наиболее вероятный результат, опираясь на опыт своего «обучения».
