Вторжение AI и оборона от него #1(N)
Людям свойственно бояться чего-то, причем чем абстрактнее угроза и менее вероятен ущерб, тем приятнее бояться. В том числе для создания таких переживаний строят аттракционы.
Одна из таких приятных угроз, это угроза сингулярности и ее миньонов - решений с использование "слабого" AI и разного рода предсказательных и рекомендательных решений.
Зачем все это лезет в экономику - понятно. Успешные внедрения дают прямой экономический эффект. Однако в силу массы организационных причин, эффект этот радует заказчика (топ-менеджмент разного профиля), но достаточно часто расстраивает пользователя, что порождает серьезное сопротивление таким решениям как раз там, где они должны работать.
Поэтому на пути сингулярности и AI идут постоянные арьергардные бои. Практически рельсовая война в тылу врага.
Все истории дальше - с производства и по мотивам реальных. Любые совпадения с реальными людьми - случайны. Важно, что все прототипы участников этих историй действуют из лучших побуждений и стараются выполнять свою работу настолько хорошо, насколько могут. Однако все знают, чем вымощена дорога в ад.
История №1. О применимости прогнозов
Довольно обычная, как выясняется, история. Начинаем проект, цель которого - создание модели, предсказывающей что-то важное. Чаще всего, что интересно, заказывают предсказание проблем. Ок. На старте проекта стелим солому: вносим в предпосылки проекта тезис о том, что проблема предотвратима и заказчик знает как.
Проходит некоторое время. Модель обучена, проверена, работает и предсказывает.
Начинаем практическое применение и уже несколько раз сталкиваемся с тем, что предсказания есть, а толку нет. Для того, чтобы этот тезис был признан всеми участниками нужно очень напрячься, поскольку тезис неприятен как раз для пользователя. Получается, что производственный процесс не очень то и управляем, а это расстраивает.
Не углубляясь в детали приходится проходить следующие этапы:
- Показываем отчеты, тесты на данных, убеждаем
- Прогнозы отстой, не все проблемы мы знаем заранее, но мы очень заняты. Показываем отчеты, запускаем все в real time, убеждаем, обосновываем
- Хорошо, выделим немного ресурсов и сразу все станет ясно. Запускаем практическую работу и вдруг выясняется, что по выданным прогнозам при прицельной диагностике всегда находятся какие-то неисправности, принимаются меры, но эти меры не предотвращают проблему.
- Пока непонятно, что будет дальше, работаем
Все эти шаги встречают постоянное и понятное сопротивление и имеют шансы на успех только при основательной поддержке "сверху".
Для меня было огромной неожиданностью то, что реактивный подход (проблема-решение) настолько плохо переходит в проактивный (прогноз-диагностика-предотвращение). Мучительный, но неизбежный элемент цифровой трансформации, однако.