Ловушка контроля: как ИИ влияет на управленческие решения

Представьте: руководителю дают сложную ситуацию с недовольными сотрудниками и предлагают использовать ChatGPT, чтобы найти лучшее решение. Кажется логичным ожидать, что больше информации и вариантов приведут к более взвешенному выбору. Но исследование показало обратный эффект: с помощью генеративного ИИ участники чаще приходили к более жестким и контролирующим мерам.

Исследователи бизнес-школы Мэннинга предложили студентам MBA решить кейс, связанный с водителями Amazon. Компания использовала приложение, которое отслеживало параметры вождения: маршруты, резкие торможения и другие показатели. Водители сопротивлялись системе, считая, что она не учитывает реальный контекст их работы и создает дополнительный стресс.

Студентов разделили на две группы: одни искали решение самостоятельно, другие использовали ChatGPT. Вторая группа чаще предлагала усилить контроль: вводить санкции за отклонения, дополнительные проверки и более жесткий мониторинг сотрудников.

Почему так происходит

ИИ легко превращает сложную управленческую ситуацию в задачу оптимизации: есть проблема, есть показатель, значит, нужно найти наиболее эффективный способ изменить поведение. Но в такой логике легко потерять то, что сложнее описать в запросе: доверие, мотивацию, автономность сотрудников и контекст, в котором они работают.

В случае с водителями дополнительной проблемой стала непрозрачность самой системы. Люди не до конца понимали, как алгоритмы оценивают их работу, и воспринимали новые ограничения как решения руководства, направленные против них. В результате усиление контроля могло создавать еще больше сопротивления и снижать мотивацию.

И здесь возникает важный управленческий парадокс: решение может выглядеть рациональным с точки зрения показателей и одновременно ухудшать ситуацию с точки зрения людей.

Для руководителей это хороший повод изменить сам способ работы с ИИ. Вместо вопроса «Как эффективнее решить эту проблему?» стоит дополнительно спросить: «Как это решение воспримут люди, которых оно касается?», «Какой контекст мы могли не учесть?» и «Не пытаемся ли мы решить проблему доверия дополнительным контролем?»

Генеративный ИИ может быть сильным инструментом для анализа вариантов и проверки гипотез. Но в управленческих решениях ему особенно важно оставаться вторым пилотом, а не автопилотом.

Источник: MIT Sloan Management Review, “GenAI Tools and Decision-Making: Beware a New Control Trap”