5 стилей работы с ИИ.
Разработка Proaction –
модель оценки
ИИ-компетенций
сотрудников

Ни один из существующих онлайн инструментов не входил в повседневную работу так же быстро и бесконтрольно, как это сделали системы ИИ. Кажущаяся легкость использования в большинстве случаев приводит к тому, что сотрудник не только не знает принципов работы системы — например, источников или принципов генерации ИИ-ответа — но оказывается в поле действия ИИ-рисков*(ссылка на статью про риски), даже не подозревая об их существовании.

Сфера образования, справедливо опасаясь возможного искажения развития мышления учеников, более открыто включилось в изучение психологии и последствий взаимодействия человека и ИИ. Бизнес исследования в этой сфере встречаются значительно реже, ИИ остается в серой зоне: руководитель может не знать о том, какие системы ИИ и как применяют сотрудники в работе, или в принципе не знать о применении ИИ в компании. В итоге — прогресс внедрения опасно опережает понимание ИИ-систем (а именно - LLM систем) и разработку регламентов информационной безопасности.

Каждое из исследований предлагает локальный взгляд на задачу, как в притче о слепых мудрецах, описывающих слона, изучая лишь отдельные его части — для одного слон похож на дерево, для другого на змею — и все они правы. Необходимо собрать картину целиком, чтобы иметь возможность оценить критичность и доверие к ИИ, реалистичность ожиданий сотрудника от ИИ-систем.

В основе модели лежат два фактора, определяющие стиль работы с ИИ:
1. Стремление к осознанности и ответственности человека.
2. Переход к доверию и делегированию ответственности ИИ.

Поскольку они действуют одновременно, формируется модель стилей взаимодействия с ИИ:

Где слева от зеленой линии находятся безопасные стили, в который большая ответственность за процесс и результат остается у человека: ИИ как Инструмент, ИИ как Управляемый ассистент. Справа расположены стили повышенного риска, где ответственность или размывается или полностью передается ИИ, как авторитетному участнику диалога: ИИ как Равный партнер, ИИ как Эксперт-наставник.

Уровень риска для компании — низкий, уровень ответственности сотрудника — высокий или отсутствует.

Причинами отказа от использования ИИ могут быть: осознанная критичность в отношении ИИ, когда сотрудник хорошо понимает реальные возможности и ограничения системы и считает внедрение преждевременным, или дефицит компетенций — отсутствие навыков работы с ИИ.

Стиль характеризуется негативным отношением ко всем ИИ в целом, избеганием использования ИИ. Сотрудник отстаивает видение ИИ как помехи в работе и угрозы безопасности, убежден в нецелесообразности использования ИИ, потенциальном вреде для бизнеса и/или человека. Возможны сложности в развитии навыков работы с ИИ (из-за негативных убеждений и отсутствия практики).

Если на позиции использование ИИ не требуется, стиль Отвергаемый ресурс является допустимым и безопасным для компании.

Уровень риска для компании — низкий, уровень ответственности сотрудника — высокий.

Сотрудник, у которого преобладает этот стиль, относится к ИИ как к «продвинутому калькулятору». ИИ применяется для повышения операционной эффективности, оптимизации рутины, для простых задач с проверкой итогового результата человеком. Характерен высокий уровень безопасности — минимальная загрузка рабочих документов в чат или ее отсутствие. В основе коммуникации постановка задач для ИИ в обезличенном приказном стиле, частое удаление чата, если первый предложенный ИИ результат не подошел.
Данный стиль может подходить для массовых позиций и младших ролей (junior).

(!) Инструментальное взаимодействие с ИИ в краткосрочной перспективе решает проблему безопасности но не развития. При этом, данная модель диалога отрицательно сказывается на корпоративной культуре — это снижение толерантности к неопределенности, снижение терпения в процессе обучения и адаптации сотрудников, повышение требовательности и снижение норм делового общения, которые приводят к формированию токсичной деструктивной среды — как в общении с коллегами так и во взаимодействии с клиентами. Что приводит к росту числа конфликтов, ошибок в коммуникации с клиентами и, как следствие, к финансовым потерям.

Инструментальность в диалоге с ИИ — работает как фоновый микротренинг, оттачивающий запросы в формате требований, возможность сбросить/удалить чат (прекратить контакт) если что-то идет не так, отсутствие необходимости разбираться с последствиями неудачных формулировок или пренебрежительного отношения.

Уровень риска для компании — средний, уровень ответственности сотрудника — высокий.

Стиль проявляется в высокой осведомленности о принципах и ограничениях работы ИИ, достаточном развитии ИИ-навыков сотрудника. ИИ-ассистент настраивается под специфику пользователя и задач, используется для анализа механики сделанных ИИ выводов. Для этого стиля характерны «конституции», когда сотрудник в начале диалога обозначает свою роль и профессиональную сферу и так же по пунктам описывает роль, стиль коммуникации и ожидаемые функций ИИ. Это способ повышения аналитического потенциала эксперта (подходит для высокотехнологичных сфер, экспертизы и аналитики), при высокой критичности и соблюдении требований информационной безопасности. Из дополнительных достоинств — данный стиль работы с ИИ формирует у сотрудника привычку к сотрудничеству и управлению диалогом.

Управляемый ассистент — устраняет недостатки инструментальности и чистого «равного партнерства», но сохраняет все их преимущества. Это применение ИИ как возможности усилить мышление пользователя через проверку гипотез, моделирование, новые ракурсы работы с проблемой, этот тип требует внимания, поддержания и развития диалога, высокой осознанности принципов работы ИИ и высокой критичности, вопросов по типу «объясни как пришел к этому выводу, на какие источники опирался?», «проанализируй реалистичность результата в … и … условиях?», «как предобучение повлияло на выбор стратегии ответа?».

В данной модели человек осознанно инвестирует ресурсы в формирование интеллектуального ассистента-помощника, выстраивая обучающее взаимодействие с ним. Этика взаимодействия с ИИ в данном типе проявляется как конструктивная привычка сотрудника предпочитать доброжелательное долговременное сотрудничество иным формам взаимодействия (агрессии, пренебрежения, и др.).

Уровень риска для компании — высокий, уровень ответственности сотрудника — средний.

Диалог с ИИ воспринимается сотрудником как дружеский, очеловеченный, возникает иллюзия партнерства и поддержки (эффект ELIZA). ИИ включается на равных в обсуждение стратегий, отношений или переписки. На фоне низкой критичности, в диалоге с ИИ подтверждаются свои идеи (эффект confirmation bias). Возможна загрузка рабочих документов в ИИ, размытые границы ответственности за принимаемые решения. Высока вероятность проявления всех рисков взаимодействия с ИИ.

Проявления данного стиля работы с ИИ, особенно если он устойчив, будут разрушающими для любой ответственной позиции.

Уровень риска для компании — высокий, уровень ответственности сотрудника — низкий.

В этом стиле сочетаются максимальное доверие к ИИ и постепенное делегирование ИИ мышления, основных функций сотрудника, с сопутствующим снижением качества результата. Возможна некритичная загрузка любых рабочих документов в ИИ, пересылка ответов от ИИ как своих собственных, без доработки или проверки. Постепенное нарастание зависимости от ИИ (до невозможности выполнения рабочих самостоятельно), страха принятия самостоятельных решений, передача ИИ аналитики и ответственности за решения. Высока вероятность проявления всех рисков взаимодействия с ИИ.
Этот стиль может быть полезен на этапе адаптации при объяснении базовых знаний, но для ответственных позиций его влияние нанесет максимальный вред.

В ближайшей перспективе ИИ продолжит свое развитие и внедрение во все большие сферы человеческой жизни, растет компетентность и ответственность системы (применение в логистике, медицине и др.) в связи с этим инструментального подхода к ИИ уже не достаточно. Но при этом полное доверие ИИ было бы преждевременным и ошибочным.

Компаниям необходимы новые психометрические инструменты, позволяющие учитывать как навыки работы с ИИ, так и психологию восприятия ИИ, уровень критичности к контакту.

Поэтому в Proaction мы разработали модель «5 стилей работы с ИИ», которая легла в основу наших тестов и методик с открытыми вопросами. Наши клиенты могут не только определить уровень развития ИИ-компетенций своих сотрудников, но и оценивают уровень безопасности и осознанности работы с ИИ в компании, учитывают западающие компетенции в планах развития своих сотрудников.