Эксперт предупредил о риске слепого доверия к ответам ИИ
Руководитель направления контроля качества «Битрикс24» Олег Строкатый призвал сотрудников компаний проверять рекомендации нейросетей и не воспринимать их как окончательное решение. По его мнению, способность аргументированно спорить с ИИ становится важным рабочим навыком.
В беседе с «Газетой.Ru» Строкатый отметил, что бизнес все чаще поручает алгоритмам рутинные операции: подготовку черновиков, сбор статусов, объединение отчетов и начальную обработку информации. Из-за этого ответы моделей регулярно используют в повседневной работе.
Эксперт пояснил, что убедительный тон нейросети снижает желание перепроверять выводы. Раньше сотрудник мог обратиться к коллегам или руководителю, если сомневался в результате. Теперь многие принимают предложенный вариант без дополнительного анализа, а о просчете компания узнает уже после появления последствий.
Строкатый сослался на эксперимент с консультантами. Участники, использовавшие ИИ, быстрее справлялись со стандартными заданиями и выполняли больше задач. Однако при необходимости сопоставить сведения из отчета с интервью и поставить под сомнение исходные цифры они ошибались чаще: верное решение находили на 19% реже коллег без доступа к модели.
В качестве примера эксперт привел юридические документы с вымышленными ссылками на нормы закона. Сотрудники передавали такие тексты дальше по цепочке, не проверив указанные источники. Риск усиливается из-за сокращения числа согласований внутри компаний.
По словам Строкатого, проверка требует времени и готовности отстаивать свою позицию. Работнику приходится искать подтверждения в независимых источниках и объяснять руководству, почему он не согласен с системой, на которую организация тратит средства.Читайте также:
