Какие риски несет использование искусственного интеллекта украинским бизнесом?

Не сомневаюсь, что украинский бизнес способен быстро освоить искусственный интеллект. Однако готовность использовать новую технологию еще не означает готовности доверить ей часть управленческих процессов. Подробнее читайте в эксклюзивной колонке для 24 Канала.

Где бизнес уже использует ИИ?

Сегодня искусственный интеллект уже используется в бухгалтерии, маркетинге, юридической работе, финансовом анализе, логистике. Часто его внедрение происходит без отдельного решения руководства. Сотрудники самостоятельно выбирают инструменты, загружают документы, обрабатывают информацию, готовят отчеты.

Компания может даже не знать, какая часть ее внутренней информации уже обрабатывается сторонними технологическими платформами.

Для меня это одна из самых недооцененных проблем. Предприятие может иметь утвержденные политики информационной безопасности, ограничивать доступ к финансовой документации, требовать от сотрудников соблюдения конфиденциальности. И в то же время сотрудник, желая быстрее выполнить задачу, загружает внутренний договор или управленческий отчет в общедоступный сервис. Никакого злого умысла. Обычное стремление работать эффективнее. Но последствия могут оказаться гораздо серьезнее, чем ожидалось.

Стоит изучать зарубежный опыт

Западные компании уже сталкиваются с подобными проблемами. И их опыт стоит изучать достаточно внимательно.

США остаются одним из главных центров развития искусственного интеллекта. Американские корпорации вкладывают огромные средства в новые технологии, автоматизируют рабочие процессы, экспериментируют с использованием алгоритмов в сфере управления персоналом, финансов, медицины и обслуживания клиентов.

Однако скорость технологического развития опережает способность общества оценивать все его последствия. В США уже возникли судебные споры, связанные с трагическими случаями гибели подростков после длительного общения с чат-ботами. Семьи погибших поднимают вопрос о безопасности таких систем и ответственности компаний, которые их разрабатывают. Причинно-следственная связь и юридическая ответственность в конкретных делах требуют судебного установления, но сам характер этих исков демонстрирует сложность проблемы.

Технология, созданная для помощи человеку, может влиять на его поведение способами, которые разработчики не предусмотрели или должным образом не ограничили.

В корпоративной среде последствия обычно менее драматичны, хотя иногда достаточно дорогостоящи. Американская юридическая практика уже знает случаи, когда адвокаты подавали в суд документы со ссылками на несуществующие судебные решения, сформированные искусственным интеллектом. Проблема заключалась даже не в самой технологии. Специалисты приняли результат ее работы без надлежащей проверки.

К вопросу внедрения искусственного интеллекта в компаниях следует относиться ответственно

Представим себе финансового директора, который использует искусственный интеллект для оценки инвестиционного проекта. Система анализирует показатели, готовит прогноз и рекомендует определенное решение. Документ выглядит убедительно, расчеты логично структурированы. Но в основу прогноза легли неполные или некорректные данные.

Если руководство полагается на такой вывод без проверки, компания может принять решение, которое повлечет за собой реальные финансовые последствия.

В корпоративном управлении ответственность лежит на людях, принимающих решения. Поэтому меня несколько удивляет, когда вопрос внедрения искусственного интеллекта полностью передают IT-департаменту. Технические специалисты могут обеспечить работу системы, но они не должны самостоятельно определять допустимый уровень корпоративного риска. Это компетенция руководства, а в стратегически важных вопросах – наблюдательного совета.

В ЕС это уже регулируется

Европейский Союз уже пытается урегулировать эти отношения с помощью AI Act. Европейский подход предусматривает различные требования в зависимости от рисков конкретного применения технологии.

Конечно, регулирование имеет свою цену. Оно увеличивает расходы на комплаенс, требует дополнительных процедур и может замедлять внедрение инноваций. Однако отсутствие понятных правил также создает издержки, которые компании часто начинают осознавать лишь после возникновения проблем.

Украинскому бизнесу придется учитывать оба аспекта. Особенно предприятиям, которые работают на европейских рынках, обслуживают европейских клиентов или входят в международные корпоративные группы.

Сможет ли ИИ помочь решить проблему нехватки персонала?

В западных странах все активнее обсуждают возможность сокращения части административных и аналитических должностей. Компании пересматривают организационные структуры, автоматизируют стандартные операции, меняют требования к квалификации сотрудников.

В Украине ситуация иная. Наш бизнес уже испытывает нехватку персонала. Часть квалифицированных работников уехала за границу, часть – мобилизована. Предприятиям сложно заполнять вакансии даже при повышении заработной платы. В таких условиях искусственный интеллект может помочь сохранить объемы деятельности без постоянного увеличения численности персонала. Особенно это касается небольших компаний, где один сотрудник часто совмещает несколько функций.

Однако я бы не переоценивала скорость таких изменений. Сотрудник, получивший доступ к современным технологиям, не становится автоматически более квалифицированным. Он получает инструмент, эффективность которого зависит от его собственных знаний, опыта и способности критически оценивать результат. Возможно, через несколько лет умение правильно поставить задачу, проверить результат и заметить ошибку станет важнее, чем способность самостоятельно выполнять значительную часть стандартных операций.

Для системы образования и профессиональной подготовки это довольно серьезный вызов.

Искусственный интеллект для большого и малого бизнеса

Еще одна особенность украинского рынка – это значительная разница между большими компаниями и малым бизнесом.

Большие корпоративные группы могут разрабатывать внутренние правила использования искусственного интеллекта, проводить аудит технологических решений, привлекать специалистов по кибербезопасности и защите данных. Малый бизнес, как правило, не располагает такими ресурсами. Владелец предприятия самостоятельно выбирает технологию, оценивает ее стоимость и решает, насколько можно доверять полученным результатам. Это создает риск неравномерного технологического развития.

В то же время небольшие предприятия могут быстрее внедрять готовые решения, поскольку у них нет сложных многоуровневых процедур согласования.

Поэтому я не ожидала бы, что преимущество обязательно получат крупнейшие компании. Многое будет зависеть от качества управления и конкретных задач, которые бизнес будет пытаться решить.

Так готов ли украинский бизнес?

На мой взгляд, украинские предприятия уже достаточно подготовлены к широкому использованию искусственного интеллекта. Опыт цифровизации, развитый сектор технологических услуг и высокая способность к адаптации создают для этого благоприятные условия.

Особенно осторожными следует быть там, где решения затрагивают права людей, финансовые обязательства или безопасность.

Западный опыт уже показал, что даже большие технологические корпорации не всегда способны предвидеть все последствия использования собственных продуктов. Украинские компании имеют возможность учесть эти ошибки, не проходя через аналогичные ситуации самостоятельно.

Я не думаю, что в ближайшее время искусственный интеллект кардинально изменит все отрасли украинской экономики. Некоторые процессы будут автоматизироваться быстро, другие еще долго будут требовать непосредственного участия человека. Однако изменения уже начались, и остановить их практически невозможно.

Меня больше интересует, успеют ли украинские компании сформировать соответствующую культуру управления до того, как использование искусственного интеллекта станет обычной частью повседневной работы.