- Директор по информационной безопасности компании Atlassian Дэвид Кросс указывает на структурные барьеры на пути внедрения ИИ в корпоративной среде, обусловленные устаревшими рабочими процессами, несовместимыми с автономными технологиями.
— Теневые инновации возникают, поскольку 91% прорывов в области ИИ берут начало от инициатив на низовом уровне в финансовой сфере.
861076
- Юридическое и закупочное подразделения обходят корпоративные требования.
- Командам по обеспечению безопасности необходимо перейти от препятствий к факторам, способствующим развитию, путем внедрения систем управления, которые рассматривают агентов ИИ как реальных пользователей с правами доступа.
— Будущий успех зависит от внедрения ИИ в основные рабочие процессы, организации многоэтапных агентных систем и баланса между техническими возможностями и этическим управлением.
— К 2026 году агенты искусственного интеллекта станут повсеместными на предприятиях благодаря индивидуальной настройке под конкретные отрасли, что потребует от организаций пересмотра систем подотчетности в связи с трансформацией, основанной на ИИ.
Внедрение искусственного интеллекта в корпоративной среде сталкивается со структурными препятствиями, поскольку организации понимают, что устаревшие рабочие процессы не могут адаптироваться к новым автономным технологиям. Дэвид Кросс, директор по информационной безопасности Atlassian, утверждает, что для успеха необходимо стать изначально ориентированным на ИИ, интегрируя интеллект в основные процессы, а не просто поверхностно внедряя его. Этот сдвиг имеет решающее значение, поскольку рынок переходит от мелкомасштабных экспериментов к сложной многоступенчатой оркестровке агентов.
Неспособность перестроить базовые структуры привела к явлению, называемому теневыми инновациями, когда сотрудники обходят корпоративные предписания, чтобы решать сиюминутные проблемы. Данные показывают, что 91% прорывов в области ИИ в настоящее время обусловлены инициативами снизу в финансовых, юридических и закупочных отделах, а не директивами сверху. Это трение подчеркивает значительный разрыв между нынешней организационной готовностью и возможностями современных систем ИИ.
Безопасность и управление данными становятся основными препятствиями на пути этой трансформации. Кросс подчеркивает, что главная проблема заключается не в самой технологии, а в организации и маркировке данных для предотвращения путаницы или утечек. Компании должны относиться к агентам ИИ как к реальным пользователям, управляя доступом и отслеживая действия с той же тщательностью, что и к сотрудникам-людям.
Почему устаревшие рабочие процессы не способствуют внедрению ИИ?
Большинство компаний испытывают трудности с использованием всего потенциала ИИ, поскольку их внутренние структуры, включая уровни согласования и фиксированные роли, были созданы для эпохи до появления ИИ. ИИ не вписывается в существующие системы и требует полной перестройки организации работы, что является медленным и политически сложным процессом. Следовательно, в настоящее время ИИ меняет работу лишь на периферии, предлагая расширение возможностей без подлинной трансформации в большинстве предприятий.
Кросс сравнивает ошибку внедрения ИИ в устаревшие системы с эпохой миграции в облако, когда компании часто не смогли изменить свои базовые рабочие процессы. Он предупреждает, что организациям необходимо создавать системы, в которых ИИ является ядром, а не второстепенным элементом, чтобы избежать повторения этих исторических ошибок. Без этих структурных изменений ИИ останется инструментом для незначительного повышения производительности, а не движущей силой фундаментальной трансформации бизнеса.
Современная ситуация показывает, что одних лишь экспериментов недостаточно для решения крупных бизнес-задач. Истинная ценность заключается в интеграции агентов ИИ в рабочие процессы людей для автоматизации и объединения задач, ранее выполнявшихся по отдельности, таких как генерация и проверка кода. Такой подход выходит за рамки небольших пилотных проектов и позволяет решать значительные бизнес-задачи, которые ранее были неразрешимы.
Как теневые инновации меняют ландшафт корпоративного искусственного интеллекта?
Происходят значительные изменения снизу вверх: сотрудники перестраивают свои рабочие процессы, не дожидаясь разрешения руководства. Это явление, называемое теневыми инновациями, предполагает, что наиболее эффективное внедрение ИИ происходит органически, поскольку сотрудники обходят ограничения устаревших систем для решения текущих проблем. Задача руководства состоит в том, чтобы распознать и интегрировать эти изменения снизу вверх, а не пытаться контролировать темпы внедрения.
Данные Бхавина Шаха показывают, что 91% инноваций в области ИИ в настоящее время исходят от сотрудников финансовых, юридических и закупочных отделов. Эти отделы активно переосмысливают свои роли, интегрируя агентов ИИ в повседневную деятельность, фактически создавая новые стандарты производительности, которые организация в конечном итоге должна будет принять. Это давление снизу вверх заставляет пересматривать традиционные системы подотчетности, которые не могут справиться со скоростью изменений, вызванных ИИ.
Ожидается, что тенденция к более глубокой интеграции и специализации сохранится до 2026 года, с появлением персонализированных моделей для конкретных отраслей, таких как юриспруденция и здравоохранение. К середине 2025 года внедрение значительно ускорилось: 40% сотрудников в США использовали ИИ на работе, чему способствовала интеграция больших языковых моделей в основное корпоративное программное обеспечение. Такое широкое использование подчеркивает необходимость для организаций формализовать эти органические изменения в структурированные корпоративные стратегии.
Какова роль команд безопасности в обеспечении оркестрации ИИ?
Команды безопасности должны перейти от роли препятствий к роли помощников, предоставляя механизмы, поддерживающие разработчиков, а не препятствующие прогрессу. Кросс подчеркивает необходимость культурных изменений, при которых безопасность приносит пользу, обеспечивая безопасное развертывание автономных агентов в сложных рабочих процессах. Баланс между эффективностью ИИ и человеческим контролем, особенно при принятии важных решений, укрепляет доверие и снижает риски в масштабах всей организации.
По мере распространения ИИ-агентов компаниям необходимо относиться к ним как к реальным пользователям, управляя доступом и отслеживая действия для обеспечения безопасной интеграции. Важнейшим компонентом внедрения является организационная культура, в которой команды безопасности помогают разработчикам добиваться успеха, а не препятствуют прогрессу. Такой подход позволяет безопасно масштабировать возможности ИИ, сохраняя при этом необходимый контроль над данными и доступом к системе.
Эмпирические данные подтверждают повышение производительности при таком подходе: разработчики, использующие инструменты парного программирования на основе ИИ, выполняют задачи на 55% быстрее. Однако остаются проблемы, в том числе риск возникновения «галлюцинаций», когда ИИ генерирует правдоподобную, но неверную информацию. Для снижения этих рисков и максимизации преимуществ оркестровки необходимы такие стратегии, как генерация с дополненной информацией и участие человека в процессе.
В ходе обсуждения были определены три ключевых фактора будущего успеха: внедрение ИИ в повседневную рабочую среду, интеграция ИИ в рабочие процессы и эффективное управление оркестровкой системы. Кроме того, акцент смещается от экспериментальных пилотных проектов к масштабируемым, автоматизированным корпоративным операциям, поддерживаемым развивающимися нормативными рамками. В конечном итоге, успех агентов ИИ зависит от баланса между техническими возможностями и надежным управлением, обеспечивающим их роль в качестве партнеров по сотрудничеству, повышающих производительность труда без ущерба для безопасности или этики.
Компания Anthropic зарекомендовала себя как лидер в этой области, делая акцент на безопасности и надежности, а ее выручка выросла с 87 миллионов долларов до более чем 5 миллиардов долларов к середине 2025 года. Их подход к конституционному ИИ внедряет этические принципы непосредственно в процесс моделирования, что делает их инструменты особенно привлекательными для регулируемых отраслей, таких как финансы и здравоохранение. Это демонстрирует рыночный спрос на надежный ИИ, способный безопасно работать в сложных корпоративных средах.
В перспективе наблюдается тенденция к более глубокой интеграции и специализации, при этом ожидается, что к 2026 году агенты искусственного интеллекта станут повсеместными. Акцент смещается с экспериментальных пилотных проектов на масштабируемые, автоматизированные корпоративные операции, поддерживаемые развивающимися нормативными рамками, такими как Закон ЕС об ИИ. Успех зависит от внедрения ИИ в рабочие процессы и эффективного управления оркестровкой системы для раскрытия истинной ценности.
В конечном счете, успех агентов ИИ зависит от баланса между техническими возможностями и надежным управлением, обеспечивающим, чтобы ИИ выступал в качестве партнера, повышающего производительность труда человека без ущерба для безопасности или этики. Организации, которые не перепроектируют свои основные рабочие процессы, рискуют отстать, поскольку инновации, инициированные снизу, продолжают опережать традиционные директивные указания сверху. А. Бузз