Shadow AI: Защо служителите заобикалят ИТ и какво слага край

AI вече е част от ежедневната работа на много служители, често по няколко пъти на ден. Но инструментите, към които посегагат, не винаги са официалните, предоставени от ИТ отдела.

„Shadow AI“ е използването на неодобрени AI продукти на работното място, включително:

• Личен чатбот
• AI агенти
• Акаунти в AI асистенти

Около половината от служителите казват, че са използвали AI по начини, които нарушават политиките и насоките на тяхната организация, според проучване на KPMG сред над 48 000 души в 47 държави. Често те поставят чувствителна фирмена информация в публични AI инструменти.

Заобиколният метод се превърна в предупреждение. Проучване на BCG сред над 10 000 служители, мениджъри и ръководители установява, че близо четирима от десет казват, че тяхната компания не предоставя подходящите инструменти.

Служителите използват неодобрени инструменти, когато:

• Ограничено
• С лимит
• По-лошо от това, което могат да получат сами

Когато одобрените инструменти са достатъчно добри, повечето служители спират да заобикалят ИТ отдела. Поуката: Търсенето на AI е силно, но shadow AI често е знак за проблем с доставките.

Какво е shadow AI?

Shadow AI означава, че служителите използват собствени AI инструменти на работа вместо тези, които тяхната организация предоставя. Това включва:

• Чатботове, които отговарят на въпроси
• Агенти, които извършват рутинни задачи
• Ботове, които записват и транскрибират срещи
• Асистенти, които се справят с цели работни рутинни задачи

Инструментите могат да се свързват с работни системи и приложения. Някои са самостоятелни продукти, докато други са AI функции, вградени в инструменти, устройства и платформи, които служителите вече имат, като Copilot, Gemini и Apple Intelligence.

В проучване на 2,000 служители, поръчано от BlackFog, компания за сигурност, 58% от потребителите на shadow AI заявяват, че разчитат на безплатни версии, на които често им липсват:

• Сигурност от корпоративен клас
• Управление на данните
• Защита на поверителността

главно защото ценят бързината. Висшите ръководители съобщават, че използват shadow AI почти два пъти по-често от младшия персонал.

Употребата от служителите може да е трудно забележима. Проучване на Cloud Security Alliance установява, че:

• 82% от анкетираните заявяват, че техните организации имат неизвестни агенти, работещи в системите им
• 65% са преживели инциденти, свързани с агенти, включително изтичане на данни, оперативни смущения и финансови загуби

Shadow AI срещу shadow IT

Shadow IT се появи пръв. Адитя Пател, специалист по облачна сигурност в AWS, нарича shadow AI негов „бунтовен братовчед“.

Shadow IT описва ситуацията, когато работниците заобикалят предпочитаните технологични продукти на корпоративния ИТ отдел и използват собствени, понякога нарочно, а друг път без да познават правилата. Служител влиза в личен акаунт в Google, Dropbox, WhatsApp или Trello в уеб браузър на работно устройство или изпраща документ по имейл на личен адрес, за да го довърши у дома.

Новото при shadow AI е мащабът и постоянството. Някои примери:

• Данните, поставени в публичен инструмент, могат да останат в системите на доставчика за неопределено време
• Агентите и асистентите продължават да работят, докато служителят върши нещо друго, работейки в приложения, имейл и платформи

Традиционният софтуер за мониторинг на сигурността не е създаден, за да ги вижда. Затварянето на раздел в браузъра не спира работата, която е често невидима за всички освен за човека, който е подал заявката.

Уголеми

Примери за shadow AI на работното място

Shadow AI обикновено се появява в няколко ключови ситуации:

Защо служителите използват неодобрен AI

Служителите имат много причини да използват неодобрени ИТ решения.

• Някои са изправени пред натиск да използват AI, включително лоши оценки на представянето или загуба на работа, докато инструментите, предоставени от работодателя, работят по-зле от тези, които използват у дома.
• Те посегагат към по-добрия инструмент, за да свършат работата както трябва.
• Други намират одобрения инструмент за твърде бавен при пристигане, твърде сложен, твърде негъвкав или твърде често грешен.

Интензивното използване на AI може да стане скъпо, което накара редица известни компании да наложат лимити на потребителите на „tokenmaxxing“. През юни 2026 г. Uber ограничи разходите на служителите до 1 500 долара на месец за всеки инструмент за агентно програмиране, след като изразходва годишния си бюджет за AI за четири месеца.

Рационирането тласка някои служители сами да плащат за потребителската версия, вместо да се изправят пред „токенпокалипсис.“ Някои от същите компании, които казват на служителите да използват AI, същевременно ограничават достъпа до него.

Служителите заобикалят ограниченията.

• Те поставят фирмени данни в публичен чатбот, за да изготвят доклад.
• Те използват личен AI асистент или инструмент за програмиране за ускоряване на рутинни задачи.

Някои изследователи описват това като „иновация на shadow потребителите.“ Много служители никога не осъзнават, че нарушават фирмената политика. И сред служителите, които използват AI в нарушение на правилата, само около половината са хванати, според проучване на PagerDuty.

Какво може да се обърка със shadow AI

Рисковете попадат в поне пет групи:

1. Нарушения на сигурността: Неодобрен инструмент може да даде на нападателите път към вътрешните системи. Vercel, доставчик на уеб инфраструктура, разкри през април 2026 г., че усъвършенствани хакери са пробили системите му, след като служител е свързал трето старо приложение от Context.ai към корпоративен акаунт в Google. Нападателите са откраднали потребителски данни за вход, а откраднатите данни по-късно са били предлагани за 2 милиона долара.

2. Изтичане на интелектуална собственост: Собственически данни могат да напуснат контролираните от компанията сървъри само с едно поставяне в чатбот. През март 2023 г. служители на Samsung поставят изходен код и поверителни вътрешни стенограми в ChatGPT. Опасението е, че други потребители биха могли да получат достъп до данните. Седмици по-късно Samsung забранява генеративните AI инструменти.

3. Регулаторни въздействия: Нарушение или измислен от AI факт може да доведе до регулаторен контрол, глоби и репутационни щети. CB Financial Services, собственикът на Community Bank, подава формуляр 8-K през май 2026 г. към Комисията по ценни книжа и борси, в който разкрива вътрешен инцидент, свързан с чувствителна информация за клиенти, с използване на неоторизирано AI приложение. Това е първият известен формуляр 8-K, подаден в отговор на използването на shadow AI.

4. Правни усложнения: Поставянето на поверителна информация в потребителски чатбот може да застраши защитата на търговската тайна на компанията. С решение от април 2026 г. федерален съдия в Калифорния отхвърля иск за търговска тайна „с предявяване на забрана за повторно завеждане“, тъй като ищецът е разработил материала с ChatGPT и не е предприел разумни стъпки за запазването му в тайна. В отделно решение съд личен чат лог на ответник не е защитен от адвокатско-клиентска привилегия или доктрината за адвокатския труд, което ги прави подлежащи на разкриване в съда.

5. Поверителност: Бот за срещи може да записва хора без тяхното разрешение или знание. Дело във Федералния съд на САЩ срещу Otter.ai задава въпроса дали автоматичен инструмент за бележки може да записва участници без съгласието на всички страни и дали Otter може да използва разговори за обучение на своя модел. Отделно през 2024 г. изследователят Алекс Билзериан заявява пред The Washington Post, че се е оттеглил от сделка, след като Otter му е изпратил пълната стенограма от среща, която той вече е напуснал, в която инвеститорите са обсъждали стратегически грешни стъпки и манипулирани показатели.

Уголеми

Защо забраните се провалят

Компании забраняват специфични AI продукти, а след това променят решението си.

• Samsung забранява генеративните AI инструменти през 2023 г. и приема ChatGPT, Gemini и Claude в цялата компания през 2026 г.
• Citigroup ограничава ChatGPT през 2023 г. и предоставя собствени AI инструменти на служителите си през 2024 г.
• След като Италия блокира ChatGPT през 2023 г., продуктивността на италианските софтуерни разработчици спада с около наполовина за два дни и след това се възстановява, докато изтеглянията на инструменти за заобиколяне на блокадата нарастват рязко, установяват двама икономисти в работен документ.
• В Reddit професионалист по мрежова сигурност пише, че след като компанията, в която работи, блокира ChatGPT, служителите преминават към AI функциите в одобрени фирмени приложения, които не могат да бъдат изключени.

Забраните често преместват работата на други места, вместо да спрат неоторизираното използване на AI.

• В проучването на KPMG 67% от служителите, които забраняват обществените AI инструменти, казват, че са въвели чувствителен или защитен с авторски права материал в инструмент, в сравнение с 33% в организации без формална политика.
• Агресивното блокиране тласка използването на AI към лични устройства и ограничава това, което организацията може да види, сочат изследвания.
• Екранна снимка или снимка на уеб страница може да преодолее контроли, базирани на файлове.

Как да се сложи край на заобиколните методи на shadow AI

Компаниите с по-малко shadow AI правят одобрения път по-лесен. Ефективните политики за използване на AI, текущото обучение за AI грамотност, техническите защити и човешката отговорност са основата. Четири практики отиват по-далеч:

• Изберете инструмента, който служителите биха избрали така или иначе. Проучване на Recon Analytics установява, че 68% от служителите, на които е даден само Copilot, го определят като основен AI инструмент, в сравнение с 8% при предоставяне на три основни инструмента. Moderna сравнява собствения си асистент с Copilot и ChatGPT Enterprise при потребителско тестване, след което избира този, който служителите оценяват най-високо.
• Осигурете алтернативата, преди да ограничите заобиколния метод. Австралийско проучване на практици в областта на критичната инфраструктура установява, че няколко организации блокират публични AI инструменти едва след като започват да предлагат одобрената опция – подход, който авторите наричат „заместване на първо място“. „Ако не им дадете инструментите, те ще намерят начин да ги получат“, казва един участник. Netskope Threat Labs, изследователското звено на доставчика на облачна сигурност, съобщава, че използването на лични AI акаунти при клиентите му от финансовия сектор е спаднало от 76% на 36% с официални решения, докато одобрената употреба се е повишила от 33% до 79%.
• Осигурете набор от персонализирани опции за обучение. В пилотния проект на австралийското правителство за Copilot, три четвърти от хората, получили три или повече форми на обучение, са били уверени в използването на инструмента – с 28 процентни пункта повече от тези с една форма на обучение. Проучване на BCG установява, че 18% от служителите без обучение са редовни потребители на AI, спрямо 82% от получили пет до десет часа обучение, присъствени сесии и коучинг. Само 36% от служителите казват, че са доволни от обучението си по AI, определяйки го като твърде кратко или повърхностно.
• Започнете с хората, които вече искат даден инструмент. Питър Тъкър, по това време ИТ директор в IK Partners – фирма за частен капитал с 250 служители, използва стратегия, водена от търсенето, без никакъв мандат, за да достигне до 190 потребители на ChatGPT Enterprise. Той започва с 20 доброволци, които се превръщат във вътрешни защитници, когато виждат как това може да им спести време. Той изгражда конектори с инструментите, с които хората вече работят, включително Exchange, Egnyte и Notion. И провежда доброволни сесии с учен по данни, които посещават 120 от 250-те служители на фирмата. BBVA увеличава лицензите от 3 300 на 11 000 с обучение за 250 ръководители, включително главния си изпълнителен директор, представяйки фирмения инструмент като по-сигурна алтернатива на shadow AI.

Заключение

Когато служителите заобикалят инструментите, които компанията им предоставя, те показват точно къде тези инструменти не се справят. Блокирането им крие тази информация. Компаниите с най-малко използване на shadow AI предоставят добър инструмент, избират този, който служителите биха избрали така или иначе, и третират остатъчната употреба на shadow AI като списък с все още липсващи функции.

Как Perplexity може да помогне

Perplexity Enterprise предоставя на компаниите сигурен инструмент, който служителите избират заради неговите качества, с вход с работен акаунт, който администраторите могат да изискват; права за достъп въз основа на роля, така че хората да виждат само това, което ИТ отделът позволява; одитни логове на потребителските заявки, стъпките на агентите и отговорите; фирмена информация, която никога не се използва за обучение на AI модели; и връзки към източниците им към всеки отговор, така че всеки да може да провери факт, преди да го предостави на клиент. А браузърът Comet for Enterprise следва стандартите за сигурност и контролите, които компанията вече е внедрил.

Често задавани въпроси

Как мога да разбера дали използвам shadow AI без да искам?

Проверете дали даден AI инструмент е в одобрения списък на компанията. Браузърните разширения, инструментите за водене на бележки и автоматичните AI функции се броят, а повечето хора, които нарушават политиката, дори не го осъзнават.

Какво трябва да направя, ако поставя чувствителна информация в личен AI инструмент?

Уведомете някого от ИТ отдела или екипа за сигурност още същия ден и кажете конкретно какво е било споделено. Компаниите и съдилищата третират бързото, доброволно разкриване по различен начин от укриването, а практическата щета обикновено зависи от това колко бързо може да бъде отнет достъпът и променени идентификационните данни.

Какво става, ако колега донесе AI асистент за бележки на среща?

Попитайте, преди разговорът да е започнал, тъй като изборът на един участник записва всички. Правилата за съгласие за запис варират според щатите и обхващат всяко лице на разговор, а не само домакина, така че говорете отрано или поискайте чувствителните части да не се транскрибират.

Премахва ли предоставянето на одобрен AI инструмент shadow AI?

Не, и малко надеждни проучвания измерват пряко употребата преди и след пускането на одобрен инструмент. Ефективните санкционирани инструменти премахват една от най-големите причини за излизане извън рамките, но част от хората винаги ще продължат да използват и двете, и този сигнал си струва да му се обърне внимание, вместо да бъде наказан.

Как мениджърът може да отличи проблем с дисциплината от проблем с инструментите?

Разгледайте към какво посегагат хората и защо. Ако заобиколният метод спестява реално време, той разкрива какво липсва на одобрения инструмент. Най-практичният отговор е да се запълни празнината. Укриването обикновено сигнализира страх от последствията, а не лоши намерения.