{"licence":{"name":"CC BY-SA 4.0","spdx":"CC-BY-SA-4.0","url":"https://creativecommons.org/licenses/by-sa/4.0/","attribution":"Atlas, a bilingual technical dictionary (https://cmaintz.github.io/tech-atlas/)"},"id":"ai/shadow-ai","url":{"en":"https://cmaintz.github.io/tech-atlas/en/terms/ai/shadow-ai/","da":"https://cmaintz.github.io/tech-atlas/da/terms/ai/shadow-ai/"},"term":{"en":"Shadow AI","da":"Skygge-AI (shadow AI)"},"aka":{"en":["unsanctioned AI"],"da":["uautoriseret AI"]},"domain":["ai","security"],"cluster":"ai-risk","layer":"people","status":"emerging","era":2023,"summary":{"en":"Staff using AI tools at work without the organisation knowing about them or having approved them.","da":"Medarbejdere, der bruger AI-værktøjer i arbejdet, uden at organisationen kender til dem eller har godkendt dem."},"body":{"formal":{"en":"Any use of AI services, models or extensions inside an organisation that has not been through its approval, risk assessment and supplier checks, so data sent to them is outside its control and oversight.","da":"Enhver brug af AI-tjenester, -modeller eller -udvidelser i en organisation, som ikke har været igennem dens godkendelse, risikovurdering og leverandørkontrol, så data, der sendes til dem, er uden for dens kontrol og tilsyn."},"plain":{"en":"Like an employee who takes work papers home to a friend for help - well meant, but the company has no idea who has read them or where copies ended up.","da":"Som en medarbejder, der tager arbejdspapirer med hjem til en ven for at få hjælp - velment, men virksomheden aner ikke, hvem der har læst dem, eller hvor kopierne er endt."},"inPractice":{"en":"An auditor at an accounting firm pastes a client's confidential annual accounts into a free online AI chat to get a summary, not knowing the provider may keep the text and use it to train future models.","da":"En revisor i et revisionsfirma kopierer en kundes fortrolige årsregnskab ind i en gratis AI-chat på nettet for at få det opsummeret, uden at vide, at udbyderen måske gemmer teksten og bruger den til at træne fremtidige modeller."},"whyItMatters":{"en":"Useful AI tools are free and one click away, so bans alone rarely work; without approved options and clear rules, personal and secret data quietly leaves the organisation.","da":"Nyttige AI-værktøjer er gratis og kun et klik væk, så forbud alene virker sjældent; uden godkendte alternativer og klare regler forlader person- og forretningsdata stille og roligt organisationen."}},"deepDive":{"en":"Shadow AI is a subset of shadow IT, but it has three properties that make it harder to manage. First, the data flow is the point of the tool: using a chat assistant means sending text, files or code to a third-party model, so every use is a potential disclosure. Second, output flows back into work products - contracts, code, case decisions - carrying hallucinations, licence contamination or bias into the organisation's records without any trace of how it was produced. Third, AI arrives not only as new services but as features switched on inside already-approved SaaS, as browser extensions with read access to every page, as desktop agents and MCP servers with local file and shell access, and as locally run open-weight models that never cross the network perimeter. The widely reported 2023 case in which Samsung engineers pasted proprietary source code into ChatGPT, followed by an internal ban, is the reference example.\n\nThe key technical distinction is between consumer and enterprise tiers of the same product. Consumer terms have commonly allowed use of prompts to improve models (often with an opt-out), longer retention and human review, whereas enterprise and API offerings typically exclude training on customer data, offer retention controls, SSO, audit logs and a data processing agreement. Under GDPR, sending personal data to a provider without a data processing agreement under Art. 28, without a transfer basis under Chapter V where data leaves the EEA, and without a record in the Art. 30 register is unlawful processing regardless of intent - and, depending on what happens to the data, may amount to a personal data breach.\n\nDiscovery combines several telemetry sources: secure web gateway, CASB or SSE logs and DNS data categorised for generative-AI domains; OAuth consent grants to third-party AI apps in Microsoft 365 or Google Workspace; browser-extension and software inventories from endpoint management; expense reports and card transactions for AI subscriptions; and admin consoles of approved SaaS for newly enabled AI features. Control options range from monitoring and coaching prompts, through DLP inspection of uploads and pastes to AI domains, to blocking - but blocking alone tends to push use to personal devices, which is why the recommended pattern is to provide a sanctioned enterprise alternative, publish an acceptable-use policy with data classification rules, and run a fast intake process for new tools.\n\nShadow AI also creates regulatory blind spots under the EU AI Act. An organisation cannot meet deployer obligations under Art. 26 for high-risk use it does not know about - for example a manager screening CVs with an unapproved tool - and Art. 4 expects providers and deployers to support AI literacy among staff. AI governance, with an inventory, clear ownership and approved tools, is therefore the structural mitigation, while technical controls provide detection and enforcement.","da":"Skygge-AI er en delmængde af skygge-IT, men har tre egenskaber, der gør den sværere at styre. For det første er dataflowet selve pointen med værktøjet: at bruge en chatassistent betyder at sende tekst, filer eller kode til en tredjeparts model, så hver brug er et potentielt læk. For det andet flyder output tilbage i arbejdsprodukter - kontrakter, kode, sagsafgørelser - og fører hallucinationer, licensproblemer eller bias ind i organisationens dokumenter uden spor af, hvordan de er blevet til. For det tredje kommer AI ikke kun som nye tjenester, men som funktioner, der slås til i allerede godkendt SaaS, som browserudvidelser med læseadgang til alle sider, som desktop-agenter og MCP-servere med adgang til lokale filer og shell og som lokalt kørende modeller med åbne vægte, der aldrig passerer netværksperimeteret. Den meget omtalte sag fra 2023, hvor Samsung-ingeniører indsatte proprietær kildekode i ChatGPT, efterfulgt af et internt forbud, er standardeksemplet.\n\nDen vigtigste tekniske skelnen er mellem forbruger- og virksomhedsudgaven af samme produkt. Forbrugervilkår har ofte tilladt, at prompts bruges til at forbedre modeller (ofte med mulighed for fravalg), længere opbevaring og menneskelig gennemgang, mens virksomheds- og API-udgaver typisk udelukker træning på kundedata og tilbyder styring af opbevaring, SSO, auditlogs og en databehandleraftale. Efter GDPR er det ulovlig behandling at sende personoplysninger til en udbyder uden databehandleraftale efter art. 28, uden overførselsgrundlag efter kapitel V, når data forlader EØS, og uden registrering i fortegnelsen efter art. 30 - uanset hensigten - og afhængigt af, hvad der sker med dataene, kan det udgøre et brud på persondatasikkerheden.\n\nOpdagelse kombinerer flere kilder til telemetri: logs fra secure web gateway, CASB eller SSE og DNS-data kategoriseret efter generative AI-domæner; OAuth-samtykker til tredjeparts AI-apps i Microsoft 365 eller Google Workspace; oversigter over browserudvidelser og software fra endpoint management; udgiftsbilag og korttransaktioner for AI-abonnementer; og administrationskonsoller i godkendt SaaS for nyligt aktiverede AI-funktioner. Kontrolmulighederne spænder fra overvågning og vejledende pop-ups over DLP-inspektion af uploads og indsæt til AI-domæner til blokering - men blokering alene skubber typisk brugen over på private enheder, og derfor er det anbefalede mønster at stille et godkendt virksomhedsalternativ til rådighed, offentliggøre en politik for acceptabel brug med regler for dataklassifikation og have en hurtig godkendelsesproces for nye værktøjer.\n\nSkygge-AI skaber også regulatoriske blinde vinkler efter AI-forordningen. En organisation kan ikke opfylde idriftsætterens pligter efter art. 26 for højrisikobrug, den ikke kender til - fx en leder, der sorterer CV'er med et ikke-godkendt værktøj - og art. 4 forventer, at udbydere og idriftsættere understøtter AI-færdigheder hos medarbejderne. AI-governance med et register, klart ejerskab og godkendte værktøjer er derfor den strukturelle afbødning, mens de tekniske kontroller står for opdagelse og håndhævelse."},"edges":[{"type":"requires","to":"ai/artificial-intelligence","confidence":"high","strength":"normal"},{"type":"kind-of","to":"security/shadow-it","confidence":"high","strength":"normal"},{"type":"causes","to":"security/data-breach","why":{"en":"Confidential or personal data typed into an outside AI service may be stored, reused or exposed.","da":"Fortrolige data eller personoplysninger, der tastes ind i en ekstern AI-tjeneste, kan blive gemt, genbrugt eller lækket."},"confidence":"medium","strength":"normal"}],"depth":1,"sources":[{"title":"NIST AI 100-1 - Artificial Intelligence Risk Management Framework (AI RMF 1.0)","url":"https://doi.org/10.6028/NIST.AI.100-1","tier":"standard","publisher":"NIST"},{"title":"ENISA - Multilayer Framework for Good Cybersecurity Practices for AI","url":"https://www.enisa.europa.eu/publications/multilayer-framework-for-good-cybersecurity-practices-for-ai","tier":"reference","publisher":"ENISA"}],"draft":true}