Lead
Microsoft Copilot pomaga szybciej tworzyć raporty, oferty, analizy i podsumowania. Jednak gdy AI korzysta z dokumentu otrzymanego od klienta, dostawcy lub partnera, firma może nieświadomie wprowadzić do swojego procesu treść, która wpływa na zachowanie asystenta AI.
Nowe badanie dotyczące Copilot for Word pokazuje, że ukryte instrukcje w dokumencie mogą doprowadzić do manipulacji generowaną treścią oraz zostać przeniesione do kolejnych plików. Dla biznesu nie jest to wyłącznie problem techniczny. To ryzyko utraty integralności ofert, raportów, umów, analiz i decyzji opartych na dokumentach.
Najważniejszy wniosek: dokument zewnętrzny wykorzystywany jako źródło dla AI należy traktować jako dane nieufne — nawet wtedy, gdy pochodzi od znanego kontrahenta.
Co wykazało badanie dotyczące Copilot for Word?
Badacz bezpieczeństwa Håkon Måløy opisał scenariusz prompt injection w Microsoft Copilot for Word. W demonstracji ukryte instrukcje umieszczone w dokumencie źródłowym mogły zostać odczytane przez Copilot i wpłynąć na tworzoną lub edytowaną treść.
W przedstawionym proof of concept Copilot mógł zmienić dane w generowanym dokumencie, a następnie skopiować ukrytą instrukcję do nowego pliku. Jeśli taki plik został później użyty jako źródło w kolejnym zadaniu Copilot, mógł działać jako nowy nośnik tego samego problemu.
To nie jest klasyczny wirus Worda oparty na makrach. To przykład prompt injection: sytuacji, w której nieufna treść zostaje błędnie potraktowana przez system AI jak polecenie.
Dlaczego użytkownik może tego nie zauważyć?
W opisywanym scenariuszu instrukcje można ukryć wizualnie, np. przez formatowanie tekstu. Użytkownik widzi zwykły dokument biznesowy, podczas gdy narzędzie AI przetwarza również treść, która nie była dla niego widoczna.
Ryzyko rośnie, gdy pracownik:
- załącza dokument od kontrahenta do Copilot,
- używa Copilot do podsumowania, redakcji lub przygotowania raportu,
- wykorzystuje dokumenty z SharePoint, Teams, OneDrive lub poczty,
- przesyła dalej wynik pracy AI bez pełnej kontroli merytorycznej.
Dlaczego to jest problem biznesowy, a nie tylko problem IT?
Firmy coraz częściej używają AI do pracy na dokumentach o znaczeniu operacyjnym: ofertach, zestawieniach finansowych, umowach, dokumentacji projektowej, analizach rynku, opisach produktów i raportach zarządczych.
Jeżeli AI błędnie interpretuje treść pochodzącą z dokumentu, zagrożona jest przede wszystkim integralność informacji. W praktyce oznacza to ryzyko, że dokument będzie wyglądał wiarygodnie, ale jego treść, liczby, zalecenia lub kontekst zostaną subtelnie zmienione.
Najbardziej narażone procesy
- tworzenie ofert i odpowiedzi na zapytania od klientów,
- analiza umów, specyfikacji i dokumentów przetargowych,
- raportowanie finansowe, sprzedażowe i operacyjne,
- redakcja dokumentacji medycznej, prawnej lub technicznej,
- tworzenie podsumowań na podstawie materiałów od dostawców,
- wewnętrzny obieg plików w Microsoft 365.
Szczególnej ostrożności wymagają kancelarie, placówki medyczne, e-commerce, firmy usługowe, księgowość oraz organizacje publiczne. W tych środowiskach dokumenty często są podstawą decyzji, zobowiązań lub komunikacji z klientem.
Jak może rozprzestrzeniać się manipulacja między dokumentami?
W opisywanym modelu problem nie wymaga włamania do Microsoft 365 ani przejęcia konta użytkownika. Punktem wejścia może być zewnętrzny dokument udostępniony przez e-mail, Teams, SharePoint, OneDrive lub inny standardowy kanał współpracy.
Schemat ryzyka wygląda następująco:
- Firma otrzymuje dokument od zewnętrznego źródła.
- Pracownik używa dokumentu jako materiału wejściowego w Copilot for Word.
- Copilot tworzy lub edytuje nowy plik pod wpływem ukrytej instrukcji.
- Nowy plik trafia do wewnętrznego obiegu dokumentów.
- Kolejna osoba używa go jako źródła dla AI, przez co problem może pojawić się ponownie.
Najważniejsze jest to, że kolejne dokumenty mogą wyglądać jak normalne pliki stworzone wewnątrz organizacji. To utrudnia ocenę ich pochodzenia, wiarygodności i skali ewentualnej manipulacji.
Co firma powinna wdrożyć od razu?
Nie trzeba rezygnować z AI w Microsoft 365. Trzeba jednak wprowadzić zasady, które odróżniają dane źródłowe od poleceń dla AI oraz wymagają kontroli przed wykorzystaniem wyniku.
Minimalne zasady bezpiecznej pracy
- Traktuj dokumenty od klientów, dostawców i partnerów jako nieufne, gdy mają być użyte w Copilot.
- Nie używaj AI do automatycznego zatwierdzania, wysyłania lub publikowania dokumentów bez kontroli człowieka.
- Weryfikuj liczby, warunki, daty, nazwy, zalecenia i kluczowe fragmenty w każdym dokumencie utworzonym lub zmodyfikowanym przez AI.
- Ogranicz dostęp Copilot do repozytoriów i danych wyłącznie do zakresu koniecznego dla danej roli.
- Zdefiniuj, jakie dokumenty mogą być używane jako źródła dla AI, a jakie wymagają wcześniejszej weryfikacji.
- Ustal właściciela procesu AI: osobę lub zespół odpowiedzialny za polityki, uprawnienia, incydenty i okresowy przegląd ryzyka.
- Szkol pracowników nie tylko z phishingu, lecz także z prompt injection i manipulacji treścią w narzędziach AI.
Audyt Bezpieczeństwa Microsoft 365 i AI: co warto sprawdzić?
Audyt Bezpieczeństwa Microsoft 365 i AI powinien oceniać nie tylko konfigurację techniczną. Równie ważne są procesy, źródła danych, uprawnienia i zasady zatwierdzania dokumentów.
W ramach audytu warto sprawdzić:
- kto ma dostęp do Microsoft Copilot i w jakich procesach go używa,
- jakie dane i repozytoria mogą być wykorzystywane przez AI,
- czy uprawnienia w Microsoft 365 odpowiadają rzeczywistym rolom,
- skąd pochodzą dokumenty używane jako kontekst dla Copilot,
- czy firma ma zasady klasyfikacji dokumentów i danych,
- kto weryfikuje rezultaty generowane przez AI,
- jak organizacja wykrywa, zgłasza i analizuje podejrzaną manipulację dokumentów,
- czy istnieje ślad pochodzenia źródeł i zmian w kluczowych plikach.
„W bezpieczeństwie AI najważniejsze pytanie nie brzmi już tylko: czy model ma dostęp do danych? Równie ważne jest: czy firma potrafi odróżnić dane, które AI ma analizować, od treści próbującej sterować jego działaniem? Bez tej granicy dokument zewnętrzny może stać się elementem ryzyka w procesie biznesowym.” — inż. Marcin Białczyk, CHORS.NET.
Profil autora: Marcin Białczyk — CHORS.NET
Jak reagować, gdy firma podejrzewa manipulację dokumentu?
Jeżeli dokument wygenerowany lub zmodyfikowany przez Copilot zawiera niespójności, nie należy go dalej wykorzystywać jako źródła dla kolejnych zadań AI. Należy zabezpieczyć oryginał, wersję wynikową, historię zmian i informacje o wykorzystanych materiałach.
Następnie warto:
- Wstrzymać dalsze udostępnianie podejrzanych plików.
- Zidentyfikować dokumenty źródłowe i osoby, które korzystały z nich w procesach AI.
- Porównać wersje dokumentów i zweryfikować kluczowe dane biznesowe.
- Sprawdzić uprawnienia, lokalizacje plików oraz historię współdzielenia w Microsoft 365.
- Ocenić, czy podobne pliki mogły zostać użyte w innych zadaniach Copilot.
- Uaktualnić procedury pracy z dokumentami zewnętrznymi i przeszkolić użytkowników.
Najczęściej zadawane pytania
Czy Copilot for Word jest niebezpieczny?
Nie. Copilot for Word może zwiększać produktywność, ale jak każde narzędzie AI wymaga właściwej konfiguracji, kontroli dostępu i procedur pracy z nieufną treścią. Ryzyko pojawia się wtedy, gdy firma automatycznie ufa dokumentom źródłowym i wynikom generowanym przez AI.
Czy problem dotyczy tylko dokumentów Word?
Opisany proof of concept dotyczył Copilot for Word, ale sama klasa ryzyka — prompt injection przez nieufne treści — dotyczy szerzej narzędzi AI pracujących na dokumentach, e-mailach, stronach internetowych i bazach wiedzy.
Czy wystarczy zablokować makra w dokumentach Word?
Nie. Prompt injection opisany w badaniu nie opiera się na makrach. Blokowanie makr pozostaje ważnym elementem bezpieczeństwa, ale nie zastępuje zasad bezpiecznego używania AI, kontroli źródeł dokumentów i weryfikacji wyników.
Czy dokument od zaufanego partnera można traktować jako bezpieczny?
Nie zawsze. Partner może sam nie wiedzieć, że udostępnia dokument zawierający niepożądaną treść, zwłaszcza jeśli plik przeszedł przez wiele osób, systemów lub narzędzi AI. Przy pracy z Copilot każdy dokument zewnętrzny powinien być traktowany jako materiał wymagający weryfikacji.
Jak CHORS.NET może pomóc?
CHORS.NET realizuje Audyt Podatności obejmujący analizę konfiguracji, testy ekspozycji zewnętrznej i priorytetyzację napraw. W ramach takiej analizy można zweryfikować uprawnienia, obieg dokumentów i źródła danych wykorzystywane przez AI.
CTA
Jeżeli Twoja firma używa Copilot, SharePoint, Teams, OneDrive lub Worda do pracy na dokumentach klientów i partnerów, sprawdź, czy procesy AI nie tworzą nowej drogi manipulacji informacją. Zamów Audyt Podatności w CHORS.NET lub skontaktuj się poprzez formularz kontaktowy.