Co oznaczają zakazane praktyki AI?

Zakazane praktyki AI to zastosowania sztucznej inteligencji uznane przez Unię Europejską za niedopuszczalne ze względu na ich wpływ na bezpieczeństwo, prawa podstawowe i możliwość swobodnego podejmowania decyzji przez ludzi. Ich lista znajduje się przede wszystkim w art. 5 AI Act.

To najwyższy poziom ograniczenia przewidziany w systemie AI Act.

Trzeba przy tym rozróżnić trzy zupełnie inne sytuacje:

• praktyka zakazana – danego zastosowania AI co do zasady nie wolno stosować,
• system wysokiego ryzyka – może być stosowany, ale musi spełniać dodatkowe wymagania,
• system objęty obowiązkiem przejrzystości – może być wykorzystywany, ale w określonych sytuacjach trzeba poinformować o tym użytkownika.

To ważne, ponieważ firma nie powinna traktować każdego bardziej zaawansowanego wykorzystania sztucznej inteligencji jako czegoś zakazanego. Przykładowo system wspierający rekrutację może należeć do kategorii wysokiego ryzyka, podczas gdy system próbujący wnioskować z danych biometrycznych, czy pracownik jest zdenerwowany, może już wejść w zakres zakazu.

Jakie praktyki AI są zakazane przez AI Act?

Obecnie art. 5 obejmuje kilka odrębnych kategorii niedozwolonych zastosowań. Dla większości firm największe znaczenie mają zakazy związane z manipulowaniem ludźmi, wykorzystywaniem ich podatności, ocenianiem osób oraz analizą emocji i danych biometrycznych.

Nie oznacza to, że każda czynność przypominająca pozycję z tabeli automatycznie łamie AI Act. W wielu zakazach ustawodawca określił dodatkowe warunki, które muszą wystąpić jednocześnie. Dlatego przypadki graniczne trzeba oceniać na podstawie rzeczywistej funkcji systemu, danych wejściowych, celu i konsekwencji dla osoby.

1. AI nie może szkodliwie manipulować decyzjami ludzi

AI Act zabrania systemów wykorzystujących techniki podprogowe oraz celowo manipulacyjne lub wprowadzające w błąd, jeżeli prowadzą one do istotnego ograniczenia możliwości podjęcia świadomej decyzji i powodują albo mogą spowodować poważną szkodę.

To rozróżnienie ma duże znaczenie dla marketingu.

AI Act nie zakazuje perswazji, personalizacji reklam ani rekomendowania produktów. Marketing z definicji próbuje wpłynąć na decyzję odbiorcy. Sam wpływ nie wystarcza więc do uruchomienia zakazu.

Znacznie większy problem powstaje wtedy, gdy system świadomie wykorzystuje mechanizm, którego odbiorca nie jest w stanie właściwie zauważyć lub ocenić, ogranicza jego zdolność do podjęcia świadomej decyzji, a konsekwencją jest istotna szkoda.

Przykładem może być system wykorzystujący syntetyczny głos i wizerunek zaufanej osoby do przekonania użytkownika do przekazania pieniędzy. Komisja wskazuje oszustwa wykorzystujące AI jako jeden z obszarów, w których zakaz manipulacji może znaleźć zastosowanie, jeśli spełnione są wszystkie wymagane warunki, w tym próg znaczącej szkody.

Czy personalizacja reklam przez AI jest zakazana?

Nie. Samo dopasowanie reklamy do zainteresowań użytkownika nie jest praktyką zakazaną przez AI Act.

Ryzyko rośnie wtedy, gdy system przestaje jedynie przewidywać, która oferta może zainteresować odbiorcę, a zaczyna wykorzystywać techniki manipulacyjne w sposób istotnie ograniczający jego możliwość świadomego wyboru.

Przy projektowaniu systemów AI do marketingu warto więc rozdzielić:

dozwoloną optymalizację:

• dobór produktu na podstawie historii zakupów,
• rekomendowanie podobnych usług,
• testowanie różnych komunikatów reklamowych,
• automatyczną optymalizację kampanii,
• segmentację odbiorców według ich zainteresowań,

od działań znacznie bardziej ryzykownych:

• świadomego wykorzystywania technik podprogowych,
• ukrywania prawdziwego charakteru interakcji w celu wyrządzenia szkody,
• tworzenia systemów nastawionych na wymuszenie decyzji za pomocą celowego oszustwa.

Sam fakt wykorzystania sztucznej inteligencji nie przesuwa zwykłej kampanii Google Ads czy Meta Ads do kategorii praktyki zakazanej.

2. AI nie może wykorzystywać szczególnej podatności ludzi

Drugi zakaz jest szczególnie istotny dla marketingu, sprzedaży, fintechu, ubezpieczeń i usług kierowanych do konsumentów.

AI Act zabrania wykorzystywania za pomocą AI podatności osoby wynikającej z:

• wieku,
• niepełnosprawności,
• szczególnej sytuacji społecznej,
• szczególnej sytuacji ekonomicznej,

jeżeli system istotnie zmienia zachowanie takiej osoby i powoduje lub z uzasadnionym prawdopodobieństwem może spowodować poważną szkodę.

Nie chodzi więc o sam fakt, że reklama dociera na przykład do seniora. Zakaz nie oznacza też, że nie można tworzyć produktów albo komunikacji dla osób starszych czy osób z niepełnosprawnościami.

Problemem jest wykorzystanie ich podatności przeciwko nim.

Przykładem może być system identyfikujący osoby w bardzo trudnej sytuacji finansowej po to, aby agresywnie kierować do nich ofertę, która właśnie dzięki ich sytuacji ekonomicznej ma większą szansę wymusić niekorzystną decyzję.

Podobne ryzyko może wystąpić przy systemach konwersacyjnych kierowanych do dzieci. Komisja zwraca uwagę, że AI wpływająca lub nakłaniająca dzieci do decyzji komercyjnych może w określonych okolicznościach wejść w zakres art. 5, jeśli wykorzystuje ich podatność i może prowadzić do znaczącej szkody.

Co to oznacza dla marketingu wykorzystującego AI?

Firma powinna zwrócić szczególną uwagę na automatyczne systemy, które jednocześnie:

1. wykrywają szczególnie podatną grupę,
2. wykorzystują tę informację do zmiany sposobu oddziaływania,
3. mają doprowadzić użytkownika do określonego zachowania,
4. mogą spowodować po jego stronie poważną szkodę.

To znacznie bardziej precyzyjny test niż zasada „nie można targetować reklam na seniorów”. Taki ogólny zakaz z AI Act nie wynika.

3. Social scoring jest zakazany, ale nie każdy scoring klienta

Hasło „social scoring” może brzmieć tak, jakby każda automatyczna punktacja użytkownika była niedozwolona. To nieprawda.

AI Act zakazuje określonego rodzaju oceny lub klasyfikowania osób na podstawie ich zachowania społecznego albo znanych, wywnioskowanych lub przewidywanych cech, jeżeli wynik prowadzi do krzywdzącego traktowania w niepowiązanym kontekście albo do traktowania nieuzasadnionego lub nieproporcjonalnego. Zakaz może dotyczyć zarówno podmiotów publicznych, jak i prywatnych.

Przykład wskazywany przez Komisję dobrze pokazuje granicę. Jeżeli ubezpieczyciel wykorzystuje niezwiązane z ocenianym ryzykiem informacje o wydatkach konsumenta do stworzenia oceny, a następnie na tej podstawie odmawia mu ubezpieczenia albo podwyższa składkę, może pojawić się problem zakazanego social scoringu.

Czy lead scoring w CRM jest zakazany?

Zwykły lead scoring służący ocenie prawdopodobieństwa zakupu nie staje się automatycznie social scoringiem.

Jeżeli system przyznaje punkty za:

• otwarcie wiadomości,
• wizytę na stronie produktu,
• pobranie katalogu,
• wysłanie formularza,
• poprzednie zakupy,

i wykorzystuje wynik do określenia, kiedy handlowiec powinien skontaktować się z potencjalnym klientem, mamy zupełnie inną sytuację niż tworzenie szerokiej oceny człowieka wpływającej na jego dostęp do usług w niepowiązanych obszarach życia.

To ważne także przy automatyzacji marketingu. AI Act nie zakazuje firmom segmentowania klientów, budowania modeli propensity scoring czy określania prawdopodobieństwa konwersji tylko dlatego, że wyniki mają formę punktacji.

4. AI nie może przewidywać, że ktoś popełni przestępstwo wyłącznie na podstawie jego profilu

AI Act zabrania wykorzystania AI do oceny lub przewidywania ryzyka popełnienia przestępstwa przez konkretną osobę, jeżeli wynik opiera się wyłącznie na profilowaniu albo ocenie jej cech osobowości i charakterystycznych.

Zakaz nie wyklucza natomiast używania AI jako wsparcia dla oceny człowieka, jeśli istnieją już obiektywne i możliwe do zweryfikowania fakty bezpośrednio związane z działalnością przestępczą.

Dla większości przedsiębiorców będzie to temat poboczny. Warto jednak uważać, aby nie przenosić tego zakazu na zwykłe systemy wykrywania nadużyć.

System analizujący nietypową transakcję pod kątem fraudu nie jest automatycznie „predykcyjną policją”. Znaczenie ma to, co właściwie ocenia system i na jakiej podstawie podejmowana jest decyzja.

5. Nie wolno masowo zbierać zdjęć twarzy z internetu do tworzenia baz rozpoznawania

AI Act zakazuje systemów tworzących lub rozbudowujących bazy danych służące rozpoznawaniu twarzy przez nieukierunkowane pozyskiwanie zdjęć twarzy z internetu lub nagrań CCTV.

To zakaz szczególnie istotny dla:

• firm technologicznych,
• startupów tworzących rozwiązania biometryczne,
• dostawców systemów security,
• podmiotów budujących własne modele rozpoznawania twarzy,
• organizacji pozyskujących duże zbiory danych do trenowania AI.

Nie należy interpretować go jako zakazu pobierania jakichkolwiek zdjęć z internetu. Przepis dotyczy określonego celu: tworzenia albo rozszerzania baz wykorzystywanych do rozpoznawania twarzy poprzez nieukierunkowany scraping.

Dla zespołu wdrażającego AI praktyczne pytanie powinno więc brzmieć: skąd dokładnie pochodzą dane biometryczne i do czego zostaną później użyte?

6. Rozpoznawanie emocji pracowników przez AI jest zakazane

To jeden z zakazów, który może bardzo łatwo dotknąć zwykłą firmę.

AI Act zabrania stosowania systemów AI do wnioskowania o emocjach osób w miejscu pracy oraz w instytucjach edukacyjnych. Wyjątek przewidziano dla określonych zastosowań medycznych i związanych z bezpieczeństwem.

Problemem może być więc system, który analizuje:

• mimikę pracownika podczas wideokonferencji,
• ton i charakterystykę jego głosu,
• obraz z kamery podczas rozmowy,
• zachowanie zarejestrowane przez system monitoringu,

aby wywnioskować, że człowiek jest zestresowany, zdenerwowany, podekscytowany czy niezadowolony.

AI Act definiuje system rozpoznawania emocji przez odniesienie do wnioskowania o emocjach lub intencjach na podstawie danych biometrycznych.

Czy analiza sentymentu wiadomości pracownika jest zakazana?

Nie należy automatycznie utożsamiać jej z systemem rozpoznawania emocji w rozumieniu AI Act.

Jeżeli narzędzie analizuje sam tekst, np. klasyfikuje wiadomość e-mail jako pozytywną lub negatywną, sytuacja może być inna niż analiza danych biometrycznych pracownika. Przepisy definiują emotion recognition system przez wykorzystanie danych biometrycznych, takich jak cechy głosu czy twarzy.

Nie oznacza to oczywiście, że każda inna forma monitorowania pracowników jest automatycznie dozwolona. Nadal mogą mieć zastosowanie przepisy o ochronie danych osobowych, prawa pracy i inne regulacje.

7. AI nie może wywnioskować określonych wrażliwych cech człowieka z danych biometrycznych

Zakazana jest także określona kategoryzacja biometryczna osób wykorzystywana do wywnioskowania między innymi:

• rasy,
• poglądów politycznych,
• przynależności do związków zawodowych,
• przekonań religijnych lub światopoglądowych,
• życia seksualnego,
• orientacji seksualnej.

Zakaz dotyczy wnioskowania na podstawie danych biometrycznych.

Firma nie powinna więc wdrażać systemu analizującego twarz, głos lub inne cechy biometryczne człowieka po to, aby próbować ustalać jego poglądy polityczne albo orientację seksualną.

To zupełnie inna sytuacja niż zwykłe analizowanie zagregowanych danych marketingowych dotyczących grup odbiorców.

8. Rozpoznawanie twarzy „na żywo” w przestrzeni publicznej ma szczególne ograniczenia

AI Act zakazuje wykorzystywania zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznie dostępnej do celów ścigania przestępstw, z ograniczonym katalogiem wyjątków.

Ten zakaz został napisany przede wszystkim z myślą o organach ścigania, dlatego nie należy wyciągać z niego skrótu „rozpoznawanie twarzy w każdej firmie jest całkowicie zakazane”.

Inne zastosowania biometrii mogą jednak podlegać pozostałym przepisom AI Act, RODO oraz zasadom ochrony prywatności. Z tego powodu każda firma rozważająca system identyfikacji osób na podstawie twarzy powinna ocenić jego konkretną funkcję, podstawę przetwarzania danych i kategorię ryzyka.

9. Nowy zakaz od 2 grudnia 2026 roku: niekonsensualne treści intymne generowane przez AI

W lipcu 2026 roku unijny ustawodawca zaktualizował AI Act poprzez Digital Omnibus. Dodano przepisy dotyczące systemów generujących lub modyfikujących realistyczne treści intymne dotyczące możliwej do zidentyfikowania osoby bez jej dobrowolnej, konkretnej, świadomej, jednoznacznej i wyraźnej zgody oraz materiały związane z seksualnym wykorzystywaniem dzieci. Nowe zakazy zaczną być stosowane 2 grudnia 2026 roku.

Zmiana obejmuje między innymi problem tzw. aplikacji do „nudification”, czyli generowania realistycznej nagości konkretnych osób bez ich zgody.

W przypadku podmiotów korzystających z AI zakaz użycia odnosi się do sytuacji, w której system jest wykorzystywany właśnie w celu wygenerowania lub zmodyfikowania takiego materiału. Przepisy rozróżniają więc celowe użycie od przypadkowego pojawienia się niedozwolonego rezultatu. Wobec dostawców systemów zakres obowiązków jest szerszy i uwzględnia również odpowiednie zabezpieczenia przed przewidywalnym nadużyciem.

To świeża zmiana AI Act, dlatego firmowe procedury przygotowane jeszcze w 2025 lub na początku 2026 roku mogą jej w ogóle nie uwzględniać.

Co jest zakazane, a co tylko regulowane?

Jednym z najczęstszych błędów w podejściu do AI Act jest wrzucanie do jednego worka wszystkiego, co „wydaje się ryzykowne”.

Tymczasem:

Chatbot obsługujący klientów nie jest z tego powodu zakazany.

Generowanie grafik reklamowych nie jest z tego powodu zakazane.

Tworzenie tekstów z ChatGPT nie jest z tego powodu zakazane.

AI wspierająca rekrutację nie musi być zakazana, chociaż konkretne zastosowanie może zostać zakwalifikowane jako system wysokiego ryzyka.

Automatyczna personalizacja sklepu internetowego nie jest sama w sobie zakazana.

Lead scoring w CRM nie jest automatycznie niedozwolonym social scoringiem.

W każdym z tych przypadków może jednak powstać inny obowiązek albo ograniczenie. Właśnie dlatego kwalifikacja zastosowania AI powinna odbywać się według jego funkcji, a nie nazwy narzędzia.

Obowiązki dotyczące informowania odbiorców o określonych treściach lub interakcji z AI są osobnym zagadnieniem wynikającym głównie z art. 50. Nie należy mieszać go z katalogiem praktyk zakazanych z art. 5.

Czy można złamać AI Act zwykłym ChatGPT?

Samo korzystanie z ChatGPT, Gemini, Claude, Copilota czy innego popularnego modelu nie jest zakazane.

Znaczenie ma sposób wykorzystania narzędzia.

Jeżeli pracownik używa AI do:

• przygotowania pierwszej wersji maila,
• analizy dokumentów,
• streszczenia danych,
• wygenerowania pomysłów na kampanię,
• napisania kodu,
• przygotowania grafiki,
• uporządkowania CRM,

nie oznacza to jeszcze wejścia w katalog zakazanych praktyk AI.

Ryzyko pojawia się dopiero wtedy, gdy wokół modelu firma buduje określony proces, który spełnia warunki konkretnego zakazu.

Dlatego oceniając zgodność, lepiej nie prowadzić arkusza zatytułowanego „czy ChatGPT jest bezpieczny?”, lecz rejestr rzeczywistych zastosowań, np. „AI analizuje nagrania rozmów pracowników i wyciąga wnioski o ich stanie emocjonalnym”.

Drugi opis pozwala ocenić realne ryzyko. Pierwszy praktycznie niczego nie mówi.

Jak sprawdzić, czy firma korzysta z zakazanej praktyki AI?

Najbardziej praktyczne podejście polega na zrobieniu prostego audytu zastosowań sztucznej inteligencji.

1. Spisz, gdzie rzeczywiście działa AI

Nie ograniczaj się do oficjalnych narzędzi kupionych przez firmę. AI może być częścią CRM, systemu HR, narzędzia do call center, platformy reklamowej, systemu monitoringu albo aplikacji SaaS.

2. Opisz funkcję, nie nazwę produktu

Zamiast:

„korzystamy z systemu X”

zapisz:

„system analizuje nagrania rozmów konsultantów i ocenia ich emocje”.

Taki opis pozwala porównać zastosowanie z przepisami.

3. Sprawdź, jakie dane analizuje system

Szczególnej uwagi wymagają między innymi:

• dane biometryczne,
• nagrania głosu,
• obrazy twarzy,
• informacje o sytuacji ekonomicznej,
• informacje dotyczące niepełnosprawności,
• dane pozwalające profilować człowieka,
• dane o zachowaniu pracowników i klientów.

4. Ustal, jaki wpływ ma wynik AI na człowieka

System przygotowujący wewnętrzne podsumowanie to coś innego niż system, którego wynik powoduje odmowę usługi, zmianę warunków zatrudnienia albo automatyczne potraktowanie danej osoby gorzej.

5. Najpierw wyklucz praktyki zakazane

Dopiero jeżeli zastosowanie nie wchodzi w art. 5, ma sens sprawdzenie kolejnego poziomu: czy jest systemem wysokiego ryzyka, czy podlega obowiązkom przejrzystości albo pozostaje poza tymi kategoriami.

Taka kolejność upraszcza cały proces.

Jakie kary grożą za zakazane praktyki AI?

Naruszenie zakazów z art. 5 należy do kategorii objętej najwyższymi administracyjnymi karami przewidzianymi w AI Act.

Maksymalna kara może wynieść 35 mln euro albo 7% całkowitego światowego rocznego obrotu przedsiębiorstwa z poprzedniego roku finansowego, przy czym w przypadku przedsiębiorstwa stosuje się co do zasady wyższą z tych wartości. Dla MŚP AI Act przewiduje mechanizm, zgodnie z którym maksymalna wysokość odpowiada niższej z właściwych kwot lub wartości procentowych. Faktyczna kara ma być ustalana z uwzględnieniem okoliczności konkretnego naruszenia.

Nie oznacza to więc automatycznej kary 35 mln euro za każdy błąd. To ustawowy górny limit, a nie taryfikator.

W Polsce ustawa o systemach sztucznej inteligencji została ogłoszona 27 lipca 2026 roku i zasadniczo weszła w życie 11 sierpnia 2026 roku. Część przepisów dotyczących krajowego systemu nadzoru zaczyna obowiązywać 28 października 2026 roku.

Czego firmy powinny szczególnie pilnować?

W typowej małej lub średniej firmie mało prawdopodobne jest wdrażanie systemu predykcyjnej policji. Znacznie bardziej realne są problemy powstające w marketingu, sprzedaży i zarządzaniu pracownikami.

Największej uwagi wymagają rozwiązania, które:

• próbują rozpoznawać emocje pracowników,
• analizują twarze lub głos pod kątem cech człowieka,
• intensywnie profilują osoby w różnych obszarach życia,
• automatycznie wykorzystują wiedzę o trudnej sytuacji ekonomicznej odbiorcy,
• kierują perswazyjne systemy AI do szczególnie podatnych grup,
• budują własne bazy rozpoznawania twarzy,
• wykorzystują generatywną AI do tworzenia realistycznych materiałów przedstawiających konkretne osoby w sytuacjach, które mogą naruszać ich prawa.

Nie oznacza to, że firma powinna blokować każdą nową automatyzację. Bardziej sensowne jest wprowadzenie momentu kontroli przed wdrożeniem narzędzia do procesu wpływającego na ludzi.

Prosta checklista przed wdrożeniem AI w firmie

Przed uruchomieniem nowego systemu odpowiedz na siedem pytań:

1. Co dokładnie system robi?
2. Na podstawie jakich danych działa?
3. Czy ocenia konkretnych ludzi?
4. Czy analizuje twarz, głos lub inne dane biometryczne?
5. Czy próbuje wpływać na zachowanie użytkownika?
6. Czy wykorzystuje jego wiek, niepełnosprawność albo trudną sytuację społeczną lub ekonomiczną?
7. Czy wynik AI może pogorszyć sytuację tej osoby lub istotnie wpłynąć na decyzję dotyczącą jej praw, pracy, dostępu do usługi albo pieniędzy?

Jeżeli pojawia się kilka odpowiedzi „tak”, zastosowanie powinno zostać dokładniej zakwalifikowane przed uruchomieniem.

To znacznie skuteczniejsza procedura niż ogólna zasada „pracownicy mogą korzystać z AI, ale ostrożnie”.

AI Act nie zabrania automatyzacji biznesu

Lista zakazanych praktyk jest stosunkowo wąska i dotyczy zastosowań, które ustawodawca uznał za niedopuszczalne. Nie zmienia to faktu, że część pozostałych systemów może podlegać dodatkowym wymaganiom AI Act albo innym przepisom.

Firma może nadal wykorzystywać AI do marketingu internetowego, analizy danych, automatyzacji procesów, obsługi klienta, tworzenia stron internetowych, e-commerce czy usprawniania pracy zespołu. Trzeba jednak wiedzieć, gdzie kończy się zwykła automatyzacja, a zaczyna system oceniający, profilujący lub manipulujący człowiekiem w sposób objęty regulacją.

W Two Colours patrzymy na AI właśnie od strony konkretnych procesów biznesowych. Dobrze zaprojektowana automatyzacja ma skracać pracę, porządkować działania i pomagać firmie osiągać cele, a nie tworzyć nowe ryzyka prawne. Dlatego przed wdrożeniem bardziej zaawansowanych zastosowań dobrze ustalić funkcję systemu, rodzaj przetwarzanych danych i sposób, w jaki jego wynik wpływa na użytkownika.

Źródła

1. Parlament Europejski i Rada. (2024, 13 czerwca; wersja skonsolidowana po zmianach z 2026 r.). Rozporządzenie (UE) 2024/1689 w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji (AI Act). EUR-Lex. Rozporządzenie (UE) 2024/1689 – EUR-Lex
2. Komisja Europejska. (2025, 4 lutego). Guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689 (AI Act). Shaping Europe’s Digital Future. Wytyczne Komisji dotyczące zakazanych praktyk AI
3. Komisja Europejska. (2026). Article 5: Prohibited AI practices. AI Act Service Desk. Art. 5 AI Act – AI Act Service Desk
4. Parlament Europejski i Rada. (2026, 8 lipca). Rozporządzenie (UE) 2026/1744 zmieniające AI Act – Digital Omnibus on AI. EUR-Lex. Rozporządzenie (UE) 2026/1744 – EUR-Lex
5. Komisja Europejska. (2026). AI Act – regulatory framework for artificial intelligence. Shaping Europe’s Digital Future. AI Act – Komisja Europejska
6. Kancelaria Sejmu. (2026, 3 lipca). Ustawa o systemach sztucznej inteligencji, Dz.U. 2026 poz. 1003. Internetowy System Aktów Prawnych. Ustawa o systemach sztucznej inteligencji – ISAP