AI Act w firmie: regulacja zaczyna się od mapy zastosowań, nie od audytu
Grafika: AI Today
Zacznij od inwentaryzacji, nie od deklaracji
W wielu organizacjach AI jest już w kilku miejscach naraz: w pakiecie biurowym, systemie obsługi klienta, narzędziu do tworzenia treści, automatyzacji marketingu czy aplikacji rekrutacyjnej. Część rozwiązań kupił dział IT, część zespół sprzedaży, a część pracownicy uruchomili na własnych kontach. Bez wspólnej listy firma nie potrafi ocenić ani ryzyka, ani tego, jakie dane opuszczają jej środowisko.
Dobra mapa ma prostą formę. Przy każdym użyciu warto zapisać cel, dostawcę, użytkowników, rodzaj danych wejściowych, odbiorcę wyniku i to, czy wynik wpływa na człowieka lub istotną decyzję. Trzeba też odróżnić eksperyment od procesu produkcyjnego. Taka tabela nie jest jeszcze analizą prawną, ale daje materiał, na którym można rozsądnie ustalić priorytety i przypisać odpowiedzialność.
Rola firmy nie kończy się na zakupie licencji
AI Act rozróżnia role w łańcuchu wartości. Dostawca modelu ogólnego przeznaczenia odpowiada za własne obowiązki dotyczące m.in. przejrzystości, praw autorskich oraz — w przypadku modeli o ryzyku systemowym — oceny i ograniczania ryzyk. Firma, która korzysta z gotowego narzędzia, nie przejmuje automatycznie całej odpowiedzialności dostawcy. Nie znaczy to jednak, że może bezrefleksyjnie wpiąć model do każdego procesu.
Szczególnej uwagi wymaga sytuacja, w której organizacja zmienia przeznaczenie narzędzia, buduje własną warstwę decyzyjną albo łączy model z danymi klientów i systemem wykonującym działania. Wtedy liczy się nie tylko opis funkcji w umowie, ale konkretne wdrożenie: uprawnienia, jakość danych, instrukcje dla pracowników, nadzór człowieka i sposób reagowania na błąd. Zakup licencji jest początkiem odpowiedzialności operacyjnej, nie jej końcem.
Najpierw odsiej zastosowania, których nie wolno
Komisja Europejska opublikowała wytyczne do praktyk zakazanych, obejmujących między innymi szkodliwą manipulację, social scoring i określone formy zdalnej identyfikacji biometrycznej w czasie rzeczywistym. Wytyczne nie zastępują rozstrzygnięcia sądu, ale pokazują, że pytanie o zgodność nie może ograniczać się do tego, czy system działa technicznie. Ważne jest także, jaką przewagę informacyjną wykorzystuje i jaki skutek wywołuje wobec osoby.
W firmie warto zamienić tę zasadę na krótką kontrolę przed uruchomieniem projektu. Czy narzędzie ma oceniać człowieka, przewidywać jego zachowanie, wpływać na dostęp do pracy, kredytu, usługi albo świadczenia? Czy przetwarza dane biometryczne, dziecięce lub szczególnie wrażliwe? Jeżeli odpowiedź brzmi „tak”, projekt powinien od razu trafić do właściciela ryzyka oraz zespołu prawnego i bezpieczeństwa, zamiast przechodzić zwykłą ścieżką zakupu SaaS.
Wysokie ryzyko wynika z użycia, nie z nazwy modelu
Ten sam model językowy może pomóc spisać notatkę po spotkaniu albo wesprzeć proces selekcji kandydatów. Pierwszy przypadek zwykle nie niesie podobnego ciężaru regulacyjnego. Drugi może wpływać na dostęp do zatrudnienia, dlatego wymaga znacznie ostrożniejszej analizy. Komisja wymienia wśród obszarów wysokiego ryzyka między innymi zatrudnienie, edukację, usługi podstawowe, krytyczną infrastrukturę, migrację i wymiar sprawiedliwości.
W obecnym harmonogramie unijnym reguły dla części systemów wysokiego ryzyka mają zacząć obowiązywać od 2 grudnia 2027 r., a dla systemów wbudowanych w regulowane produkty od 2 sierpnia 2028 r. To nie jest powód, by odkładać pracę. Właśnie teraz można przetestować, czy człowiek umie zakwestionować wynik, czy organizacja zachowuje ślad decyzji i czy potrafi wychwycić błąd zanim stanie się częścią rutynowego procesu.
Co wdrożyć przed kolejną prezentacją o AI
Minimum praktyczne obejmuje właściciela każdego zastosowania, zasadę klasyfikowania danych, rejestr dostawców, ograniczone dostępy i prostą procedurę zgłaszania incydentów. Do tego potrzebny jest moment, w którym człowiek zatwierdza wynik lub może go odrzucić — zwłaszcza gdy system przygotowuje decyzję dotyczącą klienta, pracownika albo osoby ubiegającej się o usługę. Warto zapisywać nie całe rozmowy na wszelki wypadek, lecz informacje potrzebne do odtworzenia ważnej decyzji i jej podstaw.
Obowiązek zapewnienia odpowiedniego poziomu kompetencji AI obowiązuje już od lutego 2025 r. Najlepiej potraktować go jako element procesu, a nie formalność szkoleniową. Pracownik powinien wiedzieć, kiedy nie wolno wkleić danych do zewnętrznego narzędzia, jak oznaczyć materiał wygenerowany przez model, kiedy sprawdzić źródło i do kogo eskalować wątpliwość. To mniej spektakularne niż obietnica autonomicznego agenta, ale znacznie bliższe odpowiedzialnemu korzystaniu z AI.