Agenci AI w firmie: kiedy system może działać sam, a kiedy musi czekać na człowieka
Grafika: AI Today
Agent nie powinien zaczynać od kluczy do wszystkiego
Najczęstsza pokusa polega na tym, by połączyć model od razu z kalendarzem, skrzynką, CRM-em i systemem plików. Taka demonstracja wygląda imponująco, ale łączy wiele ryzyk naraz: dostęp do danych, pomyłkę w interpretacji polecenia, przypadkowe wykonanie akcji oraz trudność w odtworzeniu, co dokładnie się wydarzyło. Lepszą drogą jest zaczynanie od jednego procesu i minimalnego zestawu uprawnień.
Dobrym pierwszym zadaniem jest przygotowanie researchu, podsumowania zgłoszeń, porównania dokumentów lub szkicu odpowiedzi. Agent może zebrać materiał i zaproponować następny krok, ale człowiek podejmuje decyzję o wysłaniu, zmianie statusu albo wydaniu pieniędzy. Ten podział nie odbiera automatyzacji sensu. Pozwala spokojnie sprawdzić, gdzie system naprawdę oszczędza czas, a gdzie wprowadza nową pracę kontrolną.
Odwracalność jest lepszym kryterium niż efekt wow
Wdrażając agentów warto pytać: co się stanie, jeśli system wykona to źle i czy potrafimy łatwo cofnąć skutek. Błędny szkic notatki jest odwracalny. Błędnie wysłana oferta, zmieniona cena albo usunięty rekord już znacznie mniej. Dlatego zakres samodzielności powinien zależeć od ryzyka i odwracalności, a nie od tego, jak przekonująco model opisuje swój plan.
To podejście daje prostą drabinę wdrożenia. Poziom pierwszy to analiza bez działania. Poziom drugi to przygotowanie działania wymagającego zatwierdzenia. Poziom trzeci to automatyczne działanie w ograniczonym, dobrze zmierzonym procesie. Dopiero doświadczenie z wcześniejszych poziomów daje podstawę, by poszerzać zakres. W ten sposób kontrola nie jest hamulcem, lecz metodą uczenia się organizacji.
Dziennik działań musi być czytelny dla człowieka
Jeżeli agent korzysta z kilku narzędzi, powinniśmy móc odpowiedzieć na proste pytania: jakie dane pobrał, jakie decyzje podjął, co wysłał dalej i na jakiej podstawie. Pełny techniczny log jest potrzebny zespołowi IT, ale właściciel procesu potrzebuje także krótkiego, zrozumiałego podsumowania. Bez tego trudno nie tylko analizować incydenty, lecz także ocenić, czy automatyzacja rzeczywiście przynosi wartość.
Ważne są też mechanizmy zatrzymania. Przycisk wstrzymania, limit działań, lista niedozwolonych operacji i sygnał eskalacji powinny istnieć przed uruchomieniem produkcyjnym, nie po pierwszym błędzie. Agent może działać szybciej niż człowiek, więc jego ograniczenia muszą być konkretne i egzekwowane technicznie, a nie zapisane wyłącznie w instrukcji.
Najpierw proces, później inteligencja
Najbardziej dojrzałe wdrożenia agentów zaczynają się od uporządkowania pracy. Jeśli firma nie wie, kto zatwierdza ofertę, gdzie jest aktualna wersja dokumentu i jak wyglądają wyjątki, model nie rozwiąże tego problemu. Może jedynie szybciej poruszać się po istniejącym chaosie. Automatyzacja odsłania więc jakość procesu, którego dotyka.
Właśnie dlatego warto mierzyć nie tylko liczbę wykonanych zadań. Trzeba sprawdzać czas oszczędzony po kontroli, liczbę eskalacji, odsetek poprawek oraz sytuacje, w których człowiek zmienił decyzję systemu. Takie dane pozwalają ustalić, czy agent jest użytecznym współpracownikiem w jasno opisanej roli, czy tylko sprawnie brzmiącym źródłem dodatkowej niepewności.