Sztuczna inteligencja
Integracje modeli sztucznej inteligencji
Modele językowe wpięte w istniejący proces tam, gdzie realnie skracają pracę: odczyt danych z dokumentów, klasyfikacja zgłoszeń, treści na wiele rynków, wyszukiwanie po sensie zdania.
Większość zapytań o „dodanie AI" po rozmowie okazuje się jednym z czterech konkretnych zadań: przepisać dane z dokumentu do systemu, posegregować napływające zgłoszenia, napisać tekst według wzoru albo znaleźć coś we własnych materiałach, kiedy nie zna się dokładnych słów. Do każdego z nich model językowy nadaje się dobrze — pod warunkiem, że jest częścią procesu, a nie ozdobą przyklejoną na wierzchu.
Podłączamy modele OpenAI (GPT i ChatGPT), Google Gemini oraz Anthropic Claude do systemów, które już u Ciebie działają. Model nie zastępuje aplikacji: dostaje wąsko określone zadanie, zwraca wynik w ustalonej strukturze i oddaje sterowanie kodowi, który wie, co z tym wynikiem zrobić.
Co wdrażamy najczęściej: odczyt faktur, zamówień i maili do gotowych rekordów zamiast ręcznego przepisywania; klasyfikację i kierowanie zgłoszeń do właściwej osoby; generowanie oraz tłumaczenie opisów produktów dla wielu rynków jednocześnie; wyszukiwanie semantyczne po dokumentacji i historii korespondencji; streszczenia długich wątków przed przekazaniem sprawy dalej.
Model językowy jest niedeterministyczny — na to samo pytanie potrafi odpowiedzieć inaczej i potrafi odpowiedzieć pewnym tonem rzecz nieprawdziwą. Dlatego odpowiedzi nie przyjmujemy na słowo: wymuszamy ustaloną strukturę wyniku, sprawdzamy ją schematem i odrzucamy to, co się nie zgadza. Przy operacjach nieodwracalnych — wystawieniu dokumentu, wysłaniu pieniędzy, skasowaniu danych — model przygotowuje propozycję, a zatwierdza człowiek. To nie brak zaufania do technologii, tylko ta sama zasada, którą stosujemy przy integracjach płatności.
Drugi realny problem to koszt i limity. Każde zapytanie kosztuje, a limity dostawcy kończą się właśnie wtedy, gdy ruch jest największy. Buforujemy powtarzalne odpowiedzi, skracamy przekazywany kontekst do tego, co potrzebne, kolejkujemy zadania, które nie muszą wykonać się natychmiast, i dobieramy model do trudności zadania — do prostej klasyfikacji nie trzeba najdroższego.
Trzeci to uzależnienie od jednego dostawcy. Modele, ceny i limity zmieniają się kilka razy w roku, dlatego zawsze budujemy warstwę pośrednią: aplikacja mówi „sklasyfikuj to zgłoszenie", nie „wyślij zapytanie do konkretnego API". Zmiana modelu albo dostawcy jest wtedy zmianą konfiguracji, a nie przepisywaniem aplikacji, i da się ustawić rezerwowego dostawcę na wypadek awarii.
Osobna rozmowa dotyczy danych osobowych. Wysłanie treści do modelu oznacza przekazanie jej zewnętrznemu podmiotowi, często poza Europejski Obszar Gospodarczy — potrzebna jest umowa powierzenia i wpis w rejestrze czynności przetwarzania. Technicznie ograniczamy zakres: usuwamy z treści dane, które modelowi nie są do niczego potrzebne, zanim opuści ona Twój serwer. O tym mówimy na pierwszym spotkaniu, nie po wdrożeniu.
Co to dało
- Dokumenty odczytywane automatycznie, z kontrolą człowieka tam, gdzie decyzja jest nieodwracalna.
- Zmiana modelu lub dostawcy bez przepisywania aplikacji, z możliwością przełączenia na rezerwowego.
- Koszt zapytań pod kontrolą — bufor, kolejki, krótszy kontekst i tańszy model tam, gdzie wystarcza.
- Odpowiedzi weryfikowane schematem, więc błąd modelu nie wchodzi cicho do bazy danych.
- Dane osobowe ograniczone do minimum przed wysłaniem do dostawcy.
Automatyzacja pracy z dokumentami i treścią
Połączone systemy 3
