Integracja AI: dodaj AI do produktu, który już masz

Od 2020 roku budujemy i rozwijamy Enerace.Online, platformę doradczą dla przemysłowych odbiorców energii i gazu. W analizie rynku newsy są przypięte do wykresów cen, a każdy dostaje streszczenie wygenerowane przez AI w chwili dodania. Funkcja działa na żywo od 2025 roku w produkcie z ponad 20 obszarami funkcjonalnymi w jednej bazie kodu, a dodaliśmy ją bez przepisywania platformy. Stack to Python i Django z API GraphQL, React z TypeScriptem, React Native, Celery i AWS.

Centrum Komunikacji prowadzi platformę tłumaczeń na polski język migowy (PJM), czyli aplikację webową i mobilną, którą budujemy w rządowym programie dostępności (zobacz case study). Dodaliśmy do niej transkrypcję mowy na żywo dla osób słabo słyszących i późno ogłuchłych. Sesja trwa do 30 minut i rusza od razu, gdy wolny jest specjalista, a funkcja działa na produkcji od startu platformy w kwietniu 2026 roku.

Od 2022 roku pracujemy z platformą produktową z rynku remontów i wyposażenia wnętrz. Jej czat AI i agent wyszukiwania produktów działają w osobnej usłudze AI, którą aplikacja wywołuje przez serwis we własnym backendzie. Flaga na poziomie projektu (ai_enabled) włącza lub wyłącza AI bez ruszania reszty produktu.

W Generatorze ETR dla PSONI, aplikacji zamieniającej trudny tekst na język łatwy do czytania (ETR), telefon odczytuje tekst ze zdjęcia pisma na samym urządzeniu, gotowymi bibliotekami systemowymi (Google ML Kit i Apple Vision). Dokumenty PDF idą osobną ścieżką po stronie serwera, zanim trafią do modelu. Połączenie z modelem, odczyt tekstu i ocena czytelności już działają, a API dla innych systemów jest jeszcze w budowie.

Osobna usługa AI to nasza domyślna architektura integracji LLM, bo część AI można wtedy mierzyć, zmieniać albo wyłączać bez ruszania reszty produktu. W Enerace model jest wywoływany raz, przy dodaniu newsa, więc liczba wywołań zależy od liczby nowych newsów, a nie od liczby odwiedzin. Jaki model stoi za usługą, to osobny wybór. API dostawcy modelu pozwala wystartować szybciej. Gdy dane nie mogą opuścić Twojej infrastruktury, hostujemy model sami; zobacz naszą stronę o wdrożeniu prywatnego LLM.

W Generatorze ETR połączenie z modelem to ustawienie. Administrator zmienia adres, klucz, nazwę modelu i parametry generowania w panelu Django Admin, a kontenery backendu działają dalej, więc zmiana modelu nie wymaga nowego wydania aplikacji. Proof of concept ruszył na Gemma 4, a na tym samym zadaniu przetestowaliśmy PLLuM 12B, polski model językowy. Została Gemma 4, bo na danych projektu dawała lepsze wyniki, a ta sama aplikacja obsługuje oba modele przez konfigurację.

Tam, gdzie zła odpowiedź ma konsekwencje dla użytkowników, wynik sprawdza człowiek albo test, zanim ktokolwiek na nim polega. W Centrum Komunikacji automatyczne rozpoznawanie mowy pisze wstępny tekst w czasie rzeczywistym, a specjalista ds. transkrypcji go poprawia. Do użytkownika trafia wyłącznie poprawiony tekst, jako wiadomość na czacie. Dane osobowe chronią szyfrowane pola, możliwość usunięcia danych użytkownika i dziennik zdarzeń.

W Enerace redaktor zatwierdza streszczenie każdego newsa. W Generatorze ETR sprawdzają wyniki indeks Gunning Fog, miara czytelności, oraz recenzent tekstów łatwych do czytania. Testy jailbreak, które próbują skłonić model do złamania jego zasad, uruchamiamy przy każdej nowej iteracji modelu.

API, o które poprosiło PSONI, będzie miało cztery endpointy: logowanie tokenem, generowanie tekstu łatwego do czytania, listę tekstów użytkownika i podgląd tekstu historycznego, przechowywanego 30 dni. Dostęp będzie działał na kluczu API z panelu Django Admin, a endpointy można później wyłączyć.

Żeby podłączyć agentów AI do istniejącego produktu, budujemy serwer MCP (Model Context Protocol, standard, dzięki któremu agenci AI wywołują funkcje produktu) jako cienką warstwę nad jego REST API. W naszym CMS-ie każde narzędzie MCP wywołuje endpoint API, więc walidacja, uprawnienia i log zostają w API. Dostęp jest przypisany do osoby albo integracji, można go odwołać natychmiast, a każde wywołanie trafia do logu. Deweloperzy dostają Swagger UI i schemat OpenAPI. Agenci i asystenci czatu mają własną stronę, tworzenie agentów AI, a stronę serwerową opisujemy w tworzeniu serwerów MCP.

Po bezpłatnej konsultacji przechodzimy do bezpłatnych podstawowych warsztatów discovery: to jedno spotkanie, które jest też naszą oceną gotowości do AI. Korzystamy na nim z własnego toolkitu AI i patrzymy na cztery rzeczy.

• Produkt: co robi dziś i gdzie mieściłaby się w nim funkcja AI.
• Dane: co model miałby czytać.
• Zasady: ograniczenia prawne, bezpieczeństwa i firmowe, w których działa Twój produkt.
• Zadanie i test: co AI ma robić i jaki test pokaże, że działa.

Czasem wynikiem jest rada, żeby zrezygnować z modelu językowego: w projekcie prognoz zamiast niego użyliśmy modeli statystycznych (zobacz tworzenie AI MVP). Na podstawie discovery przygotowujemy podstawową wersję proof of concept albo makietę, która pozwala oszacować nakład pracy; rozbudowane discovery to osobny, szerszy zakres. Wycena obejmuje cały zakres, najprostsze rozwiązanie, które go spełnia, założenia i ryzyka. Na starcie ustalamy metodykę i kanały komunikacji oraz robimy kick-off z Tobą; po naszej stronie role to Project Tech Leader, Product Owner i Scrum Master. Po uruchomieniu zostajemy przy wsparciu i utrzymaniu, bo modele, prompty i dane, które czytają, ciągle się zmieniają.