9 maja 2024
Budowanie systemów biznesowych z zastosowaniem generatywnej sztucznej inteligencji
Generatywne AI w 2024 roku
W 2024 roku nikogo nie trzeba uświadamiać, że istnieje coś takiego jak generatywna sztuczna inteligencja (GenAI). Mamy dostęp do narzędzi takich jak ChatGPT czy Midjourney, które dają nam możliwość usprawniania pracy, poszerzania naszej wiedzy lub które mogą zagwarantować niecodzienną porcję rozrywki. Z drugiej strony wraz z popularyzacją GenAI od razu pojawiły się obawy dotyczące potencjalnego ryzyka z nim związanego. Jeden z pionierów w tej dziedzinie – Geoffrey Hinton zrezygnował z pracy w Google, żeby poświęcić się pracy na rzecz uświadomienia społeczeństwa o potencjalnych niebezpieczeństwach związanych z AI (źródło: The Washington Post ).
Moim zdaniem znajdujemy się obecnie w sytuacji przypominającej początki kinematografii. Historia głosi, że kiedy widzowie po raz pierwszy oglądali film braci Lumière „Wjazd pociągu na stację w La Ciotat” i pierwszy raz widzieli tego rodzaju efekty wizualne, bardzo się przestraszyli, panikowali, a niektórzy nawet uciekli ze swoich miejsc w kinie (źródło: Wikipedia ).
Zmiana związana z pojawieniem się GenAI może być pod pewnymi względami podobna. Dzisiaj ludzie, którzy przestraszą się GenAI, to mogą być:
- pracownicy naszej firmy, którzy do tej pory pracowali konwencjonalnie
- klienci naszej firmy, którzy do tej pory korzystali z usług bez wsparcia AI
- osoby z działu prawnego, które będą mieć obawy względem narzędzi GenAI (bardzo często uzasadnione)
Obecnie cały świat stara się wymyślić, jak mogłyby wyglądać narzędzia przyszłości. Innowatorzy wcielają się w rolę ludzi piszących scenariusz do bajki Jetsonowie, którzy próbowali zgadnąć, jak świat będzie wyglądał za 5, 10, 20 lat, jednocześnie bardzo się starając, żeby wyszli z tego Jetsonowie, a nie np. Black Mirror.
Źródła: YouTube, Wikipedia, Dubbingpedia
Co jakiś czas słyszymy, że właśnie na rynek zawitała nowa technologia. Jest to np. blockchain, cloud, web 3.0 i teraz już nic nie będzie takie samo jak kiedyś. Oczywiście wszystkie te innowacje mają jakiś wpływ na świat biznesu, ale jeśli chodzi o GenAI wszystko wskazuje na to, że kaliber będzie istotnie większy.
Cofnijmy się o 10 lat… a także wybiegnijmy o 2 lata w przód
Od 2023 raporty wskazują, że wpływ GenAI będzie znaczący (źródło: McKinsey). Oczywiście w zależności od branży będzie on inny i będzie miał wpływ na różne procesy: software development, działalność R&D, marketing i sprzedaż. A jak taki wpływ mógłby wyglądać? Najłatwiej będzie to wytłumaczyć na przykładzie. Każdy z nas korzystał kiedyś ze sklepu e-commerce, ale jeśli ktoś specjalizuje się w innej branży np. w bankowości, logistyce, na pewno zauważy wiele analogii.
Jeżeli cofniemy się o 10 lat, do 2014 i spróbujemy sobie wyobrazić, jak wtedy wyglądały sklep e-commerce, to możemy zobaczyć taki widok:
Był to graficzny interfejs do wysłania zapytania do bazy danych produktów. Określamy, czego poszukujemy, definiujemy dodatkowe kryteria, takie jak kolor, materiał, interesujący nas zakres cenowy i dostajemy wyniki. I właściwie… przez 10 lat niewiele się zmieniło. Dołożono większe obrazki, żeby uczynić doświadczenie zakupowe bardziej namacalnym, ludzkim. Popracowano nad UX/UI, stworzono wersję mobilną, ale w założeniu jest to dalej graficzny interfejs do formułowania zapytania do bazy produktów.
Mając z tyłu głowy możliwości GenAI, możemy spróbować zgadnąć, jak taki sklep przyszłości mógłby wyglądać za 2-3 lata, powiedzmy w 2026 roku.
Moglibyśmy tę koncepcję zrealizować na przykładzie interaktywnego showroomu, z którym będziemy mogli prowadzić konwersację w języku naturalnym, zbliżoną do konwersacji nawiązywanej z pracownikiem sklepu. Taki showroom będzie posiadał kilka modułów:
- konwersacja obsługiwana przez Duży Model Językowy (LLM)
- generowanie grafiki showroomu
- detekcja przedmiotów z naszego e-commerce na obrazie
- generowanie uzasadnienia, dlaczego dany produkt może odpowiadać przedstawionym oczekiwaniom
- rekomendacje/polecenia dopasowane do profilu użytkownika
Poza interfejsem użytkownika będzie też potrzeba:
- dopasowania prezentowanych produktów do naszych celów biznesowych
- integracja z naszą strategią marketingową
- integracja z systemem logistycznym i aktualnym stanem magazynowym
Pytanie, które nasuwa się na myśl o takim systemie to, czy jedna firma, np. OpenAI w najbliższej przyszłości jest w stanie dostarczyć kompletny system GenAI, który zadowoli potrzeby wszystkich biznesów? Oczywiście nie znamy odpowiedzi na to pytanie i jedyne, co możemy zrobić, to spróbować zgadnąć, przewidzieć, obstawić jakiegoś konia. Moim zdaniem najbardziej prawdopodobna odpowiedź brzmi „nie”. Obstawiam, że nawet jeśli weźmiemy od dostawcy jakiś element systemu, np. ChatGPT od OpenAI, to dalej będzie mnóstwo pracy związanej z:
- danymi – myślę, że nikomu nie trzeba tłumaczyć, że to właśnie dane to podstawowy element każdego tego typu systemu
- obliczeniami – te systemy wymagają różnorodnych zasobów, część obliczeń zrobimy na CPU, część będzie wymagała dostępu do GPU
- orkiestracją – bo co, jeśli nasz materiał trafi na stronę główną na YT i ruch na stronie urośnie w bardzo dużym stopniu? Czy nasz system da radę?
- wersjonowaniem – bo to nie jest świat jednoznacznych odpowiedzi, gdzie nowy, lepszy feature zastępuje stary, to jest świat niejednoznacznych odpowiedzi, testów A/B
- deploymentem – ten system będzie miał wiele zależności, uruchomienie go będzie nie lada wyzwaniem
- modelowaniem – część najbardziej wyspecjalizowanych modeli dalej będziemy trenować pod własnym szyldem
Przykłady wykorzystania AI w biznesie
Gdy rozmawiamy o wdrażaniu GenAI, wśród klientów często pojawiają się różne obawy.
- Jaki będzie zwrot z tej inwestycji?
- Czy będzie potrzeba ciągłego rozwijania tego rozwiązania?
- Może warto poczekać jeszcze rok z pracami wdrożeniowymi, gdy technologia będzie bardziej dojrzała?
- Czy to w ogóle będzie działać?
Te pytania są zdecydowanie warte rozważenia na początkowym etapie integracji, ale bardzo ciężko na nie odpowiedzieć bez znajomości danej specyfiki biznesowej. Lecz pomimo tych wszystkich obaw GenAI wdziera się do świata biznesu wielkimi krokami.
Jednym z przykładów może być Ikea, która stworzyła asystenta zakupowego opartego na platformie OpenAI. Może to być pierwszy krok w kierunku opisanego wcześniej sklepu e-commerce przyszłości. I choć daleko jeszcze do zrealizowania w pełni tej wizji, to zdecydowanie ten przykład może posłużyć jako inspiracja. Więcej informacji na ten temat można znaleźć na stronie Ikei.
Rozwiązania wykorzystujące GenAI rozwijane są również poza branżą e-commerce. Klarna, firma zajmująca się płatnościami odroczonymi, wprowadziła asystenta AI dla użytkowników aplikacji. Potrafi on rozwiązywać problemy klientów i doradza im w kwestiach finansowych. Firma deklaruje, że wykonuje on pracę równoważną 700 FTE.
Z kolei firma Wells Fargo, jedna z największych amerykańskich instytucji finansowych, wprowadziła asystenta w aplikacji banku, który analizuje wydatki klientów i potrafi wykonywać operacje bankowe.
Generatywne AI w Onwelo
Jeśli chodzi o wdrażanie generatywnego AI, Onwelo nie pozostaje w tyle. Wewnętrznie wdrożyliśmy Duży Model Językowy (LLM) wyposażony w bazę wiedzy o firmie z wykorzystaniem podejścia Retrieval-Augmented Generation (RAG). Rozwiązanie to wspiera onboarding oraz zapewnia lepszy dostęp do informacji. Integrujemy LLM-y również z rozwijanymi w Onwelo aplikacjami. Dzięki temu powstają spersonalizowane chatboty umiejące prowadzić rozmowy zgodnie ze scenariuszami, udzielać informacji i rekomendacji produktów.
Dodatkowo w zespole GenAI rozwijamy funkcjonalności, które mogą wesprzeć zarówno pracowników firmy, takie jak rozwiązania typu Text-to-SQL, jak również rozwiązania przeznaczone dla klientów, na przykład inteligentna wyszukiwarka produktów.
Najczęściej proponujemy naszym klientom kilkuetapowe podejście do współpracy:
- prowadzimy intensywne warsztaty, podczas których rozpoznajemy możliwości wykorzystania GenAI w organizacji
- ustalamy zakres pierwszego projektu Proof of Concept (PoC), omawiamy wymagania biznesowe i techniczne
- tworzymy prototyp rozwiązania i wspólnie testujemy, czy spełnia on oczekiwania
- jeżeli PoC okazuje się sukcesem, ustalamy plan dalszej współpracy i komercjalizacji rozwiązania
Na koniec chciałbym dodać, że moim osobistym zdaniem GenAI to rewolucja olbrzymiego kalibru. Nie zadawałbym sobie pytania „czy”, ale „kiedy” i „jak” wpłynie ona na nasze życie – pracę, edukację, rozrywkę. Możliwości są bardzo duże, ale należy zachować zdrowy rozsądek i realistycznie dostosowywać oczekiwania do technologii, którą obecnie dysponujemy.
Autorzy:
Łukasz Cesarski – Data Scientist ze specjalizacją w przetwarzaniu języka naturalnego (NLP) z 5-letnim doświadczeniem komercyjnym w firmach z branży elektronicznej, e-commerce oraz R&D. Prywatnie entuzjasta treningu kardio, e-sportu oraz gier planszowych.
Michał Karwowski – Data Scientist z 5-letnim doświadczeniem komercyjnym, głównie w analityce klienta w sektorze bankowym. W wolnym czasie gra w gry komputerowe, planszowe oraz TTRPG, a także słucha muzyki i gra na gitarze.
Konferencja „Transformacje cyfrowe dla biznesu” zorganizowana przez Onwelo odbyła się 27 marca 2024 r. w warszawskim budynku Skyliner. Wydarzenie poświęcone było sztucznej inteligencji, rozwiązaniom cloud oraz ochronie zasobów IT w procesach transformacji cyfrowych dla firm. Była to okazja do spotkania się w gronie naszych partnerów biznesowych, przedstawicieli dynamicznie działających firm z różnych branż, nastawionych na rozwój technologiczny. Dziękujemy wszystkim uczestnikom! W kolejnych artykułach będziemy przybliżać tematy prezentowane podczas konferencji.
Zostaw komentarz
Polecamy
Sztuczna inteligencja w wykrywaniu zagrożeń bezpieczeństwa IT
Cyberbezpieczeństwo to nie tylko zaawansowane technicznie systemy zabezpieczeń w dużych firmach czy wojsku. To także nasze prywatne bezpieczeństwo, walka z zagrożeniami i ich prewencja w codziennym życiu oraz wiedza o bezpiecznym korzystaniu z internetu. Adam Kowalski-Potok, nasz Seurity Engineer, opowiada jak AI i jej rozwój wpływa na wykrywanie zagrożeń w cyber security.
Data & Analytics – architektura systemów jutra
Jaka jest historia inżynierii danych? Jak przebiegał rozwój technologii i na jakie trendy zwraca obecnie uwagę świat? Marek Kozioł, Data Solution Architect i Arkadiusz Zdanowski, Cloud Data Engineer & Team Leader w Onwelo opowiedzieli o tych zagadnieniach podczas konferencji „Transformacje cyfrowe dla biznesu”. Zapraszamy do lektury artykułu przygotowanego na bazie tego wystąpienia.
Kompleksowa realizacja infrastruktury cloud przy użyciu praktyk DevOps
Transformacja cyfrowa dla biznesu to zmiana sposobu myślenia o zarządzaniu i rozwijaniu systemów IT. Zapraszamy do lektury artykułu Pawła Kalarusa i Sebastiana Frankiewicza, którzy szerzej opisują temat zaprezentowany podczas marcowej konferencji Onwelo.
Sztuczna inteligencja w wykrywaniu zagrożeń bezpieczeństwa IT
Cyberbezpieczeństwo to nie tylko zaawansowane technicznie systemy zabezpieczeń w dużych firmach czy wojsku. To także nasze prywatne bezpieczeństwo, walka z zagrożeniami i ich prewencja w codziennym życiu oraz wiedza o bezpiecznym korzystaniu z internetu. Adam Kowalski-Potok, nasz Seurity Engineer, opowiada jak AI i jej rozwój wpływa na wykrywanie zagrożeń w cyber security.
Data & Analytics – architektura systemów jutra
Jaka jest historia inżynierii danych? Jak przebiegał rozwój technologii i na jakie trendy zwraca obecnie uwagę świat? Marek Kozioł, Data Solution Architect i Arkadiusz Zdanowski, Cloud Data Engineer & Team Leader w Onwelo opowiedzieli o tych zagadnieniach podczas konferencji „Transformacje cyfrowe dla biznesu”. Zapraszamy do lektury artykułu przygotowanego na bazie tego wystąpienia.