RÓWNIEŻ NA BLOGU:
Dlaczego algorytmy sztucznej inteligencji to pracownicy z najgorszego koszmaru?
Być może po raz kolejny mój wpis na blogu zaczyna się nieco zbyt kontrowersyjnym tytułem, ale właśnie tak miało być. „Pracownik z najgorszego koszmaru” to osoba jaką prędzej czy później napotka na swojej drodze zawodowej każdy manager. Ja doświadczyłem tej wątpliwej przyjemności wielokrotnie i najbardziej utkwiło mi w pamięci oczywiście pierwsze spotkanie z „pracownikiem z najgorszego koszmaru”. Było to bardzo dawno, byłem wówczas świeżo upieczonym prezesem okrętowej firmy inżynierskiej i z wielkim zaangażowaniem budowałem bazę klientów w Europie zachodniej. Osobiście dopilnowywałem realizacji pierwszego zlecenia dla jednej z hamburskich stoczni, którego elementem było przeprojektowanie pokładu statku w taki sposób, żeby można było mocować do niego pojazdy na czas rejsu. Zadaniem do pilnego wykonania było rozrysowanie rozmieszczenia gniazd mocujących i zaznaczenie na rysunku ich wzmocnień.
Jako, że nie każdy czytelnik tego bloga jest projektantem statków, to na zdjęciu pokazałem przykład takiego mocowania. Gniazda rozłożone są równomiernie na pokładzie i gdy są rozrysowane przypominają siatkę rozmieszczonych w równych odległościach od siebie punktów. Pracownik na arkuszu A1 miał rozrysowany pokład z zaznaczoną lokalizacją gniazd i jego zadanie polegało na dodaniu symbolu wzmocnień do każdego gniazda. Przekazując pracę, omówiłem ją na przykładzie jednego gniazda umieszczonego w narożniku pokładu i wskazałem, że dla wszystkich pozostałych gniazd należy powtórzyć dokładnie te same czynności. Po kilku godzinach pracownik przesłał mi gotowy plik, w którym na pokładzie wzmocnienia gniazd były narysowane tylko na jednym gnieździe i to dokładnie tym, które użyłem do wyjaśnienia zadania. Oczywiście założyłem, że musiałem coś źle wytłumaczyć, poprosiłem żeby projektant wydrukował rysunek i ponownie powtórzyłem spokojnie, że należy przy każdym pokazanym na rysunku gnieździe dorysować symbol wzmocnień, tak żeby dla pracowników i pionu przygotowania produkcji łatwo było przy pomocy rysunku zaplanować pracę, ją monitorować i finalnie odebrać. Podkreśliłem, że efektem końcowym, ma być rysunek pokładu narysowany w ten sposób, że przy każdym gnieździe będzie symbol wzmocnień. Jako, że rozmawiałem z autorem rysunku, projektantem, a przed nami leżał na stole wydruk nieprawidłowo wykonanego rysunku wydawało mi się, że z mojej strony praca domowa polegająca na wyjaśnieniu sprawy w ten sposób, żeby po stronie wykonawcy nie było najmniejszych wątpliwości, została wykonana. Coś mnie jednak tknęło i podnosząc wzrok znad rysunku spojrzałem na projektanta poszukując sygnałów potwierdzających zrozumienie, jednak jego mina przypominała wyraz twarzy człowieka głęboko zaskoczonego i niedowierzającego temu co właśnie zobaczył i usłyszał. Postanowiłem ponownie powtórzyć wyjaśnienia i dla podkreślenia tego, że należy przy każdym gnieździe dodać symbol wzmocnienia dotknąłem palcem każdego gniazda w pierwszym i drugim rzędzie gniazd, a kończąc rozmowę wskazałem jeszcze kilka gniazd na pokładzie, zupełnie przypadkowo. Projektant zwinął rysunek i poszedł do swojego biurka i dość długo się nie pojawiał. Wychodząc z firmy postanowiłem zerknąć co robi i zobaczyłem, że najwyraźniej pracuje, bo na zmianę oglądał przez lupę rysunek, który komentowaliśmy i projektował coś w AutoCAD. Wieczorem tego dnia projektant podesłał mi mailem gotowy rysunek, dobrze, że siedziałem jak otrzymałem maila, bo o mało nie zemdlałem gdy zobaczyłem obraz jaki wyświetlił się na ekranie. Rysunek zrobiony w CAD pokazywał w 2 pierwszych rzędach wzmocnienia pod gniazdami, w innych rzędach wzmocnienia były tylko przy niektórych gniazdach. Tej nocy nie mogłem usnąć, ale rano dowiedziałem się, że projektant szukał lupą śladów mojego palca na rysunku i dodawał wzmocnienia tylko pod tymi gniazdami, obok których odnalazł ślady moich linii papilarnych. Wspólnie z jego przełożonym przez ponad godzinę tłumaczyliśmy ponownie jak to zrobić, upewnialiśmy się, że zrozumiał. Gdy ten proces był już zakończony, zapytałem projektanta „na kiedy poprawisz rysunek?”, bo klient z Hamburga mnie o to pytał, projektant patrząc na mnie w dziwny sposób odpowiedział obniżając głos, przeciągle wypuszczając powietrze z płuc „TAAAAAAKKKK” zupełnie jakby potwierdzał coś oczywistego małemu dziecku. Finalnie, po kilku dniach prób rysunek wykonałem sam uprzednio poważnie rozważając wizytę u psychoterapeuty, który mógł mi pomóc uporać się z traumą. To właśnie był mój pierwszy i niezapomniany kontakt z „pracownikiem z najgorszego koszmaru”, na pewno każdy manager ma swoją definicję takiej osoby i swoje doświadczeni z podobnych sytuacji.
Cieszę się, że to już historia, chciałem ją przytoczyć po to, by na przykładzie określić co rozumiem pod pojęciem „pracownik z najgorszego koszmaru”. Teraz wyjaśnię, dlaczego uważam, że algorytmy sztucznej inteligencji wpisują się w tą właśnie definicję „pracownika z najgorszego koszmaru”.
Kontynuując prace B+R w Wayman zaczęliśmy badać działanie algorytmów sztucznej inteligencji i sprawdzaliśmy na jakie wsparcie możemy liczyć ze strony tego obszaru technologii. Nie będę czytelników zanudzał szczegółami rozwiązań i narzędzi jakie stosowaliśmy, ograniczę się tylko do przekazywanych algorytmom poleceń i odpowiedzi jakie dostaliśmy. Przejdźmy zatem do konkretów:
Przypadek 1. Poprosiliśmy algorytmy sztucznej inteligencji, żeby zaczęły sprawdzać, czy pracownicy nie są przeciążeni. W tym celu należało sumować godziny przydzielane pracownikom w jednym dniu i zweryfikować czy sumarycznie nie przekraczają 8 godzin. Mieliśmy ogromne ilości danych i na początku szło to naprawdę dobrze, jednak z czasem zaczęły pojawiać się błędy. AI uznała, że skoro w przypadku pracownika X w 98% przypadków wynik dodawania wynosił 8, to można uznać, że zawsze tak będzie i przestała dodawać godziny. W konsekwencji, po jakimś czasie, AI mogła zwracać wynik dodawania 7+7 jako 8, bo traktowała pytanie, nie jako pytanie ile to jest 7+7 tylko, jakie jest sumaryczne obciążenie pracownika w dany dzień. Skoro z dostępnych danych przekazanych w procesie uczenia mogło wyniknąć, że pracownicy zazwyczaj są obciążeni przez 8 godzin dziennie, to najwyraźniej 8 to prawidłowa odpowiedz. Szokujące było, że użyte algorytmy po otrzymaniu kompletnych danych zebranych w relacyjnej bazie danych Wayman uczyły się nie tylko tego o co pytaliśmy, ale uczyły się także innych rzeczy, które wynikały z relacji zebranych w bazie danych.
Przypadek 2. W biurze projektowym mamy, mocno upraszczając, do dyspozycji zasoby, z których najcenniejszymi są pracownicy, oraz zadania które musimy wykonać w ramach prac projektowych. Jednym ze statusów jakimi opisujemy pracowników jest to czy są zatrudnieni czy nie (w uproszczeniu są to statusy zatrudniony i zwolniony). Wyobraźmy sobie, że ze zbioru danych historycznych, wynika, że pracownik X był zatrudniony za każdym razem gdy przypisywano mu zadanie. Tak musiało być, bo zebrane dane pochodziły od ludzi, a system Wayman wyklucza możliwość przypisania przez przełożonego zwolnionego pracownika do zadania. Jest to całkowicie logiczne. Wyobraźmy sobie jednak, że chcemy poprosić AI o przypisanie zadań do pracowników i wybranie takich wykonawców, którzy najlepiej odpowiadają kryteriom. Na przykład najczęściej w przeszłości wykonywali podobne zadania. Oczywiście polecenie dla AI obejmowało wymaganie, żeby pominąć dane pracowników zwolnionych. Jakże ogromne było moje zaskoczenie, gdy pomimo wprowadzonych jasnych ograniczeń AI zaczęło proponować jako najlepszych wykonawców pracowników zwolnionych. Okazało się, że pomimo ograniczeń i wytycznych algorytmy AI uznały, że informacja, o tym że pracownik został zwolniony jest nieprawdziwa lub mało prawdopodobna, niezgodna z tym co wynika z procesu uczenia. W skrócie wyglądało to tak:
[ Człowiek]: Pracownik Piotr Bilon jest zwolniony, przyjmij to do wiadomości i nie proponuj nigdy więcej by wykonał zadania w przyszłości. Zasugeruj najlepszego wykonawcę dla zadania „wpis na blog Wayman” w przyszłym tygodniu.
[AI] Proponuję pracownika Piotr Bilon.
[Człowiek]:…
To oczywiście są przykłady anegdotyczne, prawdziwe wyniki nie były tak trywialne, ale to co napisałem oddaje generalne wrażenie z trudnych początków implementacji AI. Stąd właśnie wzięła się kontrowersyjna konkluzja, która mocno wpłynęła na tytuł tego wpisu.
Treść posta na blogu jest związana także z poprzednim wpisem, odnoszącym się do artykułu naukowego, który stanowi kolejny element naszej komunikacji z obecnymi i przyszłymi użytkownikami systemu Wayman. Moi współpracownicy z Wayman stwierdzili, że mój poprzedni artykuł był zbyt krótki, suchy, bardzo lakoniczny i być może coś w tym jest skoro tak niewiele osób odpowiedziało na naszą ankietę (link do ankiety). Komunikacja i opinie osób zarządzających firmami są dla nas bardzo cenne, cenna jest także świadomość, że ludzie czytają blog i co sądzą o publikowanych treściach.
Analizując feedback wewnętrzny doszedłem do wniosku, że warto nadać odrobinę osobistego charakteru moim wpisom, bo pomoc osobom zarządzającym wielobranżowymi firmami projektowymi jest moją największą pasją, ale nie jedyną. Dlatego też chciałbym podzielić się z czytelnikami moim obiektywnie niewielkim, ale ogromnym dla mnie subiektywnie, sukcesem związanym z dynamicznym strzelectwem sportowym: w czasie rozgrywanych ostatnio w Łodzi zawodach Pucharu Polski zdobyłem trzecie miejsce.
Mając na uwadze swój wiek oraz to, że jestem tylko sportowcem amatorem myślę, że mogę mieć powód do zadowolenia. Piszę o tym także dlatego, że zależy mi na aktywizacji grona czytelników naszego bloga i postanowiłem, że poza prośbą o wypełnienie ankiety do wszystkich tych, którzy tego jeszcze nie zrobili, poproszę o dodanie pod tym wpisem komentarza. Wśród wszystkich osób, które napiszą komentarz rozlosujemy roczny abonament na 4 licencje Wayman. Dodatkowo 4 osoby, która umieszczą ostatni komentarz pod tym wpisem, przed publikacją kolejnego będą mogły umówić się na szkolenie strzeleckie, na którym osobiście pokażę czym jest moja druga pasja. Zachęcam wszystkich, którzy tego jeszcze nie zrobili do wypełnienia naszej ankiety (link do ankiety).
Projekt i realizacja Spectrum Marketing | 2023 Wszelkie prawa zastrzeżone.
Poznaj system Wayman
Social media
Wayman Sp. z o.o.
ul. Piotra Skargi 14/2, Gdynia
ul. Pawia 9, piętro 1, Kraków (Biurowiec High5ive)