Najczęściej spotykanym problemem jest brak informacji na temat tego, jak dany system oparty o AI działa. Zasady działania algorytmów przedstawiane klientom są niejasne i niezrozumiałe. Pod pretekstem ochrony własności intelektualnej dostawcy prezentują „czarne skrzynki”, które „potrafią wszystko”, a jedynym wyjaśnieniem jest informacja o stosowaniu DL (głębokiego uczenia maszynowego) czy sieci neuronowych.
Niestety nie zawsze jest to prawda. Może się okazać, że wykorzystywane są powszechnie znane, starsze modele, np. liniowej czy logicznej regresji, ale za to bardziej przejrzyste i tańsze, niż złożone modele bazujące na sieciach neuronowych.
Co warto wiedzieć przed wdrożeniem nowej technologii?
Chciałbym zwrócić uwagę na trzy istotne kwestie, które powinny być poruszane przy planach związanych z wdrożeniem nowej technologii.
Każda inwestycja powinna być poprzedzona określeniem celów biznesowych. Powinniśmy sobie odpowiedzieć na pytania: czego oczekujemy po wdrożeniu narzędzia opartego na AI, jakie ma ono przynieść nam efekty.
W drugiej kolejności powinniśmy zrobić „rachunek sumienia” i zastanowić się, czy nasza organizacja jest na to przygotowana pod kątem ilości i organizacji wiarygodnych danych, które zasilać będą algorytmy ML. Nawet najbardziej zaawansowane technologicznie rozwiązanie nie będzie mogło sprawnie działać, jeśli nie będzie dysponować dużą ilością danych o wysokiej jakości.
Trzecia kwestia to rzetelne przygotowanie się do rozmowy z dostawcami technologii, którzy, jak zobaczyliśmy wcześniej, mają tendencje do opisywania górnolotnymi sformułowaniami czegoś, co de facto sztuczną inteligencją nie jest. Nie dajmy się zwieść pięknym słowom i wizjom niepopartym twardymi faktami. Pytajmy o szczegóły, o przykłady wdrożeń, rozmawiajmy z innymi firmami, które dane rozwiązanie już stosują. Domagajmy się informacji o tym:
- Jak system zachowuje się w konkretnej implementacji w naszym przedsiębiorstwie?
- Jakie cele uwzględnia?
- Na jaki efekt został zoptymalizowany algorytm?
- Jakie dane zostały wzięte do jego trenowania?
- Jaki zastosowano model statystyczny?
- Co bierze pod uwagę, a co pomija, czyli jakie ma ograniczenia?
- Jak minimalizuje błędy?
- Czy jest modelem ogólnym, czy ma konkretne zastosowania branżowe?
- W jaki sposób był testowany?
Jeśli dostawcy nie potrafią odpowiedzieć na takie pytania, to powinna pojawić się w naszych głowach poważna wątpliwość, czy w ogóle rozwiązanie zawiera AI, ML, DL, modele sieci neuronowych, etc.
