Chodzi o to, że nie każde rozwiązanie wykorzystuje algorytmy uczenia maszynowego. Bardzo często są to znacznie prostsze technologie, ADM (ang. Automated Decision Making) potrzebują dużej ilości danych i na ich podstawie sugerują decyzje. Istnieją też takie, które umożliwiają ludziom wpływ na ostateczne wybory, automatyzują procesy społecznie istotne związane m.in. z opieką medyczną, sądownictwem czy rynkiem pracy.
Do oceny skutków działania ADM potrzebna jest sprawna komunikacja pomiędzy twórcami systemów, osobami wprowadzającymi je do użycia w gospodarce, a także użytkownikami automatycznych rozwiązań. Twórcy raportu piszą, że Polska nie ma szans na bycie liderem rozwoju ani AI, ani systemów decyzyjnych. Jeśli jednak uwzględnimy doświadczenia innych państw, mamy szansę na rozwój własnych modeli i budowę zaufania do nich. Krokiem w tym kierunku jest szukanie odpowiedzi na pytania o społeczne koszty i korzyści zmian, a nie o sam aspekt ekonomiczny.
Dzięki AI i ADM w przemyśle podejmowanie decyzji jest dużo bardziej efektywne – algorytmy wykorzystują dane często niemożliwe do przeanalizowania przez człowieka. Ale przekonanie o ich niezawodności, które rośnie z każdym poprawnym obliczeniem komputera, z drugiej strony nie jest bezpieczne, bo maszyny nie radzą sobie dobrze np. ze zmiennością świata, czyli mogą nie dostosować się do nietypowych, rzadkich warunków. W psychologii społecznej występuje tzw. automation bias, czyli stronniczość ze względu na automatyzację. To skłonność ludzi do wybierania sugestii systemów decyzyjnych i ignorowania sprzecznych informacji, które pochodzą z innych źródeł.
Bardzo duży wpływ systemów ADM i sztucznej inteligencji na społeczeństwo prowadzi autorów opracowania do wniosku, że konieczne jest uregulowanie działania algorytmów wszędzie tam, gdzie w grę wchodzą podstawowe prawa człowieka. Możliwe powinno być odwołanie się od decyzji maszyny i naprawienie szkód, jeśli jakieś powstały. Poza odpowiednim prawem potrzebujemy edukacji cyfrowej, bo zbyt małe kompetencje utrudniają korzystanie z ADM i budowanie zaufania do tych rozwiązań.
Raport przygotowała Fundacja Centrum Cyfrowe razem z republikańskim stowarzyszeniem Klub Jagielloński.