Iluzja obiektywizmu: AI nigdy nie jest neutralne

Pewność to nie obiektywizm.

Wyniki generowane przez AI mają w sobie coś uwodzicielskiego. Przychodzą sformatowane, pewne siebie, wolne od asekuracji i polityki, które zabarwiają komunikację między ludźmi. Model nie ma gorszego poniedziałku. Nie męczy się. Przetwarza informacje i podaje odpowiedź.

Ten pozór obiektywizmu to jedna z najgroźniejszych cech AI.

Bo AI nie jest obiektywne. Nigdy nie było. A traktowanie go tak, jakby było, zwłaszcza przy decyzjach operacyjnych i strategicznych, tworzy ryzyko, z którym większość organizacji jeszcze się nie zmierzyła.

AI nie jest neutralne. Jest lustrem wypolerowanym przez ludzi, którzy je zbudowali, i przez świat, który wytworzył dane, na których się uczyło.

Mit bezstronnej maszyny.

Przekonanie, że algorytmy są z natury sprawiedliwe, jest głęboko zakorzenione w tym, jak organizacje wdrażają AI. Rozumowanie jest proste: ludzie są stronniczy, emocjonalni i niekonsekwentni, a maszyny przetwarzają dane bez uprzedzeń. Zatem decyzje podejmowane przez maszyny muszą być bardziej obiektywne.

Każdy element tego rozumowania jest błędny.

Modele AI uczą się na danych historycznych. Dane historyczne odzwierciedlają historyczne decyzje. A historyczne decyzje podejmowali ludzie, wraz z całym bagażem swoich założeń, martwych pól, motywacji i systemowych uprzedzeń.

Algorytm rekrutacyjny wytrenowany na dziesięciu latach danych o awansach nie uczy się, co decyduje o świetnym pracowniku. Uczy się, kogo organizacja dotąd awansowała. Model prognozowania popytu wytrenowany na danych sprzed pandemii nie uczy się, jak działa popyt. Uczy się, jak popyt zachowywał się w warunkach, które mogą nigdy nie wrócić.

Ale zatrzymanie się w tym miejscu pomija coś ważnego.

Współczesne AI nie tylko dziedziczy stronniczość z danych. Samo ją dokłada. Zanim model trafi do użytku, jego twórcy podejmują szereg decyzji: douczają go na podstawie ocen wystawianych przez ludzi, nakładają mechanizmy bezpieczeństwa, dostrajają go do przyjętych zasad i polityk, moderują treści i dostosowują odpowiedzi do wymogów prawnych w poszczególnych krajach. Każda z tych decyzji dokłada nowe założenia do tych, które już są w danych.

W efekcie powstaje system AI, który odzwierciedla nie tylko wczorajsze decyzje, ale też dzisiejsze wartości i priorytety: wartości organizacji, która go zbudowała. Model nie powiela po prostu ludzkiego osądu. On go wzmacnia, przenosząc odziedziczone i wszczepione założenia na tysiące decyzji, z prędkością maszyny i bez wahania, które kazałoby człowiekowi zatrzymać się i zapytać, czy ta rekomendacja w ogóle ma sens.

Stronniczość nie kończy się na Twoich danych.

Duże modele AI, na których opierają się dzisiejsze narzędzia, przychodzą z własnymi założeniami, zanim Twoja firma w ogóle je dostroi. Te założenia biorą się z tego, jak model był douczany na podstawie ocen wystawianych przez ludzi, z przyjętych zasad bezpieczeństwa, moderacji treści, wymogów prawnych i tysięcy decyzji podjętych przez organizacje, które te modele budują.

Nie potrzebujesz laboratorium badawczego, żeby to zobaczyć. Zadaj kilku czołowym modelom AI dokładnie to samo drażliwe politycznie pytanie albo zadaj temu samemu modelowi to samo pytanie dwa razy: raz po angielsku, raz w uproszczonym chińskim.

Odpowiedzi nie zawsze będą zgodne. Czasem różnice będą subtelne, czasem odpowiedzi będą sobie całkowicie przeczyć.

Niezależne badania konsekwentnie pokazują, że czołowe modele inaczej ujmują kontrowersyjne tematy polityczne. Modele zachodnie różnią się tym, jak zrównoważenie przedstawiają przeciwstawne stanowiska. Modele tworzone w Chinach często zachowują się inaczej w zależności od tematu, a w niektórych przypadkach także od użytego języka. Część odpowiada bardziej otwarcie po angielsku, a wyraźnie się usztywnia lub bliżej trzyma oficjalnych narracji, gdy pytanie pada po chińsku.

Konkretne zachowanie różni się model po modelu i o to właśnie chodzi.

Gdyby AI było naprawdę obiektywne, zmiana języka zapytania nie powinna istotnie zmieniać rozumowania. Fakty o Tajwanie czy placu Tiananmen nie zmieniają się dlatego, że przełączasz język. A jednak odpowiedź często się zmienia.

Nie mamy do czynienia z neutralną inteligencją. Mamy do czynienia z inteligencją ukształtowaną przez inne zbiory danych, inne polityki bezpieczeństwa, inne otoczenie prawne, inne motywacje komercyjne i inne ludzkie wybory.

Gdzie stronniczość ukrywa się w operacjach.

Gdy ludzie słyszą „stronniczość AI", zwykle myślą o dyskryminacji przy rekrutacji, tendencyjnym rozpoznawaniu twarzy albo niesprawiedliwej ocenie zdolności kredytowej. Te przykłady są ważne.

Ale operacyjne AI wprowadza inną klasę stronniczości: cichszą, trudniejszą do wykrycia i często dużo droższą.

Nic z tego nie jest złośliwe. I właśnie dlatego jest groźne.

Stronniczość to problem nadzoru.

Stronniczość w AI to nie tylko problem techniczny. To problem nadzoru.

Gdy system AI wypracuje stronniczą rekomendację, odpowiedzią nie może być „to model podjął decyzję". Modele nie mają odpowiedzialności. Mają ją organizacje.

To znaczy, że firmy muszą traktować AI tak samo jak każdy inny krytyczny proces biznesowy: z jasnym właścicielem, nadzorem i rozliczalnością.

Firmy powinny same zdefiniować, co w ich kontekście oznacza sprawiedliwość, zamiast zakładać, że model już to rozumie. Powinny monitorować wyniki na bieżąco i tworzyć pętle informacji zwrotnej, żeby pracownicy mogli kwestionować rekomendacje, które nie mają sensu.

Stronniczości nie da się wyeliminować. Ale da się ją zrozumieć, kontrolować i nadzorować.

Zobacz, jak blueclip sprawia, że każdą rekomendację da się prześledzić do danych →