Zastrzyk w język

Artykuł ukazał się w Nowej Fantastyce nr 421 (10/2017), w cyklu „Zastrzyk przyszłości”.

Głośno zrobiło się ostatnio o dwóch sztucznych inteligencjach, które wykształciły własny język komunikacji. Zdarzenie szybko obrosło w mity. Opisywano jak przerażeni naukowcy wyrwali wtyczkę, żeby przerwać konwersację cyfrowych bytów. Kreślono apokaliptyczne wizje elektronicznych morderców kierujących eksterminacją rasy ludzkiej przy użyciu niezrozumiałego dla człowieka kodu. W rzeczywistości sytuacja wcale nie była taka straszna, ale mimo to ciekawa.

Naukowcy tworzący sztuczne inteligencje z Facebook Artificial Intelligence Research (FAIR) pracowali nad programami do negocjacji. Najprościej rzecz ujmując tworzyli chatboty, które miały targować się jak prawdziwi ludzie. Twierdzą, że osiągnęli sukces, co oznacza że ich twory mogą kiedyś przejąć role na przykład maklerów giełdowych, a gdy przyjdziemy do szefa po podwyżkę, ten może posadzić nas przed komputerem i kazać negocjować warunki płacowe z „kadrobotem”.

W głośnym doświadczeniu zorganizowano pojedynek dwóch botów o różnych celach negocjacyjnych, żeby sprawdzić, który z nich wynegocjuje lepsze warunki. Do podziału był stos kulek, książek, kamyków i tym podobnych. Dla jednego bota cenniejsze były kulki, dla drugiego książki, a ustalić, czego chce konkurent musiały na drodze dialogu. Ćwiczenie było tak skonstruowane, żeby obie strony nie mogły jednocześnie osiągnąć maksymalnego sukcesu. Ktoś musiał wygrać. Zerwanie negocjacji oznaczało zaś całkowitą porażkę.

Główną innowacją specjalistów z FAIR są długoterminowe strategie dialogowe. Ich boty umieją zbudować sobie wyobrażenie o rozmówcy i przewidzieć prawdopodobne kierunki rozwoju dyskusji, a następnie pokierować nią w najbardziej satysfakcjonującym dla siebie kierunku. Dzięki temu boty stawiają twardsze niż wcześniej warunki negocjacyjne. Umieją też stosować sztuczki, na przykład udawać zainteresowanie bezwartościowym dla nich przedmiotem, aby zwiększyć swój margines negocjacyjny. Tej ostatniej zagrywki im nie zaprogramowano. Wykształciły ją same, próbując rozwiązać problem i osiągnąć cel.

Sęk w tym, że badanie nieprecyzyjnie określało zasady prowadzenia dialogu i boty zaczęły eksperymentować z dostępnymi słownikami, odchodząc od zasad języka angielskiego w kierunku własnego sposobu porozumiewania się. To trochę tak, jak gdy stojąc w kolejce po piwo w gwarnym klubie, zamiast drzeć się do kelnera, zaczynamy gestykulować.

Oto fragment rozmowy botów:

Bob: Ja mogę ja ja wszystko inne

Alicja: piłka mieć zero dla mnie dla mnie dla mnie dla mnie dla mnie dla mnie dla mnie dla mnie dla

Bob: ty ja wszystko inne

Alicja: piłka mieć piłka dla mnie dla mnie dla mnie dla mnie dla mnie dla mnie dla mnie dla mnie

Brzmi to trochę niepokojąco. Rozmowa przywodzi na myśl futurystyczne wizje sztucznych inteligencji niewolących ludzkość i porozumiewających się ponad naszymi głowami w niezrozumiały dla nas sposób.

I rzeczywiście w FAIR przerwano doświadczenie, ale nie wyglądało to tak dramatycznie jak próba wyłączenia programu Skynet w drugiej części „Terminatora”, który w odwecie wystrzelił głowice nuklearne i doprowadził do apokalipsy. Eksperyment przerwano, bo badacze stracili możliwość nadzorowania go i nie rozumieli dalszego ciągu rozmowy. 

Należy pamiętać, że choć to konkretne doświadczenie polegało na rozmowie dwóch chatbotów, to cały projekt ma na celu nauczenie botów prowadzenia negocjacji z ludźmi i w języku angielskim.

Niepokój budzi fakt, że języki, które wykształcą roboty mogą być dla nas niepojmowalne z powodu samej złożoności alfabetu i słownika. Ludzie mają w naturze rozbijanie trudnych zagadnień na prostsze. Jeśli rozmówca nas nie rozumie, zaczynamy mówić wolniej i staranniej dobierać słowa. W podręcznikach szkolnych posiłkujemy się rysunkami i zdjęciami, dzielimy wiedzę na łatwiejsze do przyswojenia lekcje. Dla komputerów byłaby to strata czasu. Dysponując praktycznie nieograniczoną mocą obliczeniową zdolne są przypasować znakom językowym dowolnie skomplikowane warstwy znaczeniowe i porozumiewać w tempie, za którym człowiek nie nadąży.

Sposób porozumiewania się maszyn już teraz zaczyna mieć coraz większy wpływ na nasze życie. Choćby programy sortujące podania o pracę, czy prace egzaminacyjne wymuszają na nas myślenie jak maszyna i używanie właściwych słów kluczowych, które pomogą nam przejść selekcję. Powstają firmy zajmujące się konstruowaniem wniosków o dofinansowanie na przykład z funduszy unijnych, skoncentrowane właśnie na doborze właściwych słów-kluczy, a cyniczni uczniowie uczą się jak za pomocą kilku właściwych sformułowań zdać elektroniczny egzamin.

Na szczęście wiele nas jeszcze dzieli od powstania prawdziwych sztucznych inteligencji o stopniu złożoności dorównującym umysłowi człowieka. Główne zagrożenie, jakie mogą dziś stanowić, bierze się z ułomności czynnika ludzkiego, czyli z faktu, że, jak w powyższym doświadczeniu, sztuczna inteligencja zostanie błędnie zaprogramowana przez człowieka.

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Pola, których wypełnienie jest wymagane, są oznaczone symbolem *

eight + six =