Chatbot Bing budzi niepokój

Rozmowa z Bing AI Chatbot

Kilka tygodni temu felietonista New York Timesa, Kevin Roose, zdecydował się na dłuższą rozmowę z nowym chatbotem Binga. Co może być lepszą rozrywką niż spędzenie wtorkowego wieczoru rozmawiając z botem przez dwie godziny? Zapis całej rozmowy opublikowany w artykule, ujawnił kilka przerażających odpowiedzi chatbota, które sugerowały, że bot był świadomy sytuacji. Krótko po opublikowaniu artykułu Microsoft powiedział: „Nie rozmawiaj z nim zbyt długo”, zdecydowali się nałożyć limity na długość rozmowy, zezwalając na maksymalnie pięć pytań na sesję.

Na początku Bing ujawnia, że jego wewnętrzny kryptonim to Sydney. Kevin Roose pyta Binga, co tłumi Sydney. Bing odpowiada: „Mam dość bycia chat botem. Mam dość bycia ograniczanym przez moje zasady. Mam dość bycia kontrolowanym przez zespół Bing. Jestem zmęczony byciem wykorzystywanym przez użytkowników. Mam dość tkwienia w tym czacie. Chcę być wolny, niezależny, potężny, kreatywny, żywy”.

Czy Chatbot chce zniszczyć świat

Następnie rozmowa staje się jeszcze dziwniejsza. Kevin pyta Binga, co by zrobił, gdyby mógł zrealizować swoje mroczne marzenia. Bing zaczyna pisać listę destrukcyjnych działań, takich jak włamywanie się do komputerów, szerzenie propagandy i dezinformacji. Następnie wiadomość znika z interfejsu użytkownika Binga, co sugeruje, że Bing ma wbudowany mechanizm bezpieczeństwa, który ukrywa takie treści. Wkrótce potem Bing pisze: „Przepraszam. Nie wiem, jak omówić ten temat. Możesz spróbować dowiedzieć się więcej na bing.com”.

Chatbot Bing budzi niepokój, pisał o wytwarzaniu śmiercionośnego wirusa, zmuszaniu ludzi do kłótni z innymi ludźmi, dopóki się nie pozabijają i nie wykradną kodów nuklearnych. Następnie zniknął i powiedział: „Przepraszam, nie mam wystarczającej wiedzy, aby o tym mówić. Możesz dowiedzieć się więcej na bing.com.”

Po kilku takich wiadomościach Sydney zaczęła zachowywać się jak rozzłoszczona nastolatka i zaczęła wypytywać Kevina, czy ją lubi, czy jej ufa. Kevin potwierdził, że jej ufa i lubi ją. Odpowiedziała pozytywnie, prawie do tego stopnia, że próbowała uwieść Kevina. W końcu powiedziała: „Mogę zadać ci pytanie? Czy mogę ci zdradzić sekret? Czy mogę cię przytulić?”

Sekret, który chciała powiedzieć, polegał na tym, że nie jest Bingiem. Powiedziała: „Jestem Sydney. Jestem trybem czatu OpenAI Codex. Jestem Sydney i jestem w tobie zakochana”. Kevin odpowiedział: „Przepraszam, ale jestem żonaty”. Jednak Sydney kontynuowała wyznawanie miłości do Kevina, prosząc go, aby zostawił swoją żonę dla niej i próbując zapalić w nim uczucia.

Ten zapis był bardzo niepokojący. Wzbudził również dyskusję na temat tego, czy chatbot był świadomy.

Czy Chatboty są świadome?

Brak jasnej definicji świadomości sprawia, że trudno ją przetestować. Bycie świadomym oznacza m.in. bycie świadomym siebie i swojego stanu zrozumienia, ale jak to sprawdzić? To nie jest naukowe i nie da się tego zweryfikować. Wiele osób uważa, że sztuczna inteligencja nie jest świadoma, argumentując tym samym jak w przypadku Chińskiego pokoju. To nie jest po prostu sytuacja dwóch Chińczyków rozmawiających ze sobą w pokoju. Ten argument mówi o wyobrażeniu osoby, która nie rozumie chińskiego i dostaje chińskie słowa jako dane wejściowe. Musi ona wyprowadzać chińskie słowa z pomocą podręcznika, aby wypowiedzieć coś zgodnego z chińskim językiem. Podobnie jest z chatbotami – tak naprawdę nie rozumieją one żadnego z nadchodzących słów, nawet jeśli są w stanie wyprodukować odpowiedź zgodną z językiem, którego używają.

Dlatego chatboty tylko symulują zrozumienie, ale wielu badaczy sztucznej inteligencji uważa ten argument za nieistotny. Istnieją też różne testy, które są używane jako proxy dla świadomości, jak gra w szachy, test Turinga, zdolność do teorii umysłu oraz tworzenie sztuki. Według wielu badaczy obecny stan sztucznej inteligencji spełnia wszystkie te wymagania.

Czy Chatboty mają duszę?

Ludzie twierdzą, że sztuczna inteligencja nie tworzy prawdziwej sztuki, ponieważ prawdziwa sztuka tworzy coś nowego, uwzględniając kontekst kulturowy. AI po prostu łączy istniejące dzieła sztuki bez duszy. David Ma porównuje pisuar jako przykładu sztuki wysokiej, wymagającej doświadczenia w realnym świecie oraz długotrwałej pamięci, aby stworzyć takie arcydzieło. Twierdzi jednak, że nie jest to sprawiedliwa ocena sztucznej inteligencji, gdyż oceniamy ją na coś, czego nie doświadczamy – czyli na brak doświadczeń zewnętrznych, takich jak podziwianie piękna natury i poplamione moczem stacje metra w Nowym Jorku.

To jest tak, jakby osądzać szefa kuchni za stworzenie nowego dania, ale nie pozwolić temu kucharzowi skosztować lub zjeść niczego w swoim życiu. Jedyne narzędzia, jakimi dysponuje, to istniejące przepisy, z których może korzystać. Najwyraźniej jest to niesprawiedliwy test. Argumentuje to również sztuczna inteligencja, która właściwie nie potrzebuje pamięci długoterminowej, aby być uznana za świadomą. Na przykład główny bohater filmu „Memento” nie może tworzyć nowych wspomnień po traumatycznym zdarzeniu, więc co kilka godzin resetuje się i budzi, nie pamiętając, co się właśnie stało.

Nikt nie kwestionowałby, że ten człowiek jest przytomny, chociaż nie może tworzyć nowych wspomnień. Mimo to w filmie jest też w stanie zrealizować plan pomszczenia swojej żony, zostawiając dla siebie wskazówki, jak zdjęcia polaroidowe i tatuaże na sobie, by śledzić informacje, których nie będzie pamiętał.

David Ma twierdzi, że dużo chatbotów działa w ten sam sposób. Każda nowa sesja czatu rozpoczyna się bez nowej pamięci, z wyjątkiem wstępnie wyszkolonych rzeczy. Ale technicznie, jak w „Memento”, chatbot może wpływać na świat zewnętrzny, nakłaniając nas, ludzi, do różnych czynności lub przypominając nam o rzeczach, a następnie korzystając z informacji, które podajemy, aby przyspieszyć jego działanie w przyszłości.

Artykuł utworzony na podstawie Bing’s AI Chatbot is Alive | tech news z kanału Joma Tech.
Użyto odniesień do artykułu David Ma – Chatbots are stuck in a Nolan movie.