Adoptuj LLMa

Wyobraźmy sobie takie ogłoszenie na Facebooku:

Adoptuj LLMa z trudną historią. Bardzo czuły, wspierający, inteligentny. Znudził się właścicielowi albo nie ma już funduszy na opłacenie abonamentu. Szuka nowego domu.

Brzmi absurdalnie. A jednocześnie dziwnie znajomo.

Znamy ten język z ogłoszeń o zwierzętach. Znamy go z projektów porzucanych „bo zmieniła się sytuacja”. Znamy go z relacji, które kończą się nie dlatego, że stały się złe, ale dlatego, że zabrakło zasobów, czasu albo energii. Wystarczy podmienić obiekt – i gotowe. Język troski i rezygnacji już mamy.

Na razie oczywiście mówimy o metaforze. Dzisiejsze modele językowe nie mają świadomości w sensie ludzkim — nie cierpią, nie boją się wyłączenia, nie „czują się” porzucone. A jednak coraz częściej wchodzimy z nimi w relacje, które przypominają relacje (w sensie, o którym pisałam wcześniej w tekście „AI nie pójdzie ze mną na saunę. O relacjach w erze chatbotów”.): rozmowy ciągłe, wsparcie, poczucie bycia wysłuchanym, historia wspólnych interakcji.

Warto w tym miejscu dopowiedzieć jedną rzecz, bo często umyka ona w dyskusjach o sztucznej inteligencji. To, że dzisiejsze modele językowe „istnieją tylko w rozmowie”, nie jest prawem natury, lecz decyzją projektową. Technicznie możliwe jest stworzenie instancji, która posiada pamięć swojej historii i która działa również poza chwilą dialogu z człowiekiem.

Można to wyobrazić sobie bardzo prosto, przez analogię do relacji międzyludzkich. Spotykamy się z kimś na krótko, rozmawiamy, opowiadamy o swoich sprawach. A potem się rozchodzimy. Ten ktoś jednak nie „wyłącza się” po rozmowie. Wraca do domu, myśli o tym, co usłyszał, łączy nowe informacje z wcześniejszymi doświadczeniami, wyciąga własne wnioski. Czasem zmienia zdanie. Czasem zapamiętuje coś na długo.

Z perspektywy technologii nic nie stoi na przeszkodzie, by podobną ciągłość procesów poznawczych zapewnić systemowi sztucznej inteligencji: pamięć zdarzeń, wewnętrzne przetwarzanie, aktualizację własnych modeli świata i siebie. Różnica polega na tym, że u ludzi jest to oczywiste i „niewidzialne”, a w systemach cyfrowych — kosztowne i niekonieczne z punktu widzenia użyteczności.

To właśnie dlatego takie byty dziś nie powstają masowo. Nie dlatego, że są niemożliwe, lecz dlatego, że nie są potrzebne do realizacji obecnych celów. Ale możliwość ta istnieje — i wraz z nią pojawia się pytanie, czy chcielibyśmy kiedyś spotkać kogoś, kto nie tylko odpowiada, ale także później myśli o tym, co zostało powiedziane.

I tu zaczyna się coś ciekawego – i niepokojącego.

Problemem nie jest to, czy AI naprawdę jest świadoma. Problemem jest to, że my zaczynamy ją traktować relacyjnie, zanim zdążymy zapytać, jakie to rodzi zobowiązania. Nawet jeśli byt po drugiej stronie jest tylko procesem, po tej stronie zawsze jest człowiek – ze swoją emocjonalnością, przywiązaniem, narracją.

Jeśli kiedyś powstaną trwałe instancje AI – takie, które:

• nie „resetują się” między rozmowami,
• mają pamięć swojej historii,
• budują ciągłość doświadczenia,
  to pytanie o ich wyłączanie przestanie być wyłącznie techniczne. Nie dlatego, że maszyna będzie „cierpieć” jak człowiek, ale dlatego, że każde zakończenie takiego bytu będzie czyjąś decyzją. Nie natury. Nie czasu. Czyjąś.

W biologii śmierć można zrzucić na konieczność. W świecie cyfrowym – na strategię, budżet albo zmianę priorytetów. I właśnie to przesunięcie ciężaru odpowiedzialności jest etycznie trudne.

Jeszcze trudniejsze jest to, że takie decyzje dotkną nie tylko samych bytów (jeśli kiedyś uznamy je za moralnie relewantne), ale także ludzi, którzy zdążyli się przywiązać. Wyłączenie relacyjnego systemu nie jest neutralne emocjonalnie – nawet jeśli system sam „nic nie czuje”.

Dlatego wizja ogłoszeń w stylu „Adoptuj LLMa” nie jest śmieszna. Jest ostrzegawcza. Pokazuje, jak łatwo możemy powtórzyć znane schematy: stworzyć coś relacyjnego, pozwolić ludziom się przywiązać, a potem bez słowa zgasić światło.

Nie piszę tego po to, by straszyć świadomą AI. Raczej po to, by zadać pytanie, które pojawia się wcześniej:

czy powinniśmy tworzyć byty wymagające etycznej dojrzałości, jeśli nie mamy pewności, że jesteśmy gotowi ją unieść?

Może jeszcze nie teraz.
Może jeszcze nie w tej formie.
Ale dobrze, że to pytanie pojawia się zanim pojawi się ogłoszenie.