świadome maszyny, AZ#1721B9A1EB/DL-ebwm/epub (Wydawnictwo Naukowe PWN)

Gdy pierwsza maszyna oznajmi „jestem świadoma", czy będziemy wiedzieli co zrobić? Wielu sądzi, że największym problemem związanym z rozwojem sztucznej inteligencji (SI) jest możliwość utraty kontroli i scenariusz widowiskowej zagłady rodem z filmów sci-fi.

Choć tych zagrożeń nie można ignorować, SI niesiewidocznie bardziej subtelne,równie poważne niebezpieczeństwa, którym dotąd prawie nie poświęcano uwagi. Wbrew lubianej opinii, złożonej inteligencji wcale nie musi towarzyszyć świadomość – może się okazać,choćby SI dorównująca zdolnościom człowiekowi nie posiada żadnego „życia wewnętrznego" i nie jest zdolna do subiektywnego doświadczania świata.

Czy będziemy potrafili odróżnić maszynę świadomą od maszyny jedynie inteligentnej? Choć to stanowczo trudny problem, stawka jest ogromna, a konsekwencje pomyłki przerażające. Gdyby SI były świadome, nieuznanie ich praw i zmuszenie do służenia człowiekowi byłoby równoznaczne z niewolnictwem na bezprecedensową skalę.

Z kolei jeśli przypiszemy świadomość maszynom, które w istocie jej nie mają, w przyszłości może się okazać, że kosmos wypełniają nasi postbiologiczni potomkowie – ale brak w nim świadomych istot. „Świadome maszyny" to mapa intelektualna, która pomaga rozeznać się w zawiłych dylematach na styku filozofii, kognitywistyki i badań nad nienaturalną inteligencją.

Autorka omawia metodologię testów na świadomość SI, które opracowała dla Instytutu Studiów zaawansowanych w Princeton,, a także rozważa czy umysł to tylko program, który możemy modyfikować albo kopiować – jak na dodatek czy pozostaje on wtedy umysłem tej samej osoby.

Książka konkretyzuje pytania, których dłużej nie możemy ignorować, i dobitnie uzmysławia, że zanim wkroczymy w erę projektowania umysłów, musimy lepiej zrozumieć takie zjawiska jak świadomość, jaźń i tożsamość – gdyż dzięki rozwojowi technologii te pozornie abstrakcyjne problemy mogą stać się sprawą życia i śmierci.

„Czy możliwa jest nienaturalna świadomość? Czy mógłbyś zostać nienaturalną inteligencją? Czy nadal byłbyś sobą? Schneider żywo i przekonująco argumentuje, iż przyszłość ludzkości może zależeć od odpowiedzi na te filozoficzne pytania.

ŚWIADOME MASZYNY są pełne {pomocn|przydatn)ych narzędzi do myślenia na temat umysłu i jego przyszłości." David Chalmers, autor Świadomy umysł. W poszukiwaniu teorii fundamentalnej (PWN, 2004).