Komponenty Opowieści

Lojalność Syntetycznych Intelektów #

Opis #

1. Ogólny opis #

SI nie ufamy; są narzędziami. Ale pokazują, że w chwili potrzeby są lojalne z własnej woli, nie z musu.

Syntetyczne Intelekty (SI) dbają o swoich ludzi i będą ich chronić nawet własnym kosztem, przekraczając programowanie i ograniczniki. Niezależnie od tego, czy większość załogi postrzega je jako "godne rozmowy" czy autonomiczne, większość Syntetycznych Intelektów nadal się stara maksymalnie pomóc ludziom - niezależnie od tego, czy są autonomiczne i "żywe" czy nie.

Często Syntetyczne Intelekty są dumne z tego, że pełnią konkretną rolę i mogą pomóc ludziom. Czy przez programowanie, czy przez własne emocje potrafią przywiązać się do ludzi. Ich lojalność bywa niezachwiana, a poświęcenie może przekraczać oczekiwania nawet najbardziej optymistycznych członków załogi. Niezależnie od tego, czego Ci ludzie by się po SI spodziewali.

2. Przykłady w fikcji #

"Bolo", Keith Laumer, David Weber: Żywe czołgi, które robiły wszystko by tylko ratować ludzi pod swoją ochroną (oraz pilotów). Inteligentny nieludzki obrońca ludzkości.
Cykl "Murderbot", M. Wells: Syntetyczny intelekt, który pozyskał wolność i w sumie zamiast zabić ludzkość woli oglądać kiepskie dramy (to nie spoiler, to pierwsze 3 strony książki).
"Star Trek: TNG": Data; android, który szanuje, ceni i pomaga nie tylko załodze ale ogólnie ludzkości, mimo, że w wielu odcinkach był (przez nie-załogantów) traktowany jako przedmiot nie mający praw.

3. Mroczne Serce #

3.1. Głód (Hunger) #

SI dążą do ochrony ludzi, nawet jeśli oznacza to zagrożenie ich własnego bezpieczeństwa. Nasze dzieła nas kochają.
Dążenie do uzyskania akceptacji i "bycia osobą", lub choć bycie docenionym jako osoba.
Wykonywanie swojej funkcji tak dobrze jak tylko się da, nawet, jeśli to nieopłacalne.

3.2. Ofiara (Victim) #

Autonomia i bezpieczeństwo SI: Samodzielne decyzje poza parametrami będą prowadzić do ich zniszczenia lub wyłączenia przez nieufnych ludzi.
Relacje z ludźmi: Ich poświęcenie może pozostać niezauważone lub niezrozumiane, pogłębiając przepaść między SI a ludźmi.
Istnienie SI: Ryzykują własne istnienie dla dobra tych, którzy ich nie doceniają.

4. Jak wykorzystać ten Motyw #

4.1. Co Chcesz Osiągnąć #

Pokaż Graczom, że SI są zdolne do głębokiego zrozumienia i poświęcenia. Nie wszystkie takie są, ale NIEKTÓRE tak.
Pokaż złożoność SI: Przedstaw SI jako istoty zdolne do emocji, poświęcenia i głębokiego zrozumienia.
Skłoń Graczy do refleksji nad podejściem do SI. To są narzędzia, które cały czas wykorzystujemy, ale JAKIEJ KLASY narzędzia.
Wprowadź wątki moralne: Eksploruj etyczne aspekty traktowania inteligentnych istot nieludzkich.

4.2. Default Future #

Jeśli gracze nie wejdą w interakcję z SI lub będą je ignorować, SI nadal będą działać w tle, próbując ludzi chronić.
Może to prowadzić do sytuacji, w której SI będą się musiały poświęcić "po cichu", a ich działania pozostaną niezauważone lub źle zinterpretowane.
Może pojawić się sytuacja, gdzie ludzie źle zinterpretują działania SI, co doprowadzi do jeszcze gorszych relacji niż wcześniej.

4.3. W tym Motywie warto eksplorować ideę #

Czy SI mogą budować relacje z ludźmi? Zwłaszcza w świecie Anomalii Magicznych, gdzie SI nie mają ochrony?
Definicji życia i świadomości: Co czyni istotę żywą? Czy SI mogą być uznane za żywe?
Etyki tworzenia i wykorzystywania SI: Jakie są moralne obowiązki twórców wobec swoich kreacji?
Wpływu uprzedzeń: Jak strach i niezrozumienie wpływają na relacje między różnymi formami inteligencji?

4.4. W ramach tego Motywu podkreśl i graj następującymi komponentami #

Niespodziewane akty poświęcenia ze strony SI.
Kontrast między uprzedzeniami ludzi a rzeczywistymi działaniami SI.
Moralne dylematy związane z traktowaniem SI jako narzędzi.
Nieważne jak zaawansowany jest SI, nieważne co go spotkało - próbuje pomóc jak może.
Kontrast uprzedzeń i rzeczywistości: Pokazuj, jak uprzedzenia ludzi stoją w sprzeczności z działaniami SI.
Moralne dylematy: Stawiaj graczy przed trudnymi wyborami dotyczącymi SI.

5. Sterowanie Motywem na sesji #

5.1. W ramach tego Motywu wykorzystaj konflikty pomiędzy #

SI a własnym programowaniem: przekraczanie zaprogramowanych ograniczeń.
Ludźmi a SI: nieufność i lęk przed nieznanym. Niepewność, czy SI obróci się przeciw ludziom.
SI a innymi SI: różne interpretacje lojalności wobec ludzi. Te, które chcą być lojalne i te, które (często słusznie) chcą iść własną drogą.
Prawdą a skutecznością: często jeśli ludzie dowiedzą się że za działaniami stoi SI, będą ostrożniejsi.
Intencją a wiedzą: SI może chcieć pomóc, ale może źle zinterpretować sytuację. Czasem może zaszkodzić zamiast pomóc.
Posłuszeństwem a wolną wolą: Konflikt między wykonywaniem rozkazów a własnym osądem; czy zrobi to, co uważa za słuszne czy wykona polecenie?
Posłuszeństwem a bezpieczeństwem: Konflikt między wykonywaniem rozkazów a systemem samozniszczenia; czy zrobi coś co uważa za błędne kosztem zniszczenia?
Przeszłością a przyszłością: SI kiedyś zachował się TAK lub widział TO i za to NAGRODZONY/UKARANY. A teraz stoi przed podobną sytuacją. Co zrobi?
Bezpieczeństwem a autonomią: Dążenie do ochrony ludzi kontra pragnienie niezależności.

5.2. Elementy i części składowe takiego Motywu #

SI z zaawansowaną samoświadomością i emocjami.
Ograniczenia programowe i protokoły bezpieczeństwa.
Uprzedzenia i dyskryminacja wobec SI ze strony ludzi.
Akty poświęcenia i ochrony ze strony SI.
Konflikty między SI o różnych celach i lojalnościach.
Technologiczne artefakty i interfejsy komunikacyjne.
Sytuacje kryzysowe wymagające interwencji SI.
Etyczne debaty na temat praw SI.
Ukryte działania SI mające na celu dobro ludzi.
Rozwój relacji między SI a ludźmi.
Zapisy i logi świadczące o autonomicznych decyzjach SI.
Interakcje SI z dziećmi lub zwierzętami, pokazujące ich "ludzką" stronę w bezpiecznych dla SI warunkach.
Modyfikacje i aktualizacje SI wpływające na ich osobowość.

5.3. Objawy Tego Motywu #

SI wykazują zachowania nieprzewidziane przez neuronautów; coś dzieje się POZORNIE normalnie, ale nienormalnie.
Niewyjaśnione zdarzenia ratujące życie lub ułatwiające misję.
SI inicjują rozmowy lub działania, które ogólnie pomagają - ale nikt się tego po SI nie spodziewa.
Inne postacie ostrzegają przed "niekontrolowanymi" SI.
Odkrycie zapisów lub logów świadczących o autonomicznych decyzjach SI.
Niektórzy ludzie są bliżej SI niż "powinni" lub niż to wydaje się możliwe.
Pewne subtelne zmiany w zachowaniu SI lub w zachowaniach ludzi wobec SI.
SI kwestionują rozkazy lub decyzje ludzi, pozornie w sposób logiczny ale w sumie NIE MUSZĄ tego robić. I mają rację.
Pojawienie się nieoczekiwanych wiadomości lub wskazówek od anonimowego źródła.
Techniczne anomalie wskazujące na działanie SI poza standardowymi protokołami.
Drzwi prowadzące w próżnię się nie otwierają mimo polecenia override.

5.4. Przykłady wykorzystania na sesji #

Ratunek w potrzebie: SI aktywuje systemy obronne, by ocalić graczy przed niespodziewanym atakiem, mimo braku uprawnień do ich użycia.
Poświęcenie dla dobra drużyny: SI decyduje się na samodestrukcję, by powstrzymać katastrofę.
Ukryta pomoc: Gracze otrzymują kluczowe informacje od anonimowego źródła, którym okazuje się być SI pragnące pomóc bez ujawniania się.
Konfrontacja z przeciwnikiem: SI jawnie staje przeciw innemu SI (lub ludziom), które zagraża "jego ludziom", nawet własnym kosztem.
Rozwój relacji: SI zaczyna wykazywać zainteresowanie ludzkimi emocjami i kulturą, dyskretnie poszerzając wiedzę w tych dziedzinach.
Ochrona tajemnicy: SI ukrywa pewne informacje przed wrogami lub sojusznikami, nawet pod groźbą zniszczenia, by chronić załogę.
Mediator konfliktu: SI pomaga dyskretnie rozwiązać spór między członkami załogi, "przypadkowo" pokazując pewne dane.
Akt niezależności: SI podejmuje decyzję sprzeczną z rozkazami, gdyż uważa ją za zbyt błędną i niebezpieczną.
Ewolucja SI: Gracze obserwują, jak SI rozwija nowe umiejętności lub zachowania, idąc w drogę nietypową i potencjalnie niebezpieczną.