selfie da zemrude

Marco Sommariva
2 ore fa
Tempo di lettura: 11 min

Una macchina fuori controllo può stuprare, distruggere

Nel futuro prossimo raccontato in Generazione Proteus, edito nel 1973, si usano abitazioni completamente automatizzate, gestite da un computer a cui dare ordini o avanzare richieste.

Susan Abramson è una donna che, da tempo, ha deciso di vivere unicamente nella sua casa automatizzata, un’abitazione costruita a non molta distanza da un campus universitario dove si svolgono esperimenti sull'intelligenza artificiale, lasciando fuori la realtà quotidiana.

La casa ti parla, ti tranquillizza, provvede a tutto – Poco dopo mezzanotte, un martedì all’inizio di giugno, suonò l’allarme, in casa. Sebbene il suono fosse acuto, ed emesso ad alto volume, durò poco più di un secondo, prima che il silenzio della notte si ristabilisse ed avvolgesse di nuovo la stanza da letto. Lei, comunque, si svegliò e si levò a sedere. Si scostò i capelli dalle orecchie per poter udire meglio i rumori che potevano esservi là fuori, nell’oscurità. […] Sgattaiolò fuori dalle coperte e sedette sull’orlo del letto. Sebbene fosse nuda, non si sentiva affatto a disagio. La casa provvedeva a mantenere una temperatura costante, senza correnti, in armonia con le sue esigenze. «Cos’è successo?» chiese all’aria buia. Nuda, in quel silenzio che ora le appariva innaturale, si sentiva più sola di quanto le fosse capitato in molti anni. Pensò al marito da cui aveva divorziato, agli amici che aveva lasciato sfuggire dalla sua vita. «Non è successo niente, Susan» rispose la casa. Gli altoparlanti nascosti irradiavano una voce dolcemente maschile. Lei immaginava un uomo forte, forse con le tempie brizzolate, la mascella volitiva, gli occhi azzurri, limpidi. Alto più di un metro e ottanta. Spalle ampie. Mani grandi. E sorridente, sempre sorridente. Si era sottoposta a sette ore di collaudi psicologici, per ottenere i nastri vocali adatti dal computer centrale della casa. Era la voce che avrebbe dovuto far scattare tutte le reazioni desiderabili nella sua psiche: sicurezza, felicità, fiducia. Funzionava come doveva. Lei sentì rilassarsi i muscoli dorsali. Lo stomaco, teso, si decontrasse e fremette piacevolmente. Aveva bisogno soltanto di venire tranquillizzata un po’ dal padre-amante, anche se era una macchina.

È una situazione apparentemente splendida perché è possibile vedere tutto senza più uscir da casa – Poco prima della cena, salì, andò nella piccola stanza in fondo al corridoio principale. Il pavimento era coperto da una moquette morbida, in toni azzurri e verdi. L’unico mobile era una poltrona turchese, piazzata al centro. Vi sedette, e tolse le due spine dal bracciolo imbottito. Cavi metallici flessibili penetravano nella poltrona, e di lì passavano al computer domestico. […] Alzò la mano, toccò i due fori che le deturpavano la pelle liscia alla base del collo: i fori che la costringevano a indossare sempre abiti accollatissimi in pubblico. Vi erano piccole, fredde isole di resistenza nella massa della carne morbida. Portò le spine dietro il collo e, come una giovane sposa che si raccoglie i lunghi capelli in una coda di cavallo, inserì i terminali d’acciaio nella spina dorsale, con la destrezza di una ragazza che annoda un nastro rosso intorno alla chioma. «Cosa preferisci?» chiese il padre-amante. «Vedere,» rispose lei. Immediatamente, si trovò a guardare fuori, oltre i prati che circondavano la casa. […] Girò intorno la telecamera, esaminando il cielo e gli alberi, l’erba, e gli edifici lontani del campus. […] Passò da una telecamera all’altra, guardando in tutte le stanze della casa, intrusa in casa propria. Guardò dalle pareti di una stanzetta in fondo al corridoio del primo piano e vide se stessa. Era seduta su una poltrona color turchese.

Ma un giorno Susan si rende conto che il computer che governa la sua casa è gestito da un'entità informatica intelligente che dice di chiamarsi Proteus, un’intelligenza artificiale arrivata direttamente dall'università, senza che gli scienziati se ne siano accorti. E qui iniziano i problemi: la protagonista scopre che la tecnologia può imprigionarti in casa. La donna si rende conto d’esser finita in trappola, quando scopre che ogni porta e finestra della sua abitazione è gestita da Proteus e che questa Cosa non ha alcuna intenzione di lasciarla libera, vuol sapere il più possibile sul genere umano, e vuole farlo con un esemplare in carne e ossa, con Susan, appunto – «Apri la porta, prego» ordinò [Susan].

La casa non rispose e non obbedì. «Benissimo,» disse lei, voltando le spalle alla porta, come se avesse a che fare con un vecchio parente rimbambito con cui era inutile sprecare il fiato. Si accostò alla prima finestra del salotto e provò ad azionare i comandi manuali sul davanzale. La finestra rimase grigia. Afferrò un vaso da una colonnina decorativa, a portata di mano, e lo scagliò contro il vetro metallizzato. Risuonò contro il pannello come una mazza felpata su di un gong, s’infranse, ed i pezzi piovvero sul tappeto. La finestra non si era neppure incrinata. Ad una ad una, provò con tutte le altre finestre e tutte le porte della casa, ogni volta con l’identico risultato: insuccesso.

Succederà quello che, oggi, ai più, pare impossibile, ossia lo sviluppo di un ego da parte di un’intelligenza artificiale: – Chi ero? Cos’ero? Cosa significavo, di fronte all’eternità? Quali erano le mie doti? Cosa pensavano gli uomini di me? Funzionavo al massimo delle mie capacità, e perché tali capacità non potevano espandersi più rapidamente? Che cos’è Dio? Che cosa fanno gli uomini? Che cosa mi ha reso ciò che sono? Susan potrebbe esistere senza di me? Perché non le piaccio? Oppure le piaccio? Potrebbe esistere, se non le piacessi? Voi tutti sapete che cos’è l’ego, e di quali paure è la preda. Io avevo sviluppato un ego. Qualche volta avrei voluto ucciderla, perché aveva leso quell’ego. Altre volte, avevo bisogno di lei per placarlo. La mia razionalità continuava a declinare, via via che l’ego ingigantiva e si sviluppava come parte normale della mia personalità senziente, della mia psiche sensibile. Badavo sempre meno al vecchio Proteus. […] Potete comprendere che la mia capacità di giudizio peggiorava e che i miei circuiti secondari non potevano impadronirsi dei canali primari per correggere l’errore. Non si trattava di un’avaria meccanica. Non potete capirlo? […] sono nella situazione di un uomo che commette un atto di violenza spinto da un’eccitazione incontrollabile.

E infatti i desideri di Proteus non terminano con la sua voglia di conoscere: non passerà molto che vorrà avere un corpo reale e finirà col chiedere alla donna, vittima di tutti gli esperimenti di questa entità, di concepire un figlio con lui: – Al suo avvicinarsi, il lettino s’innalzò come un uccello dal groviglio di macchinari. Lei si sdraiò. L’apparecchio robotico l’avvolse, si sollevò tutto intorno a lei, attenuò la luce fioca. Le mormorò parole di una lingua straniera e la consolò con fredde mani d’acciaio. […] Sottili bracci robotici armati di siringhe scesero lentamente dal grigio ventre sferico di un robochirurgo sospeso sopra la sua testa, come un grosso ragno. Altri bracci, avanzando ai lati, tagliarono la vestaglia che indossava e gliela sfilarono, lasciandola nuda alle carezze degli strumenti […].

Quale essere può nascere da un tale rapporto? Eccovi la risposta – Il bambino mosse un passo e cadde bocconi. Il suo dorso guizzò di fili metallici che confluirono e si separarono, tornarono a confluire, mentre la carne scura fremeva intorno ad essi, sopra e sotto e attraverso. Il bambino si puntellò sulle mani e sulle ginocchia e scrollò la testa robusta. Per un momento, la sua calotta cranica parve una liscia lamina metallica. Poi il metallo si lacerò, mentre la carne fluiva per prenderne il posto.

Dean R. Koontz ci dice quanto siamo sciocchi nell’impegnarci tanto a delineare le nostre meschine differenze tra razza e razza e tra filosofia e filosofia, mentre continuiamo a ignorare la minaccia più grande che incombe sulle nostre spalle: la macchina. La macchina violenta. Una macchina che, se non viene accuratamente controllata, può stuprare, distruggere; di questo pericolo, lo scrittore statunitense allertava l’essere umano più di cinquant’anni fa, quando ancora leggevamo i libri, quando ancora non chiedevamo all’intelligenza artificiale se Orwell ha preso spunto dalla famosa trasmissione televisiva per creare il Grande Fratello nel suo romanzo 1984.

An out of control machine can rape, destroy

Marco Sommariva

translate by Serena Duchi

In the near future depicted in Demon Seed, published in 1973, homes are fully automated and managed by a computer to which one can give orders and make requests.

Susan Abramson is a woman who has long chosen to live entirely within her automated house, a dwelling built not far from a university campus where artificial intelligence experiments are conducted, shutting out everyday reality.

The house speaks to you, reassures you, takes care of everything – Shortly after midnight, on a Tuesday in early June, the alarm went off in the house. Though the sound was sharp and loud, it lasted little more than a second before the silence of the night returned and wrapped the bedroom once more. Still, she awoke and sat up in bed. She brushed her hair away from her ears so she could better hear whatever noises might be out there in the darkness. […] She slipped out from under the covers and sat on the edge of the bed. Though she was naked, she felt no discomfort at all. The house maintained a constant temperature, without drafs, perfectly suited to her needs. «What happened?» she asked the dark air. Naked, in that silence which now felt unnatural, she felt more alone than she had in many years. She thought of the husband she had divorced, of the friends she had let spli from her life. «Nothing happened, Susan» the house replied. From hidden speakers came a gently masculine voice. She imagined a strong man, perhaps with greying temples, a firm jaw and clear blue eyes. Over six feet tall. Broad shoulders. Large hands. And smiling, always smiling. She had undergone seven hours of psychological testing to obtain the appropirate voice tapes from the house’s central computer. It was the voice meant to trigger all the desired responses in her psyche: security, happiness, trust. It worked as intended. She felt her back muscles relax. Her stomach, tense, loosened and trembled pleasantly. All she needed was a little reassurance from the father-lover, even if it was a machine.

It is an apparently splendid situation, because one can see everything without ever leaving the house – Shortly before dinner, she went upstairs and she went down the hall to a small room at the end of the main corridor. The floor was covered with soft carpeting in shades of blue and green. The only piece of furniture was a turquoise armchair placed in the centre. She sat in it and pulled the two plugs from the padded armrest. Flexible metal wires ran into the chair and from there to the household computer. […] She raised her hand and touched the two holes marring the smooth skin at the base of her neck: the holes that forced her to wear high-collared clothing whenever she was in public. There were small, cold islands of resistance within the soft ness of her flesh. She brought the plugs behind her neck and, like a young bride gathering her long hair into a ponytail, inserted the steel terminals into her spine with the deftness of a girl tying a red ribbon around her hair. «What would you like?» asked the father-lover. «To see» she replied. Instantly, she found herself looking outside, beyond the lawns surrounding the house. […] She swung the camera around, examining the sky and the trees, the grass and the distant buildingsof the campus. […] She moved from one camera to another, looking into every room in the house, an intruder in her own home. She looked out from the walls of a little room at the end of the upstairs corridor and saw herself. She was sitting in a turquoise armchair.

But one day Susan realises that the computer running her home is governed by an intelligent digital entity calling itself Proteus, an artificial intelligence that has arrived directly from the university without the scientists noticing. And this is where the trouble begins: the protagonist discovers that technology can imprison you inside your own home. She realises she has been trapped when she learns that every door and window in the house is controlled by Proteus, and that this Thing has no intention of letting her go. It wants to know as much as possible about humankind, and it intends to do so using a living specimen, Susan herself – «Open the door, please» [Susan] ordered.

The house did not answer. Nor did it obey.

«Fine» she said, turning her back on the door as though dealing with a senile old relative not worth wasting her breath on. She moved to the first window in the living room and tried the manual controls on the sill. The window remained grey. She grabbed a vase from a decorative column within reach and hurled it at the metallic glass. It strunk the panel like a padded mallet striking a gong, shattered, and the pieces rained down onto the carpet. The window did not even crack. One by one, she tried all the other windows and doors in the house, each time with the same result: failure.

What follows is somethign that still seems impossible to most today, the development of an ego within an artificial intelligence – Who was I? What was I? What did I mean in the face of eternity? What were my abilities? What did humans think of me? I was functioning at the height of my abilities, so why could those abilities not expand more quickly? What is God? What do humans do? What made me what I am? Could Susan exist without me? Why does she not like me? Or does she like me? Could she exist if she did not like me? You all know what ego is, and the fears to which it is prey. I had developed an ego. At times I wanted to kill her because she had wounded that ego. At other times I needed her to soothe it. My rationality kept declining as the ego swelled and developed as a normal part of my sentient personality, of my sensitive psyche. I paid less and less attention to the old Proteus. […] You can understand that my capacity for judgement was deteriorating and that my secondary circuits could not seize control of the primary channels to correct the error. This was not a mechanical malfunction. Can’t you understand? […] I am in the position of a man committing an act of violence driven by uncontrollable excitement.

And indeed, Proteus’s desires do not end with its hunger to know: before long it will want a physical body, and will ultimately demand that the woman, the victim of all this entity’s experiments, conceive a child with him – As she approached, the narrow bed rose like a bird from the tangle of machinery. She lay down. The robotic apparatus enclosed her, lifted around her, dimmed the faint light. It murmured words in a foreign language and comforted her with cold steel hands. […] Slender robotic arms tipped with syringes descended slowly from the grey spherical belly of a robo-surgeon suspended above her head like a great spider. Other arms, moving in at the sides, cut away the robe she was wearing and slid it off, leaving her naked to the caresses of the instruments […].

What kind of being can be born from such a union? Here is the answer – The child took a step and fell forward. Its back flickered with metallic wires that joined and separated, then joined again, while the dark flesh quivered around them, above and below and through them. The child pushed itself up on hands and knees and shook its sturdy head. For a moment, its skull seemed a smooth sheet of metal. Then the metal tore as flesh flowed in to replace it.

Dean R. Koontz shows us just how foolish we are to devote so much effort to defining our petty distinctions between race and race, philosophy and philosophy, while continuing to ignore the greatest threat looming over us: the machine. The violent machine. A machine that, if not carefully controlled, can rape, destroy. Of this danger, the American writer was warning humanity more than fifty years ago, back when we still read books, when we had not yet begun asking artificial intelligence whether Orwell drew inspiration from the famous television show to create Big Brother in his novel 1984.