Kaj se je zgodilo?

Leta 1996 je japonsko podjetje izdalo majhno digitalno napravo Tamagoči, ki je od uporabnika zahtevala stalno skrb: hranjenje, čiščenje in igro. Če je lastnik napravo zanemaril, je bitje na zaslonu umrlo.

Otroci in odrasli po vsem svetu so ob teh digitalnih smrtih doživljali resnično žalovanje, stres in celo depresijo, kar je presenetilo stroko.

Ta pojav je razkril fascinantno ranljivost človeške duševnosti – naši možgani so evolucijsko nastavljeni tako, da razvijejo empatijo do vsega, kar kaže znake potrebe po skrbi, tudi če gre za preprosto kodo.

To odkritje danes s pridom izkorišča industrija robotike in umetne inteligence, ki namerno oblikuje naprave tako, da v nas vzbujajo čustveno navezanost, kar odpira vprašanja o možnosti novih oblik čustvenih zlorab. 

Nauk zgodbe: Tehnologija lahko simulira biološke potrebe in manipulira z našimi najbolj iskrenimi človeškimi čustvi.

Predlogi izboljšav

Posameznik: S postavljanjem jasnih meja med digitalnimi in medosebnimi odnosi lahko prepreči, da bi se čustveno izčrpaval zaradi algoritmov, ki simulirajo naklonjenost.

Industrija: Oblikovalci umetne inteligence in robotov morajo prevzeti odgovornost in sistemov ne smejo programirati tako, da bi pri ranljivih uporabnikih ustvarjali nezdravo odvisnost.

Odločevalci: Pod vplivom psihološke stroke morajo zakonsko zaščititi ranljive skupine (zlasti otroke) pred tehnologijami, ki so tržno zasnovane izključno za čustveno izkoriščanje.