Kabinet of Horrors

Naékna mesin sareng rebutan kakawasaan ku intelijen buatan. Dunya panjagaan total sareng kontrol sosial. Perang nuklir sareng degenerasi peradaban. Seueur visi poék masa depan, digambar sababaraha taun ka pengker, kedah kajantenan ayeuna. Sareng samentawis urang ningali deui sareng sigana aranjeunna henteu aya. Naha anjeun yakin?

Aya repertoire cukup stereotypical of populér ramalan dystopian (ngeunaan visi hideung tina mangsa nu bakal datang). Salian anu paling umum anu aya hubunganana sareng karusakan lingkungan sareng sumber daya alam, dipercaya yén téknologi pangénggalna ngarusak komunikasi interpersonal, hubungan sareng masarakat.

Ruang maya bakal ngagentos partisipasi nyata di dunya. Pandangan dystopian séjén ningali pamekaran téknologi salaku cara ningkatkeun kateusaruaan sosial, konsentrasi kakuatan sareng kabeungharan dina tangan kelompok leutik. Tungtutan luhur téknologi modéren konsentrasi pangaweruh sareng kaahlian dina bunderan sempit jalma anu mumpuni, ningkatkeun panjagaan jalma sareng ngancurkeun privasi.

Numutkeun seueur futuris, produktivitas anu langkung luhur sareng pilihan anu langkung ageung tiasa ngabahayakeun kualitas kahirupan manusa ku nyababkeun setrés, ngabahayakeun padamelan, sareng ngajantenkeun urang langkung materialistis ngeunaan dunya.

Salah sahiji téhnologis kawentar "dystopians", James Gleick, méré conto tétéla trivial tina kadali jauh TV salaku penemuan Palasik nu teu ngajawab masalah signifikan tunggal, ngabalukarkeun loba nu anyar. Gleick, ngadugikeun ahli sajarah téknis Edward Tenner, Nulis yén kamungkinan jeung kesederhanaan ngaganti saluran ngagunakeun kadali jauh utamana fungsi ngaganggu panempo beuki loba.

Gantina kapuasan, jalma beuki sugema kalayan saluran aranjeunna nonton. Gantina minuhan kabutuhan, aya rasa kuciwa sajajalan.

Bakal mobil tetep kami on reservations?

Naha urang bakal tiasa ngontrol hal ieu anu teu bisa dihindari sareng sigana bakal pas? Leuwih kecerdasan jieunan? Upami ieu janten masalahna, sakumaha seueur visi dystopian nyatakeun, maka henteu. (1).

Hese ngadalikeun hiji hal anu sababaraha kali leuwih kuat ti urang. kalawan ngaronjatna jumlah tugas. Dua puluh taun ka tukang, teu saurang ogé bakal percaya yén maranéhna bisa maca émosi dina sora hiji jalma sarta nyanghareupan leuwih akurat ti urang sorangan. Samentara éta, algoritma anu ayeuna dilatih parantos tiasa ngalakukeun ieu, nganalisa ekspresi wajah, nada sareng cara urang nyarios.

Komputer ngagambar, ngarang musik, malah salah sahijina meunang pasanggiri sajak di Jepang. Aranjeunna geus lila ngéléhkeun jalma dina catur, diajar kaulinan ti scratch. Sami manglaku ka kaulinan leuwih kompleks Go.

éta nurut kana hukum akselerasi anu langkung gancang. Naon anu dihontal ku AI - kalayan bantosan manusa - salami dasawarsa katukang bakal dua kali dina sababaraha taun ka hareup, sigana ngan ukur sababaraha bulan, teras ngan ukur peryogi minggu, dinten, detik ...

Sapertos ayeuna-ayeuna, algoritma anu dianggo dina smartphone atanapi di bandara pikeun nganalisis poto tina kaméra ubiquitous henteu ngan ukur tiasa mikawanoh batur dina pigura anu béda, tapi ogé nangtukeun fitur psikologis intim sacara éksklusif. Nyebutkeun yén ieu mangrupikeun résiko privasi anu ageung sapertos nyarios nanaon. Ieu sanés ngeunaan panjagaan basajan, ningali unggal léngkah, tapi ngeunaan inpormasi anu timbul salaku hasil tina penampilan jalma, ngeunaan kahayang anu disumputkeun sareng kahoyong pribadi. 

Algoritma tiasa diajar ieu rélatif gancang ku nganalisa ratusan rébu kasus, anu jauh langkung seueur tibatan jalma anu paling cerdik tiasa ningali dina hirupna. Angkatan sareng kabeungharan pangalaman sapertos kitu, aranjeunna tiasa nyeken hiji jalma langkung akurat tibatan psikolog anu paling berpengalaman, basa awak sareng analis sikep.

Jadi dystopia chilling nyata teu yén komputer maén catur atawa ngalawan urang, tapi maranéhna bisa ningali jiwa urang deeper ti saha lian ti diri urang sorangan, pinuh ku larangan jeung blok dina recognizing maranéhanana atawa inclinations séjén.

Elon kasturi percaya yén nalika sistem AI mimiti diajar sareng nalar dina skala anu terus-terusan, "intelijen" tiasa berkembang di mana waé. jero dina lapisan wéb, imperceptible ka urang.

Numutkeun studi Amérika diterbitkeun dina 2016, dina 45 taun hareup, kecerdasan jieunan boga kasempetan 50 persén surpassing manusa dina sagala tugas. Peramal nyarios yén enya, AI bakal ngabéréskeun masalah kanker, ningkatkeun sareng nyepetkeun ékonomi, nyayogikeun hiburan, ningkatkeun kualitas sareng durasi hirup, ngadidik urang supados urang henteu tiasa hirup tanpa éta, tapi mungkin waé hiji dinten, tanpa hatred, ngan pikeun dumasar kana itungan logis, eta ngan ngaluarkeun urang. Panginten sacara fisik éta moal jalan, sabab dina unggal sistem éta patut ngahemat, ngarsipkeun sareng nyimpen sumber anu "bisa waé aya gunana." Leres, ieu mangrupikeun sumber daya anu urang tiasa janten pikeun AI. tanaga ditangtayungan?

Optimists konsol sorangan kanyataan yén sok aya kasempetan pikeun narik colokan kaluar tina stop kontak nu. Sanajan kitu, sagalana teu jadi basajan. Geus kitu, kahirupan manusa geus jadi gumantung kana komputer nu hiji hambalan radikal ngalawan aranjeunna bakal jadi musibah pikeun urang.

Barina ogé, urang beuki nyieun sistem-nyieun kaputusan basis AI, mere aranjeunna hak ngapung pesawat, nangtukeun suku bunga, ngajalankeun pembangkit listrik - urang terang yén algoritma bakal ngalakukeun eta leuwih hadé ti urang. Dina waktos anu sami, urang henteu ngartos sapinuhna kumaha kaputusan digital ieu dilakukeun.

Aya kasieun yén sistem paréntah super-cerdas sapertos "Ngurangan Kamacetan" tiasa nyababkeun aranjeunna nyimpulkeun yén hiji-hijina cara anu efektif pikeun ngalaksanakeun padamelan nyaéta ...

Sumuhun, éta patut masihan mesin instruksi pangpentingna kawas "Kahiji sakabeh, nyalametkeun hiji kahirupan manusa!". Sanajan kitu, anu weruh naha lajeng logika digital bakal ngakibatkeun panjara umat manusa atawa handapeun lumbung, dimana urang bisa jadi aman, tapi pasti moal bébas.

Cybercrime salaku jasa

Baheula, dystopias sareng gambar dunya pasca-apokaliptik dina sastra sareng bioskop biasana disetél dina jaman pasca-nuklir. Kiwari, ngancurkeun nuklir sigana henteu diperyogikeun pikeun bencana sareng karusakan dunya sapertos anu urang terang, sanaos henteu sapertos anu urang bayangkeun. , éta saperti teu mirip ngancurkeun dunya saperti dina "Terminator", dimana ieu digabungkeun jeung musnah nuklir. Upami anjeunna ngalakukeun, anjeunna moal janten superintelligence, tapi kakuatan primitif. Barina ogé, sanajan umat manusa teu acan sadar skenario global konflik nuklir dahsyat.

A apocalypse mesin nyata bisa jadi loba kirang impressive.

Perang siber, serangan virus, hacking sistem sareng ransomware, ransomware (2) ngalumpuhkeun sareng ngancurkeun dunya urang henteu langkung efektif tibatan bom. Lamun skala maranéhanana expands, urang bisa asupkeun fase perang total sadaya-kaluar nu urang bakal jadi korban jeung hostages mesin, sanajan maranehna teu diperlukeun pikeun meta otonom, jeung kamungkinan jalma masih bakal balik sagalana.

Usum panas kamari, Badan Kaamanan Siber sareng Infrastruktur AS (CISA) namina serangan ransomware "ancaman cybersecurity anu paling katingali."

CISA nyatakeun yén seueur kagiatan dimana penjahat cyber nyegat sareng ngénkripsi data hiji jalma atanapi organisasi teras ngarampas tebusan henteu pernah dilaporkeun kusabab korban mayar penjahat cyber sareng henteu daék nyebarkeun masalah sareng sistem anu teu aman. Dina tingkat mikro, cybercriminals mindeng nargétkeun jalma heubeul anu boga masalah ngabedakeun antara eusi jujur ​​jeung teu jujur ​​dina Internét. Aranjeunna ngalakukeun ieu sareng malware anu dipasang dina lampiran email atanapi pop-up dina halaman wéb anu kainféksi. Dina waktos anu sami, serangan ka korporasi ageung, rumah sakit, lembaga pamaréntah sareng pamaréntahan naék.

Anu terakhir ditargetkeun khususna kusabab data sénsitip anu dicekel sareng kamampuan mayar tebusan ageung.

Sababaraha inpormasi, sapertos inpormasi kaséhatan, langkung berharga pikeun anu gaduh tibatan anu sanés sareng tiasa ngajantenkeun penjahat langkung seueur artos. Maling tiasa nyegat atanapi ngakarantina blok ageung data klinis anu penting pikeun perawatan pasien, sapertos hasil tés atanapi inpormasi ubar. Nalika nyawa dipertaruhkeun, teu aya rohangan pikeun rundingan di rumah sakit. Salah sahiji rumah sakit Amérika ditutup secara permanén dina bulan Nopémber taun ka tukang saatos serangan teroris Agustus.

Éta meureun ngan bakal parah kana waktosna. Dina 2017, Departemen Kaamanan Dalam Negeri AS ngumumkeun yén serangan siber tiasa nargétkeun infrastruktur kritis sapertos utilitas cai. Sareng alat-alat anu diperyogikeun pikeun ngalaksanakeun tindakan sapertos kitu langkung seueur pikeun operator anu langkung alit, anu aranjeunna ngajual bungkusan ransomware sapertos software Cerber sareng Petya sareng ngecas biaya tebusan saatos serangan anu suksés. Dumasar kana cybercrime salaku jasa.

Gangguan bahaya dina génom

Salah sahiji topik populér ngeunaan dystopia nyaéta genetika, manipulasi DNA sareng beternak jalma - salian ti éta, "diprogram" ku cara anu leres (otoritas, perusahaan, militer).

Perwujudan modérn kahariwang ieu mangrupikeun metode popularisasi Ngédit gén CRISPR (3). Mékanisme anu dikandungna utamina prihatin. maksakeun fungsi nu dipikahoyong dina generasi saterusna sarta poténsi maranéhanana sumebar ka sakabéh populasi. Salah sahiji panemu téknik ieu, Jennifer Doudna, malah nembé nyebatkeun moratorium kana téknik panyuntingan "garis kuman" sapertos ieu kusabab akibat anu berpotensi ngabahayakeun.

Inget yen sababaraha bulan ka tukang, hiji élmuwan Cina Anjeunna Jiankui geus loba dikritik pikeun ngédit gén émbrio manusa guna imunisasi aranjeunna ngalawan virus AIDS. Alesanana nyaéta parobahan anu dilakukeun ku anjeunna tiasa diwariskeun ti generasi ka generasi kalayan akibat anu teu kaduga.

perhatian husus nu disebut d (nu nulis ulang gén, drive gén), i.e. mékanisme direkayasa genetik nu encodes sistem éditan dina DNA tina individu dibikeun CRISPR / CAS9 génom kalayan netepkeunana pikeun ngédit varian ieu gén anu teu dihoyongkeun. Kusabab ieu, turunan sacara otomatis (tanpa partisipasi ahli genetika) nimpa varian gen anu teu dihoyongkeun sareng anu dipikahoyong.

Sanajan kitu, varian gén nu teu dihoyongkeun bisa ditarima ku turunan "salaku kado" ti indungna séjén unmodified. Jadi gen drive hayu urang megatkeun Hukum katurunan Mendeliannu nyebutkeun yén satengah tina gén dominan mana anu ka turunan ti hiji indungna. Pondokna, ieu antukna bakal ngakibatkeun sumebarna varian gén dimaksud ka sakabéh populasi.

Ahli biologi di Universitas Stanford Christina Smolke, Deui dina panel on rékayasa genetik di 2016, miélingkeun yén mékanisme ieu bisa boga ngabahayakeun sarta, dina kasus ékstrim, konsékuansi horrifying. Gen drive tiasa mutasi nalika ngalangkungan turun-temurun sareng nyababkeun gangguan genetik sapertos hemofilia atanapi hemofilia.

Salaku urang maca dina artikel diterbitkeun dina ulasan Alam ku peneliti di University of California, Riverside, sanajan drive jalan sakumaha dimaksudkeun dina hiji populasi organisme, sipat turunan sarua bisa ngabahayakeun lamun eta kumaha bae diwanohkeun ka populasi sejen. . katingal sarua.

Aya ogé bahaya yén élmuwan nyiptakeun drive gen di tukangeun panto katutup sareng tanpa ulasan peer. Upami aya anu ngahaja atanapi teu ngahaja ngenalkeun drive gén anu ngabahayakeun kana génom manusa, sapertos anu ngancurkeun résistansi urang ka influenza, éta tiasa hartosna tungtung spésiés homo sapiens…

Kapitalisme panjagaan

Versi dystopia anu tilas panulis fiksi ilmiah henteu tiasa dibayangkeun nyaéta kanyataan Internét, sareng khususna média sosial, kalayan sagala akibat anu dijelaskeun sacara lega anu ngancurkeun privasi jalma, hubungan, sareng integritas psikologis.

Dunya ieu ngan ukur dicét dina pagelaran seni anu langkung énggal, sapertos anu urang tingali dina séri Black Mirror dina episode 2016 "The Diving" (4). Shoshana Zuboff, a ekonom Harvard, nelepon kanyataanana ieu sagemblengna gumantung kana timer negeskeun sosial tur sagemblengna "deprivatized". kapitalisme panjagaan (), sarta dina waktos anu sareng karya crowning Google jeung Facebook.

4. Adegan tina "Hideung Eunteung" - episode "Diving"

Numutkeun Zuboff, Google mangrupikeun panemu munggaran. Sajaba ti éta, terus ngalegaan kagiatan panjagaan na, contona ngaliwatan proyék "smart city" sigana polos. Hiji conto nyaéta proyék Neighborhood Paling Inovatif di Dunya ku Sidewalk Labs, anak perusahaan Google. dermaga di Toronto.

Google ngarencanakeun pikeun ngumpulkeun sakabeh data pangleutikna ngeunaan kahirupan pangeusi waterfront, gerakan maranéhanana sarta malah engapan kalayan bantuan sensor ngawaskeun ubiquitous.

Éta ogé sesah pikeun milih hiji dystopia internét anu kaluar tina patarosan dina Facebook. Kapitalisme panjagaan mungkin geus invented by Google, tapi éta Facebook nu nyandak eta ka tingkat anyar sakabeh. Hal ieu dilakukeun ngaliwatan mékanisme viral sosial jeung emosional jeung kasusah kejam malah jalma anu teu pamaké platform Zuckerberg.

Dijaga AI, immersed dina kanyataanana maya, hirup kalawan UBI

Numutkeun seueur futuris, masa depan dunya sareng téknologi ditunjuk ku lima singketan - AI, AR, VR, SM sareng UBI.

Pamiarsa "MT" sigana terang naon aranjeunna sareng naon tilu anu munggaran diwangun. Anu biasa ogé janten anu kaopat, "SM", nalika urang ngartos naon éta. Jeung kalima? UBD mangrupakeun singketan tina konsep, hartina "panghasilan dasar universal » (5). Ieu mangrupikeun kauntungan umum, dipostulatkeun ti waktos ka waktos, anu bakal dipasihkeun ka unggal jalma anu dileupaskeun tina padamelan nalika téknologi sanés berkembang, khususna AI.

5. Panghasilan Dasar Universal - UBI

Swiss malah nempatkeun ide ka referendum taun ka tukang, tapi wargana nampik éta, sieun yén bubuka panghasilan dijamin bakal ngakibatkeun banjir imigran. UBI ogé mawa sababaraha bahaya séjén, kaasup résiko perpetuating kateusaruaan sosial aya.

Masing-masing révolusi téknologi balik akronim (tingali ogé:) - upami nyebarkeun sareng mekar dina arah anu dipiharep - gaduh akibat anu ageung pikeun umat manusa sareng dunya urang, kalebet, tangtosna, dosis dystopia anu ageung. Salaku conto, dipercaya yén éta tiasa ngagentos siklus pamilihan opat taun sareng nyababkeun réferendum ngeunaan masalah anu teu kaétang.

Realitas maya, kahareupna tiasa "ngaluarkeun" bagian tina umat manusa tina dunya nyata. Sakumaha anu kajantenan, contona, sareng Korea Jang Ji Sung, anu, saatos pupusna putrina di 2016 tina panyakit anu teu tiasa diubaran, ti saprak pendak sareng avatar na di VR. Rohangan maya ogé nyiptakeun rupa-rupa masalah anyar, atawa sabenerna mindahkeun sakabéh masalah heubeul dipikawanoh ka dunya "anyar", atawa malah ka loba dunya séjén. Pikeun extent sababaraha urang geus bisa ningali ieu dina jaringan sosial, dimana eta kajadian nu teuing saeutik likes on tulisan ngabalukarkeun depresi sarta bunuh diri.

Dongeng nabi kurang leuwih

Barina ogé, sajarah kreasi visi dystopian ogé ngajarkeun caution dina ngarumuskeun prediksi.

6. Panutup "Pulo di Net"

Filmed taun ka tukang éta karya sci-fi kawentar Ridley Scott uranghunter android» Ti saprak 1982. Kasebut nyaéta dimungkinkeun pikeun ngabahas minuhan atawa henteu loba elemen husus, tapi éta indisputable yén nubuat pangpentingna ngeunaan ayana di jaman urang calakan, androids humanoid, ku sababaraha cara punjul ti manusa, teu acan jadi kanyataan.

Kami bakal siap toléran langkung seueur hits profetik."Neuromancer»nyaéta novel William Gibson saprak 1984, anu ngapopulérkeun konsép "ruang maya".

Sanajan kitu, dina dékade éta, buku rada kirang well-dipikawanoh mucunghul (ampir sakabéhna di nagara urang, sabab teu ditarjamahkeun kana Polandia), nu diprediksi jaman kiwari leuwih akurat. Abdi ngawangkong ngeunaan romanKapuloan dina Web"(6) Bruce Sterling saprak 1988, disetel dina 2023. Ieu presents dunya immersed dina hal sarupa Internet, katelah "web". Hal ieu dikawasa ku korporasi internasional badag. "Kapuloan dina Net" anu luar biasa sabab nyadiakeun kontrol, panjagaan jeung monopolization tina Internet konon bébas.

Éta ogé pikaresepeun pikeun ngaramalkeun operasi tempur anu dilaksanakeun nganggo kendaraan udara tanpa awak (drones) ngalawan bajak laut / teroris online. Operator rébuan mil jauh sareng desktop anu aman - kumaha urang terang éta? Buku éta sanés ngeunaan konflik anu teu aya tungtungna sareng terorisme Islam, tapi ngeunaan perjuangan ngalawan kakuatan anu nentang globalisasi. Dunya Kapuloan di Net ogé dipinuhan ku alat konsumen anu katingali pisan sapertos jam tangan pinter sareng sapatu olahraga pinter.

Aya buku sanés ti taun 80an anu, sanaos sababaraha acara sigana langkung hebat, ngalaksanakeun padamelan anu saé pikeun ngagambarkeun kasieun dystopian modern urang. Ieu"software Georadar", Riwayat Rudy Rookerdisetel dina 2020. Dunya, kaayaan masarakat sareng konflikna sigana mirip pisan sareng anu urang urus ayeuna. Aya ogé robot anu katelah boppers anu ngagaduhan kasadaran diri sareng kabur ka kota-kota di bulan. Unsur ieu teu acan materialized, tapi pemberontakan tina mesin geus jadi refrain konstan prediksi hideung.

Visi waktos urang dina buku ogé akurat pisan dina sababaraha cara. Octavia Butler, utamana dinaPasemon tina Sower» (1993). Aksi éta dimimitian dina 2024 di Los Angeles sareng lumangsung di California, musnah ku banjir, ribut sareng halodo disababkeun ku perubahan iklim. Kulawarga kelas menengah sareng kelas damel papanggih di komunitas katutup nalika aranjeunna nyobian kabur ka dunya luar nganggo ubar adiktif sareng kit kanyataanana virtual. Agama anyar sareng téori konspirasi muncul. Kafilah pangungsian nuju kalér pikeun nyegah runtuhna ékologis sareng sosial. Hiji présidén janten kakawasaan anu nganggo slogan kampanye "Make America Great Again" (ieu mangrupikeun slogan Donald Trump) ...

Buku kadua Butler, "Pasemon tina Bakatngabejaan kumaha anggota kultus agama anyar ninggalkeun Bumi dina spaceship pikeun ngajajah Alpha Centauri.

***

Naon palajaran tina survey éksténsif ngeunaan prediksi sareng visi anu dilakukeun sababaraha dekade ka tukang ngeunaan kahirupan urang sapopoé?

Panginten, kanyataan yén dystopia sering kajantenan, tapi paling sering ngan sawaréh.