Hantu mesin killer terus. Naon anu Présidén Putin percanten?

Proponents robot militér (1) ngajawab yén pakarang otomatis nyadiakeun leuwih pilihan pikeun ngajaga kahirupan manusa. Mesin tiasa ngadeukeutan musuh tibatan prajurit, sareng leres-leres ngevaluasi ancaman. Sareng émosi kadang ngalumpuhkeun kamampuan pikeun nyandak kaputusan anu leres.

Seueur anu ngabela ngagunakeun robot pembunuh yakin pisan yén aranjeunna bakal ngajantenkeun perang kirang katurunan sabab langkung seueur prajurit anu maot. Aranjeunna dicatet yén robot, bari teu ngarasa karunya, kebal kana émosi manusa négatip kayaning panik, amarah, jeung dendam, nu mindeng ngakibatkeun kajahatan perang.

Aktivis hak asasi manusa ogé ngagunakeun argumen yén militér parantos nyababkeun pangurangan ageung korban sipil dina satengah abad katukang, sareng robotisasi tentara ngamungkinkeun mékanisme pikeun ngalaksanakeun hukum perang langkung ketat. Aranjeunna ngaku yén mesin bakal janten étika nalika dilengkepan ku parangkat lunak anu bakal maksa aranjeunna taat kana hukum perang.

Tangtosna, sajumlah ageung jalma, kalebet anu kasohor pisan, henteu ngabagi pendapat ieu salami mangtaun-taun. Dina April 2013, kampanye internasional diluncurkeun dina slogan (2). Dina kerangka na, organisasi non-pamaréntahan nungtut larangan lengkep dina pamakéan pakarang otonom. Para ahli ti seueur nagara mimiti calik pikeun ngabahas topik ieu dina Konperénsi PBB ngeunaan Panglecutan Senjata di Jenéwa dina Méi 2014. Laporan anu diterbitkeun sababaraha bulan ka hareup ku Human Rights Watch sareng ilmuwan ti Universitas Harvard nyarios yén anu otonom bakal bahaya teuing - aranjeunna milih target sorangan sareng maéhan jalma. Dina waktos anu sami, teu jelas pisan saha anu kedah dipertanggungjawabkeun.

2. Demonstrasi salaku bagian tina aksi "Stop killer robots"

Naon anu tiasa dilakukeun ku drones leutik

Sengketa ngeunaan robot pembunuh (ROU) parantos lumangsung mangtaun-taun sareng henteu luntur. Bulan panganyarna geus dibawa usaha anyar pikeun ngeureunkeun robot militér sarta gelombang laporan proyék anyar tipe ieu, sababaraha nu malah keur diuji dina kaayaan tempur nyata.

Dina Nopémber 2017, pidéo nunjukkeun ngagimbung deadly mini-drones ., dina aksi pikasieuneun. Pamirsa ningali yén urang henteu peryogi deui mesin perang beurat, tank, atanapi misil anu dialungkeun ku Predator pikeun maéhan sacara masal sareng nganggo bedil mesin. Diréktur kalungguhan Stuart Russell, profesor kecerdasan jieunan di Berkeley, nyebutkeun:

-

Musim semi kamari lima puluh profesor Paguron luhur di dunya parantos nandatanganan banding ka Korea Institute of Advanced Science and Technology (KAIST) sareng pasanganna Hanwha Systems. aranjeunna ngumumkeun yén maranéhna moal cooperate jeung universitas sarta host tamu KAIST. Alesanana nyaéta pangwangunan "senjata otonom" anu dilaksanakeun ku duanana lembaga. KAIST nampik laporan média.

Teu lila saterusna di AS leuwih ti 3 pagawé Google protes ngalawan karya pausahaan pikeun militér. Aranjeunna prihatin yén Google damel sareng proyék pamaréntahan anu namina Maven anu tujuanana ngagunakeun AI pikeun ngenal objék sareng wajah dina video drone militér. Manajemén perusahaan nyarios yén tujuan Maven nyaéta pikeun nyalametkeun nyawa sareng nyalametkeun jalma tina padamelan anu pikasieuneun, sanés agresi. Para demonstran teu yakin.

Bagian salajengna tina perangna nyaéta deklarasi ahli kecerdasan jieunan, kaasup. dipake dina proyék Google na Elon kasturi. Aranjeunna janji moal ngamekarkeun robot. Éta ogé nyauran pamaréntah pikeun nguatkeun usaha pikeun ngatur sareng ngawatesan pakarang ieu.

Pernyataan éta nyarios, sabagian, yén "kaputusan pikeun nyandak kahirupan manusa henteu kedah dicandak ku mesin." Sanaos tentara dunya dilengkepan seueur alat otomatis, sakapeung kalayan tingkat otonomi anu luhur, seueur ahli sieun yén di hareup téknologi ieu tiasa janten otonom lengkep, ngamungkinkeun pembunuhan tanpa ngalibatkeun operator sareng komandan manusa.

Para ahli ogé ngingetkeun yén mesin pembunuhan otonom tiasa langkung bahaya tibatan "senjata nuklir, kimia sareng biologis" sabab tiasa gampang kaluar kontrol. Dina total, dina bulan Juli taun ka tukang, surat dina naungan Future of Life Institute (FGI) ditandatanganan ku 170 organisasi sareng 2464 individu. Dina awal bulan 2019, sakelompok élmuwan médis anu aya hubunganana sareng FLI nyauran deui surat énggal anu ngalarang pamekaran senjata anu dikontrol kecerdasan buatan (AI).

Pasamoan Agustus taun ka tukang ngeunaan PBB di Gniewo on mungkin pangaturan légal militér "robot killer" réngsé dina kasuksésan ... mesin. Sakelompok nagara, kaasup Amérika Serikat, Rusia jeung Israél, diblokir karya salajengna dina bubuka hiji larangan internasional dina pakarang ieu (draf Konvénsi ngeunaan Larangan atawa Watesan Pamakéan Senjata Konvensional Tangtu, CCW). Henteu kabeneran yén nagara-nagara ieu dikenal ku karyana dina sistem canggih senjata otonom sareng robotik.

Rusia museurkeun kana robot tempur

Présidén Vladimir Putin sering dicutat nyarios ngeunaan sistem AI militér sareng robot tempur:

-.

ceramah kabuka ngeunaan ngembangkeun pakarang otonom. Kapala Staf Umum angkatan bersenjata, Jenderal Valery Gerasimov, nembé nyarios ka agénsi warta militér Interfax-AVN yén panggunaan robot bakal janten salah sahiji fitur utama perang anu bakal datang. Anjeunna nambahan yén Rusia nyobian pinuh ngajadikeun otomatis medan perang. Komentar anu sami dilakukeun ku Wakil Perdana Menteri Dmitry Rogozin sareng Menteri Pertahanan Sergei Shoigu. Pupuhu Komite Déwan Féderasi ngeunaan Pertahanan sareng Kaamanan Viktor Bondarev nyarios yén Rusia narékahan pikeun ngembangkeun Roju téknologiieu bakal ngidinan jaringan drone pikeun fungsi salaku hiji éntitas tunggal.

Ieu teu heran lamun inget yén teletanks munggaran dikembangkeun di Uni Soviét dina 30s. Aranjeunna dipaké dina mimiti Perang Dunya II. Ayeuna Rusia ogé nyiptakeun robot tank janten langkung otonom.

kaayaan Putin urang nembe dikirim sorangan ka Suriah Kandaraan tempur unmanned Uran-9 (3). alat leungit kontak jeung titik kontrol taneuh, miboga masalah jeung sistem gantung, sarta pakarang na teu boga fungsi sampurna sarta henteu pencét target pindah. Teu disada pisan serius, tapi loba nu nganggap usap Siria teh test tempur alus anu bakal ngidinan Rusia pikeun ngaronjatkeun mesin.

Roscosmos parantos nyatujuan rencana awal pikeun ngirim dua robot ka Stasion Angkasa Internasional ku Agustus taun ieu. Fedor (4) dina Uni unmanned. Teu kawas beban, tapi. Sapertos dina pilem RoboCop, Fedor nganggo pakarang sareng nunjukkeun kaahlian tembak anu maot nalika latihan shooting.

Patarosan na, naha robot di luar angkasa bakal pakarang? Aya kacurigaan yén masalah éta henteu ngan ukur dina aplikasi taneuh. Samentawis di Bumi, produsén senjata Rusia Kalashnikov nunjukkeun visualisasi robot Igoreknu, sanajan ngabalukarkeun loba tawa, sinyal yén pausahaan serius dipake dina kandaraan tempur otonom. Dina Juli 2018, Kalashnikov ngumumkeun yén anjeunna ngawangun senjata anu dianggo pikeun nyandak kaputusan "némbak atanapi henteu némbak".

Inpo ieu kudu ditambahkeun laporan yén gunsmith Rusia Digtyarev dimekarkeun leutik tank otonom Nerekht nu bisa pindah cicingeun ka arah target na sorangan lajeng ngabeledug kalawan kakuatan kuat ngancurkeun wangunan séjén atawa sakabéh. Sakumaha ogé Tank T14 Tentara , kareueus tina angkatan bersenjata Rusia, dirancang pikeun mungkin kadali jauh jeung nyetir unmanned. Sputnik nyatakeun yén insinyur militér Rusia damel pikeun ngajantenkeun T-14 janten kendaraan lapis baja anu otonom.

Diréktif Bantahan

Militer AS sorangan parantos netepkeun wates anu cukup jelas dina tingkat otonomi senjatana. Dina 2012, Departemen Pertahanan AS ngaluarkeun Directive 3000.09, anu nyatakeun yén manusa kedah ngagaduhan hak pikeun ngabantah tindakan robot bersenjata. (sanajan meureun aya sababaraha iwal). Diréktif ieu tetep berlaku. Kabijakan Pentagon ayeuna nyaéta yén faktor anu mutuskeun dina ngagunakeun pakarang kedah janten jalma, sareng yén kaputusan sapertos kitu kedahna. conforms kana hukum perang.

Sanajan Amerika geus ngagunakeun ngalayang, Predator, Reaper sarta loba supermachines séjén pikeun dekade, maranéhanana éta teu jeung teu model otonom. Éta dikawasa ku operator jarak jauh, sakapeung tina jarak sababaraha rébu kilométer. Diskusi panas ngeunaan otonomi mesin tipe ieu dimimitian ku premiere prototipe. drone X-47B (5), nu teu ngan flew bebas, tapi ogé bisa take off ti pamawa pesawat, darat dina eta jeung ngeusian bengsin dina hawa. Hartina ogé némbak atawa ngabom tanpa campur tangan manusa. Nanging, proyék éta masih diuji sareng ditinjau.

5. Tés tina X-47B unmanned dina pamawa pesawat Amérika

Dina 2003, Departemen Pertahanan mimiti experimenting jeung robot leutik kawas tank. SPOES dilengkepan gun mesin. Dina 2007 anjeunna dikirim ka Irak. kumaha oge, program réngsé sanggeus robot mimiti behaving erratically, mindahkeun bedil na erratically. Hasilna, militér AS ninggalkeun panalungtikan ngeunaan robot taneuh pakarang salila sababaraha taun.

Dina waktos anu sami, Angkatan Darat AS ningkatkeun belanja operasi tina $ 20 juta dina 2014 janten $ 156 juta dina 2018. Dina 2019, anggaran ieu parantos ngaluncat ka $327 juta. Ieu paningkatan kumulatif 1823% dina ngan sababaraha taun. Para ahli nyarios yén awal taun 2025, militér AS tiasa gaduh medan perang prajurit robot leuwih ti manusa.

Anyar-anyar ieu, seueur kontroversi anu disababkeun sareng diumumkeun ku Angkatan Darat AS proyék ATLAS () - otomatis. Dina média, ieu dianggap ngalanggar Directive 3000.09 anu disebut tadi. Nanging, militér AS nolak sareng ngajamin yén pangaluaran hiji jalma tina siklus pembuatan kaputusan teu aya patarosan.

AI mikawanoh hiu jeung warga sipil

Sanajan kitu, pembela pakarang otonom boga argumen anyar. Prof. Ronald Arkin, a roboticist di Georgia Institute of Technology, nyatakeun dina publikasi na Dina perang modéren, pakarang calakan penting pikeun nyegah korban sipil, sabab téknik pembelajaran mesin sacara efektif tiasa ngabantosan ngabédakeun antara pejuang sareng sipil, sareng target anu penting sareng teu penting.

Conto kaahlian AI sapertos patroli pantai Australia. drones Little Ripperdilengkepan sistem SharkSpotter dikembangkeun ku Universitas Téknologi Sydney. Sistem ieu otomatis nyeken cai pikeun hiu sareng ngingetkeun operator nalika ningali hal anu teu aman. (6) Bisa ngaidentipikasi jalma, lumba-lumba, parahu, papan selancar jeung objék dina cai pikeun ngabédakeunana jeung hiu. Éta tiasa ngadeteksi sareng ngaidentipikasi sakitar genep belas spésiés anu béda kalayan akurasi anu luhur.

6. Hiu dipikawanoh dina sistem SharkSpotter

Métode pembelajaran mesin canggih ieu ningkatkeun akurasi pangintipan hawa ku langkung ti 90%. Pikeun babandingan, operator manusa dina kaayaan sarupa akurat ngakuan 20-30% objék dina poto hawa. Salaku tambahan, idéntifikasi masih diverifikasi ku manusa sateuacan alarm.

Di medan perang, operator, ningali gambar dina layar, boro bisa nangtukeun naha jalma di darat téh pejuang jeung AK-47s dina leungeun maranéhna atawa, contona, patani jeung pikes. Arkin nyatakeun yén jalma condong "ningali naon anu aranjeunna hoyong tingali," khususna dina kaayaan stres. Épék ieu nyumbang kana kacilakaan pesawat Iran ku USS Vincennes dina 1987. Tangtu, dina pamadegan-Na, pakarang AI-dikawasa bakal leuwih hade tinimbang ayeuna "bom pinter", nu teu bener sentient. Agustus kamari, misil anu dipandu laser Saudi nabrak beus anu pinuh ku murangkalih di Yaman, nelasan opat puluh murangkalih.

"Upami beus sakola dilabélan leres, ngaidentipikasi éta dina sistem otonom tiasa kawilang gampang," saur Arkin dina Mékanika Popular.

Sanajan kitu, argumen ieu sigana teu ngayakinkeun campaigners ngalawan killers otomatis. Salian ancaman robot pembunuh, kaayaan penting anu sanés kedah dipertimbangkeun. Malah sistem "alus" jeung "attentive" bisa hacked sarta dicokot leuwih ku jalma pisan goréng. Lajeng sagala alesan dina pertahanan parabot militér leungit kakuatan maranéhanana.