Saturs
- Apdedzināta ar mašīnu
- Automatizācija un darba pārtraukšana
- Bez kļūdām, bez stresa - jūsu soli pa solim, kā izveidot programmatūru, kas maina dzīvi, neiznīcinot savu dzīvi
- Lietojumprogrammas no Consumer Electronics
- Kontroles atgūšana
- Kā tas varētu darboties
Avots: Artinspiring / Dreamstime.com
Izņemšana:
Lai automatizācija darbotos ar cilvēci un pret to, nevis pret to, mums nepieciešami drošības pasākumi un informēti cilvēki, kuriem ir tiesības apturēt vai labot sistēmas kļūdu.
“Kļūdīties ir cilvēcīgi; Lai patiešām sabojātu lietas, ir nepieciešams dators. ”Viljams E. Vaughans izdarīja šo novērojumu jau 1969. gadā. Piešķirot kontroli automatizētai sistēmai, sistēma var noiet greizi un radīt nopietnu kaitējumu, pirms tā tiek pārbaudīta.
Automatizācija nav nekas jauns, taču tā kļūst daudz izplatītāka, pateicoties digitālo un fizisko sistēmu integrācijai. Automatizācijas augšdaļa mērogā ir liela efektivitāte. Bet paļaušanās uz komplektēšanas un aizmirsšanas sistēmu ir tas, ka kādam var neizdoties to pareizi iestatīt.
Izmantojot sistēmu, kas vienkārši seko bez iejaukšanās un nekādā veidā neaptur mašīnu, jums var būt destruktīva ietekme. Attiecīgi tehnoloģija var radīt situācijas tipu, kas aprakstīts “Burvja māceklī”, kad tas, kas, šķiet, atvieglo dzīvi, faktiski iziet ārpus kontroles.
Apdedzināta ar mašīnu
Automatizācija bez iejaukšanās ir iemesls tam, ka tehnoloģiju darbinieks Apvienotajā Karalistē pagājušajā gadā nonāca bez darba bez iemesla. Ibrahims Diallo pamanīja, ka viņa drošības pielaides nedarbojas darbā, un uzzināja, ka tas ir tāpēc, ka viņš ir bez darba. “Mašīna mani apdedzināja” ir nosaukums, kuru viņš piešķīra savam paplašinātajam pasākuma emuāra ierakstam.
Galu galā Diallo pārtraukšanas iemesls nebija kaut kāds algoritma novērtējums, kas noteica, kurš jālikvidē. Problēma nebija atrodama sistēmā, bet bija saistīta ar cilvēku kļūdām. Šajā gadījumā tā bija visa automatizētā atbilde uz cilvēka nespēju ievietot Diallo informāciju par līguma atjaunošanu.
Nav tā, ka mašīna nolēma, ka viņu vajadzētu atlaist par kaut ko īpašu. Tas vienkārši veica tajā ieprogrammētās darbības kādam, kura statuss izrādījās tāds, ka viņš vairs nav nodarbināts. Kā viņš paskaidro komentāros, tas nav īsti AI, bet gan “automatizēts skripts”. (Lai uzzinātu par to, kā AI var palīdzēt (nevis ievainot) uzņēmumos, apskatiet Ko AI var darīt uzņēmumam.)
Automatizācija un darba pārtraukšana
Aprakstot brīnišķīgos ieguvumus, ko mēs varam sagaidīt automatizētā nākotnē, šāda veida efekts nav tieši tas, ko cilvēki iedomājas. Parastā optimistiskā darba maiņas perspektīva, kad uzdevumus uzņemas automatizācija, darbavietas tiks noteiktas no jauna - tās netiks izbeigtas ar automatizētām sistēmām. Bet realitāte ir tāda, ka dažas darba vietas tiks likvidētas, un cilvēkiem, kuri tos ieņēma, nebūs obligāti jāpāriet uz jaunu karjeru lielā mērā automatizētā nozarē.
Darba pārtraukšana ir viens no mazāk nozīmīgiem riskiem, ko Elons Musks paredzēja AI pieaugšanai, lai gan viņa paša redzējums par ietekmi uz darbavietām ir daudz pesimistiskāks nekā Ficdžeralda. Pēc Muska domām, AI ir nepieciešams stingrs regulējums, jo tas rada “būtisku, eksistenciālu risku cilvēku civilizācijai”.
Bez kļūdām, bez stresa - jūsu soli pa solim, kā izveidot programmatūru, kas maina dzīvi, neiznīcinot savu dzīvi
Jūs nevarat uzlabot savas programmēšanas prasmes, ja nevienam nerūp programmatūras kvalitāte.
Lietojumprogrammas no Consumer Electronics
Neskatoties uz Muska tehniskajiem akreditācijas datiem, daži nozares eksperti, piemēram, Rodnijs Brooks, kurš bija MIT Datorzinātnes un mākslīgā intelekta laboratorijas dibinātājs un līdzdarbojās gan iRobot, gan Rethink Robotics, saka, ka Musk ir nepareizi par šiem AI draudiem un to, kā robotika faktiski darbojas.
Intervijā TechCrunch Brooks norādīja, ka ir neprātīgi aicināt pieņemt noteikumus, ja tehnoloģija nav nobriedusi līdz brīdim, kad mēs varam precīzi noteikt, kas ir jāregulē. Viņš izaicināja Musku: "Sakiet man, kādu izturēšanos jūs vēlaties mainīt, Elon?"
Brooks tomēr atzina, ka roboti radīs darba vietu pārvietošanu. Bet viņš arī domā, ka rūpniecībā ir iespējams mainīt paradigmu, lai ievērotu plaša patēriņa elektronikas modeli.
Veids, kā viņš to izteicis TechCrunch intervijā, bija šāds: “Mums ir tradīcija iekārtu ražošanā, ka tām ir šausmīgas lietotāja saskarnes un tas ir grūti, un jums ir jāapmeklē kursi, turpretī plaša patēriņa elektronikā mēs esam izveidojuši mašīnas, kuras mēs izmantojam, iemācīt cilvēkiem kā tos izmantot. ”
Tam, viņaprāt, vajadzētu būt mērķim, mainot mūsu attieksmi pret “rūpniecības iekārtām un cita veida iekārtām, lai mašīnas iemācītu cilvēkiem, kā tās lietot.”
Kontroles atgūšana
Tas, ko ierosina Brooks, var norādīt uz cilvēka kļūdu problēmas risinājumu, kas ieslēdz automātisko procesu, kas, šķiet, ir ārpus kontroles. Lai atsauktos uz Mikija kļūdaino piedzīvojumu filmā “Burvis māceklis”, problēma rodas no tā, ka persona aktivizē sistēmu, bet nav īsta veida, kā ar to sazināties, lai apturētu vai mainītu virzienu.
Bet, ja saskarne tiek veidota pēc plaša patēriņa elektronikas, nevis tradicionālajiem rūpniecības modeļiem, tā burtiski varētu nodot kontroli cilvēku rokās. Lai šī saskarne būtu patiesi efektīva, tai jābūt ne tikai pieejamai, bet arī veidotai tā, lai cilvēki būtu informēti par notiekošo, nodrošinot datus par saņemtajiem atjauninājumiem un veiktajām darbībām.
Kā tas varētu darboties
Nejaušas Diallo izbeigšanas gadījumā tas nozīmētu, ka automatizētā sistēma viņu ne tikai izslēgtu no sistēmas un pēc tam paziņotu savam vervētājam, ka viņš tiek izbeigts. Vispirms tā atzīs, ka līguma atjaunošana nebija paredzēta paredzētajā datumā. Pirms izbeigšanas darbību uzsākšanas tas sētniekam un vervētājam piedāvās jaunākās ziņas par atjaunošanas trūkumu un sekām, kas varētu rasties dienas laikā, ja netiks veikti nekādi pasākumi.
Šāda veida trauksme ļautu cilvēkiem pieņemt apzinātus lēmumus par automātiskās darbības turpināšanu vai iejaukšanos, lai labotu cilvēciskās kļūdas, kas bija sākotnējais problēmas cēlonis. Bet cilvēkiem ir arī jādara savs pienākums, jāreaģē uz trauksmi un jāveic attiecīgi pasākumi. Citiem vārdiem sakot, atbilde uz jautājumu, ko Brooks uzdeva par uzvedību, attiecas uz cilvēkiem; viņiem jābūt mazāk pasīviem, saskaroties ar automatizāciju. (Lai uzzinātu vairāk par to, kā cilvēki un mašīnas var sadarboties, skatiet Cilvēka elementa virzīšana: politika, procedūra un process.)
Kā Diallo rakstīja sava emuāra komentāru sadaļā, iemesls, kāpēc tas varēja nokļūt, bija tas, ka cilvēki atteicās iet pret mašīnu:
Vēl viena lieta, kas tiek aizmirsta, ir tā, ka, kaut arī visi zināja, ka to izraisīja cilvēka kļūda un ka tā bija tikai kļūda, viņi izvēlējās sekot s. Tas ir tāpat kā ievietojot slimnīcā zīmi “smēķēt atļauts”, un cilvēki ciena šo zīmi, nevis izmanto veselo saprātu.
Attiecīgi politikai, kas mums jāpieņem, lai automatizācija darbotos gan ar cilvēci, gan pret to, nevis pret to, ir divējāda: mašīnbūves pusē mums ir vajadzīgas saskarnes, kas ir pieejamas un informatīvas, un cilvēciskajā pusē mums ir nepieciešami cilvēki, kas ir pilnvarota noteikt, kad kaut kas nav pareizi, un sākt to labot.