Saturs
Prezentēja: AltaML
J:
Kāpēc daži uzņēmumi apsver iespēju pievienot “cilvēku atsauksmes kontroli” mūsdienu AI sistēmām?
A:
Daži uzņēmumi, kas strādā ar modernākajām AI tehnoloģijām, strādā pie tā, lai ieviestu šo sistēmu vadības funkcijas, mašīnmācības un dziļās apmācības rīkiem dodot tiešu cilvēku uzraudzību. Arī šie uzņēmumi nav mazi spēlētāji - Google “DeepMind” un Elona Muska “OpenAI” ir divi lielo uzņēmumu piemēri, kas sāk izmantot mākslīgā intelekta attīstību. Paturot to prātā, rezultāti atšķiras - piemēram, DeepMind ir diskutējis par savu nevēlēšanos sniegt sabiedrībai svarīgus datus, savukārt OpenAI ir daudz vairāk, atvērts par tās darbu mākslīgā intelekta kontrolē.
Pat tādi ievērības cienīgi kā Bils Geitss šajā jautājumā ir apsvēruši, Geitss sacīja, ka viņš ir viens no daudzajiem, kas uztraucas par mākslīgas superinteliģences parādīšanos, kas savā ziņā var pāriet ārpus cilvēka kontroles. Musks no savas puses ir izteicis arī satraucošu valodu par “negodprātīgas AI” iespējamību.
Tas, iespējams, ir vissteidzamākais iemesls, kāpēc uzņēmumi strādā, lai AI piemērotu cilvēku vadību - ideja, ka dažas tehnoloģiskas atšķirības radīs īpaši jaudīgu, jūtīgu tehnoloģiju, kuru cilvēki vienkārši vairs nevar kontrolēt. Kopš cilvēka ambīciju rītausmas mēs esam uzstādījuši instrumentus, lai pārliecinātos, ka mēs varam kontrolēt mūsu rīcībā esošās spējas - vai tie ir zirgi ar grožiem un zirglietām, elektrība izolētos vados vai kāds cits kontroles mehānisms, kam ir kontrole ir cilvēka dabiski funkcionējoša funkcija, un tāpēc visā pasaulē ir jēga, ka, mākslīgajam intelektam tuvojoties reālajai funkcionalitātei, cilvēki piemēro savas tiešās vadības, lai šo spēku kontrolētu.
Tomēr bailes no īpaši inteliģentiem robotiem nav vienīgais iemesls, kāpēc uzņēmumi mašīnu apguvei un AI projektiem piemēro cilvēku vadību. Vēl viens būtisks iemesls ir mašīnu neobjektivitāte - šī ir ideja, ka mākslīgā intelekta sistēmām bieži ir ierobežoti, kā tās novērtē attiecīgos datus - tā, lai tās pastiprinātu jebkādu sistēmai raksturīgu aizspriedumu. Lielākā daļa profesionāļu, kas nodarbojas ar mašīnmācību, var stāstīt šausmu stāstus par IT sistēmām, kuras nespēja izturēties vienādi pret cilvēku lietotāju grupām - neatkarīgi no tā, vai tā bija dzimums vai etniskā atšķirība, vai kāda cita sistēmas nespēja īsti izprast mūsu cilvēku sabiedrības nianses un kā mēs mijiedarbojamies ar cilvēkiem.
Zināmā mērā mēs varētu kontrolēt sistēmas cilvēkiem tāpēc, ka mēs baidāmies, ka tie varētu būt pārāk jaudīgi, vai pārmaiņus, jo mēs baidāmies, ka tie varētu nebūt pietiekami jaudīgi. Cilvēku vadība palīdz mērķēt mašīnmācības datu kopas, lai nodrošinātu lielāku precizitāti. Tie palīdz nostiprināt idejas, kuras dators vienkārši nevar iemācīties pats, vai nu tāpēc, ka modelis nav pietiekami izsmalcināts, jo AI nav pietiekami progresējusi, vai arī tāpēc, ka dažas lietas vienkārši atrodas cilvēku izziņas provincē. Mākslīgais intelekts dažām lietām ir lielisks - piemēram, uz atalgojumu un rezultātu balstīta sistēma ļāva mākslīgajam intelektam pārspēt cilvēku, kurš spēlē ļoti sarežģītā galda spēlē “Go”, bet citām lietām šī stimulēšanas sistēma ir pilnīgi neatbilstoši.
Īsumā, ir vairāki pārliecinoši iemesli, lai cilvēku lietotāji būtu tieši iesaistīti mākslīgā intelekta projektu darbībā. Pat labākās mākslīgā intelekta tehnoloģijas pats par sevi var daudz domāt, taču bez reālām bioloģiskām cilvēka smadzenēm, kas var apstrādāt tādas lietas kā emocijas un sociālās paradumus, viņi vienkārši nevar redzēt lielo ainu cilvēciskā veidā.
Kvalificēts mašīnu apguves uzņēmums var palīdzēt panākt šo līdzsvaru, apvienojot biznesa un mācību priekšmetu ekspertus, kā arī mašīnmācīšanās izstrādātājus ar prasmēm risināt lielas biznesa problēmas.
