Patiesās AI briesmas ir tuvāk, nekā mēs domājam

Aizmirstiet par superinteliģento AI: algoritmi jau rada reālu kaitējumu. Labās ziņas: cīņa ir sākusies.



2020. gada 21. oktobris Viljams Īzaks

Viljams Īzaks sāka pētīt neobjektivitāti paredzamajos policijas algoritmos 2016. gadā.Deivids Vintiners

Kamēr cilvēki ir būvējuši mašīnas, mēs baidījāmies no dienas, kad tās varētu mūs iznīcināt. Stīvens Hokings lieliski brīdināja, ka mākslīgais intelekts var nozīmēt civilizācijas galu. Taču daudziem AI pētniekiem šīs sarunas šķiet nepiespiestas. Nav tā, ka viņi nebaidās no mākslīgā intelekta, bet viņi redz, ka tas jau notiek, tikai ne tā, kā vairums cilvēku to sagaidītu.





planēta tāpat kā zeme

AI tagad pārbauda darba kandidātus, diagnosticē slimības un identificē aizdomās turamās personas. Taču tā vietā, lai padarītu šos lēmumus efektīvākus vai taisnīgākus, tas bieži vien saglabā to cilvēku aizspriedumus, kuru lēmumiem tas tika apmācīts.

Ilgtermiņa jautājums

Šis stāsts bija daļa no mūsu 2020. gada novembra numura

  • Skatiet pārējo izdevuma daļu
  • Abonēt

Viljams Īzaks ir vecākais pētnieks par ētikas un sabiedrības komandu uzņēmumā DeepMind — mākslīgā intelekta jaunuzņēmumā, kuru Google iegādājās 2014. gadā. Viņš arī ir līdzpriekšsēdētājs konferencē Godīgums, atbildība un pārredzamība — šī ir galvenā ikgadējā AI ekspertu, sociālo zinātnieku, un šajā jomā strādājošie juristi. Es viņam jautāju par pašreizējām un iespējamām problēmām, ar kurām saskaras AI attīstība, kā arī par risinājumiem.



J: Vai mums vajadzētu uztraukties par superinteliģentu AI?

A: Es gribu mainīt jautājumu. Draudi pārklājas neatkarīgi no tā, vai tie ir paredzamā kārtības nodrošināšana un riska novērtējums tuvākajā laikā vai mērogotākas un progresīvākas sistēmas ilgtermiņā. Daudziem no šiem jautājumiem ir arī vēstures pamats. Tātad iespējamie riski un veidi, kā tiem piekļūt, nav tik abstrakti, kā mēs domājam.

Ir trīs jomas, kuras vēlos atzīmēt. Iespējams, vissteidzamākais ir jautājums par vērtību saskaņošanu: kā jūs faktiski veidojat sistēmu, kas spēj saprast un īstenot dažādas iedzīvotāju preferenču un vērtību formas? Dažu pēdējo gadu laikā mēs esam redzējuši politikas veidotāju, nozares un citu cilvēku mēģinājumus vērienīgi iestrādāt vērtības tehniskajās sistēmās — tādās jomās kā paredzamā kārtības nodrošināšana, riska novērtējumi, pieņemšana darbā utt. Ir skaidrs, ka tie demonstrē zināmu neobjektivitāti kas atspoguļo sabiedrību. Ideālā sistēma līdzsvarotu visas daudzu ieinteresēto pušu un daudzu iedzīvotāju vajadzības. Bet kā sabiedrība saskaņo savu vēsturi ar tiekšanos? Mēs joprojām cīnāmies ar atbildēm, un šis jautājums kļūs eksponenciāli sarežģītāks. Šīs problēmas risināšana ir ne tikai nākotne, bet arī šeit un tagad.

Otrs būtu uzskatāma sociālā labuma sasniegšana. Līdz šim joprojām ir maz empīrisku pierādījumu, kas apstiprinātu, ka AI tehnoloģijas sniegs plašu sociālo labumu, uz kuru mēs tiecamies.

Visbeidzot, es domāju, ka lielākais jautājums, par ko uztrauc ikviens, kas strādā šajā telpā, ir šāds: kādi ir spēcīgie pārraudzības un atbildības mehānismi.



J: Kā mēs varam pārvarēt šos riskus un izaicinājumus?

A: Trīs jomas būtu tāls ceļš. Pirmais ir veidot kolektīvu muskuļus atbildīgai inovācijai un pārraudzībai. Noteikti domājiet par to, kur pastāv novirzes, neobjektivitātes vai kaitējuma veidi. Noteikti izstrādājiet labus procesus, lai nodrošinātu, ka visas grupas ir iesaistītas tehnoloģiskās izstrādes procesā. Grupas, kas vēsturiski ir bijušas marginalizētas, bieži vien nav tās, kuru vajadzības tiek apmierinātas. Tāpēc ir svarīgi, kā mēs plānojam procesus, lai to paveiktu.

cik maksā senču pārbaude

Otrais mērķis ir paātrināt sociāli tehnisko līdzekļu izstrādi, lai faktiski veiktu šo darbu. Mums nav daudz rīku.

Pēdējais nodrošina lielāku finansējumu un apmācību pētniekiem un praktiķiem, jo ​​īpaši pētniekiem un praktiķiem, lai veiktu šo darbu. Ne tikai mašīnmācībā, bet arī STS [zinātnē, tehnoloģijā un sabiedrībā] un sociālajās zinātnēs. Mēs vēlamies, lai mums būtu ne tikai daži cilvēki, bet arī pētnieku kopiena, lai patiešām izprastu iespējamo kaitējumu, ko rada AI sistēmas, un to, kā to veiksmīgi mazināt.

J: Cik tālu AI pētnieki ir nonākuši, domājot par šiem izaicinājumiem, un cik tālu viņiem vēl ir jāiet?

A: 2016. gadā, es atceros, Baltais nams tikko nāca klajā ar lielu datu ziņojumu, un bija spēcīga optimisma sajūta, ka mēs varētu izmantot datus un mašīnmācīšanos, lai atrisinātu dažas neatrisināmas sociālās problēmas. Tajā pašā laikā akadēmiskajā aprindā bija pētnieki, kuri bija atzīmējuši ļoti abstraktā nozīmē: Hei, ir daži iespējamie kaitējumi, ko varētu nodarīt, izmantojot šīs sistēmas. Bet viņi lielākoties nebija mijiedarbojušies. Tie pastāvēja unikālos silosos.

Kopš tā laika mēs tikko esam veikuši daudz vairāk pētījumu, kas vērsti uz šo krustpunktu starp zināmajiem trūkumiem mašīnmācības sistēmās un to pielietojumu sabiedrībā. Kad cilvēki sāka redzēt šo mijiedarbību, viņi saprata: labi, tas nav tikai hipotētisks risks. Tas ir reāls drauds. Tātad, ja skatāties uz lauku pa fāzēm, pirmā fāze ļoti uzsvēra un atklāja, ka šīs bažas ir patiesas. Otrais posms tagad sāk cīnīties ar plašākiem sistēmiskiem jautājumiem.

J: Vai esat optimistisks par plaša mēroga labvēlīga AI sasniegšanu?

A: Es esmu. Pēdējie gadi man ir devuši daudz cerību. Apskatiet sejas atpazīšanu kā piemēru. Džojs Buolamvini, Timnits Gebru un Debs Raji lieliski strādāja, lai novērstu sejas atpazīšanas sistēmu precizitātes krustpunktu atšķirības [t.i., parādot, ka šīs sistēmas ir daudz mazāk precīzas melnādaino sieviešu sejām nekā balto vīriešu sejām]. Pilsoniskā sabiedrībā tiek atbalstīta stingra cilvēktiesību aizsardzība pret nepareizu sejas atpazīšanas izmantošanu. Un arī lielais darbs, ko paveica politikas veidotāji, regulatori un kopienas grupas no pamatiem, lai precīzi paziņotu, kas ir sejas atpazīšanas sistēmas un kādus iespējamos riskus tās rada, un pieprasītu skaidrību par to, kādi būs ieguvumi sabiedrībai. Tas ir paraugs tam, kā mēs varētu iedomāties mijiedarbību ar citiem AI sasniegumiem.

Taču sejas atpazīšanas problēma ir tāda, ka mums bija jāizlemj šie ētikas un vērtību jautājumi, kamēr mēs publiski izvietojām tehnoloģiju. Nākotnē es ceru, ka dažas no šīm sarunām notiks pirms iespējamā kaitējuma parādīšanās.

kāpēc oglekļa kompensācijas nedarbojas

J: Par ko jūs sapņojat, kad sapņojat par AI nākotni?

A: Tas varētu būt lielisks izlīdzinātājs. Piemēram, ja jums būtu mākslīgā intelekta skolotāji vai pasniedzēji, kas varētu būt pieejami studentiem un kopienām, kur piekļuve izglītībai un resursiem ir ļoti ierobežota, tas būtu ļoti spēcinoši. Un tas ir nekas neparasts, ko no šīs tehnoloģijas vēlēties. Kā jūs zināt, ka tas dod spēku? Kā jūs zināt, ka tas ir sociāli izdevīgi?

Flintas ūdens krīzes laikā es devos uz absolventu skolu Mičiganā. Kad parādījās sākotnējie svina cauruļu gadījumi, viņu rīcībā esošie ieraksti par to, kur atrodas cauruļvadu sistēmas, atradās administratīvās ēkas apakšā esošo indeksu kartēs. Tehnoloģiju pieejamības trūkums bija nostādījis tās ievērojamā neizdevīgā stāvoklī. Tas nozīmē, ka cilvēki, kas uzauguši šajās kopienās, no kuriem vairāk nekā 50% ir afroamerikāņi, uzauguši vidē, kurā viņi nesaņem pamatpakalpojumus un resursus.

Tātad jautājums ir šāds: vai šīs tehnoloģijas varētu uzlabot viņu dzīves līmeni? Mašīnmācība spēja identificēt un paredzēt, kur atrodas svina caurules, tāpēc tā samazināja pilsētas faktiskās remonta izmaksas. Bet tas bija milzīgs pasākums, un tas bija reti. Un, kā mēs zinām, Flints joprojām nav noņēmis visas caurules, tāpēc pastāv arī politiski un sociāli izaicinājumi — mašīnmācīšanās neatrisinās tās visas. Bet mēs ceram, ka mēs izstrādāsim rīkus, kas dod spēku šīm kopienām un nodrošina nozīmīgas pārmaiņas viņu dzīvē. Tas ir tas, par ko es domāju, kad mēs runājam par to, ko mēs veidojam. Tas ir tas, ko es gribu redzēt.

paslēpties

Faktiskās Tehnoloģijas

Kategorija

Bez Kategorijas

Tehnoloģija

Biotehnoloģija

Tehniskā Politika

Klimata Izmaiņas

Cilvēki Un Tehnoloģijas

Silikona Ieleja

Datortehnika

Žurnāls Mit News

Mākslīgais Intelekts

Kosmoss

Gudrās Pilsētas

Blockchain

Funkcijas Stāsts

Absolventu Profils

Absolventu Savienojums

Mit News Funkcija

1865. Gads

Mans Skats

77 Mass Ave

Iepazīstieties Ar Autoru

Profili Dāsnumā

Redzēts Universitātes Pilsētiņā

Absolventu Vēstules

Jaunumi

2020. Gada Vēlēšanas

Ar Indeksu

Zem Kupola

Ugunsdzēsības Šļūtene

Bezgalīgi Stāsti

Pandēmijas Tehnoloģiju Projekts

No Prezidenta

Vāka Stāsts

Foto Galerija

Ieteicams