Siðfræði gervigreindar og sjálfstjórnarkerfa lærdómur af því nýlega flugi Alaska Airlines þar sem flugmaðurinn og aðstoðarflugmaðurinn voru ósammála áður en þeir fóru í loftið og völdu skyndilega að leigubíla aftur í flugstöðina og fara sínar aðskildar leiðir

Flugfélög hafa verið talsvert í fréttum undanfarið.

Við erum í sumarflugi. Þreytir og svekktir farþegar standa frammi fyrir alls kyns truflunum á flugi og straumhvörfum flugfélaga. Flugi fellur óvænt niður. Flugi er seinkað. Farþegar gufa. Það hafa því miður verið mörg dæmi um farþega sem leyfa þessum pirringi að brjótast út og við höfum séð grátlega of mörg veirumyndbönd af árekstrum á höfði og stundum dúndrandi hnefahöggum.

Sjaldgæfara fáum við að vita um deilur milli flugmanns og aðstoðarflugmanns sem gætu komið upp í stjórnklefa.

Það kemur talsvert á óvart.

Reyndar kemur okkur eðlilega á óvart að flugmaður og aðstoðarflugmaður myndu hafa einhvern svip á alvarlegum ágreiningi á hvaða stigi flugs sem er. Ef ágreiningurinn snýr að því hvaða kaffitegund er best, þá er forsendan okkar sú að það myndi ekki trufla vinnuátakið sem felur í sér að fljúga flugvélinni. Þeir tveir myndu einfaldlega yppta öxlum af skortinum á auga til auga um efni sem virðist flug-óviðkomandi. Fagleg framkoma þeirra og langvarandi flugmannsþjálfun myndi byrja og þeir myndu hnoða einbeitinguna aftur að flugupplýsingunum.

Hugleiddu þó hvenær a faglegur ágreiningur grípur inn í.

Ég ætla að deila með ykkur í stuttu máli frétt sem er víða birt um nýlegt dæmi um eitthvað sem gerðist í flugi í Bandaríkjunum sem tengist meintum faglegum ágreiningi í flugstjórnarklefanum.

Þetta er aðallega vitnað hér til að við getum kannað skyld efni sem er mjög mikilvægt fyrir tilkomu gervigreindar (AI). Þú sérð, það getur verið einhvers konar faglegur ágreiningur milli ekki bara manna í ágreiningi milli manna, heldur getum við líka látið eitthvað svipað eiga sér stað innan um innleiðingu gervigreindar og ergo sem leiðir af sér faglegan ágreining milli manna og gervigreindar. . Alls konar siðfræði hugleiðingar um gervigreind koma upp. Fyrir víðtæka og viðvarandi umfjöllun mína um siðfræði gervigreindar og siðferðileg gervigreind málefni, sjá hlekkinn hér og hlekkinn hér, bara til að nefna nokkrar.

Gerðu þig tilbúinn fyrir heillandi sögu.

Eins og nýlega var greint frá í fréttum kom upp „faglegur ágreiningur“ greinilega í flugi Alaska Airline sem var á leið frá Washington til San Francisco. Samkvæmt fréttum hafði flugið fjarlægst hliðið og beið á malbikinu eftir leyfi til að leigubíla og taka flugið. Óveður var í gangi og leiddi til þess að flug seinkun var um meira en eina og hálfa klukkustund. Í ljós kom að vélin sneri á endanum við og stefndi aftur að hliðinu, sem sumir farþeganna gætu venjulega hafa gert ráð fyrir að væri einfaldlega óveðurstengd öryggisráðstöfun.

Samkvæmt ýmsum tístum virðist sem flugmaðurinn og aðstoðarflugmaðurinn hafi átt í einhverskonar rifrildi á meðan þeir voru þarna í flugstjórnarklefanum og komust einhvern veginn að þeirri niðurstöðu að skynsamlegasta aðferðin væri að skúra flugið og snúa aftur í flugstöðina. . Tweets bentu til þess að skipstjórinn og yfirmaðurinn gætu greinilega ekki átt samleið. Síðar gaf flugfélagið út yfirlýsingu um að ástandið væri óheppilegt (ástandið var ekki tilgreint beint eða útskýrt í sjálfu sér), flugstjórarnir tveir voru metnir af stjórnendum og metnir hæfir til að fljúga, skipt var um áhafnir og flugið fór á endanum fram og síðar kom til San Francisco.

Í einum skilningi, ef í raun og veru var faglegur ágreiningur milli flugmanns og aðstoðarflugmanns eins og hvort flugvélin væri hæfilega tilbúin til flugs eða hvort hættan á að fljúga í gegnum storm væri innan hæfilegs öryggissviðs, þá ætti að létta af þeim farþegum og þakklát fyrir að flugvélinni var skilað að hliðinu. Betra að vera öruggur en því miður. Að hafa frekari seinkun er vel þess virði að draga úr áhættu sem tengist álitinni hrikalegri eða slæmri flugferð.

Sumum gæti komið á óvart að slíkur faglegur ágreiningur gæti komið upp.

Við höfum kannski ranga hugmynd um að allt sem gerist í stjórnklefanum sé algjörlega nákvæmt og vel skrifað. Alls konar mannleg geðþótta hefur að því er virðist verið tekin úr ferlinu. Byggt á nákvæmum og ítarlega útreiknuðum kortum er annað hvort í lagi að halda flugi áfram eða ekki. Það getur ekki verið neinn ágreiningur þegar talið er að allt settið og kápan byggist á óhrekjanlegum útreikningi á staðreyndum og tölum.

Það er ekki fullur sannleikur málsins. Vissulega er til hellingur af samskiptareglum og alls kyns eftirliti og jafnvægi, en þetta kreistir ekki út allan mannlega dómgreind. Flugmenn og aðstoðarflugmenn beita enn mannlegri dómgreind. Sem betur fer er þessi manndómur slípaður með margra ára flugi. Líkurnar eru á því að flugmaður og aðstoðarflugmaður í farþegaflugvél hafi ógrynni af fyrri flugreynslu og nýti auðveldlega margra ára ítarlega rökhugsun og dómgreind sem tengist því að vera við flugstjórnendur.

Með hliðsjón af athyglisverðu hlutverki mannlegrar dómgreindar gætum við rökrétt gert ráð fyrir því að flugmaður og aðstoðarflugmaður muni stundum lenda í faglegum ágreiningi. Oftast er væntanlega mjög lítill slíkur ágreiningur. Flugmaðurinn og aðstoðarflugmaðurinn í daglegu flugi eru líklegri til að vera vel í takt við yfirgnæfandi tíma. Aðeins þegar flugatburðarás gæti farið út fyrir hefðbundin mörk myndum við búast við að spennugri núning myndist.

Ef það er mikill skoðanamunur á þessu tvennu myndi ég þora að fullyrða að við viljum að þeir fari að hasla það út.

Ímyndaðu þér aðstæður þar sem flugmaðurinn vill halda áfram en aðstoðarflugmaðurinn skynjar að áhættan er of mikil. Það virðist óæskilegt að láta flugmanninn bara fá aðstoðarflugmanninn. Aðstoðarflugmaðurinn er eftirlit með því sem flugmaður gæti verið að hugsa um að gera. Fyrir þá sem vilja að aðstoðarflugmaður haldi kjafti og bregðist eingöngu við því sem flugmaðurinn skipar, jæja, það er ekki mikil fullvissa. Aðstoðarflugmaður er ekki bara „flugmaður“ til vara sem kemur aðeins inn í myndina þegar flugmaðurinn er gjörsamlega óvinnufær. Það er rangur skilningur á gildi þess að hafa flugmann og aðstoðarflugmann í stjórnklefanum.

Það er annar vinkill á þessu.

Lítum á mál flugmanns sem trúir því að flug eigi ekki að halda áfram og á meðan er aðstoðarflugmaðurinn geggjaður við að komast upp í loftið. Hvað þá? Samkvæmt því stigveldi sem búist er við er ætlað að flugmaðurinn hafi að jafnaði sigra yfir aðstoðarflugmanninum. Hið tilnefnda hlutverk að vera aðalstjórnandinn gerir flugmanninn meiri en annars er nokkuð jafnt. Venjulega hefur flugmaðurinn meiri flugtímakrydd í heildina en aðstoðarflugmaðurinn og því er stýrimaður á stigveldisvísu að víkja að óskum flugmannsins (þegar skynsamlegt sé).

Í öllu falli held ég að við getum öll verið sammála um að það að velja að fljúga ekki er örugglega áhættuminni val en að ákveða að fljúga. Þegar flugvélin er komin í loftið verður áhættustigið gríðarlegt í samanburði við það að vera á hvaða venjulegu stöðugu landi sem er. Hefðbundið atvinnuflug sem einfaldlega keyrir til baka í flugstöðina án þess að hafa komist í loftið væri nokkuð vinsamleg lausn á allri heitri og harðvítugum umræðu um að fara í flug.

Við skulum skipta um gír og nota þessa spræku frétt í allt öðrum en skyldum tilgangi.

Við erum smám saman að hafa meðal okkar algengi sjálfstýrðra kerfa sem byggjast á gervigreind. Stundum stýrir gervigreindin sýninguna eins og það var. AI gerir allt frá A til Ö og við gætum túlkað þetta sem AI sem er fullkomlega sjálfstætt eða næstum því. Í öðrum tilfellum getum við haft gervigreind sem hefur samskipti við og að einhverju leyti er forrituð til að vera háð því að hafa manneskju í lykkju.

Mig langar að einbeita mér að málinu um sjálfstætt eða hálfsjálfstætt kerfi sem byggir á gervigreind sem er með manneskju frá upphafi. Gervigreind og manneskjan eru viljandi þrýst saman og eiga að vinna í takt við hvert annað. Þeir eru árgangar í að sinna tilteknu verkefni sem fyrir hendi er. Gervigreindin ein á ekki að sinna verkefninu. Gervigreindin verður að hafa samskipti við tilnefndan mann-í-lykkju.

Ég tek upp þessa persónulýsingu til að greina frá aðstæðum þar sem manneskjan í lykkjunni er talin valfrjáls hlið. Í raun er gervigreindinni gefinn laus taumur. Ef gervigreind kýs að nýta manninn, þá er það svo að gera það. Það er engin krafa um að gervigreindin þurfi að snerta grunn við eða vinna hönd í hönd með tilnefndum manneskju. Þær greiningar sem ég er að fara að segja eiga svo sannarlega við um slíkt valfrjálst samskiptafyrirkomulag, en það er ekki það sem ég er sérstaklega að keyra að í þessari tilteknu umræðu.

Allt í lagi, svo við höfum einhvers konar verkefni sem maður og gervigreind ætla að vinna saman að, óaðskiljanlega frá hvort öðru. Í óhlutbundnum skilningi erum við með mann sem situr í öðru sætinu og gervigreindarkerfi sem situr í hinu meðfylgjandi sætinu. Ég segi þetta ósvífni vegna þess að við erum ekki að einskorða þessa umræðu við til dæmis vélmenni sem gæti í raun setið í sæti. Ég er myndrænt að vísa til hugmyndarinnar um að gervigreindin sé einhvers staðar að taka þátt í verkefninu og manneskjan líka. Líkamlega er dvalarstaður þeirra ekki sérstaklega mikilvægur fyrir umræðuna.

Þú gætir verið óviss um hvenær slíkar aðstæður gætu komið upp.

Auðvelt peasy.

Ég mun síðar fjalla um tilkomu sjálfkeyrandi farartækja og sjálfkeyrandi bíla. Á ákveðnum stigum sjálfræðis eiga gervigreind og manneskjan að vinna saman. Gervigreind gæti verið að keyra bílinn og beðið um að maðurinn taki yfir akstursstýringarnar. Maðurinn gæti verið að keyra bílinn og virkja gervigreindina til að taka við stjórnunum. Þeir eru að skiptast á akstursstýringum.

Að auki eru sumar hönnun að láta gervigreindina vera í meginatriðum virk allan tímann (eða, nema slökkt sé á), þannig að gervigreindin sé alltaf tilbúin. Ennfremur gæti gervigreindin gripið beint inn, jafnvel án þess að manneskjan spyrji, allt eftir aðstæðum sem eru að þróast. Segjum til dæmis að maðurinn virðist hafa sofnað við stýrið. Þar sem maðurinn virðist ekki geta virkjað gervigreindina (vegna þess að viðkomandi sefur), gæti gervigreindin verið forrituð til að taka við stjórnunum af manneskjunni.

Sum hönnun koma gervigreindinni og mönnum í tvöfalda akstursaðferð. Gervigreindin keyrir og maðurinn keyrir. Eða, ef þú vilt, maðurinn keyrir og gervigreindin keyrir líka. Þeir eru hvor um sig að aka bílnum. Ég líki þessu við þessa sérútbúna bíla sem þú notaðir kannski þegar þú fórst í ökuþjálfun og það voru tvö sett af ökustýringum í farartækinu, eitt fyrir ökunema og eitt fyrir ökukennara.

Þetta er aðeins eitt dæmi um umhverfi þar sem gervigreind og menn gætu unnið sameiginlega að verkefni. Alls konar möguleikar eru fyrir hendi. Aðrar tegundir sjálfstýrðra farartækja gætu verið hugsaðar á svipaðan hátt, eins og flugvélar, drónar, kafbátar, yfirborðsskip, lestir og svo framvegis. Við þurfum ekki aðeins að huga að stillingum ökutækja og flutninga. Sjáðu fyrir þér læknissviðið og skurðaðgerðir sem læknir og gervigreindarkerfi framkvæma sameiginlega. Listinn er endalaus.

Mér finnst næstum eins og að vísa í klassískan uppnámsbrandarann ​​um manneskju og gervigreind sem ganga saman inn á bar. Það er alveg grín fyrir þá sem eru í gervigreind.

Í alvöru, við skulum snúa okkur aftur að áherslum manns og gervigreindarkerfis sem vinnur saman að tilteknu verkefni. Í fyrsta lagi vil ég forðast manngerð gervigreindar, sem er eitthvað sem ég mun leggja áherslu á í gegn. Gervigreindin er ekki skynsöm. Vinsamlegast hafðu það í huga.

Hér er eitthvað til að velta fyrir sér: Mun tilnefndur maður-í-lykkju alltaf vera algjörlega sammála gervigreindum í samstarfi?

Fyrir öll flókin verkefni virðist ólíklegt að manneskjan og gervigreindin verði algjörlega og alltaf í fullu tré. Manneskjan mun stundum vera ósammála gervigreindinni. Við getum tekið þá forsendu alla leið í bankann.

Ég vil að þú hugleiðir líka þennan kannski óvænta möguleika líka: Mun gervigreindin alltaf vera í algjöru samræmi við tilnefndan mann-í-lykkju?

Aftur, fyrir hvaða flóknu verkefni sem er, þá virðist það alveg hugsanlegt að gervigreind sé ekki sammála mönnum í sumum tilfellum. Ef þú ert nú þegar að hallast að hugmyndinni um að gervigreind hljóti alltaf að vera röng á meðan menn verða alltaf að hafa rétt fyrir sér, væri skynsamlegt að endurskoða þá skyndiályktun. Sjáðu fyrir þér bíl sem hefur manneskju og gervigreind sem keyra í sameiningu hálfsjálfvirku farartækinu. Manneskjan stýrir í átt að múrsteinsvegg. Hvers vegna? Við vitum það ekki, kannski er maðurinn ölvaður eða hefur sofnað, en við vitum að það er ekki góð hugmynd að rekast á múrvegg, að öðru óbreyttu. Gervigreind gæti greint komandi ógæfu og leitast við að stýra í burtu frá yfirvofandi hindrun.

Allt sagt, við munum hafa þann sérstaka möguleika að gervigreind og manneskjan séu ósammála hvort öðru. Hin leiðin til að segja það sama er að menn og gervigreind eru ósammála hvort öðru. Athugaðu að ég vil ekki að raðgreining gervigreindar og manneskju á móti mönnum og gervigreindum gefi til kynna neitt um stefnu eða trúverðugleika ágreiningsins.

Starfsmennirnir tveir, einn maður og einn sem er gervigreind, eru ósammála hvor öðrum.

Við gætum fyrirfram lýst því yfir að hvenær sem ágreiningur verður á milli tiltekins gervigreindar og tiltekins manns, þá lýsum við fyrirfram yfir að manneskjan sigri yfir gervigreindinni. Sem sagt, lýsandi dæmi mitt um bílinn sem er á leið inn í múrsteinsvegg virðist draga okkur frá því að maðurinn hafi alltaf endilega rétt fyrir sér.

Við gætum aftur á móti valið að lýsa því yfir fyrirfram að hvenær sem ágreiningur kemur upp að við höfum fyrirfram staðfest að gervigreindin sé rétt og manneskjan rangt. Þetta er heldur ekki skynsamlega alhæfanlegt ákvæði. Ímyndaðu þér bíl þar sem gervigreindin hefur einhverja innbyggða hugbúnaðarvillu eða villu og gervigreindin er að reyna að stýra ökutækinu af veginum og ofan í skurð. Að því gefnu að allt annað sé jafnt ætti maðurinn að geta sigrast á þessum gervigreindarakstursaðgerðum og komið í veg fyrir að farartækið lendi í gilinu.

Við skulum gera stutta samantekt á þessu:

• Mun maður-í-the-loop alltaf vera í algjöru samkomulagi við gervigreind? Svar: Nei
• Verður gervigreind alltaf í fullkomnu samræmi við mann-í-lykkju? Svar: Nr.
• Mun maður-í-lykkju alltaf vera rétt í samanburði við gervigreind? Svar: Ekki endilega.
• Mun gervigreindin alltaf vera rétt í samanburði við manninn-í-lykkjuna? Svar: Ekki endilega.

Þú getur vissulega sett upp gervigreindina þannig að það sé sjálfgefið talið „rangur“ eða veikari aðili og því alltaf vikið til mannsins þegar ágreiningur kemur upp. Sömuleiðis geturðu sett upp gervigreindina til að gera ráð fyrir að gervigreindin sé talin „rétt“ þegar maður er ósammála gervigreindinni. Ég vil taka það skýrt fram að við getum gert það á dagskrá ef við viljum gera það. Ég er þó að halda því fram að almennt sé þetta ekki alltaf þannig. Það eru örugglega stillingar þar sem við vitum ekki fyrirfram hvort gervigreindin er „rétt“ eða manneskjan „rétt“ með tilliti til þess að velja einn eða annan í ágreiningi sem tengist tilteknu verkefni.

Ég hef leitt þig að mjög mikilvægri og mjög flókinni spurningu.

Hvað ættum við að gera þegar faglegur ágreiningur kemur upp á milli gervigreindar og gervigreindar (eða á sama hátt getum við orðað þetta þannig að það sé milli gervigreindar og gervigreindar)?

Ekki reyna að forðast spurninguna.

Sumir gætu haldið því fram að þetta myndi aldrei gerast, en eins og ég hef sett fram í dæminu mínu um bílinn gæti það örugglega gerst. Sumir gætu haldið því fram að maður sé augljóslega æðri og hljóti að vera sigurvegari hvers kyns ágreinings. Dæmi mitt um bílinn og múrsteinsvegginn slær þann niður. Það eru talsmenn gervigreindar sem gætu haldið því fram að gervigreind hljóti að vera sigurvegarinn, vegna þess að þeir hafa sigrast á mannlegum tilfinningum og ósvífnum hugsunum hjá þessum tilviljanakenndu, óskýrhugsuðu mönnum. Enn og aftur, hitt dæmið mitt sem felur í sér að bíllinn er á leið út í skurðinn dregur úr þeirri fullyrðingu.

Í hinum raunverulega heimi munu gervigreind og menn vera ósammála, jafnvel þegar þeir tveir eru viljandi leiddir í hópaðstæður til að framkvæma sameiginlegt verkefni. Það mun gerast. Við getum ekki stungið hausnum í sandinn og látið eins og það muni ekki gerast.

Við sáum að mennirnir sem stýrðu vélinni lentu í ósætti. Sem betur fer voru þeir sammála um að vera ósammála, svo það virðist. Þeir komu með vélina aftur til flugstöðvarinnar. Þeir fundu leið til að takast á við ágreininginn. Úrslitin á ágreiningi þeirra virkuðu vel, í samanburði við ef þeir hefðu ef til vill farið á hausinn í flugstjórnarklefanum eða kannski flogið upp í loftið og haldið áfram að berjast sín á milli. Þetta er sorgleg atburðarás sem er óviðunandi og við getum verið þakklát að hún hafi ekki átt sér stað.

Leyfðu mér að koma með lista minn yfir hinar ýmsu leiðir sem hægt er að leysa ágreining um gervigreind og mann-í-lykkju (eða mann-í-lykkju og gervigreind):

• gervigreind og manneskjan sem er í sameiningu vinna úr hlutunum (í vinsemd eða ekki)
• Manneskjan sigrar yfir gervigreindinni, sjálfgefið
• AI sigrar yfir manneskjunni, sjálfgefið
• Einhver önnur fyrirfram ákveðin föst upplausn ríkir sjálfgefið
• Þriðja aðila manneskjan er tekin í lykkju og vísbending þeirra ríkir yfir aðila
• Þriðja aðila gervigreind er tekin í lykkju og vísbending þess ríkir yfir aðila
• Þriðji maður kemur í stað núverandi manneskju, hlutirnir halda áfram að nýju
• Gervigreind þriðja aðila kemur í stað núverandi gervigreindar, hlutirnir halda áfram að nýju
• Maður frá þriðja aðila kemur í stað núverandi gervigreindar, hlutirnir halda áfram að nýju (nú mann til mann)
• Gervigreind þriðja aðila kemur í stað núverandi manneskju, hlutirnir halda áfram að nýju (nú gervigreind til gervigreindar)
• Annað

Þessum er berlega verðugt að vera pakkað niður.

Áður en farið er út í meira kjöt og kartöflur um villtar og ullarlegar hugleiðingar sem liggja til grundvallar hvernig eigi að takast á við gervigreind og mannlega ágreining, skulum við leggja fram nokkur viðbótar grundvallaratriði um mjög mikilvæg efni. Við þurfum að fara stuttlega yfir gervigreindarsiðfræði og sérstaklega tilkomu vélanáms (ML) og djúpnáms (DL).

Þú gætir verið óljóst meðvituð um að ein háværasta röddin þessa dagana á gervigreindarsviðinu og jafnvel utan gervigreindarsviðsins felst í því að krefjast meiri yfirbragðs af siðfræðilegri gervigreind. Við skulum skoða hvað það þýðir að vísa til gervigreindarsiðfræði og siðræn gervigreind. Ofan á það munum við kanna hvað ég á við þegar ég tala um vélanám og djúpt nám.

Einn ákveðinn hluti eða hluti gervigreindarsiðfræði sem hefur fengið mikla athygli fjölmiðla samanstendur af gervigreind sem sýnir óheppileg hlutdrægni og ójöfnuð. Þú gætir verið meðvitaður um að þegar nýjasta tímabil gervigreindar hófst var mikill eldmóður fyrir því sem sumir kalla núna AI til góðs. Því miður fórum við að verða vitni að því í kjölfar þessarar spennuþrungna AI For Bad. Til dæmis hafa ýmis gervigreind andlitsgreiningarkerfi komið í ljós að innihalda kynþátta- og kynjahlutdrægni, sem ég hef fjallað um á hlekkinn hér.

Viðleitni til að berjast á móti AI For Bad eru virkir í gangi. Fyrir utan hávær löglegur viðleitni til að hemja ranglætið, er einnig efnisleg sókn í átt að því að aðhyllast siðfræði gervigreindar til að rétta af gervigreindinni. Hugmyndin er sú að við ættum að tileinka okkur og samþykkja helstu siðferðilegar gervigreindarreglur fyrir þróun og svið gervigreindar og gera það til að skera úr AI For Bad og í senn að boða og kynna hið æskilega AI til góðs.

Hvað varðar skylda hugmynd, er ég talsmaður þess að reyna að nota gervigreind sem hluta af lausninni á gervigreindarvanda, berjast gegn eldi með eldi á þann hátt í hugsun. Við gætum til dæmis fellt siðferðilega gervigreindarhluta inn í gervigreindarkerfi sem mun fylgjast með því hvernig restin af gervigreindinni er að gera hlutina og þannig hugsanlega grípa í rauntíma hvers kyns mismununarviðleitni, sjá umfjöllun mína á hlekkinn hér. Við gætum líka haft sérstakt gervigreindarkerfi sem virkar sem tegund gervigreindarsiðfræðiskjás. Gervigreindarkerfið þjónar sem umsjónarmaður til að rekja og greina þegar önnur gervigreind er að fara í siðlausa hyldýpið (sjá greiningu mína á slíkum getu á hlekkinn hér).

Eftir augnablik mun ég deila með þér nokkrum meginreglum sem liggja til grundvallar siðfræði gervigreindar. Það eru fullt af svona listum á sveimi hér og þar. Þú gætir sagt að það sé ekki enn einn listi yfir alhliða aðdráttarafl og samstöðu. Það eru óheppilegu fréttirnar. Góðu fréttirnar eru þær að það eru að minnsta kosti tiltækir listar yfir gervigreindarsiðfræði og þeir hafa tilhneigingu til að vera nokkuð svipaðir. Allt sagt bendir þetta til þess að með einhvers konar rökstuddri samleitni séum við að finna leið í átt að almennu sameiginlegu því sem siðfræði gervigreindar samanstendur af.

Í fyrsta lagi skulum við fara stuttlega yfir nokkrar af almennum siðferðilegum gervigreindarfyrirmælum til að sýna hvað ætti að vera mikilvægt atriði fyrir alla sem búa til, útfæra eða nota gervigreind.

Til dæmis, eins og fram kemur af Vatíkaninu í Rómarkall eftir gervigreindarsiðfræði og eins og ég hef fjallað ítarlega um kl hlekkinn hér, þetta eru sex helstu siðareglur gervigreindar:

• Gagnsæi: Í grundvallaratriðum verða gervigreind kerfi að vera útskýranleg
• Innifalið: Taka þarf tillit til þarfa allra manna svo allir fái notið sín og bjóða öllum einstaklingum bestu möguleg skilyrði til að tjá sig og þroskast.
• Ábyrgð: Þeir sem hanna og nota gervigreind verða að halda áfram með ábyrgð og gagnsæi
• Hlutleysi: Ekki skapa eða bregðast við hlutdrægni og standa þannig vörð um sanngirni og mannlega reisn
• Áreiðanleiki: Gervigreind kerfi verða að geta virkað á áreiðanlegan hátt
• Öryggi og næði: Gervigreind kerfi verða að virka á öruggan hátt og virða friðhelgi notenda.

Eins og fram kemur hjá bandaríska varnarmálaráðuneytinu (DoD) í sínum Siðareglur fyrir notkun gervigreindar og eins og ég hef fjallað ítarlega um kl hlekkinn hér, þetta eru sex helstu siðareglur gervigreindar:

• Ábyrgðarmaður: Starfsmenn DoD munu beita viðeigandi dómgreind og umhyggju á meðan þeir eru áfram ábyrgir fyrir þróun, dreifingu og notkun gervigreindargetu.
• Réttlátt: Deildin mun gera vísvitandi ráðstafanir til að lágmarka óviljandi hlutdrægni í gervigreindargetu.
• Rekjanlegt: Gervigreindargeta deildarinnar verður þróuð og beitt þannig að viðeigandi starfsfólk búi yfir viðeigandi skilningi á tækni, þróunarferlum og rekstraraðferðum sem gilda um gervigreindargetu, þar með talið gagnsæja og endurskoðanlega aðferðafræði, gagnaheimildir og hönnunarferli og skjöl.
• Traust: Gervigreindargeta deildarinnar mun hafa skýra, vel skilgreinda notkun og öryggi, öryggi og skilvirkni slíkrar hæfileika verður háð prófunum og tryggingu innan þeirrar skilgreindu notkunar yfir allan lífsferil þeirra.
• Stjórnandi: Deildin mun hanna og hanna gervigreindargetu til að uppfylla fyrirhugaða virkni þeirra á sama tíma og hún hefur getu til að greina og forðast óviljandi afleiðingar, og getu til að aftengja eða slökkva á uppfærðum kerfum sem sýna óviljandi hegðun.

Ég hef einnig fjallað um ýmsar sameiginlegar greiningar á siðfræðireglum gervigreindar, þar á meðal að hafa fjallað um safn sem rannsakendur hafa útbúið sem skoðuðu og þjöppuðu saman kjarna fjölda innlendra og alþjóðlegra siðfræðikenninga gervigreindar í grein sem ber yfirskriftina „The Global Landscape Of AI Ethics Guidelines“ (birt inn Nature), og að umfjöllun mín kannar kl hlekkinn hér, sem leiddi til þessa lykilsteinslista:

• Gagnsæi
• Réttlæti og sanngirni
• Ómennska
• ábyrgð
• Persónuvernd
• Gagnsemi
• Frelsi og sjálfræði
• Treystu
• Sjálfbærni
• Reisn
• Samstaða

Eins og þú gætir beinlínis giskað á, getur verið afar erfitt að reyna að finna sérstöðuna sem liggja til grundvallar þessum meginreglum. Jafnvel meira er viðleitnin til að breyta þessum víðtæku meginreglum í eitthvað alveg áþreifanlegt og nógu ítarlegt til að hægt sé að nota það þegar búið er til gervigreindarkerfi líka erfið hneta. Það er auðvelt að í heildina handflaka um hvað siðareglur gervigreindar eru og hvernig þær ættu að vera almennt virtar, á meðan það er miklu flóknara ástand í gervigreindarkóðun sem þarf að vera hið sannkallaða gúmmí sem mætir veginum.

Siðfræðireglur gervigreindar eiga að vera nýttar af gervigreindarhönnuðum, ásamt þeim sem stjórna gervigreindarþróunarviðleitni, og jafnvel þeim sem að lokum sjá um og annast viðhald á gervigreindarkerfum. Allir hagsmunaaðilar í gegnum allan gervigreindarferil þróunar og notkunar eru taldir vera innan ramma þess að hlíta siðferðilegum gervigreindarreglum sem verið hefur verið að setja. Þetta er mikilvægur hápunktur þar sem venjulega er gengið út frá því að „aðeins kóðarar“ eða þeir sem forrita gervigreind eru háð því að fylgja siðfræði hugmynda um gervigreind. Eins og áður hefur komið fram þarf þorp til að búa til og sviðsetja gervigreind, og fyrir það þarf allt þorpið að þekkja og hlíta siðareglum gervigreindar.

Við skulum líka ganga úr skugga um að við séum á sömu blaðsíðu um eðli gervigreindar í dag.

Það er engin gervigreind í dag sem er skynsöm. Við höfum þetta ekki. Við vitum ekki hvort skynjandi gervigreind verður möguleg. Enginn getur spáð fyrir um hvort við náum skynsemisgervigreind, né hvort skyngervigreind muni á einhvern undraverðan hátt myndast af sjálfsdáðum í formi reiknilegrar vitsmunalegrar sprengistjarna (venjulega nefnd eintölu, sjá umfjöllun mína á hlekkinn hér).

Gerð gervigreind sem ég er að einbeita mér að samanstendur af gervigreind sem ekki er skynsamleg sem við höfum í dag. Ef við vildum stórlega spekúlera um skynsamur AI, þessi umræða gæti farið í allt aðra átt. Vitandi gervigreind væri talið vera mannleg gæði. Þú þarft að hafa í huga að skynjandi gervigreind er vitsmunalegt jafngildi manns. Meira svo, þar sem sumir velta því fyrir sér að við gætum verið með ofurgreinda gervigreind, er hugsanlegt að slík gervigreind gæti endað með því að vera gáfaðri en menn (fyrir könnun mína á ofurgreindri gervigreind sem möguleika, sjá umfjöllunin hér).

Við skulum halda hlutunum meira á jörðu niðri og íhuga reiknigreinda gervigreind nútímans.

Gerðu þér grein fyrir því að gervigreind nútímans er ekki fær um að "hugsa" á nokkurn hátt á pari við mannlega hugsun. Þegar þú hefur samskipti við Alexa eða Siri gæti samtalsgetan virst vera í ætt við mannlega getu, en raunin er sú að hún er reiknuð og skortir mannlega skilning. Nýjasta tímabil gervigreindar hefur mikið notað vélanám (ML) og djúpt nám (DL), sem nýta sér samsvörun reiknimynstra. Þetta hefur leitt til gervigreindarkerfa sem líkjast mannlegum tilhneigingum. Á sama tíma er ekki til nein gervigreind í dag sem hefur yfirbragð heilbrigðrar skynsemi og ekki heldur nein vitræna undrun sterkrar mannlegrar hugsunar.

ML/DL er tegund af reiknimynstursamsvörun. Venjuleg nálgun er sú að þú safnar saman gögnum um ákvarðanatökuverkefni. Þú færð gögnin inn í ML/DL tölvulíkönin. Þessi líkön leitast við að finna stærðfræðileg mynstur. Eftir að hafa fundið slík mynstur, ef svo finnst, mun gervigreindarkerfið nota þessi mynstur þegar það rekst á ný gögn. Við framsetningu nýrra gagna er mynstrum byggt á „gömlu“ eða sögulegum gögnum beitt til að gera núverandi ákvörðun.

Ég held að þú getir giskað á hvert þetta stefnir. Ef menn sem hafa verið að taka ákvarðanir eftir mynstri hafa verið að innleiða óviðeigandi hlutdrægni, eru líkurnar á því að gögnin endurspegli þetta á lúmskan en marktækan hátt. Vélnám eða Deep Learning reiknimynstursamsvörun mun einfaldlega reyna að líkja stærðfræðilega eftir gögnunum í samræmi við það. Það er engin sýnileiki af skynsemi eða öðrum skynsamlegum hliðum gervigreindarlíkana í sjálfu sér.

Ennfremur gætu gervigreindarframleiðendurnir ekki áttað sig á því hvað er að gerast heldur. Hin óljósa stærðfræði í ML/DL gæti gert það að verkum að erfitt er að losa sig við hinar leyndu hlutdrægni. Þú myndir réttilega vona og búast við því að gervigreindarframleiðendur myndu prófa fyrir hugsanlega grafna hlutdrægni, þó að þetta sé erfiðara en það kann að virðast. Það eru miklar líkur á því að jafnvel með tiltölulega umfangsmiklum prófunum verði hlutdrægni enn innbyggð í mynstursamsvörunarlíkön ML/DL.

Þú gætir notað hið fræga eða alræmda orðtak um að sorp-inn sorp-út. Málið er að þetta er meira í ætt við hlutdrægni sem kemur lævíslega inn þegar hlutdrægni er á kafi í gervigreindinni. Ákvarðanataka reiknirit (ADM) gervigreindar verður að vísu hlaðin ójöfnuði.

Ekki gott.

Snúum okkur aftur að áherslum okkar á ágreiningi milli gervigreindar og manns.

Ég hef áður bent á að þetta eru nokkrar af aðferðunum til að leysa ágreining:

• gervigreind og manneskjan sem er í sameiningu vinna úr hlutunum (í vinsemd eða ekki)
• Manneskjan sigrar yfir gervigreindinni, sjálfgefið
• AI sigrar yfir manneskjunni, sjálfgefið
• Einhver önnur fyrirfram ákveðin föst upplausn ríkir sjálfgefið
• Þriðja aðila manneskjan er tekin í lykkju og vísbending þeirra ríkir yfir aðila
• Þriðja aðila gervigreind er tekin í lykkju og vísbending þess ríkir yfir aðila
• Þriðji maður kemur í stað núverandi manneskju, hlutirnir halda áfram að nýju
• Gervigreind þriðja aðila kemur í stað núverandi gervigreindar, hlutirnir halda áfram að nýju
• Maður frá þriðja aðila kemur í stað núverandi gervigreindar, hlutirnir halda áfram að nýju (nú mann til mann)
• Gervigreind þriðja aðila kemur í stað núverandi manneskju, hlutirnir halda áfram að nýju (nú gervigreind til gervigreindar)
• Annað

Tími til kominn að pakka þessum niður.

Fyrst skaltu íhuga að þetta snýst allt um faglega ósætti.

Faglegur ágreiningur er lauslega skilgreindur sem ágreiningur sem tengist vinnutengdu verkefni.

Til dæmis gæti ágreiningur sem kemur upp milli flugmanns og aðstoðarflugmanns um hvort halda eigi áfram í flugi sem stendur frammi fyrir stormi með sanngjörnum hætti verið flokkaður sem faglegur ágreiningur. Aftur á móti er harður ágreiningur um hvaða kaffitegund flugmaðurinn mælir fyrir á móti vörumerkinu sem aðstoðarflugmaðurinn kýs er auðveldlega flokkaður sem ófaglegur ágreiningur í þessu tiltekna samhengi.

Auðvitað, ef ófaglegur ágreiningur maðkar sér inn í faglegan ágreining, gætum við að lokum haft áhuga á ófaglegum ágreiningi sem meintri uppsprettu eða neista fyrir fagmanninn. Ímyndaðu þér að flugmaður og aðstoðarflugmaður rífast harkalega um hvaða kaffitegund sé best, sem því miður hellist yfir í flugsértækar áhyggjur (orðaleikur!), eins og hvort eigi að fara í loftið eða ekki.

Í öðru lagi þurfum við að hafa í huga hversu stór faglegur ágreiningur er.

Kannski flugmaðurinn og aðstoðarflugmaðurinn eða í vægum ágreiningi um að halda áfram að fljúga. Þeir eru ekki á öndverðum meiði og íhuga bara kosti og galla þess hvort þeir eigi að leggja af stað. Þetta er ekki magn eða umfang faglegs ágreinings sem við erum venjulega að íhuga hér. Málið er að það gæti verið að faglegur ágreiningur sé tímabundinn og báðir aðilar vinna að úrlausn af alúð eða að minnsta kosti tímanlega. Almennt er þungamiðja faglegs ágreinings innan gildissviðs þeir sem virðast óleysanlegir og báðir aðilar eru staðfastir í ágreiningi.

Í þriðja lagi þarf yfirleitt að vera eitthvað alvarlegt á ferðinni til að þessar leiðbeiningar komi til greina.

Að velja að fljúga eða ekki fljúga er ákveðin ákvörðun um líf eða dauða ef flugið er í hættu vegna óveðurs eða flugvélin er talin ekki fullbúin fyrir slíka ferð. Þetta er alvarleg viðskipti. Við getum samt beitt viðmiðunarreglunum við faglega ágreining sem hefur minni áhrif þó það gæti verið meira ónæði en það er þess virði.

Allt í lagi, sjónarmið okkar eru þessi:

• Ágreiningurinn er fyrst og fremst faglegur frekar en um eitthvað ófaglegt
• Ágreiningurinn er viðvarandi og er ekki aðeins tímabundinn eða leystur á annan hátt auðveldlega
• Ágreiningurinn segir fyrir um alvarlegar afleiðingar og hefur yfirleitt áhrifaríka niðurstöðu
• Aðilar standa saman og þeir virðast óleysanlegir

Við skulum nú skoða nánar hverja leiðbeinandi leiðbeiningar mína eða nálganir varðandi hvernig eigi að takast á við slíkan faglegan ágreining.

gervigreind og manneskjan sem er í sameiningu vinna úr hlutunum (í vinsemd eða ekki)

Ég byrja listann með þeim beina möguleika að gervigreind og manneskjan í lykkjunni geti leyst faglega ágreininginn sín á milli. Svo virðist sem tilvik mannanna tveggja, flugmannsins og aðstoðarflugmannsins, sýni kannski svona aðstæður. Þeir ákváðu einhvern veginn að snúa aftur til flugstöðvarinnar og fara sína leið. Það gæti verið að gervigreindarkerfi og manneskja geti fundið út úrlausnaraðferð sem er almennt fullnægjandi fyrir báða aðila og málinu er þannig lokið á fullnægjandi hátt.

Manneskjan sigrar yfir gervigreindinni, sjálfgefið

Þegar gervigreindin er sett upp gætum við forritað reglu sem segir að maðurinn í lykkjunni skuli alltaf ríkja þegar faglegur ágreiningur kemur upp. Þetta væri beinlínis kóðað sjálfgefið. Við gætum líka leyft einhvers konar hnekkja, bara ef svo ber undir, þó að fasta reglan verði sú að manneskjan sigri.

AI sigrar yfir manneskjunni, sjálfgefið

Þegar gervigreindin er sett upp gætum við forritað reglu sem segir að gervigreindin skuli alltaf sigra yfir manneskjunni þegar faglegur ágreiningur kemur upp. Þetta er beinlínis kóðað sjálfgefið. Við gætum líka leyft einhvers konar hnekkt, bara ef svo skyldi vera, þó að fasta reglan verði sú að gervigreindin sigri.

Einhver önnur fyrirfram ákveðin föst upplausn ríkir sjálfgefið

Þegar gervigreindin er sett upp gætum við forritað reglu sem segir að einhver önnur fyrirfram ákveðin upplausn muni gilda þegar faglegur ágreiningur kemur upp við manninn í lykkjunni. Mannlegur-í-lykkjan er ekki sjálfgefið ríkjandi. Gervigreindin er ekki sjálfgefið ríkjandi. Það er einhver önnur fyrirfram tilgreind upplausn. Til dæmis er ef til vill verið að kasta mynt sem verður notað til að ákveða hvor tveggja aðila teljist rétta leiðin til að fara. Það myndi augljóslega virðast frekar handahófskennt; þannig væri annað dæmi um nálgun að sérhæfð regla taki gildi sem reiknar út gildi byggt á inntakum frá báðum aðilum og kemst að niðurstöðu sem jafntefli.

Þriðja aðila manneskjan er tekin í lykkju og vísbending þeirra ríkir yfir aðila

Við faglegan ágreining gæti regla verið sú að þriðji aðili, sem er maður, sé kallaður til og látinn fara inn í umhverfið til að taka ákvörðun um lausn ágreiningsins. Gervigreindin er forrituð til að víkja að hverju sem þriðja aðila maðurinn ákveður. Manneskjunni sem þegar er í manninum-í-lykkjunni hefur áður verið bent á að ef slík staða kemur upp eigi hún líka að víkja fyrir þriðja aðilanum. Að auki geturðu líklega búist við því að manneskjan í lykkjunni gæti haft áhyggjur af því að verða við öllu því sem þriðja aðila maðurinn ákveður ef ákvörðunin er ósammála stellingunni í manninum í lykkjunni.

Þriðja aðila gervigreind er tekin í lykkju og vísbending þess ríkir yfir aðila

Við faglegan ágreining gæti reglan verið sú að þriðji aðili sem er annað gervigreind kerfi sé kallaður til og settur í lykkju inn í stillinguna til að taka ákvörðun um að leysa ágreininginn. Upprunalega gervigreindin er forrituð til að víkja að hverju sem þriðja aðila gervigreind ákveður. Manneskjan sem þegar er í manninum í lykkjunni hefur fengið leiðbeiningar fyrirfram um að ef slík staða kemur upp eigi hann líka að víkja til gervigreindar þriðja aðila. Til hliðar geturðu líklega búist við því að manneskjan í lykkjunni gæti haft áhyggjur af því að verða við öllu því sem þriðja aðila gervigreind ákveður ef ákvörðunin er ósammála manneskjunni í lykkjunni.

Þriðji maður kemur í stað núverandi manneskju, hlutirnir halda áfram að nýju

Við faglegan ágreining er maðurinn-í-lykkjunni skipt út fyrir þriðja aðila sem er manneskja og verður héðan í frá mann-í-lykkjan. Manneskjan sem var upphaflega maðurinn-í-lykkjan fyrir verkefnið er ekki lengur talinn hluti af verkefninu. Það er opinn þáttur í því hvað annars gerist með manninn-í-lykkjuna sem nú hefur verið skipt út, en við erum að segja að þeir hafi örugglega ekki lengur nein áframhaldandi hlutverk í vinnuverkefninu.

Gervigreind þriðja aðila kemur í stað núverandi gervigreindar, hlutirnir halda áfram að nýju

Við faglegan ágreining er gervigreindinni skipt út fyrir gervigreind frá þriðja aðila og það verður héðan í frá AI sem notað er fyrir vinnuverkefnið sem fyrir hendi er. Gervigreindin sem upphaflega var notuð fyrir verkefnið telst ekki lengur hluti af verkefninu sem fyrir hendi er. Það er opinn þáttur varðandi það sem annars gerist með gervigreindinni sem nú hefur verið skipt út, en við erum að segja að vissulega hefur gervigreindin ekki lengur nein áframhaldandi hlutverk í vinnuverkefninu.

Maður frá þriðja aðila kemur í stað núverandi gervigreindar, hlutirnir halda áfram að nýju (nú mann til mann)

Við faglegan ágreining er gervigreindinni skipt út fyrir þriðja aðila manneskju sem sá aðili verður nú álitinn samstarfsaðili sem verður notaður fyrir vinnuverkefnið sem fyrir hendi er. Gervigreindin sem upphaflega var notuð fyrir verkefnið telst ekki lengur hluti af verkefninu sem fyrir hendi er. Það er opinn þáttur varðandi það sem annars gerist með gervigreindinni sem nú hefur verið skipt út, en við erum að segja að vissulega hefur gervigreindin ekki lengur nein áframhaldandi hlutverk í vinnuverkefninu. Í stuttu máli, þetta verður nú tveggja aðila mann til manns framkvæmt verkefni.

Gervigreind þriðja aðila kemur í stað núverandi manneskju, hlutirnir halda áfram að nýju (nú gervigreind til gervigreindar)

Við faglegan ágreining er manninum-í-lykkjunni skipt út fyrir þriðju aðila gervigreind og þetta gervigreind verður héðan í frá fyllingin fyrir manninn-í-lykkjuna á undan. Manneskjan sem var upphaflega maðurinn-í-lykkjan fyrir verkefnið er ekki lengur talinn hluti af verkefninu. Það er opinn þáttur í því hvað annars gerist með manninn-í-lykkjuna sem nú hefur verið skipt út, en við erum að segja að þeir hafi örugglega ekki lengur nein áframhaldandi hlutverk í vinnuverkefninu. Í stuttu máli, þetta verður nú tveggja aðila AI-til-AI til að framkvæma verkefnið.

Annað

Hægt er að búa til önnur afbrigði til að takast á við faglegan ágreining, en við höfum fjallað hér um nokkra af lykilsteinunum.

Hvernig eigum við að ákveða hver af þessum aðferðum er sú rétta fyrir tilteknar aðstæður?

Fjölbreytt atriði fara í slíkt val. Það eru tæknileg sjónarmið. Það eru viðskiptasjónarmið. Það eru lagaleg og siðferðileg sjónarmið.

Að vissu leyti er það ástæðan fyrir því að siðfræði gervigreindar og gervigreind er svo mikilvægt viðfangsefni. Fyrirmæli gervigreindarsiðfræði fá okkur til að halda vöku okkar. Gervigreind tæknifræðingar geta stundum orðið uppteknir af tækni, sérstaklega hagræðingu hátækni. Þeir eru ekki endilega að íhuga stærri samfélagslegar afleiðingar. Að vera með siðfræði gervigreindarhugsunar og gera það óaðskiljanlegur við gervigreindarþróun og sviði gervigreindar er mikilvægt til að framleiða viðeigandi gervigreind, þar á meðal (kannski á óvart eða kaldhæðnislega) mat á því hvernig siðfræði gervigreindar er tekið upp af fyrirtækjum.

Auk þess að nota siðareglur gervigreindar almennt, þá er samsvarandi spurning hvort við ættum að hafa lög til að stjórna ýmsum notkun gervigreindar. Ný lög eru sett saman á alríkis-, fylkis- og staðbundnum vettvangi sem varða umfang og eðli þess hvernig gervigreind ætti að vera upphugsuð. Viðleitni til að semja og setja slík lög er smám saman. Siðfræði gervigreindar virkar sem yfirveguð stöðvun, að minnsta kosti, og mun næstum örugglega að einhverju leyti vera beint inn í þessi nýju lög.

Vertu meðvituð um að sumir halda því eindregið fram að við þurfum ekki ný lög sem ná yfir gervigreind og að núverandi lög okkar nægi. Reyndar vara þeir við því að ef við setjum sum þessara laga um gervigreind, munum við drepa gullgæsina með því að hamla gegn framförum í gervigreind sem hefur gríðarlega samfélagslega kosti.

Á þessum tímamótum þessarar þungu umræðu myndi ég veðja á að þig langi í nokkur lýsandi dæmi sem gætu sýnt þetta efni. Það er sérstakt og örugglega vinsælt sett af dæmum sem standa mér hjartanlega. Þú sérð, í starfi mínu sem sérfræðingur í gervigreind, þar á meðal siðferðilegum og lagalegum afleiðingum, er ég oft beðinn um að bera kennsl á raunhæf dæmi sem sýna gervigreindarsiðfræði vandamál svo að auðveldara sé að átta sig á dálítið fræðilegu eðli efnisins. Eitt af áhrifamestu sviðunum sem sýnir þessa siðrænu gervigreindarvanda á ljóslegan hátt er tilkoma gervigreindar byggðra sannra sjálfkeyrandi bíla. Þetta mun þjóna sem handhægt notkunartilvik eða fyrirmynd fyrir mikla umræðu um efnið.

Hér er síðan athyglisverð spurning sem vert er að íhuga: Lýsir tilkoma AI-byggðra sannra sjálfkeyrandi bíla eitthvað upp varðandi ágreiningsúrlausnir gervigreindar og manna, og ef svo er, hvað sýnir þetta?

Leyfðu mér smástund að taka spurninguna upp.

Athugaðu fyrst að það er enginn ökumaður sem tekur þátt í sönnum sjálfkeyrandi bíl. Hafðu í huga að sönnum sjálfkeyrandi bílum er ekið í gegnum gervigreind aksturskerfi. Það er ekki þörf fyrir mannlegan ökumann við stýrið, né er kveðið á um að maður geti stjórnað ökutækinu. Fyrir víðtæka og viðvarandi umfjöllun mína um sjálfkeyrandi farartæki (AV) og sérstaklega sjálfkeyrandi bíla, sjá hlekkinn hér.

Mig langar að skýra frekar hvað er átt við þegar ég vísa til sannra sjálfkeyrandi bíla.

Skilningur á stigum sjálfkeyrandi bíla

Til skýringar þá eru sannir sjálfkeyrandi bílar þeir þar sem gervigreind keyrir bílinn algjörlega á eigin spýtur og engin mannleg aðstoð er til staðar við akstursverkefnið.

Þessi ökumannslausu ökutæki eru talin 4. og 5. stig (sjá skýringu mína á þennan hlekk hér), en bíll sem krefst þess að mannlegur ökumaður deili akstursátakinu er venjulega talinn á stigi 2 eða 3. Bílunum sem deila akstursverkefninu er lýst sem hálfsjálfvirkum og innihalda venjulega margs konar sjálfvirkar viðbætur sem vísað er til sem ADAS (Advanced Driver-Assistance Systems).

Það er ekki ennþá til sannur sjálfkeyrandi bíll á 5. stigi og við vitum ekki einu sinni hvort það verður hægt að ná þessu, né hversu langan tíma það mun taka að komast þangað.

Á sama tíma eru stig 4 tilraunir smám saman að reyna að ná gripi með því að gangast undir mjög þröngar og sértækar tilraunir á almennum akbrautum, þó að það sé ágreiningur um hvort þessar prófanir eigi að leyfa í sjálfu sér (við erum öll naggrísir upp á líf eða dauða í tilraun eiga sér stað á þjóðvegum okkar og yfirstígum, halda sumir fram, sjá umfjöllun mína á þennan hlekk hér).

Þar sem hálf-sjálfstæðir bílar þurfa mannlegan bílstjóra, verður notkun þessara tegunda bíla ekki verulega frábrugðin en að keyra hefðbundin ökutæki, svo það er ekki mikið nýtt í sjálfu sér að fjalla um þá um þetta efni (eins og þú munt sjá á augnabliki eru þau atriði sem næst eru gerð gildir almennt).

Fyrir hálf sjálfstæða bíla er mikilvægt að almenningi verði varað við truflandi þætti sem hefur komið upp undanfarið, nefnilega að þrátt fyrir þá mannlegu ökumenn sem halda áfram að birta myndbönd af sjálfum sér sofandi við stýrið á stigi 2 eða 3. stigs bíls , við þurfum öll að forðast að villast til að trúa því að ökumaðurinn geti tekið athygli sína frá akstursverkefninu meðan hann ekur hálf sjálfstæðan bíl.

Þú ert ábyrgur aðili fyrir akstursaðgerðum ökutækisins, óháð því hversu mikið sjálfvirkni gæti verið hent í stig 2 eða stig 3.

Sjálfkeyrandi bílar og ágreiningur um gervigreind og manneskju

Fyrir raunverulegan sjálfkeyrandi ökutæki á stigum 4 og 5. stig mun enginn ökumaður taka þátt í akstursverkefninu.

Allir farþegarnir verða farþegar.

AI er að keyra.

Einn þáttur til að ræða strax felur í sér þá staðreynd að AI sem tekur þátt í AI aksturskerfum í dag er ekki viðkvæmur. Með öðrum orðum, AI er algjörlega samansafn tölvutengds forritunar og reiknirita og getur örugglega ekki rökstutt á sama hátt og menn geta.

Hvers vegna er þessi aukna áhersla á að AI sé ekki skynjandi?

Vegna þess að ég vil undirstrika að þegar rætt er um hlutverk AI -aksturskerfisins, þá er ég ekki að kenna AI eiginleika mannsins. Vinsamlegast hafðu í huga að það er viðvarandi og hættuleg tilhneiging þessa dagana til að manngera AI. Í grundvallaratriðum er fólk að miða mannlega viðhorf til AI í dag, þrátt fyrir óneitanlega og óumdeilanlega staðreynd að engin slík AI er til ennþá.

Með þessari skýringu geturðu séð fyrir þér að AI ökuferðarkerfið mun ekki á einhvern hátt "vita" um hliðar aksturs. Það þarf að forrita akstur og allt sem því fylgir sem hluti af vélbúnaði og hugbúnaði sjálfkeyrandi bílsins.

Við skulum kafa ofan í ógrynni af þáttum sem spila um þetta efni.

Í fyrsta lagi er mikilvægt að átta sig á því að ekki eru allir AI sjálfkeyrandi bílar eins. Sérhver bílaframleiðandi og sjálfkeyrandi tæknifyrirtæki grípur sína nálgun við að búa til sjálfkeyrandi bíla. Sem slíkt er erfitt að gefa víðtækar yfirlýsingar um hvað gervigreind aksturskerfi munu gera eða ekki.

Ennfremur, alltaf þegar fullyrt er að gervigreind aksturskerfi geri ekki einhvern sérstakan hlut, geta verktaki sem í raun forrita tölvuna til að gera það, seinna meir. Skref fyrir skref er verið að bæta og stækka gervigreind aksturskerfi smám saman. Fyrirliggjandi takmörkun í dag gæti ekki lengur verið til í endurtekningu eða útgáfu kerfisins í framtíðinni.

Ég vona að það gefi nægjanlegan litaníu af fyrirvörum til að liggja til grundvallar því sem ég er að fara að segja.

Fyrir fullkomlega sjálfstæð ökutæki gætu ekki verið neinar líkur á faglegum ágreiningi milli manns og gervigreindar vegna möguleikans á því að það sé enginn maður-í-lykkju til að byrja með. Þráin hjá mörgum sjálfkeyrandi bílaframleiðendum nútímans er að fjarlægja mannlegan ökumann algjörlega frá akstursverkefninu. Ökutækið mun ekki einu sinni innihalda akstursstýringar sem aðgengilegar eru fyrir menn. Í því tilviki mun mannlegur ökumaður, ef hann er til staðar, ekki geta tekið þátt í akstursverkefninu þar sem hann hefur ekki aðgang að akstursstýringum.

Fyrir sum fullkomlega sjálfstæð farartæki leyfa sum hönnun samt að maðurinn sé í hringnum, þó að maðurinn þurfi alls ekki að vera tiltækur eða taka þátt í akstursferlinu. Þannig getur maður tekið þátt í akstri ef viðkomandi vill það. Hins vegar er gervigreindin á engum tímapunkti háð manneskjunni til að framkvæma einhver akstursverkefni.

Þegar um hálfsjálfvirk farartæki er að ræða er samband milli mannlegs ökumanns og gervigreindar. Mannlegur ökumaður getur alfarið tekið yfir akstursstýringarnar og í raun stöðvað gervigreind frá því að taka þátt í akstrinum. Ef maðurinn vill endurræsa gervigreindina í aksturshlutverkið getur hann gert það, þó það neyði manninn stundum til að afsala sér akstursstýringum.

Önnur tegund af hálfsjálfvirkri aðgerð myndi fela í sér að mannlegur ökumaður og gervigreind vinna saman í teymi. Gervigreindin keyrir og maðurinn keyrir. Þeir keyra saman. Gervigreind gæti vísað til mannsins. Manneskjan gæti hætt við gervigreind.

Á einhverjum tímamótum gætu gervigreind aksturskerfið og mannlegur ökumaður í lykkjunni lent á tímamótum „faglegs ágreinings“ um akstursverkefnið.

Til að sýna fram á hvernig sumar af fyrrgreindum reglum um að takast á við faglegan ágreining geta verið krefjandi í framkvæmd, íhugaðu tilvikið að kalla til þriðja aðila til að koma inn í málið og leggja fram ákvörðun um að leysa óleyst málið.

Segjum sem svo að bílaframleiðandi eða sjálfkeyrandi tæknifyrirtæki hafi séð til þess að fjarlægir rekstraraðilar hafi aðgang að akstursstýringum ökutækja í flota sínum. Mannlegur rekstraraðili situr í einhverri fjarlægri skrifstofu eða svipuðu umhverfi. Í gegnum tölvukerfi geta þeir skoðað akstursenuna með því að komast í myndavélar og önnur skynjaratæki sem hlaðið er á sjálfkeyrandi bílinn. Fyrir þá er þetta næstum því eins og að spila tölvuleik á netinu, þó að raunverulegar aðstæður hafi að sjálfsögðu mögulega skelfilegar afleiðingar.

Gervigreindarkerfi og mannlegur ökumaður inni í bílnum aka hálfsjálfvirku farartæki niður langa þjóðveg. Allt í einu vill gervigreindin stýra út í skurð. Maðurinn vill ekki gera þetta. Þeir tveir eru að rífast um akstursstýringar.

Hvernig verður þetta leyst?

Við hefðum kannski getað komið því á framfæri að maðurinn sigri alltaf. Gerum samt ráð fyrir að við höfum kosið að gera það ekki.

Við hefðum getað komið á því fyrirfram að gervigreind vinnur alltaf. Gerum ráð fyrir að við höfum valið að gera það ekki. Allt í allt samþykktum við engar af þessum reglum, annað en að við ákváðum að leyfa þriðja aðila að grípa inn í og ​​leysa faglegan ágreining af hvers kyns efnislegum toga.

Í þessu notkunartilviki berjast gervigreind og maðurinn við stýrið um akstursstýringarnar. Þetta er við skulum segja komið á framfæri við fjarskiptamanninn (þriðju aðila okkar). Fjarlægi mannlegur stjórnandi skoðar hvað er að gerast og ákveður að stýra frá skurðinum og virðist afstýra því sem gervigreindin var að reyna að gera. Segjum á sama tíma að fjarstýrði stjórnandinn stýri inn í umferð á móti, sem kannski hvorki gervigreind né maðurinn í bílnum hefði viljað gera.

Aðalatriðið er að leiðin sem þessi regla hefur verið útfærð á er sú að þriðji aðili mannlegur rekstraraðili getur algjörlega hnekið bæði gervigreindinni og manneskjunni í lykkjunni. Hvort þetta á eftir að skila góðri niðurstöðu er áreiðanlega ekki öruggt.

Ég mun nota þetta dæmi til að draga fram nokkrar auknar innsýn í þessi mál.

Þú getur ekki gert þá ósvífnu tilgátu að bara vegna þess að ein af þessum reglum er sett í stað, þá sé niðurstaðan úr leystum ágreiningi endilega tryggð góð niðurstaða. Það er kannski ekki. Það er ekki nein járnklædd alltaf rétt regla sem hægt er að velja.

Næst gætu sumar þessara reglna ekki verið framkvæmanlegar.

Lítum á dæmið um fjarstýrðan mannlegan stjórnanda sem grípur inn í þegar gervigreind og mannlegur ökumaður eru að berjast um akstursstýringar. Það gæti tekið margar sekúndur fyrir fjarskiptamanninn að átta sig á hvað er að gerast. Þá gæti ökutækið þegar endað í skurðinum eða haft aðra óhagstæða útkomu. Segjum líka að staðsetning ökutækisins útiloki fjaraðgang eins og að vera á einhverjum stað þar sem ekki er rafræn nettenging. Eða kannski virka netkerfi ökutækisins ekki á því tiltekna augnabliki.

Eins og þú sérð gæti reglan litið út fyrir að vera dásamleg á blaði, þó að það gæti verið mjög erfið eða mjög tilviljun að setja regluna í raunverulega notkun. Sjá umfjöllun mína um fjarstýringu sjálfkeyrandi farartækja og sjálfkeyrandi bíla á hlekkinn hér.

Mig langar að fjalla stuttlega um annað tengt efni sem ég mun fjalla nánar um í komandi greiningu.

Eitt af þeim áhyggjum sem aukast varðandi sjálfkeyrandi ökutæki og sjálfkeyrandi bíla sem eru hálfsjálfvirkir eru s.k. Heitar kartöfluheilkenni.

Hér er samningurinn.

Gervigreind aksturskerfi og manneskja eru samkeyrandi. Hrikaleg vandræði skapast. Gervigreindin hefur verið forrituð til að hætta við akstursverkefnið og velta hlutunum yfir á manneskjuna þegar skelfilegt augnablik kemur upp. Þetta virðist kannski „skynsamlegt“ þar sem við virðumst vera að skírskota til reglunnar um að manneskjan sé sjálfgefinn „sigurvegari“ í öllum hugsanlegum faglegum ágreiningi.

En gervigreind sem hætt er að hætta gæti verið í illvígari tilgangi eða álitinn lævísari. Það gæti verið að bílaframleiðandinn eða sjálfkeyrandi tæknifyrirtækið vilji ekki að gervigreind þeirra sé talin „aðilinn að kenna“ þegar bílslys verður. Til að virðast forðast að festast svona, afhendir gervigreindin skyndilega stjórntækin til mannsins. Voila, maðurinn ber nú væntanlega fulla ábyrgð á farartækinu.

Spyrjan er sú að segjum að gervigreindin geri þessa handoff með segjum að ein sekúnda er eftir áður en hrun verður.

Hefði manneskjan virkilega einhvern tíma til að afstýra hruninu?

Líklega ekki.

Segjum sem svo að gervigreindin geri sendinguna þegar nokkrar millisekúndur eða nanósekúndur eru eftir. Ég þori að fullyrða að maðurinn hafi í rauninni enga möguleika á að gera neitt til að afstýra hruninu.

Frá sjónarhóli bílaframleiðandans eða sjálfkeyrandi bílafyrirtækisins geta þeir reynt að haga sér eins og hendur þeirra séu hreinar þegar slíkt bílslys verður. Bílnum var ekið af manni. Gervigreindin ók ekki bílnum. Eina „rökrétta“ niðurstaðan virðist vera sú að manneskjunni hljóti að vera að kenna og gervigreindin verður að vera algjörlega lýtalaus.

Það er krútt.

Ég mun ræða þetta nánar í pistli á næstunni.

Niðurstaða

Faglegur ágreiningur mun eiga sér stað.

Það er erfitt að ímynda sér eitthvert flókið verkefni þar sem tveir aðilar standa saman að verkefninu og þar sem aldrei myndi koma upp faglegur ágreiningur um. Þetta virðist vera fantasíuland eða að minnsta kosti mikill sjaldgæfur.

Í dag höfum við fullt og fullt af tilfellum manna á milli um faglega ágreining, sem daglega eru lausnir á friðsamlegan og skynsamlegan hátt útkljáðar á einn eða annan hátt. Reyndar setjum við oft upp aðstæður viljandi til að ýta undir og yfirborð faglegs ágreinings. Þú gætir haldið því fram að þetta sýni þá frægu visku að stundum séu tvö höfuð betri en eitt.

Eftir því sem gervigreind verður algengari munum við hafa fullt af gervigreindum til manns eða manna til gervigreindar tveggja aðila verkefnaflytjenda og það verða faglegur ágreiningur sem mun eiga sér stað. Lata nálgunin er að víkja alltaf að manneskjunni. Þetta er kannski ekki heppilegasta aðferðin. AI gæti verið betri kosturinn. Eða ein af hinum fyrrnefndu reglum gæti verið traustari nálgun.

Það er sú spekingalína sem oft hefur verið endurtekin að við ættum öll að geta verið sammála um að vera ósammála, þó að þegar kemur að vírinu þarf stundum að leysa ágreining ótvírætt, annars leiði málið til ómældra hörmunga. Við megum ekki bara láta ósætti liggja á vínviðnum. Tíminn gæti verið kjarninn og líf gæti verið í húfi.

Það er skýr krafa um skynsamlegar leiðir til að leysa ágreining, jafnvel þótt það sé ekki endilega ásættanlegt, þar á meðal þegar gervigreind og manneskja í lykkju sjá hvorki auga í auga né bæti til bæti.

Ég treysti því að þú sért ekki ósammála þessari fullkomlega ánægjulegu deilu.