英语流利说level7u2p3文本.docx
《英语流利说level7u2p3文本.docx》由会员分享，可在线阅读，更多相关《英语流利说level7u2p3文本.docx（13页珍藏版）》请在冰点文库上搜索。
英语流利说level7u2p3文本
Level7
Unit2
Part3
Machineintelligencemakeshumanmoralsmoreimportant
机器智能使人类道德更重要
byZeynepTufekci
So,Istartedmyfirstjobasaputerprogrammerinmyveryfirstyearofcollege--basically,asateenager.
所以，我在大学一年级时就开始了我的第一份电脑程序员的工作，基本上是一个十几岁的孩子。
SoonafterIstartedworking,writingsoftwareinapany,amanagerwhoworkedatthepanycamedowntowhereIwas,andhewhisperedtome,"CanhetellifI'mlying?
"Therewasnobodyelseintheroom.
我开始工作后不久，在一家公司写软件，一位在公司工作的经理来到我所在的地方，他低声对我说：
“他能告诉我我在撒谎吗？
”房间里没有其他人。
"Canwhotellifyou'relying?
Andwhyarewewhispering?
"
“谁能告诉我你在撒谎？
我们为什么要窃窃私语？
”
Themanagerpointedattheputerintheroom."CanhetellifI'mlying?
"Well,thatmanagerwashavinganaffairwiththereceptionist.
经理指着房间里的电脑。
“他能告诉我我在撒谎吗？
”嗯，那个经理和接待员有暧昧关系。
（Laughter）
（笑声）
AndIwasstillateenager.SoIwhisper-shoutedbacktohim,"Yes,theputercantellifyou'relying."
我还是个十几岁的孩子。
于是我小声地对他喊道：
“是的，电脑能分辨出你在撒谎。
”
（Laughter）
（笑声）
Well,Ilaughed,butactually,thelaugh'sonme.Nowadays,thereareputationalsystemsthatcansussoutemotionalstatesandevenlyingfromprocessinghumanfaces.Advertisersandevengovernmentsareveryinterested.
嗯，我笑了，但事实上，我笑了。
现在，有一些计算系统可以解决情绪状态，甚至可以从处理人脸上撒谎。
广告商甚至政府都很感兴趣。
IhadbeeaputerprogrammerbecauseIwasoneofthosekidscrazyaboutmathandscience.ButsomewherealongthelineI'dlearnedaboutnuclearweapons,andI'dgottenreallyconcernedwiththeethicsofscience.Iwastroubled.However,becauseoffamilycircumstances,Ialsoneededtostartworkingassoonaspossible.SoIthoughttomyself,hey,letmepickatechnicalfieldwhereIcangetajobeasilyandwhereIdon'thavetodealwithanytroublesomequestionsofethics.SoIpickedputers.
我已经成为一名电脑程序员，因为我是一个对数学和科学着迷的孩子。
但我在某个地方学到了核武器，我真的很关心科学的伦理学。
我很烦恼。
然而，由于家庭情况，我也需要尽快开始工作。
因此，我想，嘿，让我选择一个技术领域，我可以轻松地找到一份工作，在那里我不需要处理任何棘手的道德问题。
所以我选择了电脑。
（Laughter）
（笑声）
Well,ha,ha,ha!
Allthelaughsareonme.Nowadays,puterscientistsarebuildingplatformsthatcontrolwhatabillionpeopleseeeveryday.They'redevelopingcarsthatcoulddecidewhotorunover.They'reevenbuildingmachines,weapons,thatmightkillhumanbeingsinwar.It'sethicsallthewaydown.
哈，哈，哈！
所有的笑声都在我身上。
如今，计算机科学家正在构建一个平台，控制着每天有十亿人看到的东西。
他们正在开发可以决定谁来跑的汽车。
他们甚至制造机器，武器，可能会在战争中杀死人类。
这是道德的一路下滑。
Machineintelligenceishere.We'renowusingputationtomakeallsortofdecisions,butalsonewkindsofdecisions.We'reaskingquestionstoputationthathavenosinglerightanswers,thataresubjectiveandopen-endedandvalue-laden.
机器智能在这里。
我们现在使用计算来做所有的决定，但也有新的决定。
我们问的问题是没有一个正确答案的计算，这是主观的，开放的和价值的。
We'reaskingquestionslike,"Whoshouldthepanyhire?
""Whichupdatefromwhichfriendshouldyoubeshown?
""Whichconvictismorelikelytoreoffend?
""Whichnewsitemormovieshouldberemendedtopeople?
"
我们在问这样的问题：
“公司应该雇佣谁？
”“你应该从哪个朋友那里得到更新？
”“哪一个犯人更有可能重新犯罪？
”“应该向人们推荐哪种新闻或电影？
”
Look,yes,we'vebeenusingputersforawhile,butthisisdifferent.Thisisahistoricaltwist,becausewecannotanchorputationforsuchsubjectivedecisionsthewaywecananchorputationforflyingairplanes,buildingbridges,goingtothemoon.Areairplanessafer?
Didthebridgeswayandfall?
There,wehaveagreed-upon,fairlyclearbenchmarks,andwehavelawsofnaturetoguideus.Wehavenosuchanchorsandbenchmarksfordecisionsinmessyhumanaffairs.
看，是的，我们已经使用了一段时间的电脑，但这是不同的。
这是一个历史的转折，因为我们不能锚定计算这样的主观决定的方式，我们可以锚定计算的飞行飞机，建造桥梁，去月球。
飞机安全吗？
这座桥摇晃了吗？
在那里，我们已经达成一致，相当明确的基准，我们有自然法则来指导我们。
在混乱的人类事务中，我们没有这样的锚定和基准。
Tomakethingsmoreplicated,oursoftwareisgettingmorepowerful,butit'salsogettinglesstransparentandmoreplex.Recently,inthepastdecade,plexalgorithmshavemadegreatstrides.Theycanrecognizehumanfaces.Theycandecipherhandwriting.Theycandetectcreditcardfraudandblockspamandtheycantranslatebetweenlanguages.Theycandetecttumorsinmedicalimaging.TheycanbeathumansinchessandGo.
为了使事情变得更复杂，我们的软件变得越来越强大，但它也变得越来越不透明，越来越复杂。
最近，在过去的十年中，复杂的算法取得了很大的进步。
他们可以识别人脸。
他们能辨认笔迹。
他们可以检测信用卡诈骗和阻止垃圾，他们可以翻译之间的语言。
他们可以在医学影像中发现肿瘤。
他们可以在国际象棋中击败人类。
Muchofthisprogressesfromamethodcalled"machinelearning."Machinelearningisdifferentthantraditionalprogramming,whereyougivetheputerdetailed,exact,painstakinginstructions.It'smorelikeyoutakethesystemandyoufeeditlotsofdata,includingunstructureddata,likethekindwegenerateinourdigitallives.Andthesystemlearnsbychurningthroughthisdata.Andalso,crucially,thesesystemsdon'toperateunderasingle-answerlogic.Theydon'tproduceasimpleanswer;it'smoreprobabilistic:
"Thisoneisprobablymorelikewhatyou'relookingfor."
这种进步很大程度上来自一种叫做“机器学习”的方法。
机器学习不同于传统编程，在那里你给计算机详细、精确、细致的指令。
它更像是你采取的系统，你喂它大量的数据，包括非结构化数据，像我们在我们的数字生活中产生的那种。
系统通过这些数据来学习。
而且，关键的是，这些系统不在一个单一的答案逻辑下运作。
他们并没有给出一个简单的答案，而是更多的概率：
“这一个可能更像你正在寻找的。
”
Now,theupsideis:
thismethodisreallypowerful.TheheadofGoogle'sAIsystemscalledit,"theunreasonableeffectivenessofdata."Thedownsideis,wedon'treallyunderstandwhatthesystemlearned.Infact,that'sitspower.Thisislesslikegivinginstructionstoaputer;it'smoreliketrainingapuppy-machine-creaturewedon'treallyunderstandorcontrol.Sothisisourproblem.It'saproblemwhenthisartificialintelligencesystemgetsthingswrong.It'salsoaproblemwhenitgetsthingsright,becausewedon'tevenknowwhichiswhichwhenit'sasubjectiveproblem.Wedon'tknowwhatthisthingisthinking.
现在，好处是：
这种方法真的很强大。
谷歌的人工智能系统的负责人称之为“数据的不合理有效性”。
缺点是，我们并不真正理解系统所学到的东西。
事实上，这就是它的力量。
这不像是给电脑指令，更像是训练puppy-machine-creature我们并不真正理解或控制。
这就是我们的问题。
当这种人工智能系统出错时，这是个问题。
这也是一个问题，当它得到正确的东西，因为我们甚至不知道这是什么时候，这是一个主观的问题。
我们不知道这是什么想法。
So,considerahiringalgorithm--asystemusedtohirepeople,usingmachine-learningsystems.Suchasystemwouldhavebeentrainedonpreviousemployees'dataandinstructedtofindandhirepeopleliketheexistinghighperformersinthepany.Soundsgood.Ionceattendedaconferencethatbroughttogetherhumanresourcesmanagersandexecutives,high-levelpeople,usingsuchsystemsinhiring.Theyweresuperexcited.Theythoughtthatthiswouldmakehiringmoreobjective,lessbiased,andgivewomenandminoritiesabettershotagainstbiasedhumanmanagers.
因此，考虑一种雇佣算法——一种用来雇佣人的系统，使用机器学习系统。
这样的系统将被培训在以前的员工的数据，并指示找到和雇用的人，如现有的高绩效的公司。
听起来不错。
我曾经参加过一个会议，汇集了人力资源经理和高级管理人员，高层人员，在招聘中使用这种系统。
他们非常兴奋。
他们认为这会使招聘更加客观，减少偏见，给女性和少数群体一个更好的机会来对付有偏见的人类管理者。
Andlook--humanhiringisbiased.Iknow.Imean,inoneofmyearlyjobsasaprogrammer,myimmediatemanagerwouldsometimesedowntowhereIwasreallyearlyinthemorningorreallylateintheafternoon,andshe'dsay,"Zeynep,let'sgotolunch!
"I'dbepuzzledbytheweirdtiming.It's4pm.Lunch?
Iwasbroke,sofreelunch.Ialwayswent.Ilaterrealizedwhatwashappening.Myimmediatemanagershadnotconfessedtotheirhigher-upsthattheprogrammertheyhiredforaseriousjobwasateengirlwhoworejeansandsneakerstowork.Iwasdoingagoodjob,Ijustlookedwrongandwasthewrongageandgender.
看，人的雇佣是有偏见的。
我知道。
我的意思是，在我作为一名程序员的早期工作中，我的直属经理有时会到我真正早到的地方，或者是在下午很晚的时候，她会说：
“Zeynep，我们去吃午饭吧！
”我会被奇怪的时间所迷惑。
下午四点。
午餐？
我破产了，所以免费的午餐。
我总是去。
后来我意识到发生了什么。
我的直属经理们还没有承认他们的上司，他们雇用的一个严肃的工作是一个十几岁的女孩穿着牛仔裤和运动鞋上班。
我做得很好，我只是看起来错了，是错误的年龄和性别。
Sohiringinagender-andrace-blindwaycertainlysoundsgoodtome.Butwiththesesystems,itismoreplicated,andhere'swhy:
Currently,putationalsystemscaninferallsortsofthingsaboutyoufromyourdigitalcrumbs,evenifyouhavenotdisclosedthosethings.Theycaninferyoursexualorientation,yourpersonalitytraits,yourpoliticalleanings.Theyhavepredictivepowerwithhighlevelsofaccuracy.Remember--forthingsyouhaven'tevendisclosed.Thisisinference.
因此，在一个性别和种族的盲目的方式雇用听起来对我很好。
但是，随着这些系统，它是更复杂的，这就是为什么：
目前，计算系统可以推断出各种各样的事情，你从你的数字面包屑，即使你没有透露这些东西。
他们可以推断出你的性取向，你的个性特征，你的政治倾向。
他们具有高精度的预测能力。
记住--对于你还没有透露的事情。
这是推理。
Ihaveafriendwhodevelopedsuchputationalsystemstopredictthelikelihoodofclinicalorpostpartumdepressionfromsocialmediadata.Theresultsareimpressive.Hersystemcanpredictthelikelihoodofdepressionmonthsbeforetheonsetofanysymptoms--monthsbefore.Nosymptoms,there'sprediction.Shehopesitwillbeusedforearlyintervention.Great!
Butnowputthisinthecontextofhiring.
我有一个朋友开发了这样的计算系统，从社会媒体数据预测临床或产后抑郁症的可能性。
结果令人印象深刻。
她的系统可以预测几个月前出现任何症状之前的抑郁的可能性。
没有症状，有预测她希望这将被用于早期干预。
太棒了！
但现在把这放在招聘的背景下。
Soatthishumanresourcesmanagersconference,Iapproachedahigh-levelmanagerinaverylargepany,andIsaidtoher,"Look,whatif,unbeknownsttoyou,yoursystemisweedingoutpeoplewithhighfuturelikelihoodofdepression?
They'renotdepressednow,justmaybeinthefuture,morelikely.Whatifit'sweedingoutwomenmorelikelytobepregnantinthenextyearortwobutaren'tpregnantnow?
Whatifit'shiringaggressivepeoplebecausethat'syourworkplaceculture?
"Youcan'ttellthisbylookingatgenderbreakdowns.Thosemaybebalanced.Andsincethisismachinelearning,nottraditionalcoding,thereisnovariabletherelabeled"higherriskofdepression,""higherriskofpregnancy,""aggressiveguyscale."Notonlydoyounotknowwhatyoursystemisselectingon,youdon'tevenknowwheretobegintolook.It'sablackbox.Ithaspredictivepower,butyoudon'tunderstandit.
所以在这次人力资源经理会议上，我找了一家非常大的公司的高级经理，我对她说：
“看，如果你不知道，你的系统正在淘汰那些未来可能有抑郁症的人呢？
他们现在不沮丧，只是可能在未来，更有可能。
如果在接下来的一年或两年淘汰妇女更可能怀孕，但现在又没有怀孕怎么办？
如果它雇佣有侵略性的人，因为那是你的工作场所文化？
”你不能通过看性别问题来判断。
这些可能是平衡的。
而且由于这是机器学习，而不是传统的编码，没有可变的标签“高风险的抑郁症，”“更高的风险怀孕，”“侵略性的家伙规模。
”不仅你不知道你的系统在选择什么，你甚至不知道从哪里开始看。
它是一个黑匣子。
它具有预测力，但你不理解它。
"Whatsafeguards,"Iasked,"doyouhavetomakesurethatyourblackboxisn'tdoingsomethingshady?
"ShelookedatmeasifIhadjuststeppedon10puppytails.
“什么保障措施，”我问，“你必须确保你的黑匣子没有做什么可疑的事情？
”她看着我，好像我刚刚踩了10条小狗的尾巴。
升级会员 