《我看见的宇宙》既是李飞飞的个东谈主史，亦然一部万千气象、放诞升沉的东谈主工智能发展史。在这本书里，李飞飞回忆了我方从底层外侨成长到顶尖科学家的经历。她渡过了困窘笨重的青少年时间，但对科学的醉心不停激励着她持续追寻东谈主生的“北极星”，并最终走进科学的殿堂。

李飞飞曾经创建当代东谈主工智能的要津催化剂ImageNet，曾经担任谷歌云东谈主工智能及机器学习首席科学家，但她恒久秉持着身为学者的审慎态度，对于东谈主工智能的发展标的提倡我方的判断和警觉。2015年，许多东谈主工智能的数据库微辞各种性，导致了一系列想到以外的禁止，例如，将黑东谈主青少年失实地象征为“大猩猩”。她相识到，这是因为科技行业的代表性不及，导致算法偶然中带有偏见，在处理非白东谈主、非男性用户信息时发达欠安。她和同事一谈鞭策了AI4ALL形貌，戮力于扶助女性、有色东谈主种和经济贫乏的学生参与到东谈主工智能领域，以造反偏见的产生。

李飞飞相识到，东谈主工智能不仅是一种科学，也不仅是“阵势”“颠覆”“谜题”“特权”或“天然之力”，东谈主工智能更是一种服务，是咱们所有东谈主共同承担的服务。她提倡，医疗等领域的步调、前例和伦理基础是历程几个世纪致使几千年的时辰建立起来的，比较之下，东谈主工智能还处于发展的早期阶段，其自身险些莫得明确的伦理准则。这个领域的自我相识之路才刚刚起步。因此，微辞伦理框架的不单是是谷歌，也不单是是年青工程师，而是咱们所有东谈主。

经出书社授权，第一财经节选了书中部分篇章，以飨读者。

无东谈主可控（No One's to Control）

从ImageNet时间运行，领域的进军性就还是了然于目，但频年来，“越大越好”的不雅点险些被赋予了宗教般的真谛。媒体上充斥着城市街区大小的服务器才调的图片，对于“大数据”的接头永不息断，不停强化着这么的不雅点：领域是神奇催化剂，是机器中的幽魂，不错将东谈主工智能的旧时间与令东谈主窒息的虚幻当年差异开来。虽然关系分析可能会有些简化，但本质上并莫得错。莫得东谈主能否定，神经收罗如实在这个资源丰富的时间得意发展：惊东谈主的数据量、大领域分层架构和多数互联的硅片如实带来了历史性变化。

这对科学意味着什么呢？要是咱们的服务诀要不错简化为赤裸裸的量化，简化为蛮力制胜，那么费力念念考和立异又有什么真谛呢？要是一些想法在层数太少、考研样本太少或GPU太少的情况下似乎会失败，而在数目加多到实足多的时候已而又不错高效运转，那么对于算法的里面运作机制，咱们又能得到什么教化呢？咱们发现我方越来越多地从履历角度不雅察东谈主工智能，就好像它是我方出现的一样，仿佛东谈主工智能是需要先识别、后瓦解的东西，而不是字据第一道期望象产生的期间。咱们与东谈主工智能之间的关系正在发生漂浮，对我这么的科学家而言，这么的出息令东谈主深念念。在谷歌云的新职位上，我不错俯瞰越来越依赖于各个层面期间的宇宙，但咱们不行坐而论谈、嘉赞于一切的神奇。这种虚耗咱们背负不起。新一代东谈主工智能所能作念的一切，岂论是好是坏，岂论是在预期之内，照旧在想到以外，都因其想象自身微辞透明度而变得复杂。神经收罗的结构自身充满了渊博色调，它是由微小的、权重玄机的决议单位构成的广阔衔接体。这些决议单位孤速即看毫无真谛，但以最大的领域组织起来时，却遒劲得令东谈主嘉赞，险些无法为东谈主类所瓦解。咱们不错从表面的、空洞的真谛上批驳神经收罗：它们能作念什么，它们达到指标需要什么样的数据，它们考研后的性能特征苟简在哪个范围；但从一次调用到下一次调用，它们在里面到底作念了什么，却是完全不透明的。

由此带来的后果十分令东谈主担忧，这即是一种被称为“造反报复”的新式威迫。在造反报复中，输入内容的唯独主张是迷惑机器学习算法，以达到反直观致使淘气性的主张。例如来说，一张像片看上去是刻画了某种明确的事物（比如蓝寰宇的长颈鹿），但不错通过单个像素情态的狭窄变动进行修改。尽管这种像素情态的变化是东谈主类肉眼无法察觉的，却会在神经收罗中引发一连串的故障。要是造反报复想象顺应，虽然原始图像看起来莫得任何变化，但算法会把“长颈鹿”这么的正确分类变成“书架”或“怀表”等失实分类。先进期间无法鉴识野天真物像片的场景可能会让东谈主合计可笑，但要是造反报复的主张是愚弄自动驾驶汽车，导致汽车对泊车标志，致使东谈主行横谈上的儿童进行失实分类，就皆备不行用可笑来刻画了。

天然，普及工程期间水平可能会有所匡助。“可解释的东谈主工智能”，或简称为“可解释性”，正在成为新的磋议标的，令东谈主备受饱读励。可解释的东谈主工智能试图将神经收罗近乎神奇的想象进行简化，漂浮成东谈主类不错仔细磋议和瓦解的形态。但关系磋议尚处于起步阶段，无法保证大概达到其扶助者所期望的高度。与此同期，这项期间所要讲明的模子却还是运行活着界各地多数出现。

即使是完全可解释的东谈主工智能也只是是第一步。要是在算法想象完成后，再加入安全性和透明度等讨论成分，岂论想象得何等精妙，都不及以自大条款。下一代东谈主工智能必须从开发之初就禁受与当今完全不同的理念。以情谊为早先诚然很好，但咱们要面临的是纷纷复杂而又不起眼的挑战，要获得简直的进展，就必须有敬畏之心。而硅谷似乎微辞这种心态。

学术界早就相识到东谈主工智能可能会带来负面冲击，比如微辞透明度、容易受到偏见和造反性影响等等。但是，由于磋议领域有限，风险一直只存在于表面层面。我的实验室最有现实影响力的服务是环境智能磋议。由于临床规定的制约，咱们对服务心思保持严慎和克制，因此有实足的契机来应酬关系隐患。但当今，市值接近万亿好意思元的公司还是掌持了主导权，潜在风险的发展措施也急剧加速。岂论是否准备就绪，这些问题都需要以买卖速率加以处理。

每个问题单独来看都令东谈主担忧，但它们共同指向了一个当年，其特色是监督减少、不对等加重，要是处理不当，致使可能导致接于当前的数字独裁主义问题。走在全球最大公司之一的走廊里，我不禁堕入千里念念，问题确切很莫名，尤其是讨论到同事们的赤忱和良苦精心。这些都是轨制性问题，而不是个东谈主问题。当今还莫得出现胡子拉碴的典型无赖，咱们还莫得遇到简直的现实问题，此时提倡这些挑战，只会让东谈主愈加困惑。我精良起与阿尼同事的情状，想起其时要在几家病院部署手工制作的微型原型开拓是何等贫乏。在高度严慎的医疗领域，立异是慢慢张开的，虽然有时令东谈主黯然，但总体上也让东谈主感到快慰。我想知谈医疗领域的作念法是否值得庸俗效仿。

硅谷的鲁莽作风向来为外界所诟病。在东谈主工智能时间，尽管咱们对潜在风险的瓦解不停加深，企业的空有虚名也高潮到了新的高度。首席践诺官们活着界各地的舞台上发表主题演讲，有些内容洞若观火，有些则粗劣不胜，还有一些是自始至终的侮辱。企业高管们应允将在不久后推出自动驾驶汽车，想象出精粹精深的肿瘤检测算法，收场工场的端到端自动化。至于被先进期间取代了服务的东谈主（出租车司机、资料卡车司机、安装线工东谈主致使辐射科大夫）的运谈，买卖领域的作风似乎介于半心半意的“再培训”和险些不加守密的漠不护士之间。

岂论首席践诺官和舒适为当年学家的东谈主的言论何如透顶脱离公众，期间的日益普及都会进一步加重东谈主们对东谈主工智能的顾虑。在这个时间，里程碑接二连三地出现，最可怕的情状正在迫临。在东谈主工智能领域的历史上，第一次出现了流血事件。

在亚利桑那州坦佩市，优步先进期间集团正在测试一辆自动驾驶原型汽车。伊莱恩·赫茨伯格（Elaine Herzberg）推着自行车过马路时，被这辆车撞倒身一火。两年多前，优步操办了卡内基梅隆大学机器东谈主系团队下野记，而当今，优步的自动驾驶形貌成了公众嘲讽的对象。要是说东谈主工智能如今经常遭受偏见让我和同事们感到酸心，那么咱们当今的感受则无法用话语来刻画。优步的品牌还是名誉扫地，其原因与期间自身关系不大。尽管咱们很容易将事故憎恨于优步，但很昭彰，这皆备不会是终末一个访佛的事故。

确切，更多教化很快就出现了。2016年，ProPublica1的一系列探望深入，有偏见的东谈主工智能被庸俗应用于处理贷款请求，致使协助法官作念出假释决定等方面。访佛的报谈还深入，在某些招聘中，求职者会先历程东谈主工智能期间的筛选，然后才有真东谈主口试官进行口试。此类作念法时常会在偶然中酿成厌烦性影响，这极少并不令东谈主偶然。伊莱恩·赫茨伯格的弃世理所天然地导致优步自动驾驶团队驱散，并对通盘领域酿成了负面影响，但上述更玄机、更机构化的伤害却不可能速即得到蜕变。关系问题险些是雅雀无声的，影响范围更广，而监管则少之又少。期待出现相似进度的民愤是不现实的。但好在公众相识在不停普及，媒体也相识到，当触及东谈主工智能的报谈时，不应冷落偏见、公和顺阴私等问题。

无法问责算法、特定东谈主群受到不刚正待遇、一个东谈主偶然弃世，这些都是东谈主工智能领域出现的新所在。扫视所在，我得出论断：浅显的标签还是不再适用。致使连“失控”等措辞都显得委婉。东谈主工智能不是阵势，不是颠覆，不是难题，也不是特权。咱们面临的是一种天然力量。它是如斯宏伟，如斯遒劲，如斯恋新忘旧，既能破绽引发灵感，也很容易毁坏一切。要让东谈主工智能值得信任，需要的远不啻买卖公司空匮的不合时尚。

东谈主工智能致使不是科技界对群众利益的唯独威迫，这使得情况变得愈加复杂。在东谈主工智能领域出现问题的时候，剑桥分析公司也爆丢脸闻。在2016年好意思国总统大选期间，公众盛大对乌有信息默示担忧。对于社交媒体和新闻源过滤气泡的不良影响的报谈也在不停加多。各类事件都有一个共同之处：宇宙正在渐渐相识到，数据不仅有价值，何况具有影响力，致使不错产生前所未有的决定性影响。

到2018年，还是莫得东谈主再质疑其中的狠恶关系了。对脸书和Instagram等社交媒体应用的审查不停加强，因为它们提供的超个性化内容可能会导致青少年出现抑郁和蹙悚。社交媒体愚弄东谈主工智能打磨定制化内容，以收场最猛进度的“用户参与”，这种趋势令东谈主不安。亚马逊使用一系列监控器具（包括监控腕带）及时跟踪工东谈主的工造孽果，这种仓库料理姿色受到媒体抨击。微软在试图扩充其东谈主工智能面部识别期间时，遭到了阴私权倡导者和公民解放组织的月旦。我我方也被卷入争议的中心。其时谷歌云与好意思国国防部缔结的一份条约（里面称Maven形貌）引发了庸俗的争论。几个月后，弥留景色从公司里面膨大到媒体，重新焚烧了群众对于期间在军事事务中所上演脚色的耐久争议。科技抵制波澜还是驾临，东谈主工智能难以独善其身。

（本文节选自《我看见的宇宙：李飞飞自传》第十一章《无东谈主可控》。）

《我看见的宇宙：李飞飞自传》

[好意思] 李飞飞 著 赵灿 译

中信出书社 2024年4月

举报 著作作家

李飞飞

经济东谈主的东谈主文教授阅读 关系阅读 古舆图背后的历史：亚洲是当代性源流之一，更是进军鞭策者

在《制造亚洲》中，宋念申用了100多张古舆图，从全球史视角启程，以舆图上的“亚洲”为切入点，展示了东西方寻觅与互动、治服与叛变中，亚洲这个办法何如被制造出来的“政事活动”，以及对历史产生的深远影响。

102 10-25 11:49 是时候读一读讲游戏的这些书了｜荐书

频年出书的游戏文化磋议册本，为读者、玩家、爱好者们提供了故意参考

137 10-11 07:04 中方文告《东谈主工智能才调成就普惠想象》，社交部先容详备情况

林剑默示，中方提倡的《东谈主工智能才调成就普惠想象》得到各方的积极扶助和反应。

55 09-26 15:50 王毅出席“加强东谈主工智能才调成就国外互助高档别会议”

王毅默示，中国宝石发展向善为民的东谈主工智能，以增进东谈主民福祉、服务经济社会发展为指标，幸免东谈主工智能期间被恶用虚耗。

27 09-26 13:25 1831年，一个中国农民的伦敦之死何如漂泊了全球医学界

1831年，伦敦盖伊病院，在近千名不雅众和记者的现场围不雅下j9九游会，三位驰名外科大夫为中国农民何鲁切除一个长在生殖器上的广阔肿瘤。

228 09-20 13:01 一财最热 点击关闭