Anthropic CEO Dario Amodei 在 Claude opus 3.5 发布前写了一篇非常长的文章来先容将来能人工智能(他不肯意把这个叫AGI)对人类的积极影响。
在文章中他形貌了本身思索中的能人工智能的界说,而且在具体先容了能人工智能大概在五个焦点方面临将来人类的积极作用。
不像 Sam 那篇文章,他这叙述极为严谨在每个范畴都有精密具体的推理过程,值得全部人关注 AI 的人看一下。
由于内容非常长我整理了一些我以为紧张的部门,背面有全文翻译:
•大多数人都低估了 AI 大概带来的巨大积极影响,就像他们低估了潜伏风险的严峻性一样。•Dario Amodei常常对很多 AI 风险范畴的公众人物(更不消说 AI 公司向导人(说你呢 Sam))评论后通用人工智能 (AGI) 天下的方式感到不适。•Dario Amodei以为能人工智能大概最早会在 2026 年出现,只管也有大概必要更长的时间。•能人工智能在情势上大概雷同于本日的大型语言模子 (LLM),但大概接纳差别的架构,大概涉及多个相互作用的模子,并大概以差别的方式举行练习。能人工智能详细的特点有:
•在纯粹的智力方面,它比大多数相干范畴的顶尖专家更智慧。•除了作为一个"智慧的对话同伴",它还具备假造工作情况中人类可用的全部"接口",包罗笔墨、语音、视频、鼠标键盘控制和互联网访问。•它不但是被动答复题目,而是可以担当必要数小时、数天乃至数周才气完成的使命。•它没有物理实体(除了存在于盘算机体系中),但可以通过盘算机控制现有的物理工具、呆板人或实行室装备。•用于练习这个模子的盘算资源可以重新用于同时运行数百万个实例。这个模子可以以比人类快 10-100 倍的速率吸取信息和产生举措。•这数百万个副本中的每一个都可以独立实行差别的使命,大概在必要时像人类团队一样协作工作。
•大概与能人工智能互补的因素和限定性因素:
•外部天下的速率。智能体必要在实际天下中互动才气完成使命和学习。但实际天下的运转速率是有限的。•数据需求。有时间,原始数据的缺乏会成为瓶颈,在这种环境下,再高的智能也无济于事。•内涵复杂性。有些体系本质上是不可猜测或混沌的,纵然是最强盛的 AI 也无法比现有的人类或盘算机做出更好的猜测或剖析。•人为限定。许多事变不能在不违法、不伤害他人或不粉碎社会秩序的条件下完成。一个颠末精良调校的 AI 不会想要做这些事。•物理定律。这是对第一点的进一步夸大。有些物理定律好像是不可违反的。
•能人工智能答应昨们将人类生物学家在将来 50-100 年内大概实现的希望压缩到 5-10 年内。下面这些题目都将被肯定水平办理。•险些全部天然感染病的可靠防备和治疗。•消除大多数癌症。已往几十年,癌症殒命率每年降落约 2%;因此,按照现在人类科学的速率,昨们有望在 21 世纪消除大多数癌症。•非常有用的防备和有用治疗遗传疾病。大大改进的胚胎筛查大概使防备大多数遗传疾病成为大概。•防备阿尔茨海默病。•改善大多数其他疾病的治疗。这是一个包罗糖尿病、肥胖、心脏病、自身免疫疾病等其他疾病的统称种别。•生物自由。我猜疑 AI 加快的生物学将大大扩展大概性:体重、外貌、生殖和其他生物过程将完全在人们的控制之下。•人类寿命翻倍 。在 20 世纪,预期寿命险些增长了 2 倍(从约 40 岁到约 75 岁),以是"压缩的 21 世纪"再次将其翻倍到 150 岁是"符合趋势的"。
•防备大多数精力疾病,大概会在5-10年的 AI 加快年内公道完成。详细的猜测是:•大多数精力疾病大概可以被治愈。•非常"布局性"的条件大概更难,但并非不大概。大概有某种方法可以诱导成年大脑进入更早或更具可塑性的状态,在那边它可以被重塑。•有用地通过基因防备精力疾病好像是大概的。•昨们不以为是临床疾病的一样平常题目也将得到办理。昨们大多数人都有一样平常生理题目,通常不被以为到达临床疾病的程度。•人类基线体验可以更好。大概也可以全面进步各种认知功能。这大概是"生物自由"或"延长命命"的神经科学版本。
•能人工智能开辟后 5-10 年内发展中国家大概发生的环境的一些推测:•康健干预步伐的遍及。我最乐观的范畴大概是在环球范围内遍及康健干预步伐。•经济增长。发展中国家每年 20% 的 GDP 增长率,此中 10% 来自 AI 支持的经济决议,10% 来自 AI 加快技能的天然流传,包罗但不限于康健范畴。•粮食安全。以及使农业供应链更加高效 - 大概会给昨们带来 AI 驱动的第二次绿色革命[1],资助缩小发展中国家和发达国家之间的差距。•减缓天气变革。AI 加强的研究将为昨们提供使减缓天气变革的本钱和粉碎性大大低落的本领,使很多反对意见变得毫偶然义。•国家内部的不同等。预计公民会要求得到云云大幅改善生存质量的技能。固然,这种要求的乐成并不是预定的 - 这里是昨们团体必须尽统统积极确保公平社会的另一个地方。•选择退出题目。这是一个难以办理的题目,由于我不以为在道德上逼迫人们是精确的,但昨们至少可以实验增长人们的科学明白 - 大概 AI 自己可以资助昨们做到这一点。
•宁静和管理层面:•民主当局可以使用他们良好的 AI 技能赢得信息战。他们可以有用地反制威权政体的影响和宣传举措。•AI 是第一个可以或许以可重复和体系的方式对复杂、含糊的环境做出判定的技能。可以通过进步决议和流程的公正性来改善昨们的法律和司法体系。•AI 可以用来汇总差别意见,推动公民之间告竣共识,办理辩论,探求共同点,促进妥协。•AI 另有一个显着的应用范畴,那就是资助提供当局服务。•21世纪,在 AI 的支持下,昨们有时机创造一种新型的政治体制。
•当 AI (人工智能) 包办统统时,人类怎样找到人生的意义呢?他以为这个题目比其他题目更加棘手:•在一个充足先辈的 AI 驱动经济中,大多数或全部人类大概无法做出故意义贡献的潜伏题目。 将继承保持人类的相干性并现实上进步他们的生产力,乃至大概在某些方面使人类之间的竞争情况变得更加公平。•从久远来看,AI 将变得云云广泛有用和便宜,以至于这种环境将不再实用。到当时,昨们当前的经济模式将不再故意义,必要举行更广泛的社会对话,讨论经济应该怎样重新构造。•终极公道的大概是 AI 体系的资源主义经济,然后根据某种次级经济 (基于 AI 体系以为在人类中故意义嘉奖的判定,终极源于人类代价观) 向人类分配资源 (大量资源,由于总体经济蛋糕将会巨大)。•昨们大概必须努力图取得到一个好的效果:聚敛性或反乌托邦的方向显然也是大概的,必须加以制止。
整理和校对非常不易,先提前感谢各位的三连和赞赏。
正文
我常常思索并讨论强盛人工智能 (powerful AI) 大概带来的风险。我担当 CEO 的公司 Anthropic 举行了大量研究,致力于低落这些潜伏风险。因此,有些人大概会以为我是个灰心主义者或"末日预言家",以为 AI 重要会带来负面影响或伤害。但究竟并非云云。恰好相反,我之以是关注风险,是由于这些风险是昨们通往优美将来的唯一停滞。我以为大多数人都低估了 AI 大概带来的巨大积极影响,就像他们低估了潜伏风险的严峻性一样。
在这篇文章中,我试图刻画出一幅优美的图景 —— 假如统统都朝着好的方向发展,拥有强盛 AI 的天下会是什么样子。固然,没有人可以或许确切地预知将来,强盛 AI 的影响大概比已往的任何技能厘革都更难猜测,以是这里不免会有一些推测的身分。但我的目的是至少提供一些有根据且有代价的料想,纵然大多数细节终极大概有误,也能捕获到将来的大抵表面。我在文中包罗了大量细节,重要是由于我以为一个详细的愿景比一个高度守旧和抽象的愿景更能推动讨论。
起首,我想扼要表明一下为什么我和 Anthropic 没有过多评论强盛 AI 的利益,以及为什么昨们大概会继承重要关注风险。特殊是,我做出这个选择是基于以下思量:
•最大化影响力。AI 技能的根本发展和很多(不是全部)利益好像是不可制止的(除非风险导致统统偏离轨道),而且重要由强盛的市场气力驱动。另一方面,风险并非注定发生,昨们的举措可以极大地改变它们出现的大概性。•制止被视为宣传。假如 AI 公司总是评论 AI 的惊人利益,大概会给人一种在做宣传的感觉,大概像是在试图转移人们对缺点的留意力。我也以为,作为一个原则题目,过多地"自吹自擂"对一个人的风致是有害的。•制止自负。我常常对很多 AI 风险范畴的公众人物(更不消说 AI 公司向导人)评论后通用人工智能 (AGI) 天下的方式感到不适,似乎他们的任务是像先知引导人民走向救赎一样单枪匹马地实现它。我以为将公司视为片面塑造天下是伤害的,将现实的技能目的等同于宗教任务也是伤害的。•制止"科幻"标签。只管我以为大多数人低估了强盛 AI 的利益,但讨论激进 AI 将来的小圈子常常以过于"科幻"的口气举行讨论(包罗比方头脑上传、太空探索或一样平常的赛博朋克风格场景)。我以为这会导致人们不太认真对待这些观点,并给它们蒙上一层不真实的色彩。必要阐明的是,题目不在于所形貌的技能是否大概实现(主文章会具体讨论这一点) —— 更多的是这种"氛围"隐含地带来了一堆文化包袱和未明白阐明的假设,好比什么样的将来是抱负的,各种社会题目将怎样发展等。这种讨论每每终极读起来像是一个小众群体的理想,同时让大多数人感到不适。
然而,只管有上述全部担心,我真的以为讨论一个拥有强盛 AI 的优美天下大概是什么样子很紧张,同时昨们要尽最大积极制止上述陷阱。究竟上,我以为有一个真正鼓舞民气的将来愿景是至关紧张的,而不但仅是一个应对危急的筹划。强盛 AI 的很多影响大概是具有挑衅性或伤害的,但在末了,昨们必须有昨们为之奋斗的目的,一个每个人都能受益的共赢效果,一些能让人们连合起来,逾越分歧,共同面临将来挑衅的愿景。恐惊是一种动力,但还不敷:昨们也必要盼望。
强盛 AI 的积极应用范畴非常广泛(包罗呆板人技能、制造业、能源等),但我将重点关注少数几个我以为最有大概直接改善人类生存质量的范畴。我最感爱好的五个种别是:
1.生物学和身材康健2.神经科学和生理康健3.经济发展和减贫4.宁静与管理5.工作和人买卖义
按照大多数尺度(除了科幻"奇点"愿景2[2]),我的猜测大概会显得激进,但我是认真和老实地提出它们的。我所说的统统很大概是错的(再次夸大我之前的观点),但我至少试图将我的观点创建在对各个范畴大概加快发展的水平以及这在实践中大概意味着什么的半分析性评估的底子上。我很荣幸在生物学和神经科学[3]方面都有专业履历,我也是经济发展范畴的一名相识环境的业余爱好者,但我肯定会在许多方面有所疏漏。写这篇文章让我意识到,把一群范畴专家(生物学、经济学、国际关系和其他范畴的专家)调集在一起,写出比我在这里提供的更全面、更有看法的版本将黑白常有代价的。最好将我在这里的积极视为对该小组的一个起始提示。
根本假设和框架
为了使整篇文章更加准确和有根据,昨们必要明白界说什么是强盛的人工智能 (AI),即什么样的 AI 本领标记着将来 5-10 年庞大厘革的开始。同时,昨们还必要创建一个框架,来思索这种 AI 一旦出现后会带来哪些影响。
强盛的 AI (我更喜好用这个词,而不是通用人工智能 AGI)3[4]毕竟会是什么样子,何时(或是否)会出现,自己就是一个巨大的话题。我曾公开讨论过这个题目,大概未来会专门写一篇文章来探究。显然,很多人对强盛的 AI 可否在短期内实现持猜疑态度,一些人乃至质疑它是否能被创造出来。我个人以为它大概最早会在 2026 年出现,只管也有大概必要更长的时间。但在本文中,我想临时搁置这些争议,假设它会在可预见的将来出现,并会合讨论在那之后的 5-10 年内大概发生的厘革。我还想假设如许一个体系的根本特性,包罗它的本领和互动方式,只管这些假设大概存在争议。
我心目中的"强盛 AI"是一种人工智能模子 —— 在情势上大概雷同于本日的大型语言模子 (LLM),但大概接纳差别的架构,大概涉及多个相互作用的模子,并大概以差别的方式举行练习。它具有以下特性:
•在纯粹的智力方面,它比大多数相干范畴的顶尖专家更智慧 —— 无论是生物学、编程、数学、工程照旧写作等。这意味着它可以证实尚未办理的数学定理,创作精彩的小说,从零开始编写复杂的步伐等。 4[5]•除了作为一个"智慧的对话同伴",它还具备假造工作情况中人类可用的全部"接口",包罗笔墨、语音、视频、鼠标键盘控制和互联网访问。它可以通过这些接口实行各种操纵、举行通讯或长途操纵,好比在网上运动,给人类指令或担当指令,订购质料,引导实行,观看或制作视频等。在全部这些使命中,它的体现都逾越了天下上最良好的人类专家。•它不但是被动答复题目,而是可以担当必要数小时、数天乃至数周才气完成的使命,然后像一个智慧的员工那样自主地完成这些使命,须要时会自动寻求澄清。•它没有物理实体(除了存在于盘算机体系中),但可以通过盘算机控制现有的物理工具、呆板人或实行室装备。理论上,它乃至可以为本身计划新的呆板人或装备来利用。•用于练习这个模子的盘算资源可以重新用于同时运行数百万个实例(这与 2027 年左右的预计盘算集群规模相匹配)。这个模子可以以比人类快 10-100 倍的速率吸取信息和产生举措。不外,它大概会受到物理天下或与之交互的软件相应速率的限定。 5[6]•这数百万个副本中的每一个都可以独立实行差别的使命,大概在必要时像人类团队一样协作工作。某些子群体大概会被特殊优化,以善于特定范例的使命。
昨们可以将这种 AI 概括为"数据中内心的天才国度"。
显然,如许一个体系可以或许非常快速地办理极其困难的题目,但详细有多快并不轻易确定。我以为两种"极度"观点都是错误的。起首,有人大概以为天下会在几秒或几天内发生彻底变化(即所谓的"技能奇点[7]")。按照这种观点,超等智能会不停自我提拔,险些立刻办理全部大概的科学、工程和操纵题目。这种观点的题目在于,实际天下存在真实的物理和现实限定,好比硬件制造或生物实行方面的限定。纵然是一个"天才国度"也无法完全突破这些限定。智能确实非常强盛,但它并不是全能的邪术。
第二种极度观点则以为,技能进步已经到达饱和,大概受到实际天下数据或社会因素的限定,超人类智能险些不会带来什么额外的进步6[8]。这种观点在我看来同样不可信。我能想到数百个科学乃至社会题目,在这些范畴,一大群真正智慧的智能领会大大加速希望。特殊是假如它们不但能举行分析,还能在实际天下中实行举措(昨们假设的"天才国度"能做到这一点,包罗引导或帮忙人类团队)。
我以为真实环境大概是这两种极度观点的某种混淆,在差别使命和范畴中体现差别,细节上会非常复杂。昨们必要新的头脑框架来有用地思索这些细节。
经济学家常常评论"生产要素",好比劳动力、地皮和资源。"劳动力/地皮/资源的边际收益"这个概念捕获了如许一个头脑:在特定环境下,某个因素大概是也大概不是限定性因素。举个例子,空军必要飞机和飞行员,假如飞机数目已经用尽,那么增长飞行员数目并不会带来太大资助。我以为在 AI 期间,昨们应该讨论智能的边际收益7[9],并试图找出哪些因素与智能是互补的,以及当智能程度非常高时,哪些因素会成为新的限定因素。昨们还不风俗如许思索 —— 去问"在这项使命中,更高的智能能带来多大资助,在什么时间标准上?" —— 但这好像是明白一个拥有超等 AI 的天下的精确方式。
我以为,限定或与智能互补的因素大概包罗:
•外部天下的速率。智能体必要在实际天下中互动才气完成使命和学习。但实际天下的运转速率是有限的。细胞和动物以固定的速率运作,以是对它们的实行必要肯定的时间,这个时间大概是无法收缩的。硬件、质料科学、人际交换,乃至昨们现有的软件底子办法也都有雷同的限定。别的,在科学研究中,often必要举行一系列相互依靠的实行,每个实行都基于前一个实行的效果。全部这些因素意味着,完成一个庞大项目 —— 好比开辟癌症治疗方法 —— 大概存在一个不可突破的最短时间,纵然智能继承进步,也无法进一步收缩这个时间。 8[10]•数据需求。有时间,原始数据的缺乏会成为瓶颈,在这种环境下,再高的智能也无济于事。好比,本日的粒子物理学家已经非常智慧,提出了各种理论,但由于粒子加快器数据非常有限[11],他们缺乏数据来验证这些理论。纵然他们拥有超等智能,也不清晰可否做得更好 —— 除非这种智能能资助更快地制作更大的加快器。•内涵复杂性。有些体系本质上是不可猜测或混沌的,纵然是最强盛的 AI 也无法比现有的人类或盘算机做出更好的猜测或剖析。比方,对于一个混沌体系(如三体题目[12]),纵然是超等 AI 也只能比如今的人类和盘算机轻微多猜测一点点将来。 9[13]•人为限定。许多事变不能在不违法、不伤害他人或不粉碎社会秩序的条件下完成。一个颠末精良调校的 AI 不会想要做这些事(假如昨们的 AI 没有颠末精良调校,那昨们就要回到讨论风险了)。很多人类社会布局固然服从低下乃至有害,但要在恭敬临床试验法规、人们改变风俗的意愿或当局举动等限定的同时改变它们并不轻易。有些技能进步在技能层面运作精良,但其影响却由于法规或不妥的恐惊而大大受限,例子包罗核能、超音速客机[14],乃至电梯[15]。•物理定律。这是对第一点的进一步夸大。有些物理定律好像是不可违反的。昨们不大概超光速移动。搅拌过的布丁不会主动回到未搅拌状态[16]。芯片每平方厘米只能容纳一定命量的晶体管,否则就会变得不可靠[17](这里指的是量子隧穿效应,它会导致电子在高密度芯片中"走漏")。盘算过程中每擦除一个比特至少必要斲丧肯定的能量[18],这限定了天下上盘算密度的上限。
另有一个基于时间标准的紧张区分。短期内看似坚如盘石的限定,恒久来看大概会被智能渐渐突破。比方,智能大概被用来开辟新的实行方法,让昨们能在实行室里学到从前只能通过活体动物实行才气得到的知识。大概,它可以资助昨们制作网络新数据所需的工具(好比更大的粒子加快器)。在道德和伦理答应的范围内,它乃至大概找到绕过人为限定的方法,好比资助改进临床试验体系,在羁系更宽松的地方创建新的临床试验中央,大概改进科学自己,使人体临床试验变得不那么须要或更加经济。
因此,昨们应该想象如许一个场景:最初,智能的发展会受到其他因素的严峻制约,但随着时间推移,智能自己会越来越多地找到绕过这些限定的方法。只管有些限定(好比根本物理定律)大概永久无法完全突破,但智能会不停拓展大概性的界限10[19]。关键题目是:这个过程会有多快?各个范畴的突破会以什么次序发生?
基于上述框架,我将实验答复弁言中提到的五个关键范畴的这些题目。
1. 生物学和康健
生物学大概是科学进步最有潜力直接和明白改善人类生存质量的范畴。在上个世纪,一些最古老的人类疾病 (如天花) 终于被征服,但另有更多疾病仍旧存在,击败它们将是一项巨大的人性主义成绩。除了治愈疾病,生物科学原则上可以通过延伸康健的人类寿命、增长对昨们自身生物过程的控制和自由,以及办理昨们现在以为是人类状态不可改变部门的一样平常题目,来改善人类康健的基线质量。
用前一节的"限定因素"语言来说,直接将智能应用于生物学的重要挑衅是数据、物理天下的速率和内涵复杂性 (现实上,这三者都是相互关联的)。人类的限定也在后期阶段发挥作用,特殊是涉及临床试验时。让昨们逐一讨论这些因素。
对细胞、动物乃至化学过程的实行受到物理天下速率的限定:很多生物学协议涉及造就细菌或其他细胞,大概只是等候化学反应发生,这偶然大概必要数天乃至数周的时间,而且没有显着的方法可以加速速率。动物实行大概必要数月 (或更长时间),人类实行通常必要数年 (恒久效果研究乃至大概必要数十年)。与此有些相干的是,数据每每缺乏 - 不是数目,而是质量:总是缺乏清楚、明白的数据来将感爱好的生物效应与其他 10,000 个稠浊因素隔脱离来,大概在给定过程中举行因果干预,大概直接丈量某些效应 (而不是以某种间接或嘈杂的方式推断其效果)。纵然是大规模的、定量的分子数据,好比我在研究质谱技能时网络的卵白质组学数据,也是嘈杂的,而且遗漏了许多 (这些卵白质在哪些范例的细胞中?在细胞的哪个部门?在细胞周期的哪个阶段?)。
部门导致这些数据题目的是内涵复杂性:假如你曾经见过展示人类代谢生物化学的图表,你就会知道很难隔离这个复杂体系的任何部门的效应,更难以准确或可猜测的方式干预体系。末了,除了在人类身上举行实行所需的固偶然间之外,现实的临床试验还涉及大量的官僚主义和羁系要求,这些要求 (在包罗我在内的很多人看来) 增长了不须要的额外时间并延缓了希望。
鉴于这统统,很多生物学家恒久以来不停猜疑 AI 和更广泛的"大数据"在生物学中的代价。从汗青上看,在已往 30 年里将本身的技能应用于生物学的数学家、盘算机科学家和物理学家取得了相称大的乐成,但并没有产生最初盼望的那种真正厘革性的影响。一些猜疑已经被 AlphaFold (刚刚为其创造者赢得了应得的诺贝尔化学奖) 和 AlphaProteo [11] 等庞大和革命性的突破所淘汰,但仍旧存在一种观点以为 AI 在如今和未来只在有限的环境下有效。一个常见的说法是"AI 可以更好地分析你的数据,但它不能产生更多的数据或改善数据的质量。垃圾进,垃圾出"。
但我以为这种灰心的观点是以错误的方式对待 AI。假如昨们关于 AI 希望的焦点假设是精确的,那么精确的思索 AI 的方式不是作为一种数据分析方法,而是作为一个假造的生物学家,实行生物学家所做的全部使命,包罗计划和在真实天下中举行实行 (通过控制实行室呆板人或简朴地告诉人类举行哪些实行 - 就像重要研究员对他们的研究生所做的那样),发明新的生物学方法或丈量技能,等等。正是通过加快整个研究过程,AI 才气真正加快生物学。我想重复这一点,由于这是我谈到 AI 本领变化生物学时最常见的误解:我说的不是 AI 仅仅是一个分析数据的工具。根据本文开头对强盛 AI 的界说,我说的是利用 AI 来实行、引导和改进生物学家所做的险些全部事变。
为了更详细地阐明我以为加快大概来自那里,令人惊奇的是,生物学的希望中有相称大一部门来自于真正少量的发现,通常与广泛的丈量工具或技能 [12] 有关,这些工具或技能答应准确但通用或可编程的生物体系干预。这些庞大发现每年大概只有约 1 个,但它们共同推动了生物学希望的 >50%。这些发现云云强盛,正是由于它们突破了内涵复杂性和数据限定,直接增长了昨们对生物过程的明白和控制。每十年的几个发现既推动了昨们对生物学的根本科学明白的大部门,也推动了很多最强盛的医疗治疗。
一些例子包罗:
CRISPR:一种答应在活体生物中及时编辑任何基因的技能 (将恣意基因序列更换为任何其他恣意序列)。自原始技能开辟以来,已经不停改进以针对特定细胞范例,进步正确性,并淘汰错误基因的编辑 - 这些都是在人类身上安全利用所需的。
各种范例的显微镜技能,用于准确观察正在发生的事变:先辈的光学显微镜 (具有各种荧光技能、特别光学等)、电子显微镜、原子力显微镜等。
基因组测序和合成,在已往几十年里本钱降落了几个数目级。
光遗传学技能,答应通过照射光线来使神经元发射。
mRNA 疫苗,原则上答应昨们计划针对任何东西的疫苗,然后快速顺应 (mRNA 疫苗固然在 COVID 期间变得闻名)。
细胞疗法,如 CAR-T,答应将免疫细胞从体内取出并"重新编程"以攻击原则上任何东西。
概念性洞察,如疾病的微生物理论或熟悉到免疫体系与癌症之间的接洽。
我费经心思列出全部这些技能,是由于我想对它们提出一个关键的主张:假如有更多有才气、有创造力的研究职员,我以为它们的发现率大概会增长 10 倍或更多。大概换句话说,我以为这些发现的智力回报很高,生物学和医学中的其他统统重要都源于它们。
为什么我这么以为?由于当昨们试图确定"智力回报"时,昨们应该养成风俗问的一些题目的答案。起首,这些发现通常是由少少数研究职员做出的,每每是同一批人反复做出,这表明是技能而不是随机搜刮 (后者大概表明冗长的实行是限定因素)。其次,它们每每"大概"比现实早几年被发现:比方,CRISPR 是细菌免疫体系中天然存在的构成部门,自 80 年代就已知晓,但人们花了 25 年才意识到它可以被重新用于通用基因编辑。它们也常常由于科学界缺乏对有前程方向的支持而耽误多年 (拜见这篇关于 mRNA 疫苗发明者的简介;雷同的故事触目皆是)。第三,乐成的项目每每是马虎的或最初被以为不太有前程的后思,而不是大规模资金支持的积极。这表明不但仅是大规模资源会合推动发现,而是创造力。
末了,只管这些发现中的一些有"串行依靠性"(你必要先做出发现 A,才气有工具或知识来做出发现 B) - 这再次大概造成实行耽误 - 但很多,大概是大多数,是独立的,意味着可以同时并行工作很多发现。这些究竟,以及我作为生物学家的一样平常履历,猛烈表明,假如科学家更智慧,更善于在人类拥有的大量生物学知识之间创建接洽,就有数百个如许的发现等候被发现 (再次思量 CRISPR 的例子)。AlphaFold/AlphaProteo 在办理紧张题目方面比人类更有用的乐成,只管颠末数十年经心计划的物理建模,提供了一个原则证实 (只管是在局促范畴的局促工具),应该指明进步的方向。
因此,我推测强盛的 AI 至少可以将这些发现的速率进步 10 倍,使昨们在 5-10 年内得到将来 50-100 年的生物学希望 [14]。为什么不是 100 倍?大概是大概的,但这里串行依靠性和实行时间变得紧张:在 1 年内得到 100 年的希望必要许多事变第一次就做对,包罗动物实行和计划显微镜或昂贵的实行室办法等事变。我现实上对 (大概听起来谬妄的) 想法持开放态度,即昨们大概在 5-10 年内得到 1000 年的希望,但非常猜疑昨们能在 1 年内得到 100 年的希望。另一种说法是,我以为有一个不可制止的恒定耽误:实行和硬件计划有肯定的"耽误",必要迭代肯定"不可淘汰"的次数,以相识无法逻辑推导的事变。但在此底子上大概实现大规模并行 [15]。
临床试验呢?固然与之相干的官僚主义和减速许多,但究竟是,大部门 (固然绝不是全部!) 的迟钝终极源于必要严酷评估那些险些不起作用或含糊起作用的药物。这可悲地实用于本日的大多数疗法:均匀的癌症药物只能增长几个月的生存期,同时有明显的副作用必要细致丈量 (阿尔茨海默氏症药物也有雷同的环境)。这导致了巨大的研究 (为了实现统计本领) 和困难的衡量,羁系机构通常不擅优点理这些衡量,这又是由于官僚主义和长处辩论的复杂性。
当某些东西真的很有用时,它会举行得更快:有一个加快答应的通道,当结果巨细更大时,答应的轻易水平也更大。COVID 的 mRNA 疫苗在 9 个月内就得到了答应 - 比通常的速率快得多。也就是说,纵然在这些条件下,临床试验仍旧太慢 - mRNA 疫苗可以说应该在约 2 个月内得到答应。但这种耽误 (药物端到端约 1 年) 联合大规模并行化和必要一些但不是太多迭代 ("频频实验") 与 5-10 年内的根本变化黑白常兼容的。更乐观的是,AI 支持的生物科学大概会通过开辟更好的动物和细胞实行模子 (乃至是模仿) 来淘汰临床试验中迭代的必要,这些模子在猜测人类会发生什么方面更正确。这在开辟针对朽迈过程的药物时尤为紧张,由于朽迈过程连续数十年,昨们必要更快的迭代循环。
末了,关于临床试验和社会停滞的话题,值得明白指出的是,在某些方面,生物医学创新在乐成摆设方面有着非常强盛的记载,与一些其他技能相比 [16]。正如在弁言中提到的,只管在技能上运作精良,很多技能仍受到社会因素的拦阻。这大概会对 AI 可以或许实现的成绩持灰心态度。但生物医学是独特的,由于只管开辟药物的过程过于繁琐,但一旦开辟出来,它们通常会乐成摆设和利用。
总结上述内容,我的根本猜测是,AI 支持的生物学和医学将答应昨们将人类生物学家在将来 50-100 年内大概实现的希望压缩到 5-10 年内。我将这称为"压缩的 21 世纪":即在强盛的 AI 开辟出来后,昨们将在几年内实现昨们在整个 21 世纪大概实现的全部生物学和医学希望。
固然猜测强盛的 AI 在几年内能做什么本质上仍旧是困难和推测性的,但扣问"人类在将来 100 年内不借助外力能做什么"有一些详细性。简朴地看看昨们在 20 世纪取得的成绩,大概从 21 世纪的前 20 年推断,大概扣问"10 个 CRISPR 和 50 个 CAR-T"会给昨们带来什么,都提供了现实的、踏实的方法来估计昨们大概从强盛的 AI 中盼望的总体希望程度。
下面我试图列出昨们大概盼望的内容。这并不基于任何严酷的方法,而且在细节上险些肯定会被证实是错误的,但它试图转达昨们应该盼望的总体激进程度:
•险些全部天然感染病的可靠防备和治疗。思量到 20 世纪对感染病的巨大希望,想象昨们可以在压缩的 21 世纪内"完成工作"并不激进。mRNA 疫苗和雷同技能已经为"任何疾病的疫苗"指明白方向。感染病是否从天下上完全根除(而不但仅是在某些地方)取决于贫苦和不同等的题目,这些在第 3 节中讨论。•消除大多数癌症。已往几十年,癌症殒命率每年降落约 2%;因此,按照现在人类科学的速率,昨们有望在 21 世纪消除大多数癌症。一些亚型已经根本被治愈(比方,利用 CAR-T 疗法的某些范例的白血病),我对非常选择性的药物更加高兴,这些药物可以在癌症早期阶段靶向治疗并防止其生长。AI 还将使非常精致地顺应癌症个体化基因组的治疗方案成为大概 - 这些本日是大概的,但在时间和人类专业知识方面非常昂贵,AI 应该答应昨们扩大规模。殒命率和发病率都大概低落 95% 或更多。也就是说,癌症极其多样化和顺应性强,大概是这些疾病中最难完全清除的。假如一些稀有、困难的恶性肿瘤仍旧存在,也不会令人惊奇。•非常有用的防备和有用治疗遗传疾病。大大改进的胚胎筛查大概使防备大多数遗传疾病成为大概,一些更安全、更可靠的 CRISPR 子女大概治愈大多数现有人群的遗传疾病。然而,影响大部门细胞的满身性疾病大概是末了的堡垒。•防备阿尔茨海默病。昨们在弄清晰阿尔茨海默病的缘故原由方面碰到了很大困难(它与 β-淀粉样卵白有某种关系,但现实细节好像非常复杂)。这好像正是可以通过更好的丈量工具来办理的题目范例,这些工具可以隔离生物效应;因此,我对 AI 办理这个题目的本领持乐观态度。一旦昨们真正相识发生了什么,很有大概终极可以通过相对简朴的干预来防备它。也就是说,已经存在的阿尔茨海默病造成的侵害大概很难逆转。•改善大多数其他疾病的治疗。这是一个包罗糖尿病、肥胖、心脏病、自身免疫疾病等其他疾病的统称种别。这些疾病中的大多数好像"更轻易"办理,比癌症和阿尔茨海默病更轻易,而且在很多环境下已经在急剧降落。比方,心脏病殒命率已经降落凌驾 50%,像 GLP-1 冲动剂如许的简朴干预已经在对抗肥胖和糖尿病方面取得了巨大希望。•生物自由。已往 70 年里,在避孕、生养、体重管理等方面取得了希望。但我猜疑 AI 加快的生物学将大大扩展大概性:体重、外貌、生殖和其他生物过程将完全在人们的控制之下。昨们将这些归类为生物自由:即每个人都应该有权选择他们想成为什么样的人,并以最吸引他们的方式生存。固然,关于环球同等获取的紧张题目将会出现;请拜见第 3 节。•人类寿命翻倍 [18]。这大概看起来很激进,但在 20 世纪,预期寿命险些增长了 2 倍(从约 40 岁到约 75 岁),以是"压缩的 21 世纪"再次将其翻倍到 150 岁是"符合趋势的"。显然,减缓现实朽迈过程所涉及的干预步伐将与上个世纪防备(重要是儿童)过早死于疾病所需的干预步伐差别,