新闻动态

欧洲杯体育基于对深度学习的谐和来提高AI系统的安全和对皆-开云「中国」kaiyun体育网址登录入口

发布日期:2026-02-10 08:24    点击次数:164

欧洲杯体育基于对深度学习的谐和来提高AI系统的安全和对皆-开云「中国」kaiyun体育网址登录入口

新智元报谈

剪辑:JHY

【新智元导读】由谷歌前CEO斯密特家眷出资的慈善基金「Schmidt Sciences」近日公布了2024年度AI2050东谈主选,25名东谈主选将分享1200万好意思元,用于AI的跨学科计划。继李飞飞入选高档计划员之后,华东谈主多受宠爱,这次共有6名华东谈主当选早期功绩Fellow。

AI2050 Fellow名单认真公布了!

每年AI2050皆会提名5位高档Fellow,以及15位早期功绩Fellow。特殊情况下,不错加多限额。

本年,一共评比了25东谈主,其中,5位高档Fellow,还有20位早期功绩Fellow。

他们将得到高达1200万好意思元的计划资助。

张开剩余95%

高档Fellow阐述现存孝敬选拔,礼聘顽固式提名,无需央求。早期功绩Fellow需要担任博士后或预聘计划职位。

值得一提的是,本年上榜名单中,一共有6位华东谈主学者当选。他们有的专攻AI安全,有的开辟东谈主机高效协调的AI,还有的专注于AI材料的发现等。

或者好多东谈主对这个名单有些生疏,。

AI2050款式提供了一个独有的视角,邀请东谈主们去畅想2050年的寰宇。

该款式为资深计划东谈主员和早期功绩学者,将提供两年的资助,以交代AI领域的各种人人性挑战。

接下来,咱们一谈望望本年入选Fellow的所著明单。

5位高档Fellow

David Autor

首要贫乏:惩处了AI极端联系时间带来的经济挑战与机遇。

David Autor是麻省理工学院经济学系的Daniel(1972)和Gail Rubinfeld老师,同期担任NBER职业计划款式和麻省理工学院「塑造将来责任」野心的合资主任。

因学术孝敬和训诫建树,他得到了繁密奖项,包括国度科学基金会CAREER奖、Alfred P. Sloan奖、Sherwin Rosen职业经济学领域隆起孝敬奖、2019 年Andrew Carnegie奖、2021 年朝上社会奖章、麻省理工学院 MacVicar 教员奖等。

2023年,他当选为NOMIS隆起科学家,这一荣誉在统统科学领域中仅有两位计划者得到。

AI2050款式:

这项计划将基于东谈主类专科知识经济学,系统化一套新颖的见识,弘扬新用具奈何与东谈主类智商互相作用,从而塑造办事和收入。这项责任将对企业家、时间众人和计谋制定者具有可打听性和实用性,匡助他们预料并塑造机器智商与东谈主类专科知识的共同演进。

Yejin Choi

首要贫乏:惩处了跟着AI及AGI智商的持续增强所带来的安全性和可控性、与东谈主类价值不雅的对皆以及兼容性方面的挑战。

Yejin Choi行将在斯坦福大学担任老师和高档计划员,同期亦然麦克阿瑟奖学金得到者。此前,曾任华盛顿大学Paul G. Allen计较机科学与工程学院的Wissner-Slivka老师。

她在康奈尔大学得到计较机科学博士学位,并在韩国首尔大学得到计较机科学与工程学士学位。

她的计划涵盖NLP和AI领域的多个课题,包括学问知识与推理、神经讲话生成与反生成、基于视觉和告戒的讲话落地,以及面向社会公益的AI。

学术建树方面,她在ACL 2021和CVPR 2021上共同得到了两项时刻磨砺奖,并在ACL、EMNLP、NAACL、ICML、NeurIPS和AAAI等顶会上得到了8项最好论文奖或隆起论文奖。

她还于2018年荣获Borg早期功绩奖(BECA),于2017年赢得首届Alexa Prize Challenge冠军,并在2016年入选IEEE AI’s 10 to Watch。

AI2050款式:

款式提议了一项自利自为的计划野心,旨在通过五个协同计划标的来惩处AI系统的根人性局限:(1)多元化的表面框架,(2)多元化的基准和评测方针,(3)多元化的对皆步调,(4)ValueGenome 算作一个各种化东谈主类价值不雅的目次,(5)可解释的反念念佛由。

Carla Gomes

首要贫乏:通过让AI惩处东谈主类面对的一个或多个首要挑战和机遇,作念出了具有颠覆性有趣的孝敬。

Carla Gomes是康奈尔大学计较与信息科学的Ron和Antonia Nielsen老师,同期担任计较可抓续性计划所长处,并共同雷同科学AI计划所。

她在爱丁堡大学得到AI博士学位,面前是AAAI、ACM和AAAs的Fellow。

她的计划主要邻接在大范围知识表征、推理、机器学习、决议制定和优化等AI领域的议题。

她是新兴领域「计较可抓续性」的草创者之一——利用AI和计较步调交代环境、经济和社会的要道挑战,引颈咱们迈向可抓续的将来。

2021年,因对AI的高影响力孝敬,包括在束缚推理、优化,以及将推理与学习相攀附等方面的创新,以及创立计较可抓续性领域,而得到了AAAI Feigenbaum奖。

2022年,因在跨学科计划方面的孝敬,将计较机科学与其他领域相攀附,而得到了AAAI Allen Newell奖。

AI2050款式:

款式聚焦于可抓续性挑战,举例合资国提议的「30×30生物各种性保护主张」、在分子层面对生化各种性进行表征,以及在餍足动力需求的同期再行念念考人人水电延迟形式,从而尽可能责问对东谈主类与当然的不利影响。

她的计划通过攀附数据驱动与知识驱动的AI步调,破损了面前AI/ML在科学探索和决议制定中的局限性,将基于第一性旨趣的推理与深度学习及帕累托优化协同哄骗于高维度推理与决议经由。借由这些创新的AI步调,她为可抓续性的实践形式带来了长远的变革。

Roger Grosse

首要贫乏:惩处了AI所面对的安全性和可靠性、鲁棒性、性能和输出等挑战,甚极端他可能对公众变成伤害或减弱信任的瑕玷,尤其是在社会风险和潜在危害较高的应用和场景中。

Roger Grosse是多伦多大学计较机科学副老师,Schwartz-Reisman时间与社会讲席老师,Vector Institute的创举成员,以及Anthropic对皆科学团队的时间成员。

他的计划重心是,基于对深度学习的谐和来提高AI系统的安全和对皆。

他曾得到Sloan计划奖、加拿大CIFAR AI讲席和加拿大计划讲席。

AI2050款式:

款式将重心攻克造就安全论证所需的两大算法挑战:最初,详情模子在某一训诲阶段后,都有哪些属性发生了变化;其次,找到或推测出模子发生苦衷行为(如推作歹意野心)的概率。

Michael Wooldridge

首要贫乏:惩处了面前AI在科学和时间上的局限性以及要道贫乏,这些问题关于达成AI的进一步破损至关紧要,进而开辟出更弘大、更有效的AI,能够达成包括AGI在内令东谈主期待和有益的可能性。

Michael Wooldridge是牛津大学计较机科学老师,已发表卓绝450篇科学著作,并出书了9本书(已被翻译成7种讲话)。

他是ACM、AAAI和EurAI的Fellow,同期亦然欧洲科学院的成员。

他于2014年至2016年,担任EurAI主席;2015年至2017年,担任IJCAI主席;面前是《Artificial Intelligence》期刊的合资主编。

他曾得到英国计较机学会的Lovelace奖章(2020年)、AAAI的Patrick Henry Winston隆起训诲家奖(2021 年),以及EurAI的隆起服务奖(2023年)。

AI2050款式:

款式将把LLM时间引入智能体,使其功能更为弘大,应用远景愈加庸碌。

20位早期功绩Fellow

接下来,在20位早期功绩Fellow中,咱们主要先容6位获选的华东谈主学者,并将所著明单列出。

Simon Shaolei Du(杜少雷)

首要贫乏:惩处了在AI持续弘大并最终抵达AGI的经由中,安全与戒指、东谈主类对皆以及兼容性等方面的挑战。

Simon S. Du是华盛顿大学Paul G. Allen计较机科学与工程学院的助理老师。

他在卡内基梅隆大学得到机器学习博士学位,师从Aarti Singh和Barnabás Póczos。并曾在普林斯顿高等计划院担任博士后计划员,师从Sanjeev Arora。

面前,他的计划重心是多智能体强化学习,以及基础模子的数据取舍算法。

他的计划得到了诸多认同,包括Sloan计划奖、三星年度AI计划员奖、英特尔新星教师奖、NSF CAREER奖、英伟达前锋奖,以及卡内基梅隆大学隆起论文奖提名等。

他在学术上的孝敬包括:初次证明了梯度着落法在优化深度神经汇注会的全局料感性;惩处了强化学习中的样本复杂度问题;以及明确了在大景况空间进行强化学习所需的充要条目。

AI2050款式:

款式贫穷于研发能与东谈主类高效协调的AI系统。跟着AI日渐融入咱们的日常生计,这少量已成为了要道的挑战。其计划重心在于构建表面基础并想象全新算法,从而使AI能够在多种情境下与东谈主类无缝协调。并最终打造出能在现实应用场景中与东谈主类深度协同的AI系统,为将来更具实用价值的AI时间奠定基础。

Pang Wei Koh

首要贫乏:惩处了AI所面对的安全性和可靠性、鲁棒性、性能和输出等挑战,甚极端他可能对公众变成伤害或减弱信任的瑕玷,尤其是在社会风险和潜在危害较高的应用和场景中。

Pang Wei Koh是华盛顿大学Allen计较机科学与工程学院的助理老师,同期也AI2的客座计划科学家,以及新加坡AI客座老师。

他在斯坦福大学得到了计较机科学博士和学士学位。在攻读博士之前,他是Coursera的创举团队成员之一,并担任合作伙伴关系总监。

面前,他的计划兴味是可靠机器学习系统的表面与实践计划。

他的计划效果不仅得到了ICML和KDD的最好论文奖,况兼还发表在了Nature和Cell等顶级期刊上。

此外,他还荣获了MIT科技驳倒「亚太区35岁以下创新者」奖。

AI2050款式:

款式将通过减少模子对难以谐和的参数里面运作的依赖,开辟出更值得信托的模子,从而让模子能径直获取并利用联统统据源进行推理

他将开辟新的步调来构建模子:当需要恢复举例医学方面的问题时,模子会最初检索巨擘期刊中经过同业评审的医学论文,整合这些信息,然后给出带有明晰援用开端的谜底。

Yuanyuan Shi

首要贫乏:通过让AI惩处东谈主类面对的一个或多个首要挑战和机遇,作念出了具有颠覆性有趣的孝敬。

Yuanyuan Shi是加州大学圣地亚哥分校电气与计较机工程系的助理老师。

她于2020年得到华盛顿大学电气与计较机工程(ECE)博士学位以及ECE和统计学硕士学位。2020年至2021年,在加州理工学院计较与数学科学系从事博士后计划。

她的计划兴味包括机器学习、动态系统和戒指,以及在可抓续动力系统的应用。

她曾得到多项荣誉,包括麻省理工学院的EECS新星奖、2020年华盛顿大学清洁动力计划所的科学建树奖、2023年的Hellman奖学金,以及PSCC的最好论文奖和ACM e-Energy会议的最好论文入围奖。

AI2050款式:

款式的主张是计划神经算子学习在大范围偏微分方程(PDE)系统戒指中的基础,并确保其安全性和相识性。她将考证所提议的基于AI的PDE戒指框架,在现实办公建筑中进行室内时局建模和戒指,以均衡病原体自满、居住舒放浪和碳排放。

Bijun Tang

首要贫乏:通过让AI惩处东谈主类面对的一个或多个首要挑战和机遇,作念出了具有颠覆性有趣的孝敬。

Bijun Tang博士面前是新加坡南洋理工大学材料科学与工程学院(MSE)的校长博士后计划员。

她划分于2017年和2021年在南洋理工大学材料科学与工程学院得到一等荣誉学士学位和博士学位。2023年,她算作打听科学家加入莱斯大学,与Pulickel Ajayan老师合作。

她的计划兴味主要在于新式二维材料的合成与工程,以及利用机器学习进行智能材料开辟。

她在顶级期刊上发表了30多篇经同业评审的论文,包括Nature、Nat. Mater. Electron.、Nat. Nat. Commu.、Adv. Mater.、Mater. Today等,H指数为18,总援用次数卓绝了1400。

她得到的荣誉包括南洋理工大学新锐科学家奖(2024年)、福布斯亚洲30位30岁以下精英奖(2023年)、南洋理工大学校长博士后奖学金(2022年)、南洋理工大学计划生院跨学科计划奖(2021年),以及工程、科学和时间领域女性发展基金(2021年)。

此外,她依然《International Journal of AI for Materials and Design》期刊的后生编委。

AI2050款式:

2DMatAgent款式旨在开辟一个由AI驱动的平台,以加快二维材料的发现和开辟,这对推动纳米电子学、动力存储和医疗保健的发展至关紧要。

传统的材料开辟步调既逐步又耗尽资源,日常需要数十年时刻。而2DMatAgent可自主想象、考证和优化二维材料,将这一时刻大幅镌汰至数天。

通过整合大范围多模态模子、推理和用具自动化等先进AI时间,该款式将增强各领域和各行业计划东谈主员的智商,推动科学朝上,并在可抓续动力、电子时间极端他要道领域达成破损性进展。

Eric Wong

首要贫乏:惩处了AI所面对的安全性和可靠性、鲁棒性、性能和输出等挑战,甚极端他可能对公众变成伤害或减弱信任的瑕玷,尤其是在社会风险和潜在危害较高的应用和场景中。

Eric Wong是宾夕法尼亚大学计较机与信息科学系的助理老师。

他在卡内基梅隆大学得到了机器学习博士学位,并曾在麻省理工学院从事博士后计划。

他的计划聚焦于可靠机器学习系统的基础:谐和、调试并确保数据驱动模子的行为。在实践中,他的计划匡助科学家和医师利用AI模子进行学习并推动新发现。

他曾荣获Siebel奖学金、SCS论文奖(荣誉提名)和亚马逊计划奖,并得到了JCNLP-AACL的领域主席奖和NeurIPS ML与安全谈判会的最好答辩奖。

AI2050款式:

计划贫穷于开辟鲁棒的机器学习步调,确保生成式AI安全且能保护隐衷,从而珍视这些模子被糜掷,并确保生成式AI恪守联系法律端正。

Chaowei Xiao

首要贫乏:惩处了AI所面对的安全性和可靠性、鲁棒性、性能和输出等挑战,甚极端他可能对公众变成伤害或减弱信任的瑕玷,尤其是在社会风险和潜在危害较高的应用和场景中。

Chaowei Xiao是威斯康星大学麦迪逊分校的助理老师(自2023年8月起任职)。

在此之前,他在英伟达担任了两年全职计划科学家,并在亚利桑那州立大学呆过一段时刻。

他的计划主要邻接在机器学习和安全的交叉领域,主张是构建安全可靠的机器学习系统。

他曾得到ACM戈登贝尔迥殊奖,并在USENIX Security、MobiCOM和ESWN等会议上屡次得到最好论文奖。

Chaowei Xiao对大模子的安全性与保险异常感兴味,并计划LLM在不同应用领域中的潜在应用。

他本科毕业于清华大学,并在密歇根大学安娜堡分校得到博士学位。

AI2050款式:

款式旨在鼓舞咱们对当代东谈主工智能模子和系统的安全挑战的谐和。该款式侧重于开辟前沿的红队用具,以自动发现和评估东谈主工智能系统中的罅隙,并评估当代东谈主工智能时间带来的无益后果。此外,他还将探索增强东谈主工智能系统安全性的原则性步调,确保这些系统愈加安全、隆重,并适合社会价值不雅。

其他Fellow还有:

- Sara Beery, 麻省理工学院助理老师

- Sarah Dean,康奈尔大学助理老师

- Tim Dettmers,卡内基梅隆大学助理老师

- Gabriele Farina,麻省理工学院助理老师

- Anjalie Field,约翰霍普金斯大学助理老师

- Marzyeh Ghassemi,麻省理工学院助理老师

- Yoon Kim,麻省理工学院助理老师

- Aviral Kumar,卡内基梅隆大学助理老师

- Raphaël Millière,麦考瑞大学助理老师

- Antonio Orvieto,马克斯·普朗克智能系统计划所ELLIS计划组组长

- Parthe Pandit,印度理工学院孟买分校助理老师

- David Rolnick,Mila-魁北克AI计划所助理老师

- Florian Shkurti,多伦多大学助理老师

- Ellen Vitercik,斯坦福大学助理老师

前谷歌CEO发起,畅想2050年的寰宇

2022年,前谷歌CEO埃里克·施密特布告认真成立AI2025,首批砸下1.25亿好意思元,专为AI计划提供守旧。

他在其时默示,这是为了确保AI能够果真造福社会的一种形式。

阐述官网信息, 施密特科学基金会贫穷于为统统东谈主创造一个健康、有韧性和安全的寰宇。

优先资助在五个重心领域开展计划,以期产生创新性的影响:

- AI与先进计较

- 天体物理学和天外

- 生物科学

- 时局

- 科学系统

官网中,列出了统统「问题清单」。跟着社会对AI应用的持续发展,这份清单将日常更新。

面前更新截止到2023年6月。

其中,有一些与开辟AI安全系统、以及鼓舞AGI等现实主张。

从2022年运转,到当今一共评比了三届。

前两届的名单中,一些享有殊荣的计划者纷纷当选,比如AI教母李飞飞、草创AI液态神经网,并创立初创Liquid AI的Daniela Rus等等。

他们的计划触及范围之广,故意用AI破解粒子物理学微妙,故意用 AI 改动非洲的药物发现、责问孕产妇归天率......

第三届AI2050评比上的25位Fellow将加入由71名计划东谈主员构成的AI2050社区。

参考良友:

https://www.schmidtsciences.org/schmidt-sciences-to-award-12-million-to-advance-research-on-beneficial-ai/

https://ai2050.schmidtsciences.org/fellows/

https://ai2050.schmidtsciences.org/hard-problems/

发布于:北京市