我国科学家一项研究有望让人工智能更“理解”人类
我国科学家牵头进行的一项研究,在让人工智能快速识别人类的价值意图方面取得突破,可在复杂任务中提高人机协作的效率。研究成果日前已由国际学术期刊《科学·机器人学》在线发表。
该研究由北京通用人工智能研究院教授朱松纯带领的团队完成。研究团队提出了一种人机双向价值对齐的合作框架,并展示了机器人如何与人类用户通过实时沟通完成一系列复杂的人机协作任务。
科学家一直试图让人工智能学习人类的认知推理能力,进而学习理解人类的意图,并执行人类真正在意的价值需求。但目前广泛应用的人工智能系统,往往只能机械地按照人类给定的任务行事。
“如果一个任务的目标可以被清晰地描述出来,那么让人工智能理解任务背后的价值需求并不困难。”论文共同作者、北京通用人工智能研究院研究员郑子隆表示,然而生活中充满大量很难定义目标的任务。例如,一杯咖啡在不同人心中意味着不同的饮料,当人类用户跟人工智能说“我要一杯咖啡”时,需要人工智能搞清楚究竟要的是什么咖啡,也就是与人类“对齐价值”。
据介绍,研究团队提出了一个基于即时双向价值对齐模型的可解释人工智能系统。在该系统中,一组机器人通过与人类的实时沟通来快速推断人类用户的价值目标,同时通过“解释”将其决策过程传达给用户,让用户了解机器人做出判断的价值依据。此外,该系统通过推测人类用户的内在价值偏好,生成更容易理解的解释。
北京通用人工智能研究院是北京市政府、科技部支持共建的一所非营利性新型研发机构,由北京大学、清华大学等单位合作支撑。
相关新闻
-
市纪委监委召开2025年全市纪检监察重点工作推进会
[2025-07-16] -
宁夏四重优势构筑投资热土
[2025-07-16] -
首都医科大学宣武医院在市人民医院开展“走基层送健康”活动
[2025-07-16] -
这个夏天辽宁宠客!100元玩转故宫和千山两大顶流景区
[2025-07-16] -
宁夏主导制定的全球首个枸杞属植物测试标准发布 确立枸杞新品种国际通行“画像”
[2025-07-16] -
宁夏上线“医保钱包”跨省共济功能 可将职工个人账户资金划转至被共济亲属
[2025-07-16] -
宁夏云雾山330千伏线路工程进入架线施工关键阶段
[2025-07-16] -
《2024年度宁夏媒体社会责任报告》
[2025-07-15] -
宁夏六盘山干部学院红歌会课堂“声”动研学路
[2025-07-15] -
“呵护‘一河三山’筑牢生态屏障”专题培训班在我市开班
[2025-07-15]