NeurIPS今年将加入道德评审,论文作者还需声明财务资助,获正面评价才能接收

晓查 发自 凹非寺
量子位 报道 | 公众号 QbitAI

AI研究的道德问题越来越突显。

上周,YOLO之父Redmon宣布退出CV研究,因为不想看到自己研发的技术被用于军事和隐私窥探。

有人说,Redmon很难以一己之力改变学术界。然而事实上,Redmon的做法正是因为学术界开始重视AI的道德伦理,他这一激进的决定来自于与其他学者之间的争论。

全球最大的AI学术会议NeurIPS组织方在最新公告中表示,今年向大会提交论文的学者必须陈述其研究潜在的更广泛的影响,以及自己的研究是否存在任何财务利益冲突。

NeurIPS今年将加入道德评审,获正面评价才能接收

社会影响力声明将要求AI研究人员说明其工作的正面和负面潜在结果,而财务披露要求阐明行业和大型科技公司在该领域中发挥的作用,以及与提交的研究直接相关的潜在利益冲突。

NeurIPS是首批制定该要求的顶级AI学术会议,不知其他学术会议是否会跟进。

NeurIPS 2020通讯主席Michael Littman表示 ,每篇论文都会发表“道德方面和未来社会后果”的声明。

但是声明只会出现在最初发表的论文版本中,因此不会影响评审过程的双盲性质。具有潜在道德问题的研究将增加一轮评审程序。

NeurIPS今年将加入道德评审,获正面评价才能接收

评审员和领域主席的评估将仅基于技术。但是如果将某篇论文标记为潜在的道德问题,则该论文将被发送给另一组具有道德和机器学习专长的审稿人。

这些论文的最终接受也取决于第二批审稿人的正面评价。

大会要求的财务披露,要求研究者公布受捐助的资金、数据集、计算硬件、云计算服务等。受科技公司资助的AI研究者将收到该条款的影响。

NeurIPS的新要求也令一些学者感到不满。CIFAR成员Roger Grosse说,新政策将“导致重要问题的琐碎化”,希望将这类问题交给注重伦理或社会影响的研究者。

作为回应,目标识别算法YOLO发明者Joseph Redmon直接宣布退出CV界,因为担心该技术对世界的潜在危险。

NeurIPS今年将加入道德评审,获正面评价才能接收

实际上去年的NeurIPS就已经开始考虑AI的社会影响,大会组织者曾建议今年论文作者提交计算过程的碳排放,即训练模型对气候变化的影响,不过今年大会并没有加入这一条。

2020年的NeurIPS仍将在加拿大温哥华举行,时间为12月6日至12日。今年论文提交的截止日期为5月12日。

参考资料:

NeurIPS requires AI researchers to account for societal impact and financial conflicts of interest

https://nips.cc/Conferences/2020/CallForPapers

版权所有,未经授权不得以任何形式转载及使用,违者必究。