不作恶!IBM宣布放弃人脸识别业务,关停技术研发

贾浩楠 发自 凹非寺
量子位 报道 | 公众号 QbitAI

从来只见科技巨头抢占技术高地,没听说过谁主动放弃未来的。

然而,今日的美国,真的上演了这离奇、反常的一幕。

当地时间6月8日,IBM高调宣布不再提供任何人脸识别服务和人脸分析软件,正式退出这一市场。不仅如此,今后IBM也不会继续研发相关技术。

IBM的理由是「反对将技术用于种族歧视和大规模监视」。

但它真正的诚意有多少?

是谁让IBM放弃了大热的AI应用方向

IBM的这一决定来自于CEO 克里什纳(Arind Krishna)给几位美国国会议员的一封信。

从信中的内容来看,放弃人脸识别业务的举动,是IBM因黑人弗洛伊德之死,抗议种族主义的种种举措的其中之一。

IBM为了「自由」、「隐私」、「种族」这些美式政治正确议题拼了,至少从表面看是这样。

IBM告诉外媒,这个决策并不是心血来潮,而是经过了数个月的讨论,并与客户进行了持续沟通。另外,尽管IBM不再宣传、推销和更新这些产品,但它依旧会在有需求之时对现有的客户进行支持。

克里什纳并没有将AI全盘否定,他表示人工智能仍然是帮助执法部门保护公民安全的有力工具。但他也强调,AI系统的供应商和用户有共同的责任对AI进行偏见测试(Tested For Bias),特别是执法过程中使用的AI,要有专门的审查评估制度。

最后,克里什纳还说,国家的政策还应鼓励和促进使用特定技术,如人体摄像机和现代数据分析技术。来提高警务透明度和问责制。

IBM 的这封信,是一个议政属性较强的信件。它除了谈到对相关技术的措施和态度,还呼吁国会通过相应的议案和政策来推动警务透明、人员就业等问题。

IBM的“顺水人情”

难道IBM就是这么深明大义,毅然放弃前景大热的AI技术?

当然不是。

据美国CNBC报道,一位知情人士承认,IBM 此举确有为了迎合美国当下对种族问题的强烈关注的因素,但同时,IBM 也有商业考量。

实际上人脸识别业务并没有为 IBM 带来重大的营收——换句话说,弃之并不可惜。

在人脸识别技术方面,IBM 虽然并不突出。在克里什纳的信中,他呼吁美国执法部门采用「更加透明」的技术,比如摄像头和数据分析系统。

数据分析系统对于IBM来说,是一项比人脸识别重要得多的业务。

另外,克里什纳在就任 CEO 之初时表示,IBM将专注于混合云和人工智能两大战略,尤其是在云计算方面。他强调称,IBM和Red Hat要把Linux、容器和Kunbernetes建立为新的混合云标准。

显然,在Arind Krshna的领导之下,IBM更为专注的是与微软和亚马逊等对手在云计算领域的战争——人脸识别技术属于二线业务。

外媒分析,IBM放弃的只是眼下它并不占优势,营收也有限的一块业务,长远布局不受影响。

精明的IBM这一手操作,既调整了业务,又迎合了美国民意。

但国际隐私组织(Privacy International)对IBM的声明十分不信任。

原因在于IBM推出了智能警务平台,并在世界多地投入使用,这个系统依赖闭路电视摄像机和警察部门的数据处理系统直接相连,仍然是一种监视手段。

此外,该组织认为IBM的公告模棱两可。公告中说要放弃「通用型」面部识别,让人高度怀疑这不会是IBM面部识别业务的终结,未来IBM可能会进行识别系统的定制化。

人脸识别在美国已成众矢之的

美国的人脸识别技术一直走在科技前沿,并且在商用层面早有动作。亚马逊早在 2016 年就推出了人脸识别软件 Rekognition,如今已经向美国大部分警察部门提供服务。

尽管如此,目前的人脸识别技术还不能够有百分百的准确性。

这背后的一个首要因素是美国的种族问题。

2018 年Joy Buolamwini和Timnit Gebru的研究首次揭示了商业人脸识别系统(包括 IBM 的)的缺陷:人脸识别针对黑人、女性的错误率高达 21%-35%,而针对白人、男性的错误率则低于 1%。

黑人女性有 20%~30%的概率被识别错误,产生误会。如果是在警用安保等场景下,后果可能会非常严重。这在美国是一个严重的政治问题。

除了对人种、性别的识别偏差外,人脸识别技术还因其在侵犯隐私方面的问题而受到抨击

而最近黑人弗洛伊德之死,让人脸识别技术成了种族问题最新的替罪羊。

包括旧金山市在内,美国已经有多个地方公共部门禁用了人脸识别技术。

尽管如此,亚马逊等公司有用技术赚钱的需求,而美国警察也有实用技术的需求,因此多数州的警察部门仍然是人脸识别系统的大客户。

2019 年,亚马逊在股东会议否决了停止出售人脸识别技术的提案。后来在一次采访中,亚马逊CTO Werner Vogels称,技术无罪,我们无责任。

对于人脸识别技术的争议,IBM出了自己的答案:直接放弃,而不是继续研究改进。

IBM此举,是否会导致越来越多的美国科技企业放弃探索人脸识别技术?美国会不会最终全面禁用人脸识别呢?

参考链接

https://www.bbc.com/news/technology-52978191

版权所有,未经授权不得以任何形式转载及使用,违者必究。