公司用AI检测大脑活动?最大风险是伦理道德

分享到:

e1dc507e642b6e0181908df31ef84992

科技观察
设想一个人的大脑出于善意的目的而被监控,这里边其实隐藏着很大的伦理风险。人性是不可试探的,就如神圣是不可试探的一样。
据报道,国内有工厂引进员工脑电波扫描系统,敷设在工人帽子上的传感器追踪脑电波。在工人整个值班期间,传感器会持续收集脑活动数据,通过对这些数据的分析,能获悉工人的烦躁、抑郁和消极心态。此时把工人送去休息,或许有利于生产效率和企业的人文建设。
据该报道,国内某电力公司从2014年起开始对员工使用情绪监控技术,此后盈利增长了约20亿人民币。
另外,据美国媒体报道,上海一家医院采用了脑造影术,是很先进的前沿技术。该系统对病人的脑部活动进行扫描,借助智能监测摄像头分析他的脸部,同时在病床下面安装一种确定机体运动和姿势的传感器。
这可以说明,用人工智能监测大脑,在技术上已经成为可能。那么,我们是否可以依赖脑电波扫描系统?如果系统犯错,或者数据解读错误,责任将由谁承担?
在我看来,这个技术是靠谱的,至少从原理上来讲,有很强的可行性。至于这一系统的准确性具体能达到多少,还很难说。我只能说,这个系统从技术操作角度来说,是没有多大障碍的。接下来就是要看更多的实践结果。这就像一种新的药物研发过程一样,药物研发出来之后,还需要几年的临床试验。
这一人脑监控技术的研发已经基本完成了,但是,还需要通过“临床”来收集更多的数据,因为人工智能是靠两条腿驱动的——一条腿是算法,另一条腿是数据。再好的算法,如果没有大量的数据作支撑和配合,这样的算法都是瘸腿的。
此外,正如所有的规则都不可能百分之百平等。具体到这个系统上,系统的确会存在一定的失误率,不可能百分之百准确,但是只要将失误率控制在一个可控范围之内,就是可以接受的。
在此之前,我就做过人工智能在未来生活中可能扮演什么角色的分析,明确提出了医生极可能失业的预测——这主要是基于机器对人身体监测的作用而做出的结论。
与此不同的是,我今天所谈的问题是对人脑的监控与诊断。当然不是判断你是否脑血管有破损可能,大脑是否萎缩,而是实时监控你的大脑活动、情绪状况以及所思所想。
也就是说人的头脑,被机器所掌控,并据此调整你的现状与行为模式。听起来有些讽刺,但未必不是现实。
但是,设想一个人的大脑出于善意的目的而被监控,这里边其实隐藏着很大的伦理风险。人性是不可试探的,就如神圣是不可试探的一样。
如果一个人明确地知道自己的思想被他人掌控,势必带来一个硬币的两个面——他可能被迫变得更主动和积极于工作,提高效率;也可能伴随着消极思想的状态,以便自我隐匿和保护。至于下班后能不能切换回来是很成问题的,长此以往下去,人将变得拒绝思考、停止进步。
按照道德的要求成为一个“心中无不可与人言者”的楷模是人的极致追求,在现实中能够做到哪一步,个体间差异极大。
当然,也有学者认为极难借助脑造影术解读心理情绪状况,并且就目前在工厂进行实验所取得的成就,也可能具有相对性。对此,我们还是抱着审慎的乐观态度拭目以待吧。

继续阅读
AI安防芯片国产化受阻 贸易摩擦或将成为加速剂

在AI等技术的赋能下,安防行业已经正式全面迈入智能化时代。作为智能化的核心要素之一,AI芯片在其中的作用不言而喻。尤其是安防行业存在大量视频数据、强大的资金支付能力、用户诉求等因素,使得AI技术在安防行业成为最快实现商业化落地的行业之一。

北京市委书记蔡奇:围绕AI、5G、云计算等加紧布局新基建

会上,北京市委书记蔡奇强调,要抢抓疫后机遇,化危为机实现更好发展。围绕人工智能、5G、云计算、大数据等加紧布局新基建。实施应用场景“十百千”工程。要打造工业互联网平台体系,支持企业智能化改造,培育一批面向中小企业的数字化服务商。

AI成为焦点,各行各业都在关注它

基于2737名信息技术和业务部门高管的企业调查显示,AI凸显了它正在正以快速的速度进入生产领域。德勤的调查对象包括26%的“经验丰富的采用者”,47%的“熟练的”采用者和27%的“新手”。受访者根据人工智能的采用和投入生产的系统进行分类。

AI“拍了拍”边缘端

正如人们总是先解决温饱问题,才开始展开精神层面的追求一样。人工智能过去几年的发展一直专注在算力、数据和场景这三大要素之上,但如今人们已经开始意识到隐私和安全的重要性,并抗拒将关键数据上传至云端处理。

高通: 当AI与5G结合,将开启智能互联新时代

7月9日,世界人工智能大会2020云端峰会在上海举行,此次峰会以“智联世界·共同家园”为主题,集聚全球人工智能领域最具影响力的科学家和企业家,以及相关政府的领导人,围绕智能领域的技术前沿、产业趋势和热点问题发表演讲并进行高端对话。