文章
日志
帖子
首页
论坛
博客
大讲堂
人才网
直播课
资讯
全部
通信/手机
综合电子
测试测量
半导体/EDA
微处理器
模拟/电源
可编程逻辑
嵌入式
汽车电子
医疗电子
工业电子
物联网
可穿戴
机器人/飞行器
其他科技
传感器/Mems
射频微波
人工智能
技术文章
全部
通信/手机
综合电子
测试测量
半导体/EDA
微处理器
模拟/电源
可编程逻辑
嵌入式
汽车电子
医疗电子
工业电子
物联网
可穿戴
机器人/飞行器
其他科技
传感器/Mems
射频微波
人工智能
频道
通信/手机
综合电子
测试测量
半导体/EDA
微处理器
模拟/电源
可编程逻辑
嵌入式
汽车电子
医疗电子
工业电子
物联网
可穿戴
机器人/飞行器
其他科技
传感器/Mems
射频微波
人工智能
登录
注册
创芯云服务 :
创芯大讲堂
|
创芯人才网 |
数字IC职业培训
EETOP诚邀线上IC培训讲师!
资讯
>
机器人/飞行器
>
内容
机器人又伤人了!接下来我们该如何造更安全的机器人
2016-11-25 16:10:47
来源:
未知
第十八届高交会1号馆1D32展位、深圳展景世纪科技有限公司展台发生意外事件,一台名为“小胖”的机器人(北京进化者机器人科技有限公司制造)突然自行打砸展台玻璃,最终导致部分展台被破坏,还砸伤了路人,网上流传出受伤者被担架抬离展馆的图片。
此事迅速在机器人圈甚至更大的范围扩散。有称这是“机器人原力觉醒”,也有称这是工作人员操作不当造成。究竟真实原因是什么?机器人会有“原力觉醒”吗?当机器人越来越多,科幻电影里的“机器人造反”会发生吗?在全球大规模推动机器人发展的当下,接下来我们该如何打造更安全的机器人?
机器人为何伤人?
11月18日下午,深圳高交会官方回应了此事,18日晚间,北京进化者机器人科技有限公司在其官方微博发布了正式声明。声明称,11月17日13时30分左右,在1号展馆D32号展位(“小胖”的投影机供应商)旁通道内,参展人员试图将一台面罩打开的“小胖”机器人移动到展位内时,误将后退键按成前进键,并未及时按停,导致另一侧展台的玻璃被部分碰倒摔碎,玻璃划伤了另一侧展台内的一名观众,全过程持续约10余秒。
现在,人们分析判断一个事件通常除了官方信息还会看圈子以及其他渠道的信息。
速感科技CEO陈震在接受《中国电子报》记者采访时透露,他在机器人的圈子里也求证了此事,确实是因为人为操作失误所致。机器人伤人事件这两天持续发酵,也有媒体把事件夸大到了“机器人原力觉醒”。“从我的角度看,目前机器人技术发展远没有达到‘原力觉醒’这一程度,这次确实就是和很多类似事件中的机器误操作而导致人身伤害的偶然现象一样。”陈震说。
陈震进一步表示,从操作和机器人的设计原理上看,因为操作人员打开了机器人的面罩进行人工控制,而当机器人面罩处于打开状态时,将自动关闭机器人上的避障感应元件,从而切换为纯手动模式,在这一模式下,机器人诸如避障、感知的保护性功能会被关闭,因此导致了机器人在人为操作下的撞击玻璃,从而伤了人。
偶然事件带来什么影响?
这一偶然事件带来的第一个效应是机器人关注度陡然提升。路波科技创始人颜其峰给出了一张“
人工智能
产业成熟曲线”图,并表示每一次媒体对机器人风险的夸大,“比如说机器人造反了,灭绝人类了”等,虽然这些言论言过其实,但都会带动机器人市场热度的螺旋式上升。陈震也表示,这一事件从积极的方面讲,实际上制造了一次大众营销热点,让更多的圈外人知道了机器人,并开始关注消费级机器人市场。
到目前为止,机器人是否会“原力觉醒”?
英特尔
中国研究院院长宋继强对《中国电子报》记者表示,目前看不会,机器人
芯片
和软件都没有智能自我重构的功能,现在只有系统和程序设计失误引起的错误。
虽说“小胖”并非自主行动而造成伤害,但意外事件还是引发了更多负面担忧。不管是什么操作模式,毕竟它伤人了,就像去年德国大众
汽车
卡塞尔工厂的一名工人被突然启动的机器人意外致死一样,机器人因为意外杀人的案例也已经多次发生。
人们的担忧并非没有理由。就像任何事物的发展都有两面性一样,很多科技的诞生和发展也伴随着一定负面作用,如果我们不能够掌握负面效应,是否应该是放弃?或者换其他的方法、其他的科技来到达同样的目标?就像核能利用,切尔诺贝利核电站的教训,至今仍像达摩克利斯之剑一样,悬在核能开发的上空。
今年三月,《第三次工业革命》和《零边际成本社会》的作者杰里米·里夫金在赛迪集团时表示,未来几十年世界的发展会影响到未来人类的发展。记者采访时问他为何会有这样的定论?里夫金说:“因为过去这几十年,人类工业活动、经济活动造成了大气、生态、灾害等非常多的问题发生。而且就是这短短的几十年,发生如此多的问题。如果人类还按照这个模式发展下去,人类这个物种可能就面临生存或者说生物灭绝,这些年因为生态环境的变化,已经有很多生物物种消失了。”
本月15日,英国物理学家斯蒂芬·霍金在牛津大学演讲时再次表达了他对
人工智能
的担忧,甚至认为
AI
是“人类历史上最严重的错误”。他认为
人工智能
的潜力无限,完全有可能超越人类的智慧水平,摆脱人类的控制。霍金说:“成功制造出一台
人工智能
机器人将是人类历史上的里程碑。但不幸的是,它也可能会成为我们历史上最后一个里程碑,除非我们能学会如何去规避这种风险。”
人们对机器人的担忧更多来自于它有很多其他科技所不具备的功能和能力。
驭势科技CEO吴甘沙说:“机器人和原来的PC不一样,它有眼、有手、有脚,会偷偷在你家里不停地拍。机器人有手,可以控制家里的东西。虽然从功能上可以一个功能三个团队用三种不同的软硬件去实现,最后三个结果投票选两个一样的,但关键的问题是,一旦机器人失控怎么办?大家看到很多机器人身上有一个红色按钮,它是起到安全作用的,但是当你无法接近这个机器人,怎么去按这个按钮,怎么能够阻止失控的机器人?所以我们需要非常安全可靠的机器人设计方法学。”
怎么打造非常非常安全的机器人?
宋继强对《中国电子报》记者表示,目前在自主移动服务机器人领域对于安全的思考和讨论刚刚开始,还很不完善。就像
汽车
一样,机器人安全首先可以分为主动安全和被动安全两类。由于服务机器人的智能联网属性,又需要加上信息安全。
主动安全属于功能安全(functional safety)的范围,需要机器人配备工作环境复杂需要的多种传感器(不能只依赖一种),在软件算法层面对多传感器输入进行实时融合处理,以获得最可靠(注意,未必一定正确)的结果,来保证安全的完成任务。目前的服务机器人厂商应该只在这部分做了初步工作。
被动安全是指在遇到功能定义之外的异常情况下,仍然可以保障机器人本体和环境与人的安全。这个必须是由功能控制之外的独立系统来检测和完成。被动安全系统需要具备高于功能控制系统的绝对优先级。它的输入来自多方面,可以是本地的传感处理系统,可以是人手工控制,也可以是信息安全系统。
这里就提到了信息安全。因为未来机器人可以上网,还可以更新应用和系统,那么它就像今天的电脑和手机一样会遭遇恶意软件和黑客的攻击。对于能移动和操控的机器人,必须配备信息安全系统来防范攻击,并且连同被动安全系统对抗恶意软件和黑客对机器人移动、操作系统的控制。
在这几个维度,服务机器人企业现在怎么看?又该怎么做?
小船信息科技(上海)有限公司总裁廖江君在接受《中国电子报》记者采访时表示,这个意外事件对所有的服务机器人企业是一个警示,在主动安全、被动安全、信息安全上都必须做到最高的级别,把安全放在第一位。比如在主动安全上,机器人的传感器在任何情况下都不能关闭,即便是手动模式下依然能够实现主动识别。比如在设计时更关注机器人的重量和速度的关系,对于比重大的机器人不能让它太快,以慢来实现更好的安全保障。比如机器人设计要有三重甚至更多重保护等。
常州智宝机器人科技有限公司总经理李常峰在接受采访时表示,事实上服务机器人的安全需要全行业、全产业高度重视,一旦出问题,会对整个行业都会造成巨大伤害,具体到每一个企业每一个产品,其安全需要从结构、软件、无线、电机、控制、传感器、整机等全方位考量,而且需要把安全放在第一的位置。
机器人的认证检测怎么做?
在采访中,所有被访人都谈及了机器人的认证和检测问题。
目前,中国已先后建立了国家机器人检测与评定中心、国家机器人标准化总体组和机器人检测认证联盟,在11月2日,国家发改委、国家质检总局、工信部、国家认监委向社会发布“中国机器人认证(CR)”标志,同时颁发了首批中国机器人产品认证证书,这标志着我国正式建立并开始实施机器人检测认证制度。今年9月工信部就《工业机器人行业规范条件(征求意见稿)》公开征集意见。
目前中国虽然第三方检测机构已经建立,但机器人标准、检测认证等体系、认证手段和技术支撑等都需要进一步完善。尤其是在服务机器人的检测上,目前的标准还比较宽泛。究竟如何检测才能够让服务机器人做到万无一失?
廖江君认为,服务机器人的检测不能仅需要从技术的角度,更需要有用户思维,需要以用户思维来判断。比如在一些功能的选择上,如果对用户有可能造成伤害、损害,就必须取消,不留任何损害的可能性。
宋继强表示,目前,服务机器人的安全标准化工作刚刚开始。工业机器人认证标准对服务机器人是不够的,因为工作环境差别很大,需要更多检测移动性、交互能力,对不同环境的适应性等。目前国际上也没有成熟的方法。
英特尔
也在联合一些专家设计实现一套对移动机器人的安全监测机制,希望通过虚拟环境与真实环境结合的方式进行
测试
,改变目前机器人领域有管理的想法、无检测的办法、无实用的安全
方案
的现状。
陈震认为,要加快制定消费级机器人的行业标准、安全标准,从多个角度对机器人在使用环境中进行
测试
,才能让很多安全的隐患在研发过程中就被考虑和避免掉。
李常峰说:“服务机器人产业刚起步,目前标准也还没有出台,很多做法都是参照其他行业,需要有更详细的标准来约束和推动这个领域的发展。”
写在最后:
今天,我们看到机器人的问题还比较可控,还处于发展初期。但是
AI
的发展充满了变量,如果有一天,机器人
芯片
和软件都有了智能自我重构的功能,如果有一天,通用
人工智能
发展起来超越了人脑,如果有一天,机器人有了“原力觉醒”,那时我们怎么办?我们是否已经想好了应对的方案?
关键词:
EETOP 官方微信
创芯大讲堂 在线教育
创芯老字号 半导体快讯
相关文章
上一篇:
工业机器人齐聚智能车间 AGV小车上演
下一篇:
看似美好并非刚需 智能家庭机器人遇瓶颈
全部评论
最新资讯
最热资讯
工业物联网和M2M通信及其在工业自动化与控
Melexis全新发布MLX90427:线控转向新选择
大联大品佳集团推出基于Infineon产品的汽车
美光率先出货用于AI数据中心的关键内存产品
英飞凌推出可编程高压PSoC™ 4 HVMS系列
SK海力士出售无锡工厂,逐渐退出在华晶圆代
台积电、英特尔、三星背面供电技术浅析
许可证被吊销!英特尔发布收入警告!
华为回应“塔山会战”备胎计划
消息称马斯克旗下xAI最快本周完成融资,估
Alat推出电气化和人工智能基础设施业务以增
富士康项目烂尾后,微软将在原地投33亿美元
富士康项目烂尾后,微软将在原地投33亿美元建AI数据中心
SIA机构称24Q1全球半导体收入1377亿美元,同比增长15.2%、环比下降 5.7%
马斯克脑机接口公司Neuralink计划将Link功能扩展到现实世界,以实现控制机械臂、轮椅等
MathWorks与NVIDIA联手加速医疗技术领域中软件定义工作流的开发
英飞凌通过HighTec的ISO 26262 ASIL D认证Rust编译器等解决方案扩大AURIX™ Rust生态系统
性能巨大飞跃!苹果重磅推出M4芯片
单台售价超25亿元!ASML最先进光刻机今年产能被英特尔买完 三星等无奈
AIGC应用爆发,相关岗位需求增长超300%、平均招聘年薪超40万元
e络盟荣获是德科技颁发的“2023 EMEAI销售业绩奖”
苹果全新iPad Air 6来袭 最低4799元起
iPhone16国行售价曝光!
蓝牙新突破!穿越600公里,超远距离连接在轨卫星!
业界最热文章
单人上天!国产“钢铁侠”飞行背包中国
ChatGPT控制无人机
突发!无人机差点炸死委内瑞拉总统!技术
瑞萨电子RA MCU集成micro-ROS框架,简化
看大疆的竞争对手Parrot如何赢得市场
俄科学家研发思维控制无人机
索尼将进军商用无人机市场 明年可提供服务
小米真的要进军无人机领域
中发智造无人机展盘旋而至 邀您现场试飞
用无人机来打乒乓球
英特尔6000万美元投资中国无人机厂商Yuneec
索尼开发航空型无人机 时速170公里
高通将加入无人机市场,更多细节将在近期
无人机领域的 Airbnb 是怎么“起飞”的?
航拍神器Fotokite Phi:可像宠物狗一样牵着走
中国禁止出口高性能计算机及无人机:不影
民用无人机制造商正大量崛起
大疆质疑英特尔无人机避障技术含量
极客航拍者和他的空中产业
无人机的玄机:厉害和不厉害的其实差很多
ET创芯网(EETOP)-电子设计论坛、博客、超人气的电子工程师资料分享平台
论坛
博客
大讲堂
人才网
直播课
关于我们
联系我们
隐私声明
@2003-2024 EETOP
京ICP备10050787号
京公网安备:11010502037710