888真人官网

888真人平台:直击乌镇:人工智能解决三个了不起的问题 统治人类言之过早

原标题:直击乌镇:人工智能解决三个了不起的问题 统治人类言之过早

  在人工智能技术高歌猛进的同时,物理世界和个人生活的界线日渐模糊,每一次新技术的革新,都引发人类对自我和世界认知的恐慌,也延伸出复杂的法律、伦理和安全问题。

在今年的乌镇世界互联网大会上,人工智能究竟是否会威胁人类?其所带来的结构性失业,是否会重构人与机器之间的关系?相应的规范和制度设计是否存在盲区?成为企业家和科学家共同关注的话题。

警惕技术不谨慎带来的风险

《纽约客》的一期封面引发人们的讨论,画面中机器人已经成为了地球的主角,人类只能蹲在地上接受机器人的施舍。“每一个新技术都会引发大家的担心,但以往更多是人的体力的延伸,而这次是脑力的延伸,所以担忧会更严重。”在乌镇世界互联网大会上,微软全球执行副总裁沈向洋告诉第一财经。

沈向洋坦言这段时间对于人工智能伦理的问题思考了很多,他认为人工智能更大的威胁在于对技术的不谨慎而引发的问题,例如人工智能偏见问题,以搜索为例,在谷歌上搜索“CEO”,搜索结果中没有一个是女性,也没有一个是亚洲人,这是一种潜在的偏见。

此前一家名为Fama的创业公司通过自动分析求职者的身份,通过网络搜索其性格以及世界观。可能企业雇用了一个求职简历及面试都很优秀的人,但结果发现这个人厌女或者是一个种族主义者。“一个AI工具通过数据积累和算法模型可以通过照片判断一个人的性取向,系统准确率高达91%,这其中所带来的性取向偏见是不能低估的。”沈向洋举例说道。

此外从技术层面,也需要警惕人工智能技术科研结果不可解释和安全性问题。“人工智能需要透明。”沈向洋强调,尤其在医疗领域,一些解决方案看起来可行却无法解释。

德国颁布了一部关于自动驾驶车辆的法律,规定当车辆出现问题不可避免要产生碰撞,在人与动物之间,选择撞向动物;在动物和没有生命的物体之间,选择后者。那么问题来了,如果是老人和小孩呢,如何抉择?在沈向洋看来这是一个值得思考的问题。

今天的人工智能还基本局限于智商方面,完成指定任务,微软在探索人工智能情商方面的核心是双向交流,即对话式人工智能。在达成情商和情感交流之外,微软还在尝试赋予微软小冰创造力。不过他坦言在做微软小冰的过程中也是战战兢兢,尤其是做情感人工智能机器人,要怀有敬畏之心,要有责任意识。

例如用户和微软小冰进行长时间的对话,可能会发生感情上的联系,很多人宁可跟机器说话,也不愿意和人交流,会产生一种依赖。如果一个用户跟微软小冰聊到深夜,不能节制自己,小冰要不要继续陪他聊下去呢?这是沈向洋做微软小冰过程中一直纠结的问题。

为了防止人工智能潜在的伦理问题,微软在内部成立了人工智能伦理委员会,日常会议要求每位商业部门的领导都必须出席参加。沈向洋认为人工智能产品保证安全必须要做到三步,首先要有原则,企业要清楚自己做什么,要帮助人类,而非做人类的主人。其二,要从人工智能设计上做到把控。第三,产品发布之前一定要经过多道程序的检测。

AI要解决三个了不起的问题

对于当下频频提及的人工智能技术负面影响,苹果CEO库克表示并不担心机器会像人一样思考,而更担忧人会像机器一样思考。因此必须为技术注入人性,赋予技术应有的价值。阿里巴巴集团董事局主席马云也提及“人类对自己大脑的认识,不到10%,10%创造出来的机器,不可能超越人类”。

对于企业家而言,当下如何用人工智能技术解决行业实际问题,真正解决人类所存在的问题更为迫切。“人工智能要真正解决三个了不起的问题,儿童自闭症、中年忧郁症和老年痴呆症,在感知世界的基础上,进一步去认知世界。”

今日头条创始人、CEO张一鸣在采访中提及同样的问题,他认为AI工程和航天工程、基因工程是人类文明发展的三大跨越式机遇。这三大工程,同时也会是冲击人类伦理和人类生存的三大挑战。

张一鸣认为AI正处在从实验室走向大规模商业化的早期阶段,很多人对它所带来的经济、法律、安全、伦理等问题开始担忧。比如,AI可能会导致大规模失业;可能导致经济发展不平衡;可能导致贫富差距加大;可能完全颠覆包括精算、保险、金融等传统行业;可能让很多城市修改现行的交通法规。

“幸运的是,很多的风险才刚刚露出苗头,在这个和技术赛跑的时间窗口,应该从最早期开始将技术的研发和社会影响的研究同时推进。”张一鸣说。

当AI让人变得更聪明、更富创造性的同时,人类利益原则要求考虑如何确保人工智能的发展,不会影响到人类的切身权益,为了解决过错问题,避免公众困惑和对未知的恐慌,AI系统必须在程序层面具有可责性,提升透明度以及规范性。返回搜狐,查看更多

责任编辑: