首页 / FT中文网 / 正文

AI“意识觉醒”的前夜

FT中文网 2019-05-06 12:30:07

本月硅谷时间4月22日晚,《未来简史》作者,以色列著名历史学家尤瓦尔•赫拉利与斯坦福“以人为本”AI研究院共同院长,前谷歌云人工智能和机器学习首席科学家李飞飞在斯坦福超级大讲堂展开对话。两位AI领域世界级泰斗对人工智能的未来进行充分论述,其中最为精彩的部分是赫拉利相信AI未来将不仅会给人类科学带来挑战,更有可能带来哲学层面的冲击,特别是AI与生物技术的结合,将可能“黑”进人类的大脑,影响人类的思考、人类的情感,给人类长期引以为傲的“自由意志”“独立思考”“情感表达”带来重大影响甚至颠覆。我们相信赫拉利这个观点并不是空穴来风,更不是无中生有。纵观人工智能数十年的发展历程,从最早的“人机对抗时代”到目前正在经历的“人机协同阶段”,以及未来很可能在“库兹维尔定律”的预言下,快速达到的“人机融合阶段”,这里的“融合”既包括意识形态层面,也包括物理躯体层面。充满不可想象,却又并非遥不可及。

AI带来的“人机对抗”,让世界更添色彩

早在1939年9月4日,也就是第二次世界大战英国对德国宣战的第二天,著名英国数学家图灵就迈入了“人机对抗”的魔法之门,那是一场密码学之间的较量。图灵的天赋很快让他找到了决定信息战成功的重要筹码,利用英国政府特批的10万英镑,图灵打造了代号为“炸弹”的超级计算机,成功破译了每个字母需要试验1590亿种可能性的德军密码机“英尼格玛”,某种程度大大缩短了二战欧洲战场的进程。图灵利用密码学、数学等结构化知识,研发出超级计算机,用人类的知识,借助机器的手段,破译了神坛上的“英尼格玛”,也第一次书写了“人机对抗”历史上的第一笔。

过去数十年间,在商业社会的推动下,人工智能获得了长足而稳定的发展,“人机对抗”也开始出现在公众的视野。从22年前的IBM“深蓝”战胜人类历史上最伟大的国际象棋名家卡斯帕罗夫,到IBM后续2011年推出的认知计算系统“Watson”,它在参加“危险边缘(Jeopardy)”综艺节目中,成为人机大战走向公众视角的一个里程碑,“Watson”在前两轮逼平对手之后,最后一轮打败了最高奖金得主布拉德•鲁特尔和连胜纪录保持者肯•詹宁斯,获得节目100万美金的最高奖。近年,人机大战的课题再次被点燃,毫无疑问这次“纵火者”是来自谷歌的AlphaGo家族。依托谷歌在搜索领域强大的数据基础和超强的算力资源,结合深度学习CNN算法、策略网络、价值网络和蒙特卡洛树搜索算法等,兼顾半监督、无监督学习的算法手段,挑战并完胜人类原以为机器无法涉足或挑战的棋类禁地:围棋。整个家族从AlphaGo Fan、AlphaGo Lee、AlphaGo Master发展到AlphaGo Zero,而Zero最终实现了“无师自通”,也就是不再需要人类教授棋谱,仅通过数据训练,即可战胜所有棋牌类游戏的类AI机器人。但科学家们在兴奋之余,却不得不开始担忧,如此强大的算法模型,其中是如何运行、推演和实现的,也就是算法模型的“可解释性”确是“黑盒”般存在。

伦理道德健全基础上的人机协同才是美好的

与“人机对抗”的时间轴存在交集,且未来数十年间,将定义人类与机器关系主旋律的时代,我们称之为“人机协同”。也就是人类利用AI在特定领域计算能力上的优势,帮助人类增进工作效率,降低人力、营销等变动成本,实现成本与效率结构的最优化。我们坚信在“人机协同”时代,机器给人类社会、工业生产、信息化建设、科技革新等领域带来的突破和福祉是毋庸置疑的,但如此快速运转下,如何将伦理道德考量加入AI的设计中,进而保证其发展与安全不脱轨的问题被迅速提上日程。可以想象,在AI伦理道德缺位的情况下,AI技术的发展极有可能导出两类问题:一是,商业社会中人类的出发点往往是利益导向,利用AI追求利益最大化而不考虑可能带来的不良后果;二是,人类的出发点是非利益诉求的时候,AI智能在设计之初,缺乏伦理道德的考量从而使得AI处于失控状态。因此我们发现,不管AI协同应用的动机是好是坏,伦理道德都是不可或缺的。

时讯快报

5.5亿用户的选择

立即打开