人工智能和生物技术遇道德困境 五大风险不容忽视
1951年，计算机之父阿兰·图�(Alan Turing)提出：“如果机器能思考，那么它很可能比我们更加明智……这种新的危险……当然让我们焦虑。�
世界经济论坛创始人兼执行主席克劳斯·施瓦布(Klaus Schwab)在《第四次工业革命》一书中直言，“无论是规模、广度还是复杂程度，第四次工业革命都与人类过去经历的变革截然不同。�
“这些改变是深刻的，以至于人类在其发展历史上从未迎来如此美好的前景，也从未面临如此严峻的风险。”施瓦布说，“然而我担心的是，决策者们往往囿于传统的、非颠覆性的线性思维，或者过于关注眼前的危机，而难以对影响未来的各种颠覆和创新力量进行战略性思考。�
2017�6�27日至29日，世界经济论坛�11届新领军者年会的主题为“在第四次工业革命中实现包容性增长”。有哪些新技术正在改变人们的生活？我们面临着怎样的风险和挑战�
新技术成“焦点风险�
第四次工业革命中所诞生的新技术将不可避免地从多方面改变世界�
关于新兴技术的争论往往会出现两极分化：有些人刻意只关注潜在的收益，而另一些人则过分关注潜在的危险。真正的挑战是在这两个极端之间找到平衡�
世界经济论坛大中华区首席代表艾维�(David Aikman)告诉《中国经济周刊》说，一方面我们正面对着第四次工业革命带来的科技方面数不清的机遇与风险。另一方面我们198平台注册小编正在寻求新的发展模式和经济机遇�
“我们要做的并不是阻止技术的进步，担忧技术进步风险带来的后果，而是探寻新技术如何带来新的就业机会，释放创业潜能，为社会带来更多福祉。”艾德维说，“第四次工业革命的新技术可以给我们更长的寿命，更可持续发展的地球，但我们必须引导这些技术的发展方向，通过共同的理念创造更多的共同利益和包容性增长。�
在即将出版的《第四次工业革命手册》中，全球风险认知调查归纳了12项新兴技术作为第四次工业革命的代表，包括�3D打印，新型材料和纳米材料，人工智能和机器人，生物技术，能源采集，存储和输送，区块链和分布式分类账，地质工程，物联网，神经技术，新计算技术，空间技术，虚拟和增强现实�
多年来，世界经济论坛发布的《全球风险报告》反复强调技术风险的重要性。在2015年的报告中，新兴技术成为报告的“焦点风险”之一，凸显了人工智能(AI)和生物技术等领域中存在的道德困境�
�2017年的全球风险认知调查中，包含一个有�12种新兴技术优势与负面后果的调查研究。结果表明，大部�198娱乐平台受访者对于技术风险和利益的平衡普遍持乐观态度。但受访者仍在新兴技术的监管方面明确指出所需有限关注的领域为人工智能和机器人与生物技术�
AI技术武器化的风�
“第四次工业革命将为经济、社会和个人发展创造新的机遇，从而向个人和社区赋权，但同时也会导致某些群体的边缘化，加剧不平等，催生新的安全风险，以及破坏人们的社会关系。”施瓦布说�
�2017年全球风险报告》认为，理想情况下，监管制度应该足够稳定、可预测、透明，以便在投资者、企业与科学家之间建立信心，并应在公众中产生足够的信任和认知，从而让用户意识到评估早期负面后果的重要意义�
例如，自动驾驶技术会不可避免地导致一些事故，而是否会引起公众呼吁禁止该技术的发展则取决于人们是否信任已经为监管其发展而制定的机制�
从目前看，投资者对新兴技术抱着比较乐观的态度�
资料显示，全球专供AI应用的创业公司在2015年收到了24亿美元的风险投资基金，在2016年上半年收到了超�15亿美元的风险投资基金。政府项目和现有科技公司又在此基础上追加了数十亿美元的投资�
除了近期阿尔法狗(AlphaGo)再次战胜人类棋手之外，机器的学习技术已经能通过大数据分析来揭示有价值的信息，并且通过处理人类能力所无法企及的问题来为企业创造价值�
再比如斯坦福大学的计算病理学家分析了数百张肿瘤图像上的数千个细胞特征�198彩注册小�发现了被忽视的乳腺癌标志物。AI应用正在以惊人的速度和创造力来降低成本并改进诊断�
但是正如许多好莱坞电影中已经表现出的“不受控”的人工智能所带来的毁灭性灾难一样，在任何复杂混乱的系统中，潜在危险包括管理不善、设计漏洞、意外和不可预见事件。这一切给确保个人、政府和企业的安全和安保带来了重大挑战。这其中最为人诟病的就是AI应用和武器战争的影响�
在日内瓦安全政策中心的Jean marc rickli看来，对于导致AI手机死机或应用程序错误或许可以容忍，但如果AI武器系统或自主导航系统的一行代码中存在错误，结果就可能是致命的�
Jean marc rickli认为，军方是从早期阶段就看到AI巨大潜力的部门之一。AI武器化将改变标准的战争方式，对国际安全与稳定有着深远影响，对于自助式武器系统的大量投资始于几年之前；2016�7月，美国五角大楼国防科学委员会发布了第一份有关武器自主性的研究，但就如何规范这些武器的发展，目前尚无共识�
国际社会�2014年的《联合国常规武器公约》框架内开始讨论致命自主式武器系统的新兴技术。但迄今为止，各国尚未就未来发展方向达成一致意见。那些呼吁禁止AI武器化的人担忧人类会被排挤到操作环节之外，将使用致命武力的决策留给机器，造成我们目前尚不可知的后果�
Jean marc rickli也列举了AI非军事应用方面的经验教训。以阿尔法狗为例，它已经击败了全球排名前列的人类棋手。它的某些棋步让观察者困惑不已，因为这完全不符合人类通常的下棋模式。负责研发阿尔法狗的谷歌DeepMind CEO Demis Hassabis针对这种差异的解释是，“不同于人类，阿尔法狗的程序旨在最大限度提高获胜几率，而不是将优势最大化。”如果这种二元逻辑(仅注重获胜，而非获胜优势)纳入自主式武器系统中，就会违反比例原则，因为系统算法不会认为以杀�1个对手为代价的胜利和杀�1000个对手为代价的胜利之间有什么差异�
当年计算机之父阿兰·图�(Alan Turing)提出的解决方案包括，在关键时刻关闭电源——以此作为一种可能的办法，但未来的超级智能机器可能已采取措施防止外力切断电源�
在打开这样的“潘多拉魔盒”之前，制定有效的监管机制显得尤为重要�
相关阅读�北京赛车pk10赚钱技巧之冷门的投注号�