为防人工智能背叛人类，google微软等巨头拉起小手

寂静天花板

从《2001：太空漫游》到《黑客帝国》，电影和科幻作家一直都在提醒我们要警惕人工智能，因为它们随时都有可能背叛人类甚至毁灭人类。随着人类在人工智能领域不断取得突破，这种担忧正在越来越多地被人们提及。
' A _( J- t$ `4 f! {- z
c: I: A, \! k! j! a现在，Google母公司Alphabet、Facebook、微软、IBM和亚马逊这5家在人工智能领域积极布局的科技巨头也意识到了这个问题，他们正打算为人工智能制定一套成熟的道德标准。
根据《纽约时报》的报道，这5家公司近期举行了一场会谈，在人工智能对劳动市场、交通和战争等方面的道德伦理标准展开了讨论。他们还打算成立一个相关的行业协会，这个协会的目的是确保人工智能有利于人类而不是伤害人类，但参会者还没有确定具体的协会名称。
虽然科技巨头们都在积极研究人工智能，但警惕人工智能统治人类的呼声也不绝于科技界。例如在今年6月份举办的Code Conference上，特斯拉和Space X的创始人伊隆·马斯克就曾说过，按照人工智能的发展，未来人类在智力上将被远远抛在后面，并沦落为人工智能的宠物。
2 U+ S6 H( e( r. X/ f* y去年7月，马斯克还资助了未来生命研究所（Future of Life Institute）1000万美元，该机构主要评估和分析人工智能带来的风险。
随后史蒂芬·霍金也在一场电视节目里声称硅谷某处的一些实验室正在酝酿一个邪恶的计划，而人工智能将会以比人类更快的速度进化，它们的目标是人类无法预测的。
“一旦机器达到了一种可以自我进化的关键阶段，我们就无法预测它们的使命是否和人类一样了。”霍金说。
对此，谷歌董事长Eric Schmidt回应称，人工智能将会以人类的福祉为发展方向，而且将会有一个系统来阻止人工智能向不对的方向发展。“我们都看过那些科幻电影。”他说，“但是在现实世界中，人类肯定知道如何在人工智能变得危险的时候关闭掉它的系统。”
不仅是科技公司和民间组织想要让人工智能在道德和法律上走向正规化，政府机构也参与到了这场讨论中。今年5月，美国政府在西雅图举办了第一次关于AI法律法规的白宫探讨会。
, v8 I! m/ i0 r/ j9 y本次探讨会的主题是“政府应不应该对人工智能进行管理”，但会议并没有就此议题得出结论，更不用说出台具体的监管措施了。
; Q% ~4 {: s, g4 F" D. g因此，在政府没有做出具体的动作之前，科技公司们已经开始行动了——他们决定自己制定框架，让人工智能研究能够进行下去，并确保它不会伤害人类。
9 G* ~% [) q5 _6 X参与本次行业讨论的微软研究人员Eric Horvitz曾在斯坦福大学创办过一个叫“人工智能百年研究”的协会，该协会最近发表了其2016年的研究报告。
在这份名为《2030年的人工智能与生活》的报告中，作者认为人工智能“很可能受到监管。”报告称：“研究组达成的共识是，试图监管人工智能的努力常常受到误导，因为我们没有对人工智能这一概念的明确定义，因此在不同领域，我们需要考虑不同的风险。”
这份报告还建议政府机构提升对人工智能的专业认识，并加强在人工智能领域的公共和私人投资。
一份关于本次会议的备忘录显示，这5家公司将于9月中旬宣布建立监管人工智能的行业组织。有知情人士表示，Alphabet的子公司Google DeepMind要求以独立的身份参与此行业协会。
" r: ], `8 E9 B6 L" Q& i+ z9 a该协会将以全球网络倡议（Global Network Initiative）等人权组织的模式组建，但更加关注言论自由和隐私权问题。
9 @- ^6 V' F' e$ m' v% V

1175912249

感觉现在有点杞人忧天，真正的智能化只是在童话故事和电影中存在

ralphtyler

是有点必要性，人类真跟智能机比起来。毫无优势

amone

现在的AI还依赖于人类的输入，一旦给机器开放自我意识，机器的进化速度将

左手的幸福

如果人工智能开启自学习模式，人类对齐控制将不可控，上演科幻电影情节也不是没有可能。

左手的幸福

如果人工智能开启自学习模式，人类对其控制将不可控，上演科幻电影情节也不是没有可能。