“机器人杀手真来了？韩国研究AI武器 遭多国抵制！”

本篇文章1907字，读完约5分钟

本论文由本智能实验室(公众号smartman 163 )制造。 聚焦ai，阅读下一个大时代！

【本智能信4月6日消息】据外国媒体报道，韩国科学技术院与韩国十大财团之一的汉华集团汉华系统企业合作，最近开设了人工智能研发中心，目的是开发适合作战指挥、目标跟踪、无人水下交通等行业的人工智能技术。

业界专家广泛担忧，迄今为止，30个国家和地区的人工智能和机器人专家发表声明，反对研究人工智能武器的韩国科学技术院( kaist )。 由澳大利亚新南威尔士大学人工智能教授托比·沃尔什发起，美国和日本等30个国家和地区的研究者4日签署了公开信，敦促韩国科学技术院停止开发人工智能武器。 他们加速了机器人武器的开发竞争，很遗憾，如果该大学不承诺停止研究开发，就与此断绝关系，拒绝访问韩国科学技术院，接待对方的来客，与对方合作研究项目，这所韩国顶尖大学表示:“

本智能在这封联名信中写道:“自动武器成熟后，战争的迅速发展速度和规模将达到前所未有的程度，有可能被恐怖分子利用。” 发起联名抵制的人工智能教授沃尔什告诉路透社记者，机器人和人工智能技术实际上可以在军事行业发挥有利作用，例如扫雷等威胁人类安全的任务，但我们不能把决定生死的权利交给机器，这是道德的底线

独特的是，谷歌内部签署了3100多人，抗议谷歌向五角大楼提供人工智能的力量，谷歌员工称谷歌首席执行官退出五角大楼代号maven项目，“不开发战争技术”

业内评论称，这家硅谷巨头与美国政府之间的文化冲突已对此凸显出来。

除了联名抵制韩国外，还抵制美国五角大楼，今年3月，来自14个组织的26名研究人员全面报告了恶意ai带来的危险。

他们两天的会议生产了长达100页的报告。 该文案是降低人工智能不良应用带来的风险和这些风险的战略，在员工提出的四个建议中，一个是“人工智能的研究者和工程师慎重对待其员工的双重招聘特点，考虑到研究的先后顺序和规范中相关招聘不当带来的影响，

这个提案特别适用于最近兴起的“deepfakes”。 为了把好莱坞女演员的脸换上色情演员的身体，开始了机器学习(制作人工合成的假色情作品)。 motherboard的sam cole最先报道了这个消息。 这些deepfakes是通过改编一个叫做tensorflow的开源机器学习库实现的。

虽然报告中特别提到了deepfakes，但是研究者强调了将这种技术用于解决世界领导人的视频带来的危害会对政治安全构成威胁。 这是研究者认为的三大威胁行业之一，只要想象特朗普宣战及其带来的后果等虚假视频，就能理解这种情况的危险性。 另外，通过数据观察和大规模对比的推进，发现利用人工智能技术可以实现前所未有的大规模监控是政治行业考虑的另一个方面。

被视为恶意人工智能的另外两个主要风险行业是数字和物质安全( physical ai )吗？ 安全性)。

在数字安全方面，使用人工智能的网络攻击“缓解现有攻击规模和效率的权衡”。 大规模网络攻击可能会以更多复杂的攻击形式发生，如大规模网络钓鱼，或通过语音合成模拟受害者。

在物质ai的威胁方面，研究者注意到物质世界依赖于自动化系统，随着越来越多的智能家居和自动驾驶车上线，人工智能可能会颠覆这些系统，造成毁灭性的破坏。 另外，还有故意制造自动化武器和无人机等恶意人工智能系统带来的威胁。

其中的一个场景，例如小型无人机带来的灾难，似乎还很遥远，但另一个，例如大规模的网络攻击、自动武器、视频操作等，已经引起了问题。 为了应对这些威胁，保证人工智能被用于造福人类，研究者提出开发新的政策处理方案，探索不同的“开放模式”以降低人工智能的风险。 例如，中央访问许可模型( central access licensing models )被认为可以防止人工智能技术落入坏人之手，或者建立一个监控程序来密切记录人工智能资源的应用路径。

报告称，“当前的趋势强调对尖端研究和快速发展成果的广泛开放，预计这些趋势在未来五年持续下去，攻击者用数字和机器人系统危害的能力将明显提高。” 另一方面，我们认识到开源人工智能技术的扩散将更多地吸引决策者和监管机构的观察，他们将越来越多地对这些技术加以限制，而这些政策具体应采取什么形式，则不得不从地区、国家和国际层面加以考虑

报告总结说:“该报告的共同作者之间仍然存在多重差异，世界不同的专家小组自不必说，随着各种威胁和反馈的发现，在我们得到越来越多的数据之前，这些差异不会得到处理，但这个不

所以，口罩们所代表的ai威胁论占优势吗？ 对此你有什么看法？

关注本智能公众号( smartman163 )，获取人工智能领域的最新报告。

来源：安莎通讯社