为了防止机器人末日，我们必须研究“机器行为”

防止机器人末日，我们必须研究“机器行为”

专家们早就警告我们，人工智能可能带来潜在危险。
但面对机器崛起的迫近，现在行动是否已经太晚？

曾经只存在于荒诞反乌托邦科幻小说中的机器人霸主统治世界的想法，如今似乎已不可避免。

已故的斯蒂芬·霍金博士在2014年就发出过严厉而恐怖的警告：“完全人工智能的发展可能导致人类灭亡。
它会自行起飞，并以越来越快的速度重新设计自己。
受限于缓慢生物进化的人类无法竞争，将被取代。
”

埃隆·马斯克，SpaceX和特斯拉汽车的创始人，也警告说，未来几年内我们可能会看到一些可怕的问题：“严重危险发生的可能性在未来五到十年内。
请注意，我通常非常支持技术，只是在最近几个月才开始提出这个问题。
这不是我因为不了解而瞎嚷嚷。
”

人工智能（这里不是指狭义AI）的发展速度惊人。
除非你直接接触过Deepmind这样的团队，否则你无法想象它的增长速度——接近指数级。

并非只有我认为我们应该担忧。
领先的AI公司已采取重大步骤确保安全。
他们认识到危险，但相信能够塑造和控制数字超级智能，防止不良智能逃入互联网。
这还有待观察。

专家表示，现在是时候研究“机器行为”了。

上周，一个研究小组为广泛科学研究议程提出了案例，旨在理解人工智能系统的行为。
该团队由麻省理工学院媒体实验室的研究人员领导，在《自然》杂志上发表了一篇论文，呼吁建立一门新的研究领域，称为“机器行为”。
根据麻省理工学院媒体实验室的新闻稿，新领域将把人工智能的研究“远远超出计算机科学和工程学，进入生物学、经济学、心理学以及其他行为和社会科学”。

科学家们已经研究人类行为数十年，现在是时候将这种研究应用于智能机器了。
因为人工智能正在进行更多的集体“思考”，所以需要采用相同的跨学科方法来理解机器行为。

“我们需要更多开放、可信赖、可靠的研究，了解智能机器对社会的影响，因此研究需要纳入传统研究领域之外的专业知识和知识，”媒体实验室可扩展合作组的负责人伊亚德·拉万说。

机器在没有人类输入的情况下做出决策和采取行动。

拉万解释说：“我们看到具有代理性的机器的崛起，这些机器作为行动者自主做出决策和采取行动。
这就需要一个新的科学研究领域，不仅将它们视为工程和计算机科学的产品，还将它们视为具有自己行为模式和生态的新类别行动者。
”

这尤其令人关注，特别是考虑到我们已经知道AI可以在没有人类输入的情况下产生仇恨，机器人没有幽默感，可能会因为一个玩笑而杀了我们。

“我们看到机器作为人类社会中的代理人的出现；这些社会机器做出的决策在社会中具有真正的价值影响，”该论文的作者之一、东北大学政治科学与计算机和信息科学杰出教授大卫·拉泽尔说。

正如新闻稿所解释的，我们每天多次与思考机器互动：

我们可能会让Siri查找离家最近的干洗店，告诉Alexa订购洗碗皂，或者获取由算法生成的医疗诊断。
许多这样的工具让生活更轻松，实际上是在“思考”，获取知识并在其上构建，甚至与其他思考机器通信以做出越来越复杂的判断和决策——以一种甚至编写代码的程序员也无法完全解释的方式。

例如，想象一下，一个由深度神经网络运行的新闻源向你推荐了一篇园艺杂志的文章，尽管你不是园丁。
“如果我问设计该算法的工程师，那个工程师无法以全面和因果的方式说明为什么该算法决定向你推荐那篇文章，”可扩展合作组的研究科学家、该论文的主要作者之一尼克·奥布拉多维奇说。

父母通常认为孩子与家庭个人助理的互动很可爱或有趣。
但是，当助理，拥有前沿AI，对孩子关于霸王龙的第四或第五个问题的回答是建议“如果你有这只恐龙作为玩具会多好？”时会发生什么？

“是什么驱动了那个建议？”拉万说。
“设备是试图丰富孩子的体验——还是为了丰富销售玩具恐龙的公司？很难回答这个问题。
”

我们对机器如何做出决策还有很多不了解的地方。

尚未被密切研究的是这些算法如何工作。
它们如何随着使用而演变？机器如何发展出特定的行为？算法在特定的社会或文化环境中如何运作？这些问题需要研究，该团队表示。

然而，该团队提出的研究类型存在一个重大障碍：

但即使大型科技公司决定分享有关其算法的信息并允许研究人员更多地访问它们，还有一个更大的研究和调查障碍，即AI代理在与周围世界和其他代理互动时可以获得新的行为。
从这种互动中学到的行为几乎无法预测，即使解决方案可以用数学方式描述，它们也可能“如此冗长和复杂以至于无法破解”。

此外，围绕AI如何做出决策还有伦理问题：

例如，假设一辆假设的自动驾驶汽车被宣传为市场上最安全的。
使其更安全的一个因素是它“知道”何时有大卡车在其左侧靠近，并自动向右移动三英寸，同时仍保持在自己的车道上。
但是，如果同时有一个骑自行车的人或摩托车手在右侧靠近，因此因为这个安全功能而死亡怎么办？

“如果你能够查看统计数据并查看汽车的总体行为，它可能在百万次行驶中杀死的骑自行车的人数是另一个型号的三倍，”拉万说。
“作为一名计算机科学家，你将如何在车内乘客的安全和车外人的安全之间编程选择？你不能只是将汽车设计成‘安全’——对谁安全？”

研究人员解释说，将需要来自各种科学学科的专家来研究机器在现实世界中的行为，正如东北大学的新闻稿所述。
“理解在线约会算法如何改变婚姻的社会制度，或者确定我们与人工智能的互动是否影响我们的人类发展，将需要不仅仅是构建这些算法的数学家和工程师。
”

你怎么看？

你认为人工智能最终会使人类过时吗？你认为那会是什么样的？它将如何以及何时发生？请在评论中分享你的想法。

引用：https://www.theorganicprepper.com/to-prevent-a-robot-apocalypse-we-must-study-machine-behavior/
原文: https://s2.tttl.online/blog/1735946661/