除了马斯克和扎克伯格 对于AI两位Quora大神有话要说

特拉斯的马斯克与Facebook的扎克伯格关于人工智能的辩论正成为社会各界瞩目的焦点。这场关于人工智能是否应受到监管的讨论，在有着美版知乎之称的Quora平台上引发热烈反响，众多网友纷纷发表自己的看法。其中，两位Quora上的大神——Xavier Amatriain和Ben Y.Zhao的观点尤为引人注目。

Xavier Amatriain，一位前ML研究员，目前在Quora负责工程技术，他旗帜鲜明地表示：人工智能不需要监管！对于这一观点，他给出了三个有力的理由。

人工智能作为一项基础技术，与其他领域如量子力学、纳米技术等并无不同，对其进行监管无疑会阻碍其正常发展。人工智能作为一个研究和开发领域，拥有巨大的发展潜力，严格监管只会束缚其手脚。

当前对于如何监管人工智能还存在许多未知。如果现在就开始对其进行监管，很可能陷入一种尴尬的境地：让不了解这项技术的人来决定其命运。这不仅无法达到预期的效果，还可能引发更多的争议和冲突。

即使需要监管，监管的层面和范围如何界定也是一个巨大的难题。是否要在国际上达成某种共识，还是仅在特定国家或地区进行监管？这些问题都还需要深入讨论和探讨。

而Ben Y.Zhao，这位来自芝加哥大学的计算机科学教授则持不同看法。他认为对人工智能进行监管是个好主意且很有道理。他在Quora上表示，尽管人工智能的发展在某种程度上有些令人失望，但作为科研人员，他们必须时刻警惕其中的风险。亡羊补牢为时未晚，为了避免未来的错误和灾难，现在就开始探讨对人工智能的监管是有必要的。

这场关于人工智能监管的辩论仍在持续。两位大神的观点各有千秋，但无论结果如何，我们都应该保持开放的态度，继续深入探讨和研究人工智能的发展和应用，确保其在推动社会进步的也能保障人类的利益和福祉。毕竟，人工智能的发展是一个长期的过程，我们需要不断地学习和探索，以确保我们能够充分利用这一技术的潜力，同时避免其可能带来的风险和挑战。我带着对构建智能未来的热切希望，踏入了这个充满挑战的课程领域。在这个过程中，我对如何解决问题形成了初步的理解，即将所有问题视为巨大的搜索挑战。例如，通过绘制出所有可能的行动组合来下棋，并选择能最大化获胜机会的路径。现在，统计机器学习和深层神经网络虽然各自独立，但未来的融合将带来无限可能。

我对基本的机器学习分类器有了更深入的理解，但对于深度神经网络（DNNs）的应用，特别是在处理特定问题时，还存在许多困惑。关于这一点，我并非孤单一人，许多同行都对DNNs在某些问题上的表现感到迷茫。例如，马斯克和某些专家在此问题上持对立观点，使我陷入纠结。

直到杰夫·迪恩在加州大学圣芭芭拉分校的亮相，他介绍了谷歌的机器学习/人工智能项目，我才看到了一些曙光。他让我了解到加速DNN模型训练的重要性以及模型自我校正/优化的潜力。从某种程度上说，我认为人工智能的监管是个好主意。

一方面，机器学习专家正在努力解决如何加速模型学习的问题，同时也在探索如何让模型通过自我优化提升性能。结合这两点，就像是掌握了一辆高速行驶的火车的缰绳。出于审慎的考虑，监管是必要的，因为最坏的情况可能导致无法预见的后果。

一些观点对此持反对态度，认为我们离灾难还很遥远。但我认为这种看法忽视了历史教训。安全部门常常在事后才意识到问题的严重性，而系统构建者有时会忽略重要的设计缺陷。在人工智能领域，关于人工智能/机器学习的负面研究仍然远远落后于核心工作。对于安全人员来说，这既是警示也是挑战。我们的研究展示了深度神经网络作为强大武器的可能性，但我们也深知其潜在的巨大风险。

不同于其他计算系统的是，人工智能的奇异性问题可能导致从灾难性到世界末日的不同后果。采取过度谨慎的措施可能是值得的。那些认为存在更重要问题的观点忽视了资源的有限性和紧迫性。对于人工智能的监管需求不会因为其他问题而得到缓解。

我更担心的是深度神经网络的不可预测性。这些网络可能自动优化出无法预见的结果，而用户和工程师可能无法找到其中的漏洞，仅仅因为它们的复杂性。一旦部署，这些网络可能在熟练攻击者或随机输入的情况下产生无法预见的后果。尽管人工智能的强大应用不断展现，但对安全性的理解似乎总是滞后。例如，面部识别技术的广泛应用就伴随着对其安全性、公平性和隐私影响的讨论。

我坚信人工智能的监管是必要的，不仅是为了避免潜在的灾难，也是为了管理日益普及的人工智能工具。我们需要尽快开始监管，以跟上人工智能/机器学习的创新步伐。面对这样的挑战，无论是专家还是普通公众都应积极参与讨论和实践，共同为未来构建更智能、更安全的未来。那么，你更赞同哪位大神关于人工智能是否应该受到监管的观点呢？