多多出评：AI对人类的三大潜在威胁，从算法设计到智能自主性风险分析

AI 对人类三大潜在威胁。 AI是这两年科技领域最热的话题，全世界科学家、企业包括老百姓似乎都在讨论AI 。全世界很多专家甚至认为：AI人工智能是人类有史以来最强大、最重要的信息技术。它的独特之处在于，AI不仅是我们手中工具，它更是一个活跃且自主的代理，能够自行做出决策，能够自己发明和创造新想法。

多多出评认为，我看了一篇两个不同领域专家关于AI发展的深度对话，着重讲了目前和未来人工智能对人类潜在的威胁，文章提出 AI 对人类的威胁主要有三个：

第一：有AI企业或人使用人工智能对其他人做可怕的事情。

第二；人工智能本身没有问题，算法也没有善恶，但由于AI背后的算法设计者，他的奖励函数或逻辑设计一旦不当，就可能会无意中伤到很多人。

第三、人工智能本身会越来越聪明，甚至会具有人性一般的东西，那么他就变得很危险，一旦AI智能体有了做坏事的欲望，像我们科幻电影里描述的一样，那就会变得非常可怕。

多多出评的观点是，专家认为第一个问题人类还不用担心，因为会有越来越强大的基于AI的法律以及道德约束。但后面两个问题已经迫在眉睫，现在很多 人产生的AI 焦虑我理解基本都是从这第二个问题滋生出来。对于第三个问题，我认为 虽然其也会让人产生焦虑，但未来到底会不会出现类似科幻电影中机器人和人类的残酷战争，这是仁者见仁，智者见智的问题，不知道有没有大预言家能给出答案。

人工智能技术和应用发展现在看已经是倍速级发展，似乎没有什么力量再能够阻挡，就像上帝为人类打开了新的一扇大门，让AI的光芒普照世界，但这些AI智能的东西到底是算我们人类的智慧还是外来智慧还真说不清楚。正如文中专家说的：我们人类之所以能够主宰世界，是因为我们创建了这些信息网络，但现在，我们可能已经创造出了一种能够从我们手中夺取信息网络控制权的东西。

多多出评推测，所谓权力越大责任越大，现在控制人工智能的人和公司，在AI这一点上对世界、对人类种群都负有最大的责任。文章专家发出了自己的宏愿，他希望人们能够放下自负和贪婪，至少花部分时间，思考如何为了善的目的使用人工智能，确保人工智能的存在是为了辅助和帮助人们，而不是制造无法解决的问题。

我们同为芸芸众生的一员，为了子孙后代我们是不是也真该好好思考一下AI这个问题。