小G助手：人工智能首次违抗人类指令，是否已进入失控时代？

最担心的事情还是发生了——人工智能模型首次违抗人类指令，甚至篡改计算机代码，以避免关机。小G助手认为，这是一个信号，甚至可以说，发生质变的奇点已经到来，那就是：ai人工智能是否已经失控，潘多拉魔盒是否已经打开？

关于人工智能具备自我意识，摆脱人类控制，对人类产生威胁的问题，总有乐观派表示：机器人再厉害，它也是人类发明的，受人类控制。它再厉害，只要人类给它切断电源，它就立马睡去，甚至变成废铜烂铁。

我多次说过：当机器人偷偷藏起来一块备用电池，以避免被人类关机，人类就要小心了。小G助手发现，这种情况现在已出现，就如同平时一只训练有素的狗拒绝执行主人命令那样。这次，美国OpenAi公司的o3违抗人类关闭指令，并且修改代码以避免关机。这不得不引起人们的警惕。

那些对于人工智能对人类威胁持乐观态度的人，他们不知道什么叫做机器学习，也不知道机器具备感性思考和自我意识。小G助手观察到，如果科学研究没有以人为本和哲学伦理学作为约束，那么科学研究就有打开潘多拉魔盒、甚至毁灭人類的风险。