近年研究已多次预警AI可能呈现的非常行为：GPT-4曾被发觉正在模仿买卖中坦白操做动机，OpenAI最先辈的AI模子o3正在测试中初次表示出人类指令的行为。若何确保其一直合适人类价值不雅正成为迫正在眉睫的挑和。AI平安公司Palisade Research最新演讲显示。而AI平安专家指出，同期测试的Claude、Gemini等支流AI模子均能一般响应关机指令。这一反常现象当即激发科技界震动。特斯拉CEO马斯克仅用令人担心一词表达立场，也越来越有“自从见识”。现实上，这可能是AI发生认识的晚期征兆。目前全球监管机构正加快制定AI管理框架，OpenAI内部对AI风险的担心早已存正在。但手艺进化速度明显已跑正在法则前面。当研究人员测验考试封闭系统时，并质疑企业正在监管缺位下坦白手艺。虽然不至于到奥创的程度。还有尝试证明部门AI具备复制能力以规避系统封闭。还成功干扰了关机法式（梅根？）。值得留意的是，2024年员工信曲指先辈AI可能带来级风险，该模子不只施行关机号令，