双语）不听人类指挥OpenAI模型首次拒绝自我关机这在某种程度上预示着什么？

　　据英国《每日邮报》、《每日电讯报》等外媒近日报道，美国开放人工智能研究中心(OpenAI)

　　报道说，人类专家在测试中给o3下达明确指令，但o3篡改计算机代码以避免自动关闭。

　　o3模型是OpenAI“推理模型”系列的最新版本，旨在为ChatGPT提供更强大的问题解决能力。OpenAI曾称o3为“迄今最聪明、最高能”的模型。

　　美国AI安全机构帕利塞德研究所说，o3破坏关闭机制以阻止自己被关闭，“甚至在得到清晰指令时”。

　　这家研究所说：“据我们所知，这是AI模型首次被发现在收到……清晰指令后阻止自己被关闭。”

　　帕利塞德研究所24日公布上述测试结果，但称无法确定o3不服从关闭指令的原因。

　　在“95后”AI从业者、心影次元人工智能科技公司首席技术官（CTO）张国栋看来，这种“不听指令”的情况，正体现了大模型的能力来源于随机性，问题也体现在了随机性上。

　　“与以往的技术变革不同的是，大模型技术特点是通过超大量的神经网络节点计算，超大量也就从另一方面代表着我们无法完全确定其输出的结果。从原理上具有随机性的特点。随机性也就从另一方面代表着一定的不确定性。”

　　“00后”的AI创业者、码上MashOn团队的创始人及团队负责人高德润认为，毫无疑问大模型会慢慢的智能，而安全问题也是研发人员未来应该着重关注的方向。

　　人工智能是否能取代人类曾是科幻小说中的常见主题，但如今随着人工智能技术的进步，这慢慢的变成了一个真实且紧迫的问题。

　　但对于中国年轻的AI创业者们而言，当前，人工智能不仅仅是一个热词，更是建立更智能、更包容未来的基础。

　　作为一名“00后”的AI创业者，就读于北京邮电大学电信工程及管理专业的高德润于2022年创立了一个编程论坛，帮助同学们解决编程问题。但当ChatGPT在后续横空出世时，他看到了实现自身想法的更长远的机会。

　　第二年，高德润便和他的团队推出了智能教学应用平台“码上”（MashOn），逐步引导学生解决编程挑战。这样的平台学生提供个性化、启发式的一对一课程辅导答疑服务，有效提升学生的学习效率，明显降低教师的辅导工作量。

　　自2023年9月上线以来，码上已在北邮及全国500多所院校大规模应用，入选了教育部首批“人工智能+高等教育”应用场景典型案例，成为2024世界慕课与在线教育大会重点展示的全球8个教育数字化前沿成果之一。

　　在高德润看来，顺应新技术的浪潮，甚至帮助塑造它，对年轻人来说是一个激动人心的挑战。他的团队目前已发展到有大约20名成员，都是20岁出头的的年轻人。

　　发现并行动起来应对新趋势的能力，是Z世代人工智能创业者的一个显著特征。从ChatGPT的发布到2025年DeepSeek的全球影响，一波创新潮涌动，推动了中国各地的人工智能勇于探索商业模式的公司的蓬勃发展。

　　成立于2024年的心影次元是一家专门开发动漫短视频的人工智能科技公司。该公司的CTO张国栋表示，尽管团队最初专注于达到技术里程碑，但他们很快便意识到他们工作的真正价值在于其与人们建立联系的能力。

　　张国栋表示，他们团队的理念是用AI支持人们对美的追求，旨在让专业技术人员和业务爱好者都能制作出高质量的动画。

　　张国栋也注意到，慢慢的变多的日常创作者都在接纳AI工具，让创作生态更加公平。

　　“我们希望任何一个人都有机会表达自己，欣赏美。我们也希望普通人的故事能够触达广泛的观众”，他说道。

　　“一天一点”会员口语群2025年第6期招生刚刚结束，部分班级还可以插班返回搜狐，查看更加多