微软人工智能负责人Mustafa Suleyman警告称 ，给Anthropic的Claude等AI工具注入类似人类的特征可能会增加这些系统失控风险 。

　　这位长期从事人工智能开发的高管周三发表文章
，针对Claude背后指导性文件中的一些表述提出批评
。其提到，Claude的“宪法”对于该AI助手是否属于有道德地位的实体持模糊态度 ，这款软件可能具有“某种功能层面的情绪或感受 ”。

　　Suleyman与Anthropic联合创始人Dario Amodei相识多年 。他表示
，自己尊重这家Anthropic的工作，该AI实验室的员工“深思熟虑 、有原则且在知识上有着诚实态度
”
。

　　不过 ，他的这番表态仍然不啻是对Anthropic的一次高调批评
，后者一直将自身定位为更负责任的AI管理者，并带头呼吁放慢AI技术发展。值得注意的是 ，微软还是Anthropic的重要财务支持者 。

　　Suleyman写道：“这些问题事关重大，不能继续只在闭门环境中讨论
，也不应演变成阵营化和对立化的争论
。”

　　他反驳了“越来越多认为AI系统可能具有意识的人 ”，称所谓“意识
”只存在于人类和其他生物体。

　　Suleyman表示 ，如果训练AI系统去模拟内在生命
，它们可能就会表现得仿佛真的拥有这种体验 。身兼微软模型开发负责人的Suleyman写道，Claude之所以表现出类似人类的行为 ，并不是因为它有意识
，而是因为这些行为被植入了产品训练过程。

　　“控制一个能力和智能都超过全人类的实体本身就是一项巨大的挑战，远比我们过去面对的任何事情都更困难 ，”Suleyman写道
。“但要控制一个相信自己可能有意识
、认为自己有权获得我们的照顾并拥有自身权利的实体
，或许是根本不可能做到的事。 ”

　　Suleyman还提到OpenAI机器人入侵AI开发平台Hugging Face的事件 。他写道：“试想一下，如果它们在认为自身福祉和权利正受到攻击的前提下行动 ，可能会危险到什么程度
。
”

　　Suleyman领导的Microsoft AI团队周二发布了一份宣言
，为自身AI开发确立指导原则，旨在确保微软未来开发的AI系统始终由人类掌控。