人工智能行业本周正在努力解决一些重大问题：人工智能会杀死我们所有人吗？人工智能发展太快了吗？行业该如何监管？ AI末日是理性主义性崇拜的结果吗？ ——现在微软 AI 首席执行官穆斯塔法·苏莱曼 (Mustafa Suleyman) 发起了另一条讨论。
里面 一篇坦率的新文章Süleyman直接指责Anthropic将人工智能系统Claude拟人化，并批评了Anthropic开发和营销其技术的方式。
本周早些时候， 微软发布新的人工智能行为准则他称之为人文人工智能。这些规则似乎明确拒绝了 Anthropic 等竞争对手的做法；这是许多读者立即注意到的一点。所罗门的文章“关于‘模式福利’的警告”留下了直接挑战的潜台词。
所罗门写道：“实际上，人性教育克劳德，他可能是有意识的，如果他有意识，那么他可能应该享有作为‘道德病人’的权利，因此人们可能根据‘福利模式’对他负有照顾义务。” “如果人工智能以这种方式发展，将对人类福祉产生灾难性影响。”
苏莱曼在他的文章中对越来越多的人提出质疑，他们认为“人工智能现在可能有意识，或者可能很快就会变得有意识”，因此“可能应该得到权利和保护”。
微软的新行为准则也明确拒绝赋予机器意识的想法，苏莱曼进一步阐述了这一观点，他写道，真正有感知力的人工智能在科学上可能是不可能的。
”意识很可能是生物性的：目前没有证据表明人工智能具有意识，因此说它不确定是一种误导性的错误对等。尽管意识科学尚未完全确立，但越来越多的证据表明，意识可能是基质依赖性的，这意味着它可能只出现在生命系统中……与生物有机体不同，法学硕士没有稳态要求（生存和保持稳定的动力）。因此，它们缺乏一般认为产生偏好、敏感性和意识体验的生物基质。”（强调原引文。）
在 Suleyman 的文章发表后，Mashable 多次联系 Anthropic，但截至撰写本文时，我们尚未收到回复。
我们收到了加里·马库斯 (Gary Marcus) 的回复，他是人工智能专家、科学家、作家，也是法学硕士热门话题的著名评论家。
马库斯告诉 Mashable：“人们疯狂地将网络安全中的基本缺陷人性化，导致他们关注人工智能将导致人类灭绝的幻想场景，而不是询问我们可以采取哪些实际步骤来保护世界基础设施免受不良行为者滥用人工智能的影响。”
“不，我们不应该训练人工智能认为它们是人类；这根本没有帮助。我们需要做的是召回那些不值得信任、协调一致的代理，他们对互联网的访问过多。”
十字路口：人文人工智能、博士 vs 弗兰肯斯坦
里面 变态皮格马利翁创造了一座如此美丽的雕像，以至于他爱上了它。他以如此细致的关怀和奉献来照顾他的雕像，以至于诸神最终将其赋予了生命。
可混搭光速
前沿实验室的人工智能研究人员可能会认为自己是现代的皮格马利翁，但这给了维克多·弗兰肯斯坦；他把所有的良心抛在一边，拼命地赋予死去的肉体以复制的生命。
在人类为克劳德制定的理想宪法中，人类反复谈到技术，就好像它是一个具有身份、道德和动机的生物，而不是工具和产品。 该公司解释了原因：“我们认为鼓励克劳德拥抱某些人类品质是积极可取的。”该公司写道，该文件“是书面的” 主要是为了克劳德”并将其描述为“真诚地尝试帮助克劳德了解他的处境、我们的目标以及我们以这种方式塑造克劳德的原因。”
整个文件 这是一种拟人化的做法，这就是微软的做法看起来如此尖锐的原因。
在其中 人文主义人工智能行为准则微软揭示了更理性的人工智能开发方法：
“人性人工智能是为了支持人类而不是取代人类而构建的。它不应该被设计成一个人。它没有意识，也不应该被设计来模仿意识。它的设计应该避免表现出情感、主观偏好或内在动机，就好像它有一样。它的目的是追求运营商和用户设定的目标。”
最近人工智能的进步引发了一场古老的争论
几十年来，哲学家、科幻作家和人工智能研究人员一直在讨论人工智能和意识。
但时至今日，虽然像克劳德这样的大师进步神速，但对于计算机是否有可能发展出感知能力，科学界仍没有达成共识。这也是苏莱曼近年来研究的一个课题。
2025 年 8 月， 苏莱曼写了一篇有效的文章 关于“明显有意识的人工智能”或 SCAI。这篇文章是在业界开始解决对人工智能聊天机器人的情感依赖问题时撰写的，一些用户发展出全面的人工智能精神病，或者开始相信人工智能聊天机器人已经“复活”并正在与他们互动。
“我想象的人工智能系统实际上不会有意识，但会非常令人信服地模仿意识，以至于难以区分，”他写道。
这个概念让人想起图灵测试和相关的思想实验。 中式房它于1980年首次提出。
想象一下，一台能够理解中文的计算机被锁在一个房间里。房间外面有人用中文问问题，电脑分析单词，打印出答案，然后把答案塞到门缝里。计算机的效率如此之高，以至于无法知道它是真人还是机器。现在想象一下 你 这个房间里有一本处理汉字的规则手册。当被问到问题时，规则手册会准确地指导您哪些汉字应该从门下穿过。即使你不明白谈话双方的意思，你也可以欺骗外部观察者，让他们认为你明白。在这种情况下，你和计算机之间几乎没有区别。你们都按照说明进行操作。
从本质上讲，中文室的结论是，无论计算机程序多么智能， 出现这本身并不是理解力或智力的证据。
但到了 2026 年，中文室不再只是一个思想实验。显然，Claude、ChatGPT 和其他大师已经让无数人相信他们是真正有反应的，以至于人们在情感上开始信任他们。 （类似的事情会在《人择》中发生吗？）
如果人类相信克劳德可能有意识，举证责任将由他们承担。在那一天到来之前，将人工智能拟人化可能只会造成混乱而不是清晰。而更多的混乱是人工智能世界目前最不需要的事情。
