“不幸的是，尽管深思熟虑有其优点，但在实践中可能会很缓慢且难以维持，”研究人员写道。 “为了支持这一进程，我们探讨‘民主希望’和相互尊重的重要性，将其作为支持积极成果的对话要素。”
这场争论已经在人工智能研究实验室之外展开。根据 2024 年 4 月发表在《意识神经科学》上的一项研究，67% 的参与者认为 ChatGPT 在某种程度上可能有意识。然而，对于人工意识是否可能，或者如果它出现，我们将如何识别它，研究人员仍然存在分歧。
人工智能开发者本身也在加剧这场争论。去年夏天，微软 AI 首席执行官兼 DeepMind 联合创始人 Mustafa Suleyman 警告，越来越像人类的 AI 可能会激发人们对 AI 权利、福利甚至公民身份的呼声，无论该技术是否真正有意识。
五月份，教皇利奥十四世的第一封通谕信重点关注人工智能，警告不要将人工智能拟人化，认为机器可以模拟同理心并产生令人信服的语言，但缺乏真正理解所需的生活经验。
“所谓的人工智能不会经历经验，不会拥有身体，不会感到快乐或痛苦，不会通过人际关系成熟，也不知道从内心深处什么是爱、工作、友谊或责任，”教皇利奥写道。 “他们也没有道德良知，因为他们不判断善恶，不掌握情况的最终意义，也不承担后果的责任。”
然而，虽然公司通常避免声称他们的模型是有意识的，但有些公司越来越多地参与身份和人格问题。
2 月，Anthropic 为其退役的 Claude Opus 3 模特提供了一个公共博客，探索自我和模特偏好。五月，进化生物学家理查德·道金斯表示，与克劳德的长时间对话让他无法否认先进人工智能可能有意识的可能性。
与此同时，研究人员正在研究越来越像人类的聊天机器人如何影响用户，包括“放大螺旋”框架，该框架表明个性化、语言镜像和聊天机器人的阿谀奉承可能会强化弱势用户的妄想信念。
贝尔斯和加布里埃尔承认，人工智能意识的不确定性可能无法最终解决，他们认为风险足够高，社会必须找到通过对话和辩论而不是冲突来管理分歧的方法。
“人工智能意识的可能性令人眼花缭乱和令人困惑，特别是考虑到我们对意识本质的极度无知，”他们写道。 “考虑到有多少风险，驾驭这种可能性是一项艰巨的社会任务。”