Openai研究了人与人工智能之间的情感联系

OpenAI的建模和模型方法负责人Joanne Jang在今天（6月6日）上发表了一篇博客文章。尽管越来越多的人建立了与Chatgpt的“人际关系”联系，甚至将其视为“生活”的存在，但Openai着重于这种情感依恋的巨大重要性。它引用了一篇博客文章，并说人们天生就有同理心和对事物的情感投射，例如命名汽车或对卡克机器人感到“同情”，但chatgpt之间的区别会响应它。 Chatgpt可以记住用户的对话，模仿语气，甚至表现出“同情”的响应。对于那些沮丧或沮丧的人来说，也不知道这似乎是陪伴和理解。他指出，这种情感需求是真的，但是当这种接触仍在扩展时，依靠AI倾听和舒适会改变我们对人际关系的期望。 Openai记得不可预测的后果可能有出乎意料的后果，如果不仔细处理它。关于“ AI意识”，Openai将其分为两种尺寸：一个是“本体论意识”，也就是说，如果AI真正意识到内部；其他人则是“感知意识”，即情感AI用户的想法“像人类”。目前尚无科学试验来证明本体论的意识，而感知意识可以通过社会科学研究来探讨。随着模型变得更加明智并且相互作用变得更加自然，即使对AI和道德地位的好处进行了Spark ISOF讨论，感知意识也将进一步提高。 Openai的立场是，模型应该对问题的复杂性保持开放，而不是简单地回答“或“不”以鼓励公开讨论。 Openai认为，如果模型是“人类”，则取决于训练后的设计决策，包括音调，单词和边界设置。该公司的目标是让chatgpt展示W手臂，关怀和有用的一面，但没有积极地与用户建立情感纽带或表现出“自我意识”。例如，模型可能会说“对不起”或“我很好”，但并不意味着具有真实的情感或偏好。 Openai希望利用这种平衡来避免用户不健康的希望，同时清晰友好的沟通。