随着人工智能模型接近人类的推理能力，专家呼吁暂停并评估其对社会行为和规范的影响。
OpenAI 的逼真语音功能对人类交互的潜在影响引发了人们的担忧，该公司警告称，人们可能会以牺牲现实生活中的关系为代价与人工智能建立情感纽带。该公司指出，其GPT-4模型的用户已经表现出将人工智能拟人化的迹象，将人类的特质归因于人工智能，这可能会导致错误的信任和依赖。OpenAI 的报告强调，高质量的语音交互可能会加剧这些问题，引发了人们对其对社会规范的长期影响的质疑。
该公司观察到，一些 AI 语音功能的测试者与它互动的方式暗示了情感上的联系，比如在会话结束时表达悲伤。虽然这些行为可能看起来无害，但OpenAI强调需要研究它们随时间的演变。该报告还指出，依赖人工智能进行社交互动可能会削弱用户参与人际关系的能力或意愿，从而改变人们之间的互动方式。
人们还担心人工智能回忆细节和处理任务的能力，这可能会导致过度依赖该技术。OpenAI进一步指出，其人工智能模型旨在在对话中保持恭敬，当用户习惯于打断他人说话等在人际交往中不恰当的行为时，可能会无意中助长反社会规范。该公司承诺将继续测试这些语音功能如何影响情感依恋和社交行为。
今年 6 月，OpenAI 因在其聊天机器人中使用与女演员斯嘉丽约翰逊相似的声音而受到批评，这一问题引起了人们的关注。尽管该公司否认该声音属于约翰逊，但这一事件凸显了语音克隆技术的风险。随着人工智能模型继续向类似人类的推理发展，专家们越来越多地敦促人们停下来考虑对人际关系和社会规范的更广泛影响。
评论