谷歌的新人工智能引发对情绪检测的担忧

lixia01

谷歌最新的人工智能创新产品 PaliGemma 2 声称可以通过图像分析情绪，但专家和研究人员警告称，该技术存在滥用风险，并且情绪识别存在科学不确定性。
谷歌最新的人工智能模型 PaliGemma 2 因其解读图像情绪的能力而备受关注，该功能在最近的一篇博客文章中公布。与基本图像识别不同，PaliGemma 2 提供有关人物和场景的详细说明和见解。然而，其情绪检测能力引发了关于伦理影响和科学有效性的激烈争论。
批评者认为，情绪识别存在根本缺陷，它依赖于过时的心理学理论和主观视觉线索，无法解释文化和个体差异。研究表明，此类系统往往存在偏见，一份报告强调了类似的模型如何更频繁地将负面情绪归因于某些种族群体。谷歌表示，它对 PaliGemma 2 进行了广泛的人口统计学偏见测试，但这些评估的细节仍然很少。
专家们还担心向公众发布这项人工智能技术的风险，称其可能在执法、招聘和边境管制等领域被滥用。尽管谷歌强调其对负责任创新的承诺，但牛津大学的桑德拉·沃赫特等批评人士警告称，如果没有强有力的保障措施，像 PaliGemma 2 这样的工具可能会强化有害的刻板印象和歧视性做法。这场辩论强调了在技术进步和道德责任之间取得谨慎平衡的必要性