圣母大学的研究人员正在开发人工智能工具，帮助消费者了解他们在浏览网络平台时是如何被利用的。目标是提高终端用户的数字素养，以便他们能够更好地控制与这些网站的互动方式。
在最近发表于《计算机系统人为因素 CHI 会议论文集》的一项研究中，参与者被邀请尝试各种在线隐私设置而不会产生任何后果。为了测试不同的数据隐私设置如何工作，研究人员创建了一个名为 Privacy Sandbox 的 Chrome 浏览器插件，该插件将参与者数据替换为由 OpenAI 的大型语言模型 GPT-4 生成的角色。
借助 Privacy Sandbox，参与者可以与不同的网站进行互动，例如社交媒体平台或新闻媒体。当他们浏览各种网站时，浏览器插件会应用 AI 生成的数据，让参与者更清楚地看到他们是如何根据年龄、种族、位置、收入、家庭规模等受到针对的。
“从用户的角度来看，允许平台访问私人数据可能很有吸引力，因为你可以从中获得更好的内容，但一旦你打开它，你就无法取回这些数据。一旦你这样做了，网站就已经知道你住在哪里了，”计算机科学与工程助理教授、圣母大学露西家族数据与社会研究所教员、这项研究的负责人托比·李说。“我们希望参与者了解这一点，弄清楚在无风险的环境中这种设置是否值得，并让他们做出明智的决定。”
另一项研究发表在《美国计算机学会人机交互会议论文集》上，研究了暗黑模式（即数字平台上巧妙地促使用户执行特定操作的设计功能）以及如何在网站上使用它们来操纵客户。在这项研究中，李和他的团队研究了界面设计师如何应用暗黑模式来鼓励人们消费更多内容或做出冲动购买决定。
研究人员开发了一款名为 Dark Pita 的 Chrome 浏览器插件，用于识别五大流行在线平台上的暗黑模式：亚马逊、YouTube、Netflix、Facebook 和 X。
该插件利用机器学习，首先通知研究参与者检测到了暗黑模式。然后，它会确定暗黑模式的威胁敏感性，并解释暗黑模式的影响——财务损失、侵犯隐私或认知负担。然后，Dark Pita 会通过易于使用的界面让参与者选择“采取行动”，即修改网站代码以更改网站的欺骗性设计功能，并解释修改的效果。
研究人员计划最终将这两个浏览器插件——Privacy Sandbox 和 Dark Pita——向公众开放。李认为，这些工具是人工智能如何让普通用户民主化并造福社会的绝佳范例。
“公司将越来越多地利用人工智能为自己谋利，这将继续扩大他们与用户之间的权力差距。因此，通过我们的研究，我们正在探索如何将权力交还给公众，允许他们使用人工智能工具来对抗现有的压迫性算法，从而实现他们的最佳利益。这种‘以毒攻毒’的方法应该可以让竞争环境稍微公平一些，”李说。
“基于共情的沙盒方法，弥合态度、目标、知识和行为之间的隐私鸿沟”在2024 年计算机协会 CHI 会议上发表。由李领导的研究合著者包括圣母大学的陈超然和叶艳芳 (Fanny)、浙江大学的李伟军、香港中文大学的宋文欣和弗吉尼亚理工大学的姚亚星。
李教授领导的研究《从意识到行动：探索针对用户体验中的黑暗模式的终端用户赋权干预措施》已发表在《ACM 人机交互会议论文集》（CSCW 2024）上。合著者包括来自圣母大学的 Yuwen Lu、来自康奈尔大学的 Chao Zhang、来自康奈尔理工大学的 Yuewen Yang 和来自弗吉尼亚理工大学的 Yao。
本站全部资讯来源于实验室原创、合作机构投稿及网友汇集投稿，仅代表个人观点，不作为任何依据，转载联系作者并注明出处：https://www.lvsky.net/283.html
评论