起初，John Pasmore 对 ChatGPT 感到很兴奋。
这位连续创业者至少从 2008 年开始就进入人工智能领域。他回忆起专家们宣称世界需要几十年才能看到像 ChatGPT 这样的东西的日子。快进——这一天已经到来。
但是有一个问题！
ChatGPT 是世界上最强大的人工智能工具之一，但它在处理文化差异方面却举步维艰。这对于像 Pasmore 这样的黑人来说相当恼人。事实上，这种疏忽已经激怒了许多黑人，他们已经觉得自己在那些号称有朝一日可以拯救世界的算法中没有得到适当的体现。目前的 ChatGPT 提供的答案对于迎合某些群体的特定问题来说过于笼统，因为它的训练似乎带有欧洲中心主义和西方偏见。这并不是独一无二的——大多数人工智能模型在构建时并没有考虑到有色人种。但许多黑人创始人坚决不落后。
过去一年，许多黑人拥有的聊天机器人和 ChatGPT 版本如雨后春笋般涌现，专门迎合黑人和棕色人种社区，因为像帕斯莫尔这样的黑人创始人试图利用 OpenAI 的文化失误。
“如果你问这个模型，我们文化中最重要的艺术家是谁，它会告诉你列奥纳多达芬奇和米开朗基罗，”帕斯莫尔在谈到 ChatGPT 时说。“它不会提到印度、中国、非洲，甚至非裔美国人，因为它的偏见集中在欧洲的历史轨迹上。”
因此，帕斯莫尔推出了Latimer.AI，这是一种语言模型，可以针对黑人和棕色人种的经历提供定制答案。艾琳·雷迪克 (Erin Reddick) 推出了ChatBlackGPT，这是一款同样以黑人和棕色人种社区为中心的聊天机器人。全球范围内，加拿大的Spark Plug是黑人和棕色人种学生的 ChatGPT 替代品。非洲也在这一领域看到了巨大的创新，语言模型应运而生，以满足非洲大陆 2,000 多种语言和方言的需求，而西方人工智能模型仍然忽视了这些语言和方言。
Spark Plug 创始人塔玛·哈金斯 (Tamar Huggins) 告诉 TechCrunch：“我们是我们自己故事和经历的守护者。我们需要创建我们拥有和控制的系统和基础设施，以确保我们的数据属于我们。”
个性化人工智能已经到来
通用人工智能模型无法轻易捕捉非裔美国人的经历，因为该文化的许多方面都不在网上。目前的算法会从互联网上搜索资料，但非裔美国人文化中的许多传统和方言都是通过口头或直接传承下来的，这导致人工智能模型对社区的 理解与实际发生的事情的细微差别之间存在差距。
这就是为什么 Pasmore 在创建 Latimer.AI 时尝试使用像《阿姆斯特丹新闻》（美国历史最悠久的黑人报纸之一）这样的来源，专注于准确性，而不是使用从互联网上抓取的用户生成数据进行训练。这样做后，他开始发现他的模型与 ChatGPT 之间的差异。
他回忆说，有人曾向 ChatGPT 询问地下铁路的情况，这是被奴役的美国黑人为逃避奴役而前往北方各州所经过的通道。ChatGPT 的模型会提到逃亡奴隶，而 Latimer.AI 调整了措辞，将其称为“被奴役者”或“寻求自由的人”，这更符合在讨论曾经被奴役的人时更加社会化的用语。
帕斯莫尔说：“由于训练数据的原因，模型使用的语言存在一些细微的差别，而模型本身只考虑黑人和棕色人种。”
与此同时，Erin Reddick 的 ChatBlackGPT 仍处于测试阶段，计划于六月节推出。她的产品就像它的名字一样：一个聊天机器人，人们可以提出问题并获得有关黑人文化的定制回复。“我们所做工作的核心是真正的社区驱动，”她说。
图片来源： ChatBlackGPT 和 Stefan Youngblood
她正在开发这款工具，询问用户他们希望它是什么样子，以及他们希望它如何运作。她还与传统黑人学院和大学 (HBCU) 等教育机构合作，与学生合作，既教他们算法，又让他们帮助训练算法。她说她想“为黑人和棕色人种创造一个全面的学习机会，让他们有一个安全的空间来探索人工智能。”
她告诉 TechCrunch：“该算法优先考虑黑人信息源，以便它可以提供比你的平均经验更直接相关的知识体系。”并补充说，就像 Pasmore 的产品一样，从技术上讲任何人都可以使用它。
Tamar Huggins 建立Spark Plug也是为了为黑人和棕色人种社区提供更加量身定制的体验。她的平台将教育材料翻译成非裔美国人白话英语 (AAVE)，即与美国黑人社区相关的民族语言。这种方言传统上是通过口头和亲手传承下来的，而不是像标准英语那样学习和写下来，这意味着仅从互联网上学习它的人工智能模型 (或人) 的准确性会受到影响。准确捕捉 AAVE 非常重要，不仅是为了让聊天机器人使用它来响应，而且为了让学生更容易编写提示，让人工智能返回他们需要的结果。
图片来源： Spark Plug（截图）
“通过创作能引起黑人学生共鸣的内容，我们确保他们在教育领域看到自己的影子，这对于高参与度和学业成功至关重要，”哈金斯说。“一旦有机会，大型科技公司几乎总是将利润置于人之上。所以我们在人工智能领域开辟了自己的道路。”
哈金斯用哈莱姆文艺复兴时期的黑人作家、教育界的黑人作家的作品，甚至她十几岁女儿的言辞来训练她的算法，以捕捉 AAVE 的精髓。哈金斯还与教育工作者、语言学家和文化专家合作，审查和验证 Spark Plug 的成果。她的产品也不是建立在 ChatGPT 之上的。它是自己的模型，这意味着用户可以控制自己的数据。
Pasmore 还计划为他的 Latimer.AI 构建一个单独的基础模型。目前，他正致力于将公司拓展到学校，尤其是 HBCU，因为越来越多的学生每天都在依靠 ChatGPT 来完成他们的作业。
他说：“对于黑人和棕色人种孩子所负责的很多工作来说，这是一个更好的人工智能伴侣。”
团结侨民
在当前的人工智能运动中，非洲被忽视了。例如，根据《2023 年人工智能指数报告》，全球仅有 0.77% 的人工智能期刊来自撒哈拉以南非洲，而东亚和北美则分别占 47.1% 和 11.6%。从人口方面来看，与北美相比，非洲占世界人口的 17% 左右，而北美仅占 7%。当需要获取有关人工智能的信息和专家时，撒哈拉以南非洲的研究成果被使用的可能性相当低，这可能会影响全球人工智能工具的发展。
虽然非洲在创建更具包容性的语言模型以更好地服务黑人侨民方面取得了很大进展，但目前，从 ChatGPT 到 Gemini 的现有人工智能模型无法完全支持非洲各地使用的 2,000 多种语言。
Yinka Iyinolakan 创建了CDIAL.AI来解决这一问题。CDIAL.AI 是一个聊天机器人，可以讲和理解几乎所有非洲语言和方言，尤其注重语音模式而不是文本。
Iyinolakan 向 TechCrunch 表达了许多黑人的看法，即基础人工智能模型主要从互联网数据和最常用的语言中获取。与非洲裔美国人的后代文化一样，许多非洲语言和传统在互联网上是缺失的，因为非洲文化在历史上是以口头而非书面形式传播的。这意味着人工智能模型没有足够的非洲文化信息来训练自己，从而留下了知识空白。
图片来源： CDIAL.AI 网站
对于 CDIAL.AI，Iyinolakan 招募了非洲各地 1,200 多名母语人士和语言学家，收集知识和见解，以建立他所称的“世界上第一个多语言语音优先大型语言模型”。该公司计划在未来 12 个月内扩展，以包含更多语言，并构建一个支持文本、语音和图像的模型。
他并不是唯一一个这么做的人。谷歌最近向位于肯尼亚的 Jacaranda Health 提供了 140 万美元的资助，以建立其机器学习服务，使其能够处理更多非洲语言。Intron Health 最近筹集了数百万美元，以扩大其临床语音识别服务，以适应非洲各地 200 多种口音。
“硅谷希望相信，人工智能就是一切，”伊伊诺拉坎说。“但要‘获得’人工智能，也就是所有公司都视其为北极星的东西，他们需要掌握全球三分之一的知识。”
取得进展
采用人工智能聊天机器人并不是黑人创始人试图解决的唯一创新。
史蒂夫·琼斯 (Steve Jones) 和德肖恩·布朗 (DeSean Brown) 创办了pocstock公司，专门制作有色人种的库存图片，因为几十年来，图片库中一直缺少少数族裔的图片。这就是为什么如今当用户要求模特们生成从医生到流行歌手的各种图片时，模特们主要输出白人的图片。
琼斯告诉 TechCrunch：“所有平台和工具都应使用完整、种族包容和文化准确的数据进行训练，否则我们将延续整个社会目前面临的偏见问题。”为了解决这个问题，pocstock 在过去五年中一直在收集多样性数据并创建自己的视觉标记系统，该系统为企业用来训练 AI 模型的数据库做出了贡献，从而使其能够生成更具包容性的图像。
不过，一些改进正在发生。琼斯说，他注意到，从人工智能公司获取信息的大型图片库公司在增加内容多样性方面取得了更大进步。帕斯莫尔也看到了更光明的未来，他说个性化人工智能无论如何都是未来，人工智能模型与用户的互动越多，它就越能理解特定人的需求和需要，“我认为这会消除很多偏见。”
未来甚至可能还有更多文化特定的人工智能模型的空间，尤其是随着更多黑人拥有的替代方案不断涌现。毕竟，世界广阔而微妙——试图将其装入一个黑匣子是没有意义的。
“我希望更多的有色人种创始人能够在下一次经济繁荣时期尽早参与开发自己的人工智能平台或创造新的人工智能相关工作，”琼斯说。“人工智能将创造万亿富翁，我希望看到有色人种成为生产者而不仅仅是消费者。”
本站全部资讯来源于实验室原创、合作机构投稿及网友汇集投稿，仅代表个人观点，不作为任何依据，转载联系作者并注明出处：https://www.lvsky.net/598.html
评论