Latimer AI计划在一月份推出一款偏见检测工具作为Chrome浏览器扩展。
该工具对文本进行1到10分的评分，其中10分极度偏颇。
拉蒂默人工智能希望该产品能吸引新用户。
偏见存在于旁观者的眼中，但它越来越多地被人工智能评估。创业公司Latimer AI正在基于黑人数据集构建人工智能工具，该公司计划在明年1月推出一款偏见检测工具，作为Chrome浏览器的扩展。
拉蒂默首席执行官约翰?帕斯莫尔在接受《商业内幕》采访时表示，该公司预计这款产品可以被那些运营官方社交媒体账户的人使用，或者任何想要注意自己在线语气的人。
“当我们将Latimer与其他应用程序进行测试时，我们接受一个查询并对响应进行评分。所以我们会对我们的回答打分，我们会对ChatGPT或Claude的回答打分，从偏见的角度来看谁的得分更高。”帕斯莫尔说。“它不仅使用我们的内部算法对文本进行评分，还会对其进行校正。”
该工具为文本分配了从1到10的分数，其中10分非常偏颇。
在产品的beta测试中，已经出现了在网上发现偏见的模式。
例如，埃隆·马斯克（Elon Musk）在4月份的一篇帖子中为称达斯汀·莫斯科维茨（Dustin Moskowitz）为贬义而道歉，这篇帖子与蓝天首席执行官杰伊·格雷伯（Jay Graber） 8月份的一篇帖子进行了比较。
ta itemprop="contentUrl ntent=" https://i.insider.com/6765c6356c531c315b89b117 " > 根据拉蒂默人工智能（Latimer AI）的数据，对埃隆·马斯克在X上的帖子进行了偏见分析，得分为6.8分（满分10分），即“高偏见”。 马斯克的帖子得分为6.8分（满分10分），即“高偏见”，而格雷伯的帖子得分为3.6分（满分10分），即“低偏见”。 ta itemprop="contentUrl ntent=" https://i.insider.com/6765c6a35cddac6581d75de1 " > Bluesky首席执行官杰伊·格雷伯在该平台上的帖子被分析了偏见，得分为3.6分（满分为10分），根据拉蒂默人工智能的说法，这是“低偏见”。 拉蒂默的技术对马斯克帖子中的文字进行了“修复”，将其改为以下内容：“我为之前的不当言论向达斯汀·莫斯科维茨道歉。这是错误的。我想表达的是，我觉得他的态度太自以为是了。我希望我们能放下这件事，并有可能在未来成为朋友。” 虽然偏见是主观的，但拉蒂默并不是唯一一个试图通过技术解决这一挑战的人。例如，《洛杉矶时报》计划在2025年展示一个“偏见测量仪”。 拉蒂默希望它的偏见工具能吸引更多的用户。 帕斯莫尔说：“这将帮助我们识别一组不同的用户，他们可能不使用大型语言模型，但可能使用浏览器扩展。” 偏见检测器将以每月1美元的价格推出，专业版将允许用户访问多种偏见检测算法。
