首页 > 其他分享 >【转载】AI的剥削:肯尼亚工人训练ChatGPT,看大量有害内容心理受伤——AI新时代下剥削

【转载】AI的剥削:肯尼亚工人训练ChatGPT,看大量有害内容心理受伤——AI新时代下剥削

时间:2023-01-20 11:57:00浏览次数:59  
标签:剥削 AI Sama 员工 人工智能 OpenAI ChatGPT 肯尼亚

原文地址:

https://mbd.baidu.com/newspage/data/landingsuper?context=%7B%22nid%22%3A%22news_9062359768651479602%22%7D&n_type=-1&p_from=-1

 

 

========================================

 

 

 

为了获得有关暴力、仇恨言论和性虐待的例子以训练AI,OpenAI从2021年11月开始向肯尼亚的一家外包公司发送了数万条文本。其中大部分文字似乎都是从互联网最黑暗的角落里挖出来的,一些详细描述了性虐待、谋杀、异常性行为等情况。

·一名参与文本标签项目的员工表示:“对我们来说,这是一种养家糊口的方式。不看有害内容就无法养家糊口。”

人工智能(AI)文本生成工具ChatGPT已经引发全球热烈讨论,除了本身的准确性和偏见问题之外,其背后的道德问题也引起关注。1月18日,美国《时代》杂志发布调查报道称,为了降低ChatGPT的危害性,其开发公司OpenAI以每小时不到2美元的价格雇佣肯尼亚工人打标签。

这项工作对OpenAI至关重要。ChatGPT所依赖的GPT大型语言模型虽然已展示出令人印象深刻的文本能力,但目前的GPT-3还存在很多问题,总是脱口而出暴力、性别歧视和种族主义言论。这是因为AI接受了从互联网上抓取的数千亿个单词的训练,而庞大的训练数据集包含有害言论,会被人工智能学习。为了建立安全系统以控制这种危害,OpenAI借鉴了Facebook等社交媒体的做法。

实现这种检测的方式很简单:给人工智能提供有关暴力、仇恨言论和性虐待的例子,检测器就可以学会检测言论危害。将检测器内置到ChatGPT中,就可以在仇恨言论到达用户之前将其过滤掉,还可以帮助从人工智能的训练数据集中清除有害文本。这一切,是通过肯尼亚工人阅读大量仇恨言论并打上数据标签实现的,其中一些员工表示自己已经出现心理问题。

这些数据标签工人的工作条件揭示了科技图景中的黑暗部分:虽然人工智能很有魅力,但它往往依赖于隐藏的人力劳动,具有破坏性和剥削性。

 

 

 

 

OpenAI的人工智能Dall-E 2生成的一幅画,主题是:“电脑前,非洲工人无穷无尽的工作。”互联网最黑暗的角落ChatGPT聊天机器人于去年11月发布,被誉为2022年最令人印象深刻的技术创新之一。这个强大的AI聊天机器人几乎可以生成任何主题的文本,从重写莎士比亚十四行诗,到用5岁孩子都能理解的语言描述复杂数学定理。一周之内,它的用户就超过了100万。今年年初,有媒体报道OpenAI正与投资者进行谈判,以筹集290亿美元的投资,其中包括微软的100亿美元潜在投资。这将使OpenAI成为世界上最有价值的人工智能公司之一。

《时代》的调查报道称,为了获得有关暴力、仇恨言论和性虐待的例子以训练AI,OpenAI从2021年11月开始向肯尼亚的一家外包公司发送了数万条文本。其中大部分文字似乎都是从互联网最黑暗的角落里挖出来的,一些详细描述了性虐待、谋杀、异常性行为等情况。

OpenAI在肯尼亚的外包合作伙伴是Sama公司,这家总部位于旧金山的公司雇佣了肯尼亚、乌干达和印度的工人,为谷歌、Meta和微软等硅谷客户标注数据。Sama标榜自己是一家“有道德的人工智能公司”,并声称已经帮助5万多人摆脱了贫困。

OpenAI的发言人表示:“我们的使命是确保通用人工智能造福全人类,我们努力建立安全有用的人工智能系统,限制偏见和有害内容。分类和过滤有害文本和图像是必要的一步,可以最大限度地减少训练数据中包含的暴力和性内容,并创建可以检测有害内容的工具。”

但Sama公司的肯尼亚工人让人们得以一窥人工智能行业中鲜为人知的状况。该公司代表OpenAI雇佣的数据标签员的实际工资在每小时1.32美元到2美元之间,具体取决于资历和表现。这些工人处于边缘地带,尽管他们的工作为数十亿美元的产业做出了贡献。

OpenAI与Sama签署了3份总价值约20万美元的合同。大约30多名工作人员被分成3个小组,每个小组专注于一个主题。他们每9个小时要阅读和标注150到250段文字。这些片段的范围从100个单词到1000多个单词不等。许多员工表示,这份工作给他们留下了心理创伤。

一位Sama的工作人员表示,在阅读了大量仇恨言论后,他经常出现幻觉。“那是一种折磨。”他说。

Sama的发言人在一份声明中表示,员工有权与“经过专业培训和持有执照的心理健康治疗师”进行个人和团体治疗。这些治疗师随时都可以联系到。

虽然工人有权参加“健康”咨询师的课程,但由于对工作效率的要求很高,部分员工表示这些课程毫无帮助。还有一位员工表示,他要求以一对一的方式与咨询师会面的请求被Sama管理层一再拒绝。

合同规定,OpenAI将为这项工作向Sama支付每小时12.5美元的报酬,这是该项目Sama员工每小时收入的6到9倍。据3名Sama员工透露,最初级的数据标签人员基本工资为每月2.1万肯尼亚先令(合170美元)。

由于工作性质明确,如果达到准确性和速度等关键绩效指标,他们还能获得70美元的奖金。

质量分析师是更资深的标签师,他们的工作是检查代理商的工作,如果他们达到了所有的目标,每小时可以拿2美元。

但对于员工的言论,Sama的发言人在一份声明中反驳道,工人们被要求在每9小时的工作中标注70段文字,而不是250段,工人们的税后工资为每小时1.46美元到3.74美元。该发言人补充说:“12.5美元的项目费率涵盖了所有成本,如基础设施费用,以及工人、专职质量保证分析师和团队负责人的工资和福利。”

OpenAI的发言人在一份声明中也表示:“我们非常重视员工和承包商的心理健康。员工可以选择不做任何工作而不受惩罚,接触露骨的内容是有限制的,敏感信息将由经过专门培训的员工处理。”

   

OpenAI的人工智能Dall-E 2生成的一幅画,主题是:“电脑前,非洲工人无穷无尽的工作。”互联网最黑暗的角落ChatGPT聊天机器人于去年11月发布,被誉为2022年最令人印象深刻的技术创新之一。这个强大的AI聊天机器人几乎可以生成任何主题的文本,从重写莎士比亚十四行诗,到用5岁孩子都能理解的语言描述复杂数学定理。一周之内,它的用户就超过了100万。今年年初,有媒体报道OpenAI正与投资者进行谈判,以筹集290亿美元的投资,其中包括微软的100亿美元潜在投资。这将使OpenAI成为世界上最有价值的人工智能公司之一。

《时代》的调查报道称,为了获得有关暴力、仇恨言论和性虐待的例子以训练AI,OpenAI从2021年11月开始向肯尼亚的一家外包公司发送了数万条文本。其中大部分文字似乎都是从互联网最黑暗的角落里挖出来的,一些详细描述了性虐待、谋杀、异常性行为等情况。

OpenAI在肯尼亚的外包合作伙伴是Sama公司,这家总部位于旧金山的公司雇佣了肯尼亚、乌干达和印度的工人,为谷歌、Meta和微软等硅谷客户标注数据。Sama标榜自己是一家“有道德的人工智能公司”,并声称已经帮助5万多人摆脱了贫困。

OpenAI的发言人表示:“我们的使命是确保通用人工智能造福全人类,我们努力建立安全有用的人工智能系统,限制偏见和有害内容。分类和过滤有害文本和图像是必要的一步,可以最大限度地减少训练数据中包含的暴力和性内容,并创建可以检测有害内容的工具。”

但Sama公司的肯尼亚工人让人们得以一窥人工智能行业中鲜为人知的状况。该公司代表OpenAI雇佣的数据标签员的实际工资在每小时1.32美元到2美元之间,具体取决于资历和表现。这些工人处于边缘地带,尽管他们的工作为数十亿美元的产业做出了贡献。

OpenAI与Sama签署了3份总价值约20万美元的合同。大约30多名工作人员被分成3个小组,每个小组专注于一个主题。他们每9个小时要阅读和标注150到250段文字。这些片段的范围从100个单词到1000多个单词不等。许多员工表示,这份工作给他们留下了心理创伤。

一位Sama的工作人员表示,在阅读了大量仇恨言论后,他经常出现幻觉。“那是一种折磨。”他说。

Sama的发言人在一份声明中表示,员工有权与“经过专业培训和持有执照的心理健康治疗师”进行个人和团体治疗。这些治疗师随时都可以联系到。

虽然工人有权参加“健康”咨询师的课程,但由于对工作效率的要求很高,部分员工表示这些课程毫无帮助。还有一位员工表示,他要求以一对一的方式与咨询师会面的请求被Sama管理层一再拒绝。

合同规定,OpenAI将为这项工作向Sama支付每小时12.5美元的报酬,这是该项目Sama员工每小时收入的6到9倍。据3名Sama员工透露,最初级的数据标签人员基本工资为每月2.1万肯尼亚先令(合170美元)。

由于工作性质明确,如果达到准确性和速度等关键绩效指标,他们还能获得70美元的奖金。

质量分析师是更资深的标签师,他们的工作是检查代理商的工作,如果他们达到了所有的目标,每小时可以拿2美元。

但对于员工的言论,Sama的发言人在一份声明中反驳道,工人们被要求在每9小时的工作中标注70段文字,而不是250段,工人们的税后工资为每小时1.46美元到3.74美元。该发言人补充说:“12.5美元的项目费率涵盖了所有成本,如基础设施费用,以及工人、专职质量保证分析师和团队负责人的工资和福利。”

OpenAI的发言人在一份声明中也表示:“我们非常重视员工和承包商的心理健康。员工可以选择不做任何工作而不受惩罚,接触露骨的内容是有限制的,敏感信息将由经过专门培训的员工处理。”

   

 

 

 

Sama公司在肯尼亚内罗毕的办公室。“不看有害内容就无法养家糊口”2022年2月,Sama和OpenAI的关系曾短暂加深,而后却分道扬镳。2月,Sama开始为OpenAI的另一个项目进行试点工作:收集性和暴力图像并交付给OpenAI。OpenAI发言人在一份声明中没有具体说明该公司向Sama寻求图像的目的,但表示标记有害图像是使其人工智能更安全的“必要步骤”。

但在后来的几周内,Sama取消了OpenAI的所有工作,比合同中约定的时间提前了8个月。这家外包公司在一份声明中表示,其为OpenAI收集图像的协议中不包括任何涉及非法内容的内容,直到相关工作开始后,OpenAI才发来“附加指示”,提到了“一些非法类别”。

“东非团队立即向我们的高管提出了担忧。”Sama表示,于是他们立即结束了图像分类试点,并取消了与OpenAI的所有剩余项目。

Sama终止与OpenAI合作的决定意味着Sama员工不再需要处理令人不安的文字和图像,但这也对他们的生计产生了重大影响。Sama的工作人员表示,在2022年2月底,他们被叫去与公司人力资源团队成员开会,在那里他们被告知Sama不想让员工再次接触这样的危险内容。

但Sama一名参与文本标签项目的员工表示:“对我们来说,这是一种养家糊口的方式。不看有害内容就无法养家糊口。”

在大约30多名员工中,大多数人被转移到其他工资较低的工作岗位,每月没有70美元的奖金,还有一些人甚至失去了工作。Sama在3月向OpenAI交付了最后一批标记数据,当时距离合同到期还有8个月。

Sama的员工表示,他们的经理给了他们另一个取消合同的理由。2月14日,《时代》发表了一篇题为《Facebook在非洲的血汗工厂内幕》的文章,调查详细说明了Sama如何为Facebook雇用内容审查员,他们的工作包括查看有关性虐待、暴力、谋杀的图像和视频,且时薪只有1.5美元。4名Sama员工表示,他们被告知,调查促使Sama公司决定结束与OpenAI的合作。

今年1月10日,Sama更进一步,宣布取消所有涉及敏感内容的剩余工作。该公司表示,将不再与Facebook续签价值390万美元的内容审核合同,这将导致内罗毕约200个工作岗位的流失。

该公司在一份声明中表示:“在与我们的全球团队进行了多次讨论后,Sama做出了战略决定,退出所有自然语言处理和内容审核工作,专注于计算机视觉数据注释解决方案。在过去的一年里,我们一直在与客户合作,过渡这些业务,并将于2023年3月完成退出。”

人工智能目前仍需要大量人工来标记数据。人工智能伦理学家安德鲁·斯特雷特(Andrew Strait)最近在推特上写道:“ChatGPT和其他人工智能并不神奇,它们依赖于大规模的人力供应链和数据抓取,其中大部分是未经同意就被使用的。这些都是严重的基础性问题,但我认为OpenAI不会解决这些问题。”

        ======================================================          

标签:剥削,AI,Sama,员工,人工智能,OpenAI,ChatGPT,肯尼亚
From: https://www.cnblogs.com/devilmaycry812839668/p/17062626.html

相关文章

  • set -euxo pipefail
    有些开发人员会用Bash来实现很复杂的功能,就像使用别的高级语言一样。他可能觉得自己很牛逼但其他人早就想锤爆他了,Bash的可读性和可维护性远远低于任何高级语言。更要命的......
  • Google Jeff Dean 2022年终报告,大模型、AI 绘画神器
    GoogleJeffDean2022年终报告,大模型、AI绘画神器2022年,谷歌在ML领域取得了哪些新进展?JeffDean发万字长文总结。2022年,谷歌在机器学习方面有什么进展?GoogleResearch......
  • ChatGPT踩坑-基础教程
    能登陆google是基础首先是去OpenAI的官网注册,点击API进去注册一个账号然后就会发现注册不成功,继续尝试就会出现下面的情况后来我发现比较靠谱的方法是通过google账......
  • Baidu权重怎么查询?如何查百度权重?
    SEO人都想了解网站在百度检索中的权重,但是网站在不同的SEO查询工具中的排名不一样,比如一个网站在爱站PC权重、站长PC权重、爱站移动权重、站长移动权重等中的排名都是不一样......
  • error: Failed dependencies:解决
    使用rpma安装安装包时,会出现error:Faileddependencies:意思是失败的依赖  解决方法:在安装包后面加两个参数,如rpm-ivh包名--nodeps--force加上那两个参数的意义......
  • 探究BrainSplit-集群脑裂
    本篇文章将会以redis集群为例,分享在主从集群中会导致数据丢失的一个问题:BrainSplit-集群脑裂1.什么是集群脑裂所谓的脑裂,就是指在主从集群中,同时有两个主节点,它们都能......
  • Portainer CE安装
    一、Portainer架构二、基于Docker-Compose部署#catdocker-compose.yamlversion:'3'services:portainer-server:image:portainer/portainer-cecon......
  • AI换脸实战教学(FaceSwap的使用)---------第二步Tools:处理输入数据集。
    续上篇:https://www.cnblogs.com/techs-wenzhe/p/12936809.html第一步中已经提取出了源视频的人脸照片以及对应人脸遮罩(landmark以及其他自选遮罩)第二步:利用Tools处理提......
  • STM32F103和AIR32F103的FreeRTOS中断优先级
    关于ArmCortexM系列内核的中断优先级https://community.arm.com/arm-community-blogs/b/embedded-blog/posts/cutting-through-the-confusion-with-arm-cortex-m-int......
  • AIX错误码
    在/usr/include/sys$目录下的errno.h#define EPERM 1 /*Operationnotpermitted  */#define ENOENT 2 /*Nosuchfileordirectory  */#define ESRCH ......