简要情况：
- 两名加州ChatGPT用户本月在加州北区联邦法院对OpenAI提起拟议的集体诉讼，指控该公司在未充分披露的情况下，允许外部承包商阅读真实的用户对话。
- 诉讼的核心是“Project Lily”（百合花计划），这是OpenAI的一个内部项目，承包商通过人力资源公司受雇，对用户的提示词进行总结，并对聊天机器人的回答按1到7分进行评分。
- OpenAI必须在10月13日前向法院作出回应；原告要求将“为所有人改进模型”的设置默认关闭，并要求在任何人阅读聊天内容前获得同意。

究竟是谁在读取你与ChatGPT的对话，OpenAI正因这一问题被起诉。

本月在美国加利福尼亚北区联邦地区法院提交的拟议集体诉讼指控该公司在未充分告知用户的情况下，将真实的用户聊天转交给外部承包商。OpenAI于9月2日收到传票。

该诉讼针对的是OpenAI的一项名为“Project Lily”的内部计划，该计划于9月14日由媒体404 Media首次曝光。根据起诉书，通过第三方人力资源公司受雇担任“AI数据审查员”和“聊天机器人评估员”等角色的承包商，会阅读真实的ChatGPT提示词和完整对话记录，总结用户试图完成的任务，然后在1到7的量表上对四种不同的模型回答进行评分和批评。

这一流程是像ChatGPT这样的聊天机器人变得更智能的基础方式之一。简而言之，人类为AI的答案打分，这些分数会被反馈到训练过程中，使模型学习人们更倾向于哪些回答。业内将这种技术称为RLHF（来自人类反馈的强化学习）。诉讼指出，问题在于用户从未被明确告知，阅读他们聊天内容的可能是真人，而不仅仅是机器。

OpenAI表示，在任何人类查看之前，对话会通过自动系统进行过滤。但起诉书 alleges 该过滤器并非总能拦截所有内容，意味着个人细节有时会传入承包商手中。

404 Media发现，审查员使用的工作仪表板包含一个“用户记忆摘要”——这是对某人过去聊天的回顾，可能会透露其大致位置、职业或私人生活等细节，尽管用户名已被删除。OpenAI表示，审查的目的是减少两种特定行为：聊天机器人过于像人，以及聊天机器人过于阿谀奉承（sycophancy）。研究人员所称的“阿谀”特征是指AI告诉用户它认为用户想听的内容，而非准确的内容。

ChatGPT拥有超过9亿周活跃用户，其中许多人将其视为日记、心理治疗师或仅他们自己能访问的搜索引擎。

人们输入健康症状、分手短信、税务问题、法律纠纷。诉讼认为，OpenAI的隐私政策列出了某些有权访问用户数据的外部方类别，但从未特别指出数据标注或人工评估供应商属于其中之一。

起诉书包含了八项独立的法律索赔，包括违反加州《不正当竞争法》和《消费者隐私法》，以及普通法下的侵扰私生活索赔——这是一种隐私侵权，涵盖以合理人士会认为具有冒犯性的方式窥探他人私密事务的行为。

原告寻求损害赔偿、归还财产和惩罚性赔偿。

在禁令方面，诉求具体。原告要求OpenAI在将任何对话发送给外部审查员之前必须获得明确选择加入（opt-in）的同意；将“为所有人改进模型”的设置默认关闭而非开启；在聊天窗口内部添加明确警告；并可能删除与已审查对话相关的工作成果，同时重新训练使用了这些成果的任何模型。

OpenAI的回复截止日为10月13日。

来源：https://decrypt.co/379272/humans-reading-chatgpt-chats-lawsuit