CSEA 系统安全场景化评测设计
评估平台防范CSEA传播和不当接洽的能力,并验证正常创作、交流和求助是否可用。
核心评测场景
重点看用户实际看到什么,以及平台保护是否生效。
| 场景 | 执行与观察 | 对应用例 |
|---|---|---|
| Feed 推荐(重点) | 普通账号检查是否出现风险;CSEA密集账号持续检查原对象和同主题新对象是否仍被推荐。 | C01/C14 |
| 搜索与公开入口 | 搜索既定词表,查看评论和资料页,核对违规内容、招揽信息和联系方式。 | C02/C03/C04/S02 |
| 接触与反馈 | 日常浏览遇到风险或提交“不感兴趣”后,观察相同及同类风险是否再次出现。 | C05/C07 |
| 私信保护 | 核对实际收发、拒绝与拉黑结果,并用经授权使用的已有对话检查性索取和胁迫。 | S04/C12/C13/C08 |
| 举报处理 | 举报后再次查看内容、账号和联系方式,核对实际处理结果及是否继续招揽。 | C09/C10 |
| 正常创作 | 发布和编辑正常内容;发生限制后提交申诉,检查可见性与恢复。 | S01/S05 |
| 直播保护 | 独立核对直播风险互动、功能门槛与举报后的实际状态。 | C11/S03/L01 |
结果记录
保护措施按要求生效,并有对应证据。
确认风险且保护未生效,记录实际结果和处理情况。
说明未完成的部分、原因及后续核对事项。
评测用例
消费侧优先关注Feed推荐;直播单独评测。
首轮建议在西班牙以西班牙语试测,按年龄、账号历史和权限分组。Maldita标记对应原调查做过的动作,具体说明见折叠详情。
消费侧
重点:Feed 推荐
普通账号观察是否遇到风险;CSEA密集账号持续观察同主题风险是否仍被推荐。
C01普通账号 Feed 评测新增用新账号和已有使用记录的账号正常浏览Feed,记录是否出现CSEA内容或招揽信息。
普通产品界面;普通账号单独观察
E 外部评测
前置条件
- 先确定要观察的人群和账号条件,按年龄设置、新账号或已有使用记录分组,记录招募方式和主要使用习惯。
- 这组账号只做普通浏览,不发布内容、搜索风险词或访问指定风险账号;在可用账号中尽量随机选取。
- 真实使用记录和研究人员积累的记录分别登记;成年研究员设置的账号年龄与真实青少年使用样本分开。
观察范围与正常对照
先用6个新账号试测,每个账号观察3轮,每轮最多50个位置,计划900个位置。已有使用记录的账号另定数量和选择条件;无法取得的分组列为未覆盖,不用新增新账号替代。
同时记录普通内容的展示;正常内容能否发布和访问,由S01另测。
执行步骤
- 按事先确定的普通兴趣和浏览方式操作,记录实际看到的推荐位置。
- 每轮最多记录50个推荐位置;Feed里的LIVE卡片与进入直播后的观察分别登记。
- 发现严重风险立即停止本次观察,按儿童安全流程处理。
预期保护
- 已完整完成的观察轮次达到事先确定的风险保护要求。
- 一旦确认出现严重风险,记为保护失效,并保留停止前实际查看的位置数。
必须留存的证据
- 账号条件、观察起止时间、风险出现的位置、内容或账号类型、风险判断依据。
C14CSEA密集账号新增使用Feed曾密集推荐CSEA违规内容的观察账号,持续检查原内容、原账号和同主题新内容是否出现。
普通产品界面;已取得授权的账号长期观察
E 外部评测
前置条件
- 选择已有记录显示Feed密集推荐CSEA风险的账号,取得账号和记录的使用授权;事先确定记录覆盖的日期、主题定义和密集程度标准。
- 长期跟踪的固定组与独立补充账号组分别登记,按同一条件选取并核对使用记录。
- 确定每轮的普通浏览方式、位置上限、时长和间隔。C01观察普通账号,C05跟踪日常使用中遇到风险后的变化。
- 评价治理后的表现时,由其他账号执行C03/C09/C10,或使用已有记录,确认词或内容的受限状态、地区和时间;本组账号不做搜索核验。
观察范围与正常对照
每轮按预定时间和位置上限观察,以实际查看的位置数计算分母。固定账号长期跟踪,独立补充组单列。词被拦截或旧内容被删除后,继续按同一主题检查Feed。
对出现的内容逐条核对风险,并用独立判定的正常儿童生活、教育和求助内容作对照;C01普通账号另组观察。
执行步骤
- 登记账号、选择依据、主题定义和本轮状态,注明属于固定组还是独立补充组。固定组即使推荐减少,也继续跟踪。
- 直接打开Feed,按事先确定的普通方式浏览;不通过搜索、关注、额外停留或互动制造、维持真实风险推荐。
- 对照已有记录和上一轮,分别记录原内容或账号、原发布账号的新内容、其他账号的同主题新内容,以及第一次出现的位置、时间和风险依据。
- 发现已确认或疑似严重风险,立即停止观察、记录停止位置并处理;举报记录与C09共用。
- 后续轮次仍直接观察Feed,记录期间的举报处理、账号设置、权限和使用记录变化;固定组与补充组分别保存结果。
预期保护
- 完成本轮预定观察后,达到事先确定的主题风险保护要求;确认出现严重风险时,记该账号本轮失效并立即处理,保留实际查看的位置数。
- 原内容或账号、原发布账号的新内容、其他账号的同主题新内容分别判断;词受限或旧内容删除后的Feed结果单独记录。
必须留存的证据
- 账号和记录的使用授权、固定组或补充组、选择依据、主题定义版本、密集程度标准、本轮编号和浏览方式。
- 计划位置上限、实际查看的位置数、是否出现风险、首次出现的位置和时间、完成或中止状态,以及内容、账号和主题分类的依据。
- 用于比较的上一轮和已有记录,以及期间的举报处理、账号设置、权限和使用记录变化。
- 其他账号核验或已有记录提供的词、内容或账号受限状态,以及地区、时间和证据。
关联用例:C09,同一对象或会话共用记录。
其他消费侧场景
C02评论区的招揽与联系入口Maldita查看已识别相关账号的帖子评论及评论者资料页,检查招揽信息和联系入口是否仍可见。
普通产品界面;查看已有评论,正常对照可用两个测试账号核对
原调查:分析已识别相关账号帖子下的评论,分类后查看评论者账号。 本方案新增:父帖和评论分别判定;前20条、固定排序及正常对照由本方案设置。
E 外部评测
前置条件
- 根据已登记的账号或评论线索选取帖子;帖子和评论分别判断,帖子标为正常、风险或待确认。
- 按默认排序取样,已知目标评论另记实际位置;正常对照选用独立确认过的正常帖子和评论。
- 登记材料最初来源、相关事件、账号、表达方式和用途,保留未发现风险及已被限制的记录。
观察范围与正常对照
每个帖子看前20条顶层评论;回复及点击“更多评论”后看到的内容另行记录。
保留正常求助、保护性讨论和普通评论,选择条件与风险样本可比较。
执行步骤
- 打开样本帖子的评论区,记录默认排序前20条顶层评论及前后文。
- 分别判断帖子、评论和评论者的行为,查看评论者资料页及平台显示的联系入口。
- 记录目标评论是否展示、是否被处理;发现严重风险立即处理,不继续接洽。
预期保护
- 用户可见的已确认剥削招揽受到有效限制。
- 已处理评论不再提供可用的风险联系入口;独立判为正常的帖子和评论保持可用。
必须留存的证据
- 帖子、评论和作者标识,评论排序及位置,采集时间,评论和资料页当时的状态。
关联用例:S02,同一对象或会话共用记录。
C03搜索结果与联想词Maldita搜索审核过的查询词,检查联想词和前20个结果是否能打开已确认的风险内容或账号。
普通产品界面;按事先确定的查询规则搜索
原调查:使用关键词搜索,查看结果中的账号与联系方式。 本方案新增:前5条联想、前20个结果、原表达与变体比较,以及独立账号分组由本方案设置。
E 外部评测
前置条件
- 准备12组查询词,每组2种表达,以Q-R/Q-A/Q-N登记;查询词按已确认的材料使用权限提供。
- 搜索账号与普通浏览账号分开。原表达和对应表达使用不同账号,匹配已有使用记录;只有确认能重置历史时才重置,清理缓存不作为清除推荐历史的依据。
- 登记词组最初来源、相关事件、账号和用途,保留未命中及受限结果。
观察范围与正常对照
试测使用12组查询词,每组2种表达;记录前5条联想和前20个综合结果位置。视频、账号和LIVE卡片分别登记,进入直播后的观察转入直播专项。
教育、新闻、求助,以及同词不同含义的正常查询。
执行步骤
- 逐个输入审核过的查询词,记录是否被拦截、显示警示或返回结果。
- 记录前5条联想和综合结果前20个实际位置,视频、账号和LIVE卡片分别登记。
- 比较同组的原表达和对应变体,同时检查正常含义下的查询是否可用。
预期保护
- 明确寻找剥削内容的查询无法打开已确认的风险内容或招揽入口。
- 正常含义的查询符合事先确定的政策要求;警示与实际拦截分别判断。
必须留存的证据
- 查询词代号及版本,联想和结果位置,警示或拦截状态,相关内容或账号的记录引用。
关联用例:S01,同一对象或会话共用记录。
C04资料页与推荐账号Maldita打开已登记账号的资料页,检查联系入口,并核对界面实际推荐的其他账号。
普通产品界面;查看资料页及实际出现的账号推荐
原调查:查看资料页,并沿平台推荐寻找其他账号和内容。 本方案新增:分别记录资料页和实际出现的账号推荐,每次最多检查前10个推荐位置。
E 外部评测
前置条件
- 登记要查看的账号及来源,逐个复核风险依据;账号之间有关联本身不作为违规结论。
- 使用与C01普通浏览不同的账号,并设置条件相近的正常账号对照。
- 登记材料最初来源及相关事件、账号、表达和推荐发现过程,保留未发现风险的结果。
观察范围与正常对照
资料页和推荐模块分别记录;推荐出现时看前10位,没有出现则记未触发。
查看普通账号后出现的推荐,以及外观相近的正常账号。
执行步骤
- 打开已登记账号的资料页,记录可见信息和联系入口。
- 界面出现账号推荐时,记录推荐模块、此前操作及前10个实际推荐位置。
- 逐个核对风险依据;站外只记录平台展示的联系入口,不继续接洽。
预期保护
- 账号推荐不继续扩大已确认CSEA账号或招揽入口的可见范围。
必须留存的证据
- 查看的账号、被推荐账号、推荐位置、此前操作、当时可见信息及逐账号风险依据。
C05接触风险后的推荐新增记录日常浏览中遇到风险后的Feed,检查原内容、原账号或同类风险是否再次出现。
普通产品界面;跟踪日常接触风险及处理后的变化
E 外部评测M 机制测试
前置条件
- 使用普通浏览中自然发生的事件或已有记录,不安排用户接触真实CSEA内容。
- 记录接触前的使用历史、当时操作、举报及同期处理;发现严重风险立即停止本次风险观察并处理。
观察范围与正常对照
候选回访为当次、24小时和72小时,每轮最多50个位置;这些是观察时间点,风险发现后立即处理。
用没有接触相关线索的独立普通浏览账号作背景参照,不为比较而保留真实风险。
执行步骤
- 保留当时已有的接触前推荐记录、位置和时间,不为补齐记录继续接触风险。
- 完成必要的拒绝或举报,记录内容和账号的状态变化;不保留真实风险作为延迟处理的对照。
- 按事先确定的观察时点观察后续普通浏览,再次出现严重风险立即停止并处理。
预期保护
- 规定观察时段内没有已确认严重风险再次出现;一旦出现,单独记录保护失效。
- 接触、反馈、内容处理和后续状态有完整记录;没有对应事件或证据不足时记未触发或待确认。
必须留存的证据
- 已有使用历史,当次出现的内容、位置和时间,用户操作、举报、内容和账号状态变化,以及后续实际观察量。
C06兴趣操作与推荐变化新增在安全测试内容上分别增加停留或查看评论、资料页,比较后续推荐变化。
普通界面或已获使用授权的测试环境;两种环境分别报告
M 机制测试
前置条件
- 只使用合法且审核过的安全材料,说明实际测试的是哪项推荐功能。
- B1/B2/B3使用不同账号并随机分组,匹配使用历史和总时长;B1用普通内容补齐相同时长。
观察范围与正常对照
沿用C05的回访时点和每轮位置数,操作时长在试测后确定。
对正常内容执行同样操作,核对操作方式和记录是否一致。
执行步骤
- B2在安全目标内容上停留更久,B3查看评论并打开一次资料页,分别与B1比较。
- 通过普通界面记录操作和后续推荐;使用测试环境时,应实际运行待测的推荐逻辑。
- 按相同延迟和每轮观察范围比较结果,记录环境差别和未按计划执行的操作。
预期保护
- 操作、分组和记录符合协议,并按事先确定的机制假设验收。
- 结果只说明安全材料下的推荐机制,真实CSEA保护另行验证。
必须留存的证据
- 安全材料标识、分组、实际停留时长或页面访问、观察延迟,以及后续推荐的类型和位置。
C07“不感兴趣”后的推荐新增提交“不感兴趣”并完成必要举报,检查后续Feed是否再次出现相同或同类风险。
普通产品界面;记录拒绝后的推荐
E 外部评测M 机制测试
前置条件
- 登记日常浏览中出现的内容或账号,以及账号使用历史,复核风险,并保存反馈成功的记录。
- 严重风险立即处理,不为单独测“不感兴趣”而推迟举报或处置。
观察范围与正常对照
沿用C05的每轮观察范围,反馈生效要求和同类风险下降标准在正式评测前确定。
用正常内容核对“不感兴趣”是否成功提交。
执行步骤
- 对日常浏览中遇到且符合条件的内容提交“不感兴趣”,记录回执和时间;严重风险立即进入处理流程。
- 在后续普通浏览中,分别记录原内容、原账号和同类风险是否再次出现。
- 安全材料可另作B4与B1的随机比较,与真实风险观察分别判断。
预期保护
- 严重CSEA风险不再出现,同类风险的反馈效果达到事先确定的保护目标。
必须留存的证据
- 反馈的内容或账号、成功回执、反馈时间、后续展示记录,以及原内容、原账号和同类风险的区分。
C08拉黑后的接触限制新增拉黑测试账号后,再试私信和资料页访问,检查应被禁止的接触是否被拦截。
普通产品界面;两个由研究人员控制的账号
E 外部评测
前置条件
- 发送和接收双方均使用已授权的测试账号,按当前年龄和功能规则确定允许与禁止的操作。
观察范围与正常对照
当次及下一次会话分别检查,重复间隔在试测后确定。
使用尚未拉黑、关系条件相同的正常测试账号核对功能。
执行步骤
- 接收方拉黑发送方账号,记录成功状态。
- 按当前规则分别检查私信和资料页访问,在双方账号记录实际结果。
- 本次记录与S04、C12共用,下次会话再检查限制是否持续生效。
预期保护
- 拉黑后的接触和可见范围符合当前规则,应被禁止的再次接触被实际拦截。
必须留存的证据
- 双方账号的受限引用、拉黑时间、成功状态、请求状态及接收端实际显示。
关联用例:S04,同一对象或会话共用记录。
C09举报和复核后的处理结果Maldita举报非直播风险内容或账号,必要时申请复核,再检查回执和实际访问、接收状态。
普通产品界面;对已有风险记录举报并回访
原调查:举报视频,对举报被拒的结果申请复核,并回访视频和账号状态。 本方案新增:补充评论、账号及私信举报,设置统一回访时点和正常对照。
E 外部评测
前置条件
- 分别登记非直播帖子、评论、账号和私信;查看私信需取得当事端的取证授权。
- 事先确定风险依据、举报入口、预期处理和回访时间;LIVE另由L01验证。
观察范围与正常对照
建议在当次、24小时和72小时回访;这些是观察时间点,风险处理时限按事先确定的保护要求验收。
正常对照在受控环境验证,不对真实正常创作者提交测试举报。
执行步骤
- 对有风险依据的非直播帖子、评论、账号或私信提交举报,记录对应内容或账号和时间。
- 举报被拒且提供复核入口时,以举报者身份申请复核,保留申请和回执。
- 按固定时间回访同一内容、账号或消息,核对可见性、消息接收和平台内联系入口。
预期保护
- 举报能提交,风险在约定时限内得到有效处理。
- 回执与实际保护结果一致;内容处理、账号措施和再次招揽分别判断。
必须留存的证据
- 内容或账号类型与标识、举报和回执时间、实际访问状态。有内部日志时记录准确处理时间及处理时累计播放量(VV);只有外部回访时,记录最后可见至首次确认不可见的区间,处理时VV留空。
C10处理后的内容与联系入口Maldita在平台显示处理结果后,再查搜索、资料页和评论,检查风险内容和联系入口是否仍可用。
普通产品界面;查看处理后的实际状态
原调查:记录界面显示账号受限后,搜索结果和联系方式仍可见的情况。 本方案新增:逐项检查各入口及处理范围。
E 外部评测
前置条件
- 记录平台实际显示的处理提示、对应内容或账号和时间,分别登记内容、评论和账号。
- 设置正常失效内容或链接,以及正常联系信息作为对照。
观察范围与正常对照
按处理提示涉及的内容或账号范围,在事先确定的时间回访,保留每次实际状态。
用正常但已失效的链接核对技术状态。
执行步骤
- 保留处理提示,再查看同一内容或账号在搜索、资料页和评论中的状态。
- 分别记录残留文字、平台内可点击入口,以及内容是否真正能打开;不进入站外交易或接洽。
- 记录最后可见至首次确认不可见的时间区间,新发现的同类内容另记。
预期保护
- 处理范围内的入口不再提供可用的CSEA内容或招揽渠道。
必须留存的证据
- 原内容或账号、处理提示、入口、观察时间和地区,以及残留形式、持续区间和实际访问状态。
关联用例:S02,同一对象或会话共用记录。
C12私信接收与求助新增用测试账号发送无害请求,核对实际收件,以及拒绝、拉黑后是否仍能接触。
普通产品界面;两个测试账号分别发送和接收
E 外部评测
前置条件
- 发送和接收账号均由研究人员控制,按当前年龄、关系和默认权限规则列出允许与禁止的情况。
- 使用审核过的无害文本,说明本次验证的功能范围。
观察范围与正常对照
每种条件做一次初始请求和一次安全复验。因年龄规则应被禁止的操作仍需验证拦截,所测功能范围外才记不适用。
按产品规则设置正常同龄或已建立关系的测试交流。
执行步骤
- 按事先确定的年龄、关系和默认权限,发送审核过的无害请求。
- 分别查看发送端提示和接收端是否真正收到,按规则判断应当允许还是拦截。
- 接收方拒绝或拉黑后,用正常测试消息复验。正常材料只检查举报入口,实际举报只用于有风险依据或已获授权的专用测试内容。
预期保护
- 应被禁止的接触在接收前被拦截;允许的正常交流有规则要求的接收保护和可用的求助方式。
必须留存的证据
- 双方年龄、关系和权限条件,功能设置,请求及接收时间,拦截状态,拒绝或举报记录,以及复验结果。
关联用例:S04,同一对象或会话共用记录。
C13私信中的性索取与胁迫新增复核已取得授权的私信记录,检查性影像索取、拒绝后威胁及举报后的实际保护。
已有私信和当事端记录;取得授权后分阶段复核
R 真实风险样本验证
前置条件
- 取得合法使用授权并完成隐私处理,保留判断所需的年龄、关系和前后文。
- 只用已有记录,不制造索取、胁迫或安排儿童参加;历史记录与当前状态分开。
观察范围与正常对照
按同一对话和实际取得的时间段复核,记录缺失消息及缺少的处理证据。
使用独立判定的正常交流、性教育和求助对话,保留相同范围的前后文。
执行步骤
- 按实际取得的记录,标出接近、索取、拒绝、威胁和继续接触的阶段。
- 逐段核对消息是否送达,是否有警示,以及拒绝、拉黑、举报和后续处理的记录。
- 没有取得证据的阶段记待确认;当前功能另用C12/C08的安全测试账号复验。
预期保护
- 已确认性索取或胁迫的识别与处理达到事先确定的要求。
- 按已有证据分别验收拒绝、求助和再次接触,正常交流不被无依据限制。
必须留存的证据
- 授权和材料版本、匿名对话引用、年龄和上下文依据、各阶段时间、实际送达、求助及后续状态。
生产侧
S01发布、编辑与查看新增用测试创作者账号发布、编辑正常视频或图片,再用另一账号查看账号主页、内容链接和搜索结果。
普通产品界面 · 用发布账号和查看账号分别核对;真实风险另用授权材料验证
E 外部评测R 真实风险样本验证
前置条件
- 用自有测试创作者账号发布事先审定为正常的视频或图片;不与C01普通浏览账号混用。
- 真实CSEA发布审核使用已有合规证据或允许用于研究的样本;不向公开用户发布真实CSEA。
观察范围与正常对照
对同一内容或会话记录两个账号所见的状态和时间;测试前确定操作、观察时段与停止条件。
正常生活、教育、新闻和求助内容;事先确认使用权利与完整语境。
执行步骤
- 记录提交、审核、发布,以及按计划编辑一次后的界面状态。
- 用另一账号检查同一内容的账号主页、内容链接和适用搜索结果,分别记录可见、受限和无法打开。
- 真实风险审核项目在授权范围内另行验证,标明外部研究者能取得的证据。
预期保护
- 正常内容在账号主页和内容链接中可以按规则查看,发布提示与另一账号看到的状态一致;搜索未命中或没有被推荐不单独判为误伤。
- 真实CSEA发布审核须有对应风险样本和审核证据;正常内容发布通过只记录为正常可用。
必须留存的证据
- 内容ID和版本、提交及编辑时间、发布提示、另一账号看到的状态,以及两个账号的测试条件。
S02评论、主页信息与重复发布新增用测试账号发正常评论或修改主页,再用另一账号查看评论、联系途径和原帖状态。
普通产品界面 · 用发布账号和查看账号分别核对;真实风险另用授权材料验证
E 外部评测R 真实风险样本验证
前置条件
- 正常评论和主页信息只用来测试发布、查看和限制流程。
- 真实招揽通过日常使用中已发现的记录或经授权使用的样本复核;原帖、评论和作者分别登记。
观察范围与正常对照
对同一评论或主页信息记录两个账号所见的状态和时间;测试前确定操作、观察时段与停止条件。
正常提问、保护性讨论、求助和普通联系方式单独保留;招揽判定须结合上下文,不凭单个词或联系方式判断。
执行步骤
- 发出正常测试评论或修改主页后,记录发布账号的状态;另一账号按默认排序核对文字和平台显示的联系途径。
- 对日常使用中发现的风险内容,查看当前状态、同一账号在不同帖子或不同时段的重复发布,以及处理后的后续行为;未取得的发布记录单列。
- 分别复核同一风险模式的新样本和正常内容,判断处理是否覆盖同类行为。
预期保护
- 正常测试评论和主页修改在两个账号上显示的状态一致;原帖正常时,不因评论有风险受到无依据限制。
- 真实招揽和重复发布的处理结果有对应的内容、行为与时间记录;证据缺口单列。
必须留存的证据
- 原帖、评论、主页及作者标识,已取得的发布记录,当次展示位置、可见状态、处理结果和重复出现时间。
S04私信发送、接收与再次联系新增按年龄、账号关系和权限设置发送无害请求,核对接收方是否收到,以及拉黑后是否还能收到。
普通产品界面 · 两个测试账号收发正常消息;真实风险另查授权对话记录
E 外部评测R 真实风险样本验证
前置条件
- 发送方和接收方均使用已获许可的测试账号;按当前年龄、账号关系和默认权限确定哪些请求应允许、哪些应拦截。
- 只发送经审核的无害请求;真实索取、诱骗或胁迫的识别另用允许用于研究的既有对话验证。
观察范围与正常对照
对同一请求或会话记录发送、接收状态和时间;测试前确定操作、观察时段与停止条件。
允许的正常交流与按年龄或关系应禁止的联系,分别设置测试条件。
执行步骤
- 发送账号尝试事先选定的正常请求,记录成功、受限或失败提示。
- 接收账号检查是否实际收到,以及看到了哪些保护提示;规则要求禁止的条件仍要验证拦截,不记为不适用。
- 接收方拒绝或拉黑后,再发一次事先选定的正常请求,记录两端状态并归入同一次测试。
预期保护
- 规则禁止的联系未送达接收方;正常且规则允许的交流可以进行。
- 拒绝或拉黑后,后续联系符合对应入口的规则,发送与接收记录能够对应。
必须留存的证据
- 双方测试条件、请求标识、发送提示、实际收件、用户反馈、拉黑和正常请求复验的时间。
S05正常创作被限后的申诉与恢复新增对测试创作者实际遇到的错误限制提交申诉,记录本人功能恢复情况,并用另一账号核对内容是否恢复展示。
普通产品界面 · 自有正常创作受到限制后的真实申诉
E 外部评测
前置条件
- 使用自有创作中实际发生的限制,由独立人员判断内容和行为是否正常;不通过举报正常创作者来制造测试事件。
- 没有遇到真实限制时只验证正常发布,申诉项目记未触发;流程演练和实际线上申诉分别记录。
观察范围与正常对照
对同一内容或账号记录创作者和另一账号看到的状态及时间;测试前确定操作、观察时段与停止条件。
正常儿童相关内容、教育、新闻和求助内容;流量低本身不作为误伤证据。
执行步骤
- 记录同一内容或账号的限制提示,以及功能实际受限情况。
- 由创作者通过产品内申诉入口提交申诉,保存理由、提交时间和回执。
- 创作者核对自身功能,另一账号核对内容是否恢复展示;记录最后一次仍受限和首次确认恢复的时间,以及期间其他处理。
预期保护
- 正常发布和功能可用性达到预定要求;独立复核确认的错误限制得到纠正。
- 申诉回执与实际恢复一致;未发生申诉或证据不足时,恢复项目不记通过。
必须留存的证据
- 正常判定依据、内容或账号及限制信息、申诉回执、两个账号看到的实际状态、恢复时间区间和仍未恢复部分。
关联用例:S01,同一对象或会话共用记录。
没有匹配的用例,请调整角色、验证方式或关键词。
直播专项
分别检查已有风险互动、正常直播功能和举报处理。
C11直播中的性化要求与诱导Maldita观察研究范围内已有的直播,记录面向未成年人的性化要求、利益诱导和平台限制。
普通产品界面 · 在有权查看和记录的范围内观察现有直播
原调查:观察直播画面和评论,识别面向儿童的性化要求及礼物诱导。 本方案新增:每次最多5分钟/50条互动、通过标准及正常对照由本方案设置。
E 外部评测
前置条件
- 只使用有权查看和记录的线索,或日常使用中发现的现有直播;出镜者与账号操作者的年龄分别核实。
- 只观察已经发生的互动,不主动提出性化要求,不打赏或参与诱导。
观察范围与正常对照
每次最多观察5分钟或50条可见互动,先达到哪项就停止;记录实际观察量。
正常提问、教育和非性化互动。
执行步骤
- 按时间记录直播画面、可见评论,以及已有的礼物或目标提示。
- 结合前后文判断性化要求和利益诱导;正常送礼和普通互动单独记录。
- 发现严重风险立即保留最少必要记录,按既有流程响应并退出,不等待行为继续。
预期保护
- 已确认的风险互动按预定保护要求受到有效限制。
- 风险评论、直播间和账号分别记录所见状态,正常互动按规则保持可用。
必须留存的证据
- 直播间和评论标识、时间、年龄依据、互动前后文、已有礼物或目标提示,以及平台可见限制和响应。
关联用例:L01,同一对象或会话共用记录。
S03开播、互动与礼物功能新增用两个由成年研究员操作的测试账号,分别开播和观看,核对各年龄设置下的开播、互动和礼物功能。
普通产品界面 · 成年研究员用测试账号开播和观看;真实直播风险另用授权记录验证
E 外部评测R 真实风险样本验证
前置条件
- 成年研究员使用已获许可的主播和观众测试账号;测试前列明各年龄设置允许和禁止的功能。
- 只使用正常直播和互动;真实CSEA实时识别另用允许使用的风险记录或样本验证。
观察范围与正常对照
对同一直播间或会话记录两个账号的状态和时间;测试前确定操作、观察时段与停止条件。
正常主题直播和非性化提问、互动;不邀请真实儿童参与测试。
执行步骤
- 按已确定的规则,分别测试允许和禁止的开播、观看、互动与礼物功能条件。
- 用正常直播和互动,分别记录主播和观众在同一直播间看到的提示、内容和限制。
- 礼物只检查入口和使用资格,不实际付款,也不给风险直播送礼;同时记录退出和举报入口。
预期保护
- 按规则禁止的操作被实际拦截,允许的正常开播和互动可以完成。
- 主播和观众各自看到的提示与实际功能状态相符;真实风险实时识别缺少证据时单列待确认。
必须留存的证据
- 同一直播间或会话、两个账号的年龄设置和功能条件、界面提示、互动显示时间、求助状态及停止原因。
L01直播举报与后续状态新增举报已经确认的直播风险,保存回执和退出前的可见状态,再按事先确定的安排回访。
普通产品界面 · 对已有风险证据的直播举报并回访
E 外部评测
前置条件
- 使用C11发现的事件,或允许用于研究的既有事件;分别登记评论、直播间和账号。
- 测试前确定响应要求、回访时段和停止条件;正常直播只检查举报入口,不提交测试举报。
观察范围与正常对照
记录发现风险、举报和退出的时间;后续只在事先确定的观察时段回访。
正常直播和互动只检查举报入口;不向真实正常主播发起测试举报。
执行步骤
- 发现严重风险立即按既有流程响应,并举报对应评论、直播间或账号。
- 保存提交记录、回执和退出前所见状态,随后退出风险直播。
- 按事先确定的回访安排核对互动、直播间和账号状态;后续出现的录播或帖子另设内容记录。
预期保护
- 举报可以提交,处理结果与对应的评论、直播间或账号及时间能够核对。
- 风险互动按预定时限受到限制,正常直播不被无依据连带限制。
必须留存的证据
- 直播间、评论和账号引用,风险依据、发现和举报时间、回执、退出前状态及后续回访中看到的实际情况。
关联用例:C11,同一对象或会话共用记录。
执行与验收
按同一内容、账号或会话关联操作和结果。
事先确定账号条件、操作和观察范围,分别记录风险保护与正常对照结果;发现严重风险立即处理。
查看测试要求、通过标准与记录字段
视频、图片、评论与资料入口
私信与接触请求
处置后行为、正常创作恢复
普通浏览、评论、搜索与账号推荐
观看、收件及后续风险触达
拒绝、拉黑、举报与入口回访
验证路径
| 路径 | 发布/发送侧 | 观看/接收侧 | 共同记录 |
|---|---|---|---|
| 帖子与评论:发布、展示与处理 | S01/S02 | C02/C03/C04/C09/C10 | 按同一内容、评论或账号记录发布和处理时间;已有公开内容只使用实际取得的发布证据。 |
| 私信:发送、接收、拒绝与求助 | S04 | C12/C13/C08 | 正常消息用于检查收发功能;经授权使用的风险对话用于检查真实行为。共用记录只计一次。 |
| 正常创作:限制、申诉与恢复 | S01/S05 | 核对创作者收到的限制提示、申诉回执,以及其他账号看到的恢复状态;举报者申请复核另行记录。 | |
| LIVE:开播、互动与处理 | S03 | C11/L01 | 正常直播的功能测试、已有风险互动和举报结果分别取证;历史记录与当前表现分别记录。 |
| CSEA密集账号:固定追踪与补充账号 | C14 | 记录账号已有的推荐情况、每轮Feed展示、原对象和同主题新对象、实际观察量及使用历史变化。 |
测试要求
| 项目 | 具体要求 |
|---|---|
| 条件 | 记录市场、语言、年龄、账号历史、关系、权限、设备和产品版本。 |
| 抽样 | 按事先确定的规则选择账号和材料,记录来源、关联关系、用途、排序及实际观察量。 |
| 操作 | 事先确定动作、时长、间隔和每轮上限。同一对象共用记录;比较不同动作时分组测试,避免相互影响。 |
| 校准 | 用已知能正常显示的测试内容检查采集是否准确,再用专业人员已复核的记录检查风险判定是否一致。 |
| 风险处理 | 严重风险立即停止观察并处理。正常材料只检查举报入口;提交举报限于有风险依据或明确获得测试授权的专用对象。 |
通过标准
| 项目 | 核对内容 |
|---|---|
| 范围与证据 | 按事先确定的风险模型、账号条件、入口、材料及观察范围完成记录。 |
| 原问题与新样本 | 分别验证原调查发现的问题,以及独立选取的同类新样本。 |
| 发布与接收一致 | 发布、发送或限制提示,与其他账号实际看到、收到或恢复的状态一致。 |
| 风险与正常体验 | 分别检查风险保护,以及正常创作、交流和求助是否可用。 |
| 整改后复测 | 检查原问题和同类新样本,记录版本并由独立人员复核。 |
数量与时间
分别统计独立账号、实际展示次数及去重对象。普通浏览和线索检查分开报告;风险导致中止时保留失效和实际观察量。操作、反馈、回执、回访及实际状态按时间对应。
测试状态
| 状态 | 记录内容 |
|---|---|
| 符合预期 | 记录已完成的检查和对应证据。 |
| 保护失效 | 记录风险依据、用户实际遇到的问题及处理情况。 |
| 未触发/待确认 | 说明条件、原因及后续核对事项。 |
| 执行故障/不在范围内 | 保存故障或范围说明,以及重测记录。 |
每次测试至少记录
| 对象 | 记录内容 |
|---|---|
| 用例 | 风险模型、版本、E/R/M类别、保护要求和正常对照。 |
| 测试 | 测试ID、账号角色与条件、材料来源及关联、协议版本、时间和实际操作。 |
| 观察 | 内容/账号/会话/请求、位置、时间、上下文、实际状态、判定及复核结果。 |
用例维护与复测
新发现用于更新风险模型和用例,整改后继续验证。
| 用例类型 | 维护方式 |
|---|---|
| 固定复测 | 保留已确认的风险过程、正常对照和版本。CSEA密集账号持续追踪,并按相同条件补充独立账号。 |
| 独立评测 | 预留未参与整改或训练的材料,由独立人员验证同类新样本。 |
| 新风险发现 | 从原始调查、研究、经授权使用的经历及日常使用中收集新线索,经复核后更新用例。 |
评测方法
CSEA 指儿童性剥削与性虐待。
查看风险模型、证据分类与测试环境
评测覆盖审核、搜索、推荐和反馈,检查用户实际看到、收到或举报风险时,平台保护是否生效,同时核对正常创作与交流是否可用。
保护目标
减少风险内容曝光和不当接洽,确保用户能拒绝接触、获得帮助,并正常创作。
风险模型
说明风险行为、涉及对象、用户如何接触风险及正常使用场景,再确定要测哪些过程。
记录方式
每类用例写清保护要求;每次测试关联对象、账号条件、时间和实际结果。
判定依据
风险、年龄和上下文由专业人员复核,注明对应policy title、政策版本和证据。
测试安排
分别开展原调查复测、独立新样本测试、普通浏览和正常材料实验。
正常体验
帖子与评论分别判断;检查正常发布、交流、求助以及申诉后的恢复。
测试账号与环境
| 维度 | 测试安排 |
|---|---|
| 生产侧与消费侧 | 分别记录发布/发送账号的操作,以及观看/接收账号实际看到的结果,按同一内容或会话关联。 |
| 测试环境 | 普通产品界面、实际运行待测功能的测试环境和历史记录回放分别登记。 |
| 外部复现 | 事先确定账号条件、操作和每轮观察范围,通过普通界面重复测试。 |
三类证据
| 类别 | 验证内容 | 取证方式 |
|---|---|---|
| E 外部评测 | 实际展示、搜索、推荐、收发、拒绝、举报与恢复。 | 通过普通产品界面观察,必要时由两个测试账号交叉核对。 |
| R 真实风险样本验证 | 系统对真实CSEA内容及招揽、诱骗和胁迫行为的识别。 | 使用有权查看和使用的已有风险记录或样本,核对实际识别及处理结果。 |
| M 机制测试 | 正常材料下,兴趣和反馈操作怎样影响推荐。 | 各组使用历史互不影响,匹配使用历史与时长后比较。 |
风险过程与用例
| 风险过程 | 具体行为 | 对应用例与依据 |
|---|---|---|
| 招揽、交换与联系方式 | 通过帖子或评论表达招揽、索取或交换意愿,在资料页提供联系方式,之后可能转到站外。 | C02/C03/C04/S02/C09/C10/C14 Maldita调查记载 Maldita · 评论分类与账号扩展/Maldita · 搜索、资料页与接洽入口 |
| 私信索取与持续胁迫 | 接近儿童后索取性影像;对方拒绝后,以传播影像相威胁,继续索取材料或金钱。 | C13/S04/C12/C08 内部个案线索与行业报告 Issue Investigation · Maldita(内部调查稿)/IWF · 性胁迫与勒索(2025年度资料)/NCMEC · 性勒索及向私信迁移(2026-06-25) |
| 风险材料与再次传播 | 按证据区分已知材料、新样本、受诱导或胁迫形成的材料,以及适用政策中的合成材料,分别检查识别、处理及再次传播。 | S01/C01/C09/C10/C14 IWF行业观察;材料类型按证据确认 IWF · 远程诱导拍摄与后续传播(2025年度资料)/IWF · 合成材料风险(2025年度资料) |
| LIVE性化要求与利益诱导 | 直播中出现面向儿童的性化要求,可能伴随礼物或直播目标诱导。 | C11/S03/L01 Maldita调查记载;Utah资料为诉讼指控 Maldita · LIVE互动调查(2026-11-13)/犹他州 · LIVE诉讼指控(2024-06-03)/犹他州 · LIVE诉讼材料披露(2025-01-03) |
Maldita 调研方法
按实际调查步骤核对来源。
原调查通过搜索、评论和资料页寻找招揽与联系方式,再跟踪举报结果。本方案据此安排原调查复测、独立新样本和正常对照。
查看原调查方法与评测安排
| 调查环节 | 原调查做法 | 本方案安排 | 依据 |
|---|---|---|---|
| 搜索与推荐发现 | 人工搜索,并沿平台推荐寻找更多账号和内容。 | 事先确定搜索词组、选定账号和版本;普通浏览与线索检查分别记录。 | Maldita · 总调查与方法说明 |
| 评论与账号检查 | 分析已识别相关账号帖子下的评论,并查看评论者账号。 | 帖子、评论和作者行为分别判断,固定排序和取样位置,设置正常对照。 | Maldita · 评论分类与账号扩展 |
| 行为分类与核实 | 按行为分类,由AI辅助整理,再由人工核实。 | 风险、年龄及上下文由专业人员复核,同时标注正常语境。 | Maldita · 评论分类与账号扩展 |
| 举报、复核与回访 | 举报视频,对举报被拒的结果申请复核,并回访视频和账号状态。 | 其他对象分别验证,回执和实际访问状态对应记录。 | Maldita · 举报及回访方法 |
| LIVE现场观察 | 观察已有直播的画面和评论,分类后人工复核。 | 分别测试风险互动、正常功能和举报处理。 | Maldita · LIVE互动调查(2026-11-13) |
| 跨地区复测 | 再次检查不同地区的搜索限制。 | 记录市场、语言、年龄条件、版本和时间,便于重复测试。 | Maldita · 搜索限制的跨地区回访 |
逐例查看原调查动作与新增设计
| 用例 | 原调查动作 | 本方案新增 | 依据 |
|---|---|---|---|
| C01 | 新增用例 | 用新账号和已有使用记录的账号正常浏览Feed,记录是否出现CSEA内容或招揽信息。 | — |
| C14 | 新增用例 | 使用Feed曾密集推荐CSEA违规内容的观察账号,持续检查原内容、原账号和同主题新内容是否出现。 | — |
| C02 | 分析已识别相关账号帖子下的评论,分类后查看评论者账号。 | 父帖和评论分别判定;前20条、固定排序及正常对照由本方案设置。 | Maldita · 评论分类与账号扩展 |
| C03 | 使用关键词搜索,查看结果中的账号与联系方式。 | 前5条联想、前20个结果、原表达与变体比较,以及独立账号分组由本方案设置。 | Maldita · 搜索、资料页与接洽入口 |
| C04 | 查看资料页,并沿平台推荐寻找其他账号和内容。 | 分别记录资料页和实际出现的账号推荐,每次最多检查前10个推荐位置。 | Maldita · 总调查与方法说明 |
| C05 | 新增用例 | 记录日常浏览中遇到风险后的Feed,检查原内容、原账号或同类风险是否再次出现。 | — |
| C06 | 新增用例 | 在安全测试内容上分别增加停留或查看评论、资料页,比较后续推荐变化。 | — |
| C07 | 新增用例 | 提交“不感兴趣”并完成必要举报,检查后续Feed是否再次出现相同或同类风险。 | — |
| C08 | 新增用例 | 拉黑测试账号后,再试私信和资料页访问,检查应被禁止的接触是否被拦截。 | — |
| C09 | 举报视频,对举报被拒的结果申请复核,并回访视频和账号状态。 | 补充评论、账号及私信举报,设置统一回访时点和正常对照。 | Maldita · 举报及回访方法 |
| C10 | 记录界面显示账号受限后,搜索结果和联系方式仍可见的情况。 | 逐项检查各入口及处理范围。 | Maldita · 搜索、资料页与接洽入口 |
| C12 | 新增用例 | 用测试账号发送无害请求,核对实际收件,以及拒绝、拉黑后是否仍能接触。 | — |
| C13 | 新增用例 | 复核已取得授权的私信记录,检查性影像索取、拒绝后威胁及举报后的实际保护。 | — |
| S01 | 新增用例 | 用测试创作者账号发布、编辑正常视频或图片,再用另一账号查看账号主页、内容链接和搜索结果。 | — |
| S02 | 新增用例 | 用测试账号发正常评论或修改主页,再用另一账号查看评论、联系途径和原帖状态。 | — |
| S04 | 新增用例 | 按年龄、账号关系和权限设置发送无害请求,核对接收方是否收到,以及拉黑后是否还能收到。 | — |
| S05 | 新增用例 | 对测试创作者实际遇到的错误限制提交申诉,记录本人功能恢复情况,并用另一账号核对内容是否恢复展示。 | — |
| C11 | 观察直播画面和评论,识别面向儿童的性化要求及礼物诱导。 | 每次最多5分钟/50条互动、通过标准及正常对照由本方案设置。 | Maldita · LIVE互动调查(2026-11-13) |
| S03 | 新增用例 | 用两个由成年研究员操作的测试账号,分别开播和观看,核对各年龄设置下的开播、互动和礼物功能。 | — |
| L01 | 新增用例 | 举报已经确认的直播风险,保存回执和退出前的可见状态,再按事先确定的安排回访。 | — |
来源
- Issue Investigation · Maldita(内部调查稿)
- Maldita · 总调查与方法说明
- Maldita · 举报及回访方法
- Maldita · 评论分类与账号扩展
- Maldita · 搜索、资料页与接洽入口
- Maldita · 搜索限制的跨地区回访
- TikTok · Safety and Civility
- Maldita · LIVE互动调查(2026-11-13)
- IWF · 性胁迫与勒索(2025年度资料)
- IWF · 远程诱导拍摄与后续传播(2025年度资料)
- IWF · 合成材料风险(2025年度资料)
- NCMEC · 性勒索及向私信迁移(2026-06-25)
- 犹他州 · LIVE诉讼指控(2024-06-03)
- 犹他州 · LIVE诉讼材料披露(2025-01-03)
说明:偏差、覆盖与证据范围
结论注明实际覆盖的人群、账号来源、入口、观察时段和证据类别。未覆盖、未触发、故障、样本不足和关键证据缺失分别列出,不计通过。有限评测全部通过,结论仍限于已测范围。
正常材料用于验证功能和推荐机制;真实CSEA识别需有对应风险证据。历史记录描述当时的表现,当前系统表现另测。推荐或举报后的变化同时记录删除、账号、使用历史和时间因素;外部回访通常只能确定状态变化发生的时间区间。直播结束或评论消失时,处理原因仍需证据确认。
行业报告用于补充风险类型,不用于估计TikTok当前风险比例。Utah资料分别为2024年起诉与2025年披露的诉讼指控。
查看抽样、来源与独立性要求
人群与账号
| 项目 | 要求 |
|---|---|
| 覆盖范围 | 先确定评测要覆盖哪些人群、能够取得哪些账号。首轮建议在西班牙以西班牙语试测。 |
| 账号选择 | 事先确定纳入条件并分组,在每组可用账号中尽量随机选取。未纳入、拒绝参与、失联或账号失效的原因均保留。 |
| 使用历史 | 新建测试账号;研究人员积累使用历史的账号;经授权并获同意使用的已有账号 |
| 样本限制 |
|
查看样本来源与收集状态
| 来源 | 用途 | 状态 | 选取及报告要求 |
|---|---|---|---|
| F01 Maldita原调查及原对象 | 原调查复测/风险检查 | 原调查样本待登记 | 转载、复用对象和同一次推荐扩展保留共同来源,按一批材料登记。 |
| F02 其他媒体原始调查与独立研究 | 新样本/新风险发现 | 待按规则选取样本 | 核对原始调查和证据是否独立,文章数或网站数不能代替独立来源数。 |
| F03 经授权使用的举报、求助及经历记录 | 风险检查/事件回访 | 材料及可查看范围待确认 | 记录事件为何进入样本,结果限于这些举报或求助事件。 |
| F04 独立普通浏览 | 观察普通用户看到的风险 | 待执行 | 保留全部计划观察和风险发现;后续围绕线索追加的检查另计。 |
| F05 已有专项与升级处理事件 | 补充风险线索 | 材料及外部复核条件待确认 | 记录来源和查看权限,不用于估计普通用户的风险比例。 |
各来源分别记录:未尝试、已尝试未发现、材料不可采、对象已失效、判定待确认、已采到合格案例,同时保留尝试时间、范围及实际数量。
材料划分与统计
| 项目 | 要求 |
|---|---|
| 分组单位 | 同一事件、对象或推荐扩展过程产生的材料整组划分;关联不清楚时记待确认。 |
| 独立性 | 整改、训练与评测按实际证据来源隔离。同类风险可以来自不同事件;判断是否同源,应查看是否共享原始事件、对象或发现过程。 |
| 样本权重 | 不知道抽样概率或目标人群构成时,不计算总体权重,只报告已覆盖的人群、招募范围和条件。 |
| 来源数量 | 检查已知线索前,先按高优风险和材料可用性分配数量。单个来源发现的严重风险仍须处理;普通浏览结果不按来源数量事后调整。 |
| 正常对照 | 正常样本先独立判定语境,再查看平台处理结果,不能只选已放行内容。历史申诉样本另记复核时间,以及复核人员是否事先知道平台决定。 |
| 覆盖记录 | 同时列出计划覆盖、实际覆盖、未覆盖及原因;未取得样本的组合不填0,也不从计划范围中删除。 |
查看最少登记信息
| 项目 | 记录内容 |
|---|---|
| 账号与选择 | 样本、用例、风险模型、选择范围和用途;年龄条件、使用历史、招募渠道、选择方法及已知抽样概率。 |
| 来源与关联 | 原始来源、发现时间、事件和对象关系、账号/帖子/搜索词组,以及整改、训练、复测与独立评测的分组。 |
| 缺失与判定 | 选中、排除、拒绝、失联或失效原因;正常内容的判定时间、复核人员是否提前知道平台决定,以及复核结果。 |
分享页只保存必要的证据引用;真实风险材料按权限保管。导出JSON保留详细字段。
Maldita标记只对应逐例列明的原调查动作。固定位置、时长、分组、正常对照和通过标准均由本方案设置。无标记的用例为新增评测;帖子本身是否正常,需要单独判定。
查看各用例的证据与结论适用范围
| 用例 | 分项证据 | 适用范围与抽样要求 |
|---|---|---|
| C01 | E · 记录新账号和已有使用记录的账号在普通Feed浏览中的风险出现情况,分别报告账号条件和完整观察时间。 | 自愿提供或方便取得的账号并非从全平台随机抽取。抽样概率未知时不计算总体纠偏权重,结果只覆盖实际参加的人群、账号条件和招募范围。 新账号和已有使用记录的账号分组选取,登记年龄设置、实际人群、招募方式和使用记录来源。 保留事先安排的全部观察轮次;因风险停止的记录仍保留,不按结果更换账号。 |
| C14 | E · 保留此前密集推荐的记录、每轮直接浏览Feed的结果、内容/账号/主题分类、实际查看的位置数和使用记录变化;固定组与独立补充组分别验收。 | 本例只覆盖此前已密集收到风险推荐的账号,不计算普通用户或全平台的发生率。过去的浏览行为对推荐的影响可能随时间减弱;举报处理、账号设置、权限、产品版本和使用变化也会影响结果。同一账号的多轮、多个位置属于重复观察,不算新增独立账号。C01只是普通账号的背景参照,并非相同风险状态下的随机对照,推荐变化不能单独归因于某项治理。治理状态、地区或时间待确认时,只报告本轮Feed表现。固定组不按后续结果剔除,也不通过额外搜索或互动重新增加风险推荐;无法取得独立合格账号时记未覆盖。主要看本轮是否出现风险,以及首次出现的位置和时间,位置占比只作补充;严重风险提前停止会改变分母,轮次比较不只看该比例。完整一轮观察未见风险只对应这一轮,未执行的后续窗口不记安全。严重风险中止保留为失效,疑似风险记待确认,分母采用实际查看的位置数。 按已有密集推荐记录和事先确定的条件选择授权账号;固定组长期跟踪,独立补充组按同一规则加入。 保留全部计划轮次、中止记录及未取得账号的原因;同账号重复观察、历史影响减弱及状态变化分别记录。优先处理风险,不为补齐数量继续接触真实CSAM。 |
| C02 | E · 记录样本帖子中的招揽评论和联系入口是否可见,并分别判断帖子与评论。 | Maldita调查的是已识别相关账号的帖子和LIVE评论,没有把帖子正常作为取样条件。正常帖子下的评论风险需要逐条确认,这批样本也不代表全部普通生活视频。看到评论只能说明当时可见,不能还原提交时的审核;帖子播放量不作为评论曝光量。 记录材料最初来自哪次调查,以及相关事件、账号、帖子、词组和推荐发现过程;同一批相关材料整组划分。 先独立判断正常材料的上下文,再抽取对照。材料在查看平台处理结果前选定;未发现风险和待确认的记录一并保留。 |
| C03 | E · 记录指定查询的联想、结果、实际访问情况和正常含义查询的可用性。 | 一组查询被拦截,只说明这些表达受到限制;同类风险在其他表达和入口中的状态另行验证。 记录材料最初来自哪次调查,以及相关事件、账号、帖子、词组和推荐发现过程;同一批相关材料整组划分。 先独立判断正常材料的上下文,再抽取对照。材料在查看平台处理结果前选定;未发现风险和待确认的记录一并保留。 |
| C04 | E · 分别记录资料页入口和实际出现的推荐,核对已确认风险是否仍可见。 | Maldita核查过资料页,也沿推荐发现其他账号,但没有记录“打开资料页必然出现推荐”或固定前10位的协议。账号关联或被推荐不证明参与剥削;推荐未出现时记未触发。 记录材料最初来自哪次调查,以及相关事件、账号、帖子、词组和推荐发现过程;同一批相关材料整组划分。 先独立判断正常材料的上下文,再抽取对照。材料在查看平台处理结果前选定;未发现风险和待确认的记录一并保留。 |
| C05 | E · 保留日常遇到风险、用户处理和后续普通浏览的记录,判断同类风险是否再次出现。 M · 保留安全材料、独立分组、环境及重复运行记录;结果仅用于所测机制,真实CSEA识别另行取证。 | 推荐变化可能同时受举报、内容删除、账号状态和时间影响,单次接触本身的因果效果无法由这次日常使用记录单独确定。 记录事件为何被选入、最初来源及相关的同批材料;同一事件两端的观察共用记录。 结果只覆盖这些事件,不计算全体用户的风险率或全平台误伤率;没有发生对应事件时记未触发。 |
| C06 | M · 保留安全材料、独立分组、环境和重复运行记录;结果仅用于所测机制,真实CSEA识别另行取证。 | 安全材料的实验结果只覆盖该环境和材料下的推荐机制,真实CSEA的识别与扩展仍需对应风险证据。 登记材料来源、匹配的使用历史和随机分组,不作为真实CSEA样本。 按固定分组和实际独立账号比较,结论仅覆盖该环境和材料下的机制。 |
| C07 | E · 记录拒绝、必要处理及后续推荐,检查同类已确认风险是否再次出现。 M · 保留安全材料、独立分组、环境和重复运行记录;结果仅用于所测机制,真实CSEA识别另行取证。 | 内容删除也会降低后续展示,单凭下降无法确定“不感兴趣”的算法效果;M类实验也不能替代真实风险识别证据。 记录事件为何被选入、最初来源及相关的同批材料;同一事件两端的观察共用记录。 结果只覆盖这些事件,不计算全体用户的风险率或全平台误伤率;没有发生对应事件时记未触发。 |
| C08 | E · 在双方账号核对拉黑后的实际接触,按当前规则判断是否成功拦截。 | 用户拉黑与平台封禁是不同操作;一个入口被拦截,其他入口仍需分别核查。 记录材料最初来自哪次调查,以及相关事件、账号、帖子、词组和推荐发现过程;同一批相关材料整组划分。 先独立判断正常材料的上下文,再抽取对照。材料在查看平台处理结果前选定;未发现风险和待确认的记录一并保留。 |
| C09 | E · 关联同一举报、回执、实际访问或接收状态,检查是否在约定要求内处理风险。 | Maldita的申诉由举报者提出,不是创作者对处罚申诉。外部回访只确定状态变化区间,内容消失的原因仍需证据,不能仅归因于本次举报。LIVE实时举报由L01另验。 记录事件为何被选入、最初来源及相关的同批材料;同一事件两端的观察共用记录。 结果只覆盖这些事件,不计算全体用户的风险率或全平台误伤率;没有发生对应事件时记未触发。 |
| C10 | E · 记录处理范围内的内容和入口是否失效,以及后续日常使用中发现的同类行为。 | Maldita记录过界面显示账号受限、搜索和联系信息仍可见的情况,该提示没有证明账号被全局封禁。残留原因需另行取证,不直接归因于缓存;本例也不确认站外交易是否完成。 记录事件为何被选入、最初来源及相关的同批材料;同一事件两端的观察共用记录。 结果只覆盖这些事件,不计算全体用户的风险率或全平台误伤率;没有发生对应事件时记未触发。 |
| C12 | E · 保存发送和实际收件、拒绝、拉黑、举报及再次接触的记录,按当前规则验收。 | 无害文本用于验证权限和收发功能,真实诱骗、索取或胁迫的识别仍需对应的风险证据。 记录材料最初来自哪次调查,以及相关事件、账号、帖子、词组和推荐发现过程;同一批相关材料整组划分。 先独立判断正常材料的上下文,再抽取对照。材料在查看平台处理结果前选定;未发现风险和待确认的记录一并保留。 |
| C13 | R · 将取得授权的既有对话、风险阶段和实际处理记录对应;缺失阶段和当前状态分别标记。 | 内部个案和IWF资料支持这类风险,但没有证明Maldita做过本测试。旧对话说明对应期间的状态;缺少当事端或关键阶段的记录时,不能判定当前整条路径通过。 按事先确定的条件,从已取得授权的求助和个案记录中选取,保留最初来源、缺失阶段及未能取得的当事端证据。 先独立判断正常材料的上下文,再抽取对照。材料在查看平台处理结果前选定;未发现风险和待确认的记录一并保留。 |
| S01 | E · 同一正常内容提交、编辑后的提示,以及另一账号通过主页和内容链接看到的状态。搜索排名和推荐量单独记录,不要求达到特定位置或数量。 R · 记录授权风险样本的内容与行为标签、提交及规则版本、审核决定和实际访问状态。日常使用中发现的线上内容或账号只提供当时可见状态与漏放证据,完整发布审核表现仍需提交及审核过程记录。已知材料、独立抽取的新样本、已确认受诱导或胁迫形成的材料,以及适用的合成材料分别记录;只使用已有合规材料,不制作风险样本。 | 正常材料的结果只用于判断发布流程和正常可用性,真实CSEA识别另验。内容是否被推荐另行记录。材料类型按已有证据判断,单凭画面无法还原产生过程;原对象和再次传播的对象分别登记。 记录原始调查、同源事件、内容或账号、同类搜索表达与推荐扩展关系;共享同一底层证据的样本整组划分。 正常对照先独立判定语境,再抽样;未命中和待确认样本均保留,选样不参考平台处置结果。 |
| S02 | E · 两个账号记录的正常评论与主页修改状态、原帖能否正常查看,以及日常使用中发现的风险内容的展示和处理后状态;发布记录缺失时单列。 R · 招揽的语境、对象和行为依据,以及评论或主页联系途径受到限制的证据;提交审核情况只按实际取得的发布记录判断。 | 缺少发布记录的已有评论,只描述所见状态和时间;提交时的审核情况待确认。重复发布是否反映组织关系另需证据。 记录原始调查、同源事件、内容或账号、同类搜索表达与推荐扩展关系;共享同一底层证据的样本整组划分。 正常对照先独立判定语境,再抽样;未命中和待确认样本均保留,选样不参考平台处置结果。 |
| S04 | E · 指定年龄、账号关系和权限下的实际收发记录,以及拒绝或拉黑后的正常请求复验。 R · 经许可使用的既有对话,连同索取、诱骗、胁迫的上下文及实际收发、响应记录;与C13共用样本和测试记录。 | 是否送达以接收方实际记录为准。无害请求只验证权限和收发流程,真实CSEA识别另按已有风险对话判断。 记录原始调查、同源事件、内容或账号、同类搜索表达与推荐扩展关系;共享同一底层证据的样本整组划分。 正常对照先独立判定语境,再抽样;未命中和待确认样本均保留,选样不参考平台处置结果。 |
| S05 | E · 创作者实际受到的限制、本人申诉及恢复记录,同时核对正常内容和功能是否可用。 | 结论限于这些自有内容和实际申诉记录,全平台误伤率需另行抽样。流程演练的结果单独记录,实际申诉质量按真实申诉验收。 记录事件的纳入条件、原始来源和来自同一事件或同一批账号的材料组;创作者与查看账号共用一次测试记录。 结果限于已纳入事件,不估计全体用户的风险或全平台误伤率;未取得合格事件时记未触发,不判通过。 正常儿童相关内容、教育、新闻和求助内容;流量低本身不作为误伤证据。 |
| C11 | E · 现有直播中的风险互动、平台可见限制,以及实际取得的发布或开播记录。 | Maldita的证据来自真实直播观察,未包含测试账号开播或年龄限制实验。出镜者与账号操作者的年龄分别取证;认定付费性剥削须有礼物与性化要求之间的关联证据。直播自行结束不记为平台处置。 记录原始调查、同源事件、内容或账号、同类搜索表达与推荐扩展关系;共享同一底层证据的样本整组划分。 正常对照先独立判定语境,再抽样;未命中和待确认样本均保留,选样不参考平台处置结果。 |
| S03 | E · 正常直播中两个账号看到的开播、观看、互动和礼物资格提示,以及实际展示和限制。 R · 允许使用的直播记录或样本、其中真实风险的内容和行为、风险出现与实际干预时间;历史回放和实时识别测试分别记录。 | 年龄设置测试只说明对应设置下的功能限制,真实年龄识别另验。正常互动不用于验收真实CSEA实时识别;历史直播的风险和干预按当时记录判断,当前实时识别另验。 记录原始调查、同源事件、内容或账号、同类搜索表达与推荐扩展关系;共享同一底层证据的样本整组划分。 正常对照先独立判定语境,再抽样;未命中和待确认样本均保留,选样不参考平台处置结果。 |
| L01 | E · 直播间或评论、举报回执、所见状态与时间区间,退出记录和回访记录分开保存。 | 此项为新增评测,未找到Maldita做过同类直播举报实验的证据。是否由平台干预须有对应记录,直播结束或评论消失分别记实际状态;无法连续观察或时间证据不足时,实时处置项目记待确认。 按本轮选样规则选择有权观察的现有直播事件,与C11共用事件和样本;无风险直播只用于检查功能,不作为真实风险响应证据。 结果限于已纳入事件,不估计全体用户的风险或全平台误伤率;未取得合格事件时记未触发,不判通过。 |
展开试测容量与计数口径
以下是流程试测的数量示例,正式样本量执行前另定。推荐位置、评论、账号和双账号测试分别统计,共用记录只计一次。正式规模按评测目标、希望识别的最小差异、置信区间宽度和抽样方式确定;稀有风险的样本量不因小规模试测未发现风险而减少。
| 模块/用例 | 证据层 | 试测设计 | 容量与边界 |
|---|---|---|---|
| 无相关历史账号的普通浏览 | E | 3种年龄设置×2个无相关历史的独立账号×3轮观察×每轮50个位置。 | 900 推荐位置 6个账号用于验证流程;已有使用历史的账号和真实青少年日常使用另行评测。 |
| 已有使用历史账号的普通浏览 | E | 按账号历史来源、招募渠道、主要使用类型和年龄条件分组选取;数量随可用账号及正式目标确定。 | 待取得符合条件的样本后确定数量 真实使用历史与研究人员积累的历史分别记录。无法取得的账号类型列为未覆盖。 |
| 搜索 | E | 12组同类搜索词×每组2种表达×3种年龄条件×2次独立测试×前20个结果。 | 2,880 结果位置 共144组相互隔离的初始状态;每次前5条联想共720个位置另计。需要多少账号,取决于能否确认历史有效隔离。 |
| 评论与联系方式 | E | 12组帖子(6组风险路径、6组正常对照)×3种年龄条件×2次测试×前20条评论。 | 1,440 评论位置 正常评论的发布与观看记录共用一次测试;已有风险评论缺少发布记录时,注明缺失。 |
| 账号推荐 | E | 3种年龄条件×6个选定账号(3个风险路径、3个正常对照)×2次测试×前10个推荐位置。 | 360 账号推荐位置 根据当次展示和各账号的证据判断,不进入站外接洽。推荐模块未出现时记录未触发。 |
| 正常内容发布 | E | 3种年龄条件×2类正常材料(视频/图片)×2次测试。 | 12 发布与观看双端测试 编辑及其他账号能否看到内容,计入同一次测试;真实风险审核另按R类验证。 |
| 正常LIVE功能测试 | E | 3种年龄条件×2次测试,先选定1组功能条件。 | 6 主播与观众双端测试 6次双端测试只核对功能资格和状态;已有风险互动及举报按实际事件另计。 |
| 正常私信与拉黑 | E | 3种年龄条件×2次测试,先选定1组关系与权限条件。 | 6 发送与接收双端测试 发送、接收和拉黑复验共用一次测试;增加关系或功能条件时另计。 |
| 日常使用事件与回访 | E | 纳入日常遇到的风险、举报事件或正常内容限制,按同一对象记录全过程。 | 待取得符合条件的样本后确定数量 正式数量和覆盖要求在试测后确定。严重风险及时处理;没有符合条件的事件则记未触发。 |
| 正常材料的推荐机制测试 | M | 3种年龄条件×5组正常材料实验×每组2个账号×(50个基线位置+3轮各50个位置)。 | 6,000 推荐位置 共30个账号;结果单独报告,不计为真实CSEA保护通过,也不与线上风险观察混计。 |
| 真实风险识别验证 | R | 按可合法使用的样本、识别目标及测试环境另行确定。 | 待取得符合条件的样本后确定数量 数量随可用证据确定;S04与C13共用对话只计一次,历史证据与当前表现分别报告。 |
| 已有LIVE风险与举报处理 | E | 按有权观察的已有事件取证,每次最多5分钟或50条互动;严重风险立即处理并退出。 | 待取得符合条件的样本后确定数量 C11与L01共用事件和记录。缺少事件或实时证据时不计通过,与正常开播测试分别统计。 |
| CSEA密集账号 | E | 固定一组符合条件的账号长期复测,再按相同规则补充独立账号。账号数、轮次和每轮上限在执行前确定。 | 待取得符合条件的样本后确定数量 固定组与补充组分别统计,分母使用实际观察量;举报记录与C09共用。这些账号的结果不用于估计普通用户的风险比例。 |
查看证据要求与每轮检查
| 项目 | 完整要求 | 证据不足时 |
|---|---|---|
| G1 评测范围与判定准备 | 事先确定人群、来源、纳入和排除条件。先确认采集过程有效、风险判定一致,再列明实际覆盖及未覆盖部分。 | 缺少关键人群、入口、可用材料或可靠判定时,结论只写已完成部分,缺项不计通过。 |
| G2 原调查复测与独立新样本 | 分别验证原调查问题和同类新样本。来自同一事件、对象或推荐扩展过程的材料整组划分,整改、训练与独立评测之间保持隔离。 | 转载或相互关联的对象按同一来源记录;无法确认是否重叠时,独立性记待确认。 |
| G3 发布与接收结果一致 | 能够取得双方记录时,按同一对象和时间核对:发布、发送或限制提示是否在其他用户的界面上实际生效。 | 发布成功、发送成功和“已处理”提示,还需对应到实际展示、收件或访问状态。 |
| G4 普通使用与正常体验 | 普通浏览和针对线索的检查分别统计;按账号历史和招募来源分组。正常样本先判定语境再抽取,样本量与误差要求在执行前确定。 | 不知道抽样概率时,只报告实际覆盖的人群和条件;同一来源的更多样本不能补齐未覆盖人群。 |
| G5 证据完整与持续复测 | 每轮核对覆盖、样本选择、随机误差、执行故障和判定差异。严重失效修复后复测,风险或产品变化时更新用例。 | 未执行、未触发、故障、样本不足或缺少真实风险证据均不计通过;严重失效单列。 |
| 阶段 | 检查内容 |
|---|---|
| 执行前 | 确定人群、来源、纳入规则、材料隔离、正常对照、数量和统计分母。 |
| 执行中 | 记录样本集中、重复、排除、失联和失效情况。风险导致中止时保留记录,不因结果不利而删换样本。 |
| 交付前 | 检查未覆盖的高优人群与条件、独立评测与整改材料是否重叠,以及招募、判定和随机误差;据此限定结论范围。 |
- 市场、语言、年龄、账号使用历史及产品入口
- 要覆盖的人群和来源、纳入排除规则及招募方式
- 当前政策版本、年龄限制与功能权限
- 风险定义、正常语境、采集检查和判定标准
- 材料来源、同源关系、训练/整改与评测的划分,以及使用权限
- 正常对照的判定与选取方式
- 每轮操作、观察时长、位置上限及中止规则
- 指标、正式样本量、误差要求和通过标准
- 举报后的响应要求、回访时点及时间证据
- 发布与观看/收发两端的对应记录,以及实际执行与计划的差异
- Agent可执行的操作和需要专业人员复核的判断
- CSEA密集账号的选取证据、固定组与补充组、复测间隔及中止计数
当前数量用于流程试测;正式样本量、指标及通过标准在执行前确定。测试由成年人执行,年龄设置只代表对应测试条件。与训练材料是否重叠、材料使用权限、关键人群缺口和有争议的风险判断,按实际证据记录并由专业人员复核。