内容安全

当领域刚刚起步时,一般由一群互相熟悉、认识的成员构成,领域管理者可以和所有用户保持联系,能够简单的维持领域秩序。但随着领域规模的增加,领域的用户构成会开始变得复杂,依靠社交关系难以持续维护秩序。这时,需要通过有计划、有组织的运营,来确保领域所提供内容的合规性。

原理

内容安全的核心在于,领域能够通过一系列工具,持续管控违规内容,降低领域运营过程中的风险。避免因为违规内容,影响到领域的正常运营。

基本事项

根据相关法规要求,互联网服务提供者“应当记录上网用户的上网时间、用户帐号、互联网地址或者域名、主叫电话号码等信息”。
Realm 已经为领域解决了大部分的合规要求,对于领域管理者而言,在开发领域功能时,需要关注:
  • 记录了内容发布者的账户信息(即 玩家.id)和发布时间。
  • 在遇到违规内容时,能够受理用户举报,对内容进行删除整改。
  • 如有必要,建立审核机制,在内容发布前对内容进行审查。
由于合规要求,平台会不定期对存在合规问题的领域采取安全措施,包括限流、限制查看、强制审核、删除内容、改变功能行为等措施,降低违规内容带来的影响。如果出现这种情况,平台会根据影响范围、展示位置、违规程度、持续时间等情形,来判断违规内容的严重性。
以下是平台着重关注的违规内容:
  • 危害国家安全、扰乱社会秩序的内容
  • 淫秽、色情、赌博、暴力的内容
  • 侮辱或者诽谤他人的内容
对于大规模领域(日活 > 100),不应当在没有人工介入的情况下,使用算法自动化处理投稿,并在关键位置持续展示。领域运营者需要主动对社区舆论和氛围进行引导,以确保社区长期处于合规状态。

合规成本

在开发各类功能时,需要考虑相关的合规成本,例如,用户内容的可见性、社区的中心化程度及产生违规行为的难易程度。一般来说,如果用户未经审核发送的内容能够被越多人看到,领域运营时所产生的风险越高,越容易出现影响范围广的违规事件。
规模较大的领域,需要对违规行为进行预案,确保能够快速处理违规事件。若有必要,也可以为领域的内容启用 AI 或人工审核。
平台会和领域一起,对违规行为进行打击和限制,营造清朗的网络环境。如果遇到问题、有相关建议,可以在反馈页面中和我们联系。

法规原文

国内相关法规对违规内容进行的说明:
第十四条

从事新闻、出版以及电子公告等服务项目的互联网信息服务提供者,应当记录提供的信息内容及其发布时间、互联网地址或者域名;互联网接入服务提供者应当记录上网用户的上网时间、用户帐号、互联网地址或者域名、主叫电话号码等信息。

互联网信息服务提供者和互联网接入服务提供者的记录备份应当保存60日,并在国家有关机关依法查询时,予以提供。

第十五条

互联网信息服务提供者不得制作、复制、发布、传播含有下列内容的信息:

(一)反对宪法所确定的基本原则的;

(二)危害国家安全,泄露国家秘密,颠覆国家政权,破坏国家统一的;

(三)损害国家荣誉和利益的;

(四)煽动民族仇恨、民族歧视,破坏民族团结的;

(五)破坏国家宗教政策,宣扬邪教和封建迷信的;

(六)散布谣言,扰乱社会秩序,破坏社会稳定的;

(七)散布淫秽、色情、赌博、暴力、凶杀、恐怖或者教唆犯罪的;

(八)侮辱或者诽谤他人,侵害他人合法权益的;

(九)含有法律、行政法规禁止的其他内容的。

第十六条

互联网信息服务提供者发现其网站传输的信息明显属于本办法第十五条所列内容之一的,应当立即停止传输,保存有关记录,并向国家有关机关报告。