Facebook已经更新了其内容审核队列系统，这将在处理最坏情况报告方面带来重大改进，并减缓有害内容的传播。
新流程利用改进的机器学习流程对报告的内容进行分类，正如Verge所解释的：
“过去，[脸谱网]的版主或多或少都是按时间顺序来审查帖子，按照报道的顺序来处理。现在，Facebook表示，它希望确保最重要的帖子首先被看到，并利用机器学习来帮助。将来，各种机器学习算法的混合体将被用于对这个队列进行排序，根据三个标准对帖子进行优先级排序：它们的病毒力、严重程度和违反规则的可能性。”
这一过程将确保Facebook的人工版主团队首先被引导到最坏情况的报告，优化他们的工作量，并基于自动检测来限制此类报告的传播。
这显然不是完美的。任何自动化系统都很难以100%的准确率确定正确的顺序，这可能会导致一些更为相关的案例比其他案例更为活跃。但这不会比目前的情况糟糕得多，而且Facebook考虑到了“病毒性”，你可以假设，根据发帖用户的关注度、历史记录等，考虑了帖子的潜在影响，这可能会带来显著的改善。
在各种情况下，Facebook在处理潜在有害内容方面反应迟钝，因此面临巨大压力。
Facebook在5月的时候，就已经承认了一个与之相关的视频在7月的时候就被删除了，而Facebook在这之前就应该花了将近200万次的时间来删除这段视频。
或许，有了这些新措施，Facebook可能会更优先删除此类内容，因为这些内容有可能通过高访问性页面和用户进行广泛曝光，而基于“严重性”的内容检测在解决发布到其网络上的最严重违规行为方面也会有重大益处。
毫无疑问，Facebook的自动化系统在这方面一直在改进。在其最新的社区标准执行报告中，Facebook表示，其99.5%的与暴力和图片内容有关的行为都是在用户举报之前采取的。
现在，这些相同的检测系统将被用来对所有的审核报告进行分类，随着Facebook系统的不断改进，与应用程序中相关内容相关的影响可能会显著降低。
从某种程度上说，Facebook似乎应该一直有这样的优先顺序，但它的系统可能根本无法过滤到这种程度。不管怎样，现在它能够改进其流程，这对用户安全可能有重大好处。
图文内容来源于网络，版权归原作者所有，侵权请联系删除。
