前沿 Idea Watch

---

社交平台

监督委员会无法解决
Facebook的难题

FACEBOOK’S OVERSIGHT BOARD IS NOT ENOUGH

导致Facebook在内容审核方面出现普遍问题的原因不是执行不力，而是公司平台背后的商业模式。

迪帕杨·高希（Dipayan Ghosh）| 文 贾慧娟 | 译 牛文静 | 校 腾跃 | 编辑

一年前，马克·扎克伯格（Mark Zuckerberg）承诺要改善Facebook的公共问责措施，并于2019年9月宣布了设立全新监督委员会的详细计划。Facebook称，委员会将由40名独立专家组成，任期三年。很多人称之为Facebook自己的最高法院，因为委员会将对出现在该公司平台上的内容政策问题做出裁决。委员会强调独立性，甚至可以否决扎克伯格的决定。

表面看，监督委员会是对新问题的出色回应。Facebook在全球拥有超过20亿用户，公司的核心消费者服务是内容的规模化无障碍传播，公司在这方面遇到了一系列严重问题。公司旗下的Instagram、WhatsApp和主平台Facebook上的内容不仅包括猫咪视频和婴儿照片，还不可避免地包括仇恨行为、政治不稳定地区恐怖分子的煽动信息、虚假信息，以及系统性的算法偏见。公众对这些问题的深切关注是有理由的，因此委员会的职责包括听取用户对这些问题的不满，并决定何时对违规用户或发帖内容采取严厉措施。

但我们必须问一个问题：Facebook设立这个委员会能成功吗？

我认为不行。该公司在内容审核方面出现普遍问题的原因不是执行不力，而是公司平台背后的商业模式。

同样的模式也存在于整个消费互联网的中心，该模式的基础是最大限度提高消费者参与度，并在整个数字体验中插入广告。它需要收集个人数据，也需要通过复杂算法管理社交数据，并有针对性地投放广告。由于平台没有认真考虑消费者希望或应该看到什么，所以消费者能看到的内容必须符合平台实现利益最大化的要求。这种做法会产生负面的外部影响，虚假信息只是其中之一。

举例来说：当俄罗斯政治特工试图颠覆美国选举时，他们转向了互联网平台。美国人在2016年大选过程中以多种形式见证了这一现象——包括在Twitter和Facebook上发布的加剧种族冲突的帖子，以及压制美国某些社区投票的帖子。这些努力所依赖的，正是和提升平台流量（及收益）相同的受众细分方式和算法匹配技术。美国联邦调查局和国土安全部已经告知大选相关人员，俄罗斯政府特工“可能试图秘密阻止或压制美国选民参加明年大选的投票”。换句话说，外部势力正是利用这些平台已经完善的工具，发现美国社会的细微裂缝，借机向选民散布谎言，直到美国的政治格局开始瓦解。

监督委员会要解决这些问题，需要管辖的不仅包含个人发帖，还有政治广告。除此之外，委员会还需要能够删除特定内容，并阻止美国消费者数据流向俄罗斯特工，改变算法对有争议性内容的优待。这些措施对一个以此机制赖以为生的公司来说，是一个巨大的挑战。无论我们把边界设在哪里，Facebook总是想要推动边界，因为它不知道还有什么办法来维持利润率。

在现实中，以目前形式存在的监督委员会无法解决对Facebook造成的短期和长期的损害。

而且，委员会的作用还可能弊大于利。其他互联网公司也在尝试缓解这些问题，尽管这些措施还处于早期阶段，尚未证明有效。YouTube最近删除了平台上的仇恨言论，Twitter更新操作规则以打击针对宗教团体的反人性内容，这只是其中的几个例子。从这个角度来看，我认为Facebook的监督委员会在名称和功能上都变成了方便公司的一个商业工具。它给人一种印象，认为委员会可以履行真正的监督责任，决定那些内容的真假对错，从而让公司可以不用担心更严格的监管政策，这些政策可能来自针对公司商业模式本身的较为激进的立法。

为解决这些问题，监督委员会的权力或许应该从删除内容扩大到公司核心更关键的问题。我们需要监督公司对数据的处理，促进保护消费者和公民隐私；监督公司的战略收购和数据管理，以防止反竞争行为；监督公司的算法决策，防止偏见。这种监督可以通过多种方式实施：通过股东权力、政府监督、第三方审计、行业法规，或扩大委员会的权力。

Facebook对美国和全球其他地方媒体内容的制作和传播影响巨大，以至于某些国家的大多数用户认为Facebook就等于互联网。当我们将商业公司对媒体和传媒格局的深远控制与政治世界联系在一起时，为导致这些问题的商业行为提供某种公众监督就非常有必要。

迪帕杨·高希是哈佛大学肯尼迪政治学院肖伦斯坦（Shorenstein）研究员和平台问责项目（Platform Accountability Project）联席主任。他是奥巴马政府的技术和经济政策顾问，曾在Facebook担任隐私和公共政策问题的顾问。