许多政府对有关虚假信息、错误信息和宣传运动的担忧已经到了促使他们推动全新立法的程度。但目前提出的解决方案反映出人们对这个问题仍然理解不足——而且可能会产生意想不到的负面后果。
今年6月，德国议会通过了一项法律，该法律规定如果像Facebook和YouTube等流行网站未能在24小时内删除仇恨及煽动言论等“明显违反法律”的内容，可以对它们执行高达5000万欧元（合5900万美元）的罚款。新加坡也已宣布明年将推出类似计划来应对“虚假消息泛滥”。
7月，美国国会批准了针对俄国的一系列制裁措施，部分原因是据称俄罗斯赞助了旨在影响美国总统竞选的虚假消息散布活动。美国国会与Facebook、Twitter和Google等企业已经在近几周加强了对话，因为有明确证据显示已经出现了俄罗斯实体购买竞选广告的行动。
如果我们想要打破破坏民主政体运行能力的虚假信息和政治极化的恶性循环，采取这样的行动可谓至关重要。但虽然这些立法干预措施都针对数字平台，但它们却往往没有考虑到今天的虚假信息和政治宣传至少在哪六个方面与之前有所不同。
首先是信息创造和传播过程的民主化。就像前国防部高级研究计划局兰德•沃尔兹曼最近所强调的那样，任何个人或团体现在都可以与大量在线民众进行沟通——并进而对它们产生影响。这种情况当然有好的一面，但也伴随着严重的危险因素——首先就是优秀新闻标准的丧失，就像以往在传统媒体机构所执行的那样。没有传统的机构媒体把关者，政治谈话已经不再以共同的事实为基础。
数字信息时代的第二大特征——同时也是民主化进程的直接副产品——是信息社会化。我们已不再直接从机构把关者那里接收信息，这些把关者尽管往往在流程的执行方面存在缺陷，但从本质上讲却致力于达到编辑目标，今天，我们获得信息的方式是通过点对点共享。
这样的点对点网络可能基于点击量或朋友圈互动等因素来决定其内容定位，而并不那么关注重要性和准确度。不仅如此，通过朋友圈过滤的信息可能导致强化个人偏见的信息回声效应（尽管人们根本不确定这个问题究竟有多严重）。它还意味着本来可能接受温和消息的人现在却被政治争议和辩论所包围，包括极端立场和虚假言论，从而导致传播虚假消息和公众大面积极端化的风险显著增加。
当今信息状况的第三个要素是信息雾化——也就是个人新闻报道与品牌或报道来源脱钩。此前，读者可以非常轻松地区分不可靠的信息来源，如超市排队交费期间购买的五颜六色和耸人听闻的小报，读者也可以轻易分辨出可靠来源，比如历史悠久的地方或全国性新闻报道。现在的情况则恰恰相反，由某位朋友或家庭成员分享的纽约时报某篇文章可能看上去与阴谋论者的博文区别不大，而且，就像美国新闻研究所最近一则研究所发现的那样，朋友圈中分享信息的个人比一篇文章最初的来源更能引起读者们的关注。
反虚假信息斗争必须具备的第四个要素是信息创建和传播过程中的匿名性。在线新闻往往不仅缺乏品牌，而且往往连署名都没有。这掩盖了潜在的利益冲突，为国家行为主体在外国信息环境中进行干预创造了可信的否定理由，同时也为机器人的大面积使用创造了沃土。
2015年一次研究表明机器人产生约50%的网络流量，高达5，000万推特用户和1.37亿Facebook用户曾经表现出非人类特征。当然，机器人也可以起到“正面效果”，比如提供客户服务或实时天气更新。但同时存在大量的不良机器人“欺骗”在线信息系统宣传极端观点和不准确信息，并将其装扮成主流民意借以欺骗用户。
第五，今天的信息环境以个性化为特点。有别于印刷、广播甚或电视媒体的同行，网络内容创造者可以实时进行A/B测试并调整信息所针对的微目标。
“通过与大量机器人、Facebook暗帖、A/B测试和虚假消息网络配合利用自动情感操纵，”据最近一份爆料显示，像剑桥分析这样的团队可以创造个性化、灵活多样并最终能吸引外界关注的宣传攻势。唐纳德•特朗普的竞选团队每天要对 40-50,000个广告选项进行评估，而后再根据评估状况定制、并针对性地发布相关的消息。
正如斯坦福大学法学教授纳特•佩尔西利所观察到的那样，将今天的信息生态系统与过去区别开来的最终还是主权因素。与电视、报纸和广播不同，像Facebook或Twitter这样的社交媒体平台实行自我管制——而且管治水平并不是很高。虽然过去几周爆发了美国竞选广告争议，但这两家平台都还没有咨询过首席专家，反而试图将问题解决在企业内部。直到9月中旬Facebook才同意披露有关政治竞选广告的信息，但仍然拒绝提供与其他形式虚假信息有关的资料。
正是这种信息的缺乏导致人们无法对虚假信息和宣传泛滥作出回应，更不要说由此所造成的政治极化和部族主义倾向。Facebook是主要的罪魁祸首：平均每天拥有13.2亿活跃用户的Facebook拥有巨大的影响力，但这家企业却拒绝为外部研究者提供理解在互联网和政治交叉领域最根本问题所需的信息。（Twitter确实与研究人员分享数据，但迄今为止，这样做的仍只有Twitter一家）。
我们正生活在勇敢的虚假信息新世界当中。只要我们理解这个世界所需的数据仍然由服务提供商所掌握，我们就很难采取准确的对策。而且，因为这些措施的针对性较差，它们所带来的坏处可能比好处更多。
作者Kelly Born为威廉和弗洛拉•休利特基金会麦迪逊计划项目官员
--------------------------------------
