约克郡的一个工业区不太可能是国家监视行动的地点。但这些看似空白的仓库是一家人工智能公司的所在地,该公司被政府用来监控人们在社交媒体上的帖子。
逻辑已经支付了超过120万英镑的纳税人的钱来分析政府所说的“虚假信息”-故意在网上播种的虚假信息-和“错误信息”,这是无意中传播的虚假信息。
它通过从数十万媒体来源和“主要社交媒体平台上的所有公开帖子”中“摄取”材料,并使用人工智能识别那些可能存在问题的材料来做到这一点。
6年前,27岁的剑桥大学工程专业毕业生Lyric Jain创办了这家公司,他在家乡印度的选举期间首次对这项技术进行了测试。
他将它与逻辑上所说的“世界上最大的专业事实核查团队之一”一起部署,这些团队分布在英国、欧洲和印度。
正是这种模式帮助该公司获得了一系列合同。
它与文化、媒体和体育部(DCMS)达成了一项价值120万英镑的协议,并与卫生和社会保障部达成了另一项价值140万英镑的协议,以监测疫苗服务部门知名人士面临的威胁。
其他蓝筹客户包括美国联邦机构、印度选举委员会和TikTok。
与Facebook的“合作”
它还与Facebook建立了“合作伙伴关系”,这似乎赋予了logic的事实核查人员对其他人看到的内容产生巨大影响的权利。
2021年7月发布的一份联合新闻稿表明,如果逻辑上说某些帖子是不真实的,Facebook将限制它们的传播范围。
新闻稿称:“当逻辑上将一段内容评为虚假时,Facebook将大幅减少其传播,让更少的人看到它,并贴上警告标签,让人们知道该内容被评为虚假,并通知那些试图分享该内容的人。”
logic公司表示,他们不会将为英国政府收集的证据转交给脸书,但logic公司与这家社交媒体公司的合作关系引发了言论自由运动人士的担忧。
该人工智能公司于2021年1月首次与DCMS签约,当时该公司的任务是提供“分析支持”。
随着时间的推移,它的责任似乎有所增加,因此它正在支持“跨政府努力,全面了解可能有害的错误信息和虚假信息”。
《每日电讯报》获得的文件显示,该公司定期为反虚假信息部门(DCMS的一个秘密行动)制作“Covid-19错误信息/虚假信息平台服务条款报告”。
这个标题表明,其目的是针对违反Twitter和Facebook等平台服务条款的帖子。
然而,根据数据法披露的报告细节显示,它们还包括受人尊敬的人物的合法帖子日志,其中包括疫苗信心项目统计学家负责人亚历克斯·德·菲格里多博士。
前部长Nadhim Zahawi在接受《每日电讯报》采访时表示,他认为这条推文是一个错误。然而,合乎逻辑地说,如果可以“武器化”,它有时会在报告中包含看起来合法的帖子。
“背景很重要,”一位发言人说。
“如果有证据或有可能将叙述武器化,那么报告中可能会包含一些不是明确错误或虚假信息的内容。”
这位发言人补充说,根据数据法获得的详细信息“往往会删除内容被标记的原因,因此可能非常具有误导性”。
然而,一份由logic公司制作的公开文件似乎至少揭示了该公司的一些想法。
这份长达21页的《英国新冠肺炎虚假信息》报告多次提到“反封锁”和“反疫苗情绪”。
它还强调了“#sackvallance”和“# sackvallty”标签,作为“对专家建议的强烈蔑视”的证据,而不是对政府前首席科学顾问帕特里克·瓦兰斯爵士(Sir Patrick Vallance)或特别是英格兰首席医疗官克里斯·惠蒂爵士(Sir Chris Whitty)的建议的蔑视。
旨在“防止现实世界的伤害”
logic的一位发言人表示,该公司“强烈”相信言论自由,“任何有关我们限制言论自由的建议都是不准确和错误的”。
这位发言人补充说:“我们不会专门监控个人和他们的行为,也不会提出任何限制他们言论自由的建议。”
“在为客户提供服务时,我们会监控内容,包括在线公共信息环境中的叙述和趋势,以帮助解决在线危害、错误和虚假信息的扩散,并防止现实世界的危害。”