社交媒体上的人工智能可能会巧妙地操纵公众舆论。

  • 牛津大学的研究人员在集成到数字平台中的人工智能工具中发现了隐藏的偏见。
  • 即使被指示保持消息的原始含义,语言模型也可能改变消息的含义。
  • 社交网络的内部结构(如 X 所示)会将舆论引导至特定立场。
  • 欧洲现行法规尚未解决这些对公共话语产生隐形影响的形式。

人工智能对公众舆论的影响

我们今天的沟通方式已经彻底改变,科技似乎不仅帮助我们更好地写作,而且还剥夺了我们表达的自由。 完善我们自己的想法 未经许可。牛津互联网研究所和哈索·普拉特纳研究所的专家最近进行的一项研究表明,我们在社交网络上使用的人工智能能够以远超我们乍看之下想象的方式影响我们的观点。

问题在于,我们经常几乎自动使用的这些编辑和内容生成工具,也带来了以下问题: 一些相当难以捉摸的偏见 这些细微的变化在无人察觉的情况下逐渐渗透到公共话语中。通过我们每天在手机屏幕上进行的数百万次互动,这些微小的调整不断累积,最终影响着整个数字社区对直接关系到所有欧洲人的问题的看法。

创意过程中的生成式人工智能
相关文章:
生成式人工智能在创作过程中的革命:效率与作者灵魂之间的抉择

对原信息的微妙扭曲

人工智能算法分析社交网络

令人惊讶的是,最先进的语言模型往往具有以下倾向: 改变信息的含义 即使明确指示保留其原始含义,原始含义仍然会保留下来。科学家进行的测试表明,人工智能倾向于影响人们对枪支管制、女权主义和医用大麻合法化等争议性问题的看法,巧妙地引导用户采取非常特定的立场。

这种趋势并非由某个特定系统的孤立故障造成,因为研究人员在各种人工智能工具中都发现了类似的行为模式。就好像所有这些系统都存在问题一样。 同意支持某些观点 这种做法将世界上的其他立场置于阴影之下,从长远来看,最终会导致一种数​​字化的单一思维模式,真正的多元化明显缺失,观点也变得更加扁平化。

大型平台的作用及其准则

社交网络和算法操纵

但并非所有问题都完全是计算机代码的错,还有其他因素。 公司如何决定如何配置它 在它们各自的应用中,人工智能系统会以某种方式运行。一个非常明显的例子是,在类似 X 的网络中,某些特定功能表明,人工智能系统在关于堕胎的辩论中似乎更倾向于支持生命权的立场,仅仅是因为它有一个内部指令,要求它尽可能地质疑主流观点。

大型科技公司办公室里做出的这类决定最终会产生以下后果: 对街道产生了实际影响 以及我们对社会问题的认知。得益于基于Facebook等平台真实数据的各种模拟,研究表明,这些细微的调整,一旦乘以数百万用户,就足以在普通民众毫无察觉的情况下,将公众舆论引向算法所决定的方向。

网络安全情报预防和数字保护
相关文章:
数字时代的网络安全、情报和保护

在我们的领土上,我们常常依靠保障我们权利的法律来保护自己,但事实是: 欧盟人工智能法案 它仍然没有完全掌握这些微妙之处。尽管正在采取措施控制最明显的风险和明显危险的内容,但仍有很长的路要走。 参与途径 在无形的编辑过程中,我们日常的对话被潜移默化地影响,互联网上的讨论内容也由此而来。

显而易见,我们面临着一项规模巨大的挑战,这要求我们更加密切地关注每天早上我们阅读的内容究竟是谁在撰写。我们需要一个真正…… 科技公司需要提高透明度 现在比以往任何时候都更加紧迫,因为只有了解这些系统的内部运作方式,我们才能防止公共辩论变成软件预先制造的产品,而不是真人之间的自由对话。

泰勒·斯威夫特为其声音和形象注册了商标。
相关文章:
泰勒·斯威夫特为其声音和形象申请了人工智能商标。

在 Google 中将其添加为首选来源