监督组织和研究人员表示,生成式AI工具的出现,让人们几乎不用工作就能有效地产生新颖而详细的在线评论,这将商家、服务提供商和消费的人置于未知的领域。
虚假评论长期困扰着许多流行的消费者网站,如亚马逊和Yelp。他们通常在私人社交媒体群上在虚假评论经纪人和愿意付费的企业之间交易。有时,这种评论是由企业发起的,这一些企业为顾客提供奖励,如礼品卡,以获得积极的反馈。
但科技行业专家这样认为,由OpenAI的ChatGPT推广的人工智能文本生成工具,使欺诈者能够更快、更大规模地制作评论。
这种欺骗行为在美国是非法的,全年都在进行,但在假日购物季,许多人依靠评论来帮他们购买礼物,这对消费的人来说是一个更大的问题。
从电子商务、住宿和餐馆,到家庭维修、医疗保健和钢琴课等服务,各行各业都有虚假评论。
使用软件检测虚假评论的科技公司和监督管理的机构Transparency Company表示,它在2023年年中开始看到AI生成的评论大量出现,自那以来它们已经成倍增长。
在本月发布的一份报告中,透明公司分析了三个领域的7300万条评论:家庭、法律和医疗服务。近14%的评论可能是假的,该公司表示“高度相信”230万条评论部分或全部是AI生成的。
“对于这些审查骗子来说,这是一个非常非常好的工具,”投资者、科技初创公司顾问莫里·布莱克曼(Maury Blackman)说,他审查了透明公司的工作,并将于1月1日开始领导该组织。
今年8月,软件公司DoubleVerify表示,它观察到手机和智能电视应用程序的“明显地增长”,这些应用程序的评论由生成式人工智能撰写。该公司表示,这些评论经常被用来欺骗客户安装可能劫持设备或不断运行广告的应用程序。
接下来的一个月,美国联邦贸易委员会起诉了开发人工智能写作工具和内容生成器Rytr的公司,指控其提供的服务可能会通过欺诈性评论污染市场。
美国联邦贸易委员会今年禁止销售或购买虚假评论,称Rytr的一些用户使用该工具为车库门维修公司、“复制品”设计师手袋卖家和别的企业制作了数百甚至数千条评论。
人工智能检验测试公司Pangram Labs的首席执行官Max Spero表示,他的公司使用的软件几乎能肯定地检测到,亚马逊上发布的一些人工智能生成的评估出现在评论搜索结果的顶部,因为它们非常详细,似乎经过了深思熟虑。
但是确定什么是假的还是有挑战性的。亚马逊表示,外部各方可能会有所欠缺,因为他们无法“获得表明滥用模式的数据信号”。
Pangram实验室已经对一些著名的在线网站进行了检测,由于保密协议,Spero拒绝透露这些网站的名称。他说他独立评估了亚马逊和Yelp。
Spero说,Yelp上许多人工智能生成的评论似乎是由试图发布足够多评论以获得“精英”徽章的个人发布的,这旨在让用户知道他们应该信任这些内容。
该徽章可让您参加当地企业主的专属活动。前联邦刑事调查员凯·迪恩(Kay Dean)说,欺诈者也希望这样做,以便他们的Yelp档案看起来更真实,她经营着一个名为“虚假评论观察”(Fake Review Watch)的监督组织。
能确定的是,仅仅因为一篇评论是AI生成的,并不一定意味着它是假的。一些消费者可能会尝试人工智能工具来生成反映他们真实情感的内容。一些非英语母语者表示,他们求助于人工智能,以确保他们在撰写的评论中使用准确的语言。
密歇根州立大学市场营销学教授Sherry He对虚假评论进行了研究,他说:“如果评论出于好意,它会有助于评论,并使其提供更多信息。”。她说,技术平台应该关注坏演员的行为模式,这是知名平台已经在做的,而不是阻止合法用户转向人工智能工具。
一些知名公司正在制定政策,让AI生成的内容融入他们的系统,以消除虚假或辱骂性的评论。一些公司已经使用算法和调查团队来检测和删除虚假评论,但给用户一些使用人工智能的灵活性。
例如,亚马逊和Trustpilot的发言人表示,他们将允许客户发布人工智能辅助的评论,只要它们反映了他们的真实体验。Yelp采取了更为谨慎的方式,称其指导方针要求评论者自己撰写文章。
该公司在一份声明中表示:“随着最近消费者对人工智能工具的采用率上升,Yelp已经在更好地检测和缓解我们平台上此类内容的方法上进行了重大投资。”
亚马逊、Trustpilot、就业评论网站Glassdoor以及旅游网站Tripadvisor、Expedia和年发起的可信评论联盟(Coalition for Trusted Reviews)表示,尽管骗子可能会非法使用人工智能,但该技术也提供了“一个反击那些试图利用评论误导他人的人的机会”
“通过分享最佳实践和提高标准,包括开发先进的人工智能检测系统,我们可以保护消费者并维护在线评论的完整性,”该组织表示。
联邦贸易委员会禁止虚假评论的规定于10月生效,允许该机构对从事这种行为的企业和个人进行罚款。主持此类评论的科技公司免受处罚,因为根据美国法律,它们不对外人在其平台上发布的内容承担法律责任。
包括亚马逊、Yelp和谷歌在内的科技公司起诉了虚假评论经纪人,指控他们在其网站上兜售虚假评论。这些公司表示,他们的技术已经阻止或删除了大量可疑评论和可疑账户。然而,一些专家说他们可以做得更多。
“到目前为止,他们的努力还远远不够,”假货审查观察的迪安说。“如果这些科技公司如此致力于消除他们平台上的评论欺诈,为什么我,一个在没有自动化的情况下工作的人,可以在任何一天找到数百甚至数千条虚假评论?”
据研究人员称,消费者可以通过留意一些可能的警告信号来识别虚假评论。过度热情或负面的评论是危险信号。重复产品全名或型号的行话是另一个潜在的漏洞。
谈到人工智能,耶鲁大学组织行为学教授Balázs Kovács进行的研究表明,人们无法区分AI生成的评论和人类撰写的评论。该研究称,一些人工智能检测器也可能被较短的文本所愚弄,这在在线评论中很常见。
然而,有一些“人工智能告诉”,网上购物者和服务寻求者应记住它。Panagram Labs表示,用人工智能编写的评论通常更长,高度结构化,并包括“空描述符”,如通用短语和属性。文章也倾向于包含一些陈词滥调,比如“第一件让我震惊的事”和“游戏规则改变者”。
当地时间3月11日晚,美国和乌克兰代表团结束在沙特阿拉伯城市吉达举行的会谈,核心议题是“制定和平协议框架,并推动实现初步停火”。根据双方发布的联合声明,美乌会谈达成多项成果。具体有啥?
特朗普称将邀请泽连斯基重返白宫!泽连斯基:乌克兰准备停火30天,提了三点建议!俄罗斯最新回应......
据央视新闻3月12日消息,当地时间3月11日,乌克兰总统泽连斯基发布例行视频讲话称,乌克兰准备在整个前线天。
当地时间3月11日晚,美国和乌克兰高级别代表团在沙特吉达的会谈结束,随后美乌发表联合声明。 乌方接受30天临时停火声明称乌克兰愿接受美国提出的30天临时停火。乌克兰表示,愿意接受美国的建议,立即实行为期30天的临时停火,经双方同意可延长停火期限,但须经俄罗斯接受并同时实施。
【央视首次曝光!歼-20发射新型导弹 “超视距”打掉3架“敌机”】歼-20搭载某新型空空导弹,在超视距空战演习中一次击落3架“敌机”。
3月10日,湖南长沙,女子雨天光脚奔跑躺马路中央,一把扑到来劝离的交警怀里,交警:肯定不能不管,已联系其家人
广东今夜起将有强降雨广东气象部门预报,今日(12日)夜间至明日(13日),粤北和珠三角北部地区将有阵雨局部暴雨;14日至15日,广东自北向南将有一次大雨到暴雨局部大暴雨过程。
来源:【宝安日报】古村落里,鸟鸣茶香。没有此起彼伏的汽笛声,也没有人头攒动、人声鼎沸,有的是清风一缕,阳光几许,或是雨声淅沥,点点入心。城市里的快节奏容易让人迷失方向,步履匆匆却迷茫何去何从。
潮剧作为中国古老的地方剧种之一,承载着丰富的文化内涵和历史记忆,是中华文化的重要组成部分。近百年来,随着潮人拓展海外,远及东南亚、欧洲、南美洲等地,潮剧、潮乐也漂洋过海,奏响在异国他乡,成为潮汕人的文化象征,成为连结海内外乡亲的纽带和桥梁。
“没想到,法律没放弃我们犯错的人,做了好事也有‘奖励’。”2月11日,农历正月十四,还没到元宵节,社区矫正对象幸某便已在装修岗位上开工。这是近几年中他过得最开心的一个年:一是因为司法机关帮他在居住地找到了工作,二是因为被减了刑。