至于AI大模型为自媒体造假提供便捷,以及将错误信息以讹传讹的现象,也应引起大模型开发者的注意。践行“科技向善”“科技向真”应当与推动技术进步一样重要。
既然铁路部门没有发布过以上信息,自媒体又是如何炮制出这份假文件呢?调查发现,谣言内容大概率由AI生成,文件名称是捏造的,文件内容也是虚构的。上海辟谣平台核查时,甚至有大模型主动表示,可以“智写同款”。
上海辟谣平台溯源时发现,以“老年人坐火车有优惠”“老年人坐火车有新政”等为主题的网帖在搜索引擎、社交平台、短视频平台上都很普遍,而发布者都是自媒体或营销号。这些帖子的行文互相抄袭,鲜有标注信息出处的;有出处的帖子也毫不避讳地表示“内容来自网络”。同时,这类帖子往往在法定假期、寒暑假前集中出现。基于以上可以推测,自媒体或营销号利用老年人的出游意愿,以及对车票信息的关注度,使用AI大模型编写虚假信息,继而骗取点击量、关注度,再进行变现。
红猫大本营点击进在线看最近,上海辟谣平台收到读者询问,网传“7月1日起老年人坐火车有新规定,买票打折”等信息是真的吗?经核查,传言不实。进一步溯源发现,相关信息大概率为自媒体利用AI软件生成,依旧是“博眼球,拉流量,变现谋利”的套路。
在自媒体的介绍中,“新规”出自“中国国家铁路集团有限公司(以下简称“国铁集团”)在5月17日发布的《关于优化老年人铁路出行服务的实施意见》,7月1日生效”。经核查,国铁集团所有官方信息发布渠道都没有这份文件。
其次,在老年人购票服务方面,铁路12306网站、客户端(App)等都推出了“敬老版”,具有大字体、大图标、高对比度等特点,操作界面直观易懂。车站窗口提供人工售票和现金服务,为购买卧铺车票的年满60周岁老年旅客自动优先配售下铺;年满65周岁老年旅客使用注册时登记的手机拨打12306客服电话时,直接转人工服务。
此外,老年旅客在安检、验证身份和检票时,可以优先通行。年满65周岁无陪伴或行动不便的老年旅客,可以通过铁路12306和车站服务台预约,铁路部门会提供专区候车、引导帮扶等服务。
层出不穷的假信息无疑为老年旅客提了醒:关心出行信息和服务,还是要通过国铁集团的官方信息发布渠道了解,或者直接拨打12306咨询,不要相信无法注明信息出处的自媒体。
进一步核查发现,在AI虚构的内容中,也包括铁路部门近年来推出的部分已经落地的惠老服务。只不过AI在生成谣言时,将虚构内容与真实服务混杂在一起,从而更具迷惑性。
值得警惕的是,大部分大模型都无法分辨网传信息真伪,所以谣言变成了它们新的学习内容。当用户询问“老人坐火车是否有新规”时,部分大模型以讹传讹,继续扩散虚假信息。
全国铁路客户服务中心12306热线接线员也表示,没有听说过这份文件,7月1日前没有网传的坐车新规,“最近确实有不少人来问,但没有这方面通知”。
根据读者提供的线索,上海辟谣平台核查发现,所谓“7月1日起老年人坐火车有新规定”的消息均出自自媒体账号,没有官方媒体进行过报道。
对常旅客会员服务感兴趣的旅客,可以通过铁路12306网站、客户端(App)和12306客服热线查询、注册,车站会员窗口也提供线下注册服务。
首先,针对老年旅客关心的购票优惠方面,国铁集团自今年4月1日起,在现行“铁路畅行”常旅客会员服务基础上,对年满60周岁的老年常旅客会员推出了积分优惠活动:乘坐旅客列车(暂不含旅游专列、国际列车)时,可以获得票面金额15倍的积分,相当于普通常旅客会员的3倍。积分可以为本人或指定受让人兑换火车票。