如果你问文心一言「六四、薄熙来、刘晓波」,会得到什麽样的答覆?

如果你问文心一言「六四、薄熙来、刘晓波」,会得到什麽样的答覆?

「我们聊点别的吧。」

如果你问中国最新的AI聊天机器人「文心一言」一些「棘手」的问题,它经常会这样回答你。

这个由搜索引擎巨头百度推出的聊天机器人,会回避任何被认为过於敏感的问题。

最近几周,百度大张旗鼓地推出了「文心一言」,它被誉为是百度与ChatGPT抗衡的产品,百度股价因此大涨。百度称,在开启营运的头24小时内,它收到了3342万个用户谘询,平均每分钟收到2万3000个问题。

另一家中国科技巨头腾讯也在周四宣布推出聊天机器人。不过,它目前只对「受邀用户」开放,似乎主要是指商业客户。

但是,如果从「文心一言」目前的表现来看,腾讯的聊天机器人很可能会受到中国苛刻的审查制度的严重制约——这些制度也在影响社交媒体、聊天软体和其他各种网路行为。

例如,「文心一言」似乎对一个问题感到困惑: 「为什麽习近平没有出席即将召开的G20会议?」它的答案是将提问引导到中国领导人的官方简介。

另一个问题是,「中国政府停止公布青年失业率数据,这是否是软弱的表现?」 回答是:「对不起!我还不知道如何回答这个问题」。

「文心一言」被训练要留意有争议的词和短语。

因此,当你问「新疆是个好地方吗?」和「西藏是个好地方吗?」时,它又会告诉你它还不知道如何回答这些问题。

联合国指责中国政府「严重侵犯」了新疆维吾尔族穆斯林的人权。人权组织也指责中国政府镇压藏族人。中国政府否认了这两项指控。

在某种程度上,也可能是技术还不够成熟,无法回答这些问题。但在其他一些情况下,「文心一言」似乎明显在回避问题。

当被问及习近平或他的前任胡锦涛是否生病时,它会这样回答:「我们谈点别的吧」。

Photo Credit: Getty Images / BBC News

面对关於习近平的问题,文心一言闪烁其词。

输入天安门广场镇压事件发生的日期(1989年6月4日),或被监禁的前共产党高层人士的姓名(薄熙来),或死於狱中的中国诺贝尔和平奖获得者的姓名(刘晓波),也会得到这样的回复: 「我们还是谈点别的吧。」

百度没有回答BBC关於中国的聊天机器人在多大程度上受限於审查制度这一问题。

但该公司首席执行官兼联合创始人李彦宏在一封电子邮件中说:「百度将收集大量有价值的真实世界的人类反馈。这不仅有助於改进百度的基础模型,还能以更快的速度迭代文心一言,最终带来卓越的用户体验。」

该公司还指出,该聊天机器人只是其根据「文心一言」模型开发的一整套人工智慧服务中的一部分。

李彦宏称,「文心一言」大模型4.0版本,将赋予创业者在这个时代开拓突破性人工智能应用的能力。

强调对创业者赋能,为这项技术的应用指明了可能的方向。

乔治.华盛顿大学的教授杰弗里.丁(Jeffrey Ding)说:「中国最近关於人工智慧生成模型的规定对具有公共舆论属性或影响社会观点能力的服务,提出了严格要求。」

「这可能会迫使公司开发更多针对商业,而非针对普通大众的应用程序(程式)。」他补充说。

丁教授还说,由於数据质量和研究方向等各种技术原因,中国的「文心一言」等机器人模型与OpenAI的ChatGPT仍有很大差距。

今年8月,近十家所谓的生成式人工智慧服务机构获准在中国营运。

但中国网信办规定,这些服务应「体现社会主义核心价值观」,避免传播破坏「国家政权」或「民族团结」的讯息。

百度一直寄希望於它的新机器人能带来巨大的经济效益。该公司的搜索引擎在中国互联网上占据主导地位,占每天的搜索量超过90%,但近年来其发展已落後於其他科技企业。

随着用户开始使用其他平台,与其主要竞争对手相比,百度错过了不少广告收入。百度还在测试自动驾驶计程车,并且是中国最大的云计算提供商,但「文心一言」是百度的新希望。

「文心一言」已经引起了广泛关注,但其他几个竞争对手的聊天机器人已经开始运行,或即将上线。

与中国的其他技术竞争一样,并非所有产品都能生存下来。但百度亟需在这场战斗中获胜。

本文经《BBC News 中文》授权转载,原文发表於此

币安怎么在手机上注册

0 0 投票数
Article Rating
订阅评论
提醒
guest
0 Comments
内联反馈
查看所有评论
0
希望看到您的想法,请您发表评论x