世界观焦点:科大讯飞百度因生成式AI战火升级 争议背后仍有谜团待解

5月24日晚,对于科大讯飞股份有限公司将股价大幅下跌归因为“某生成式AI散布不实消息”一事,百度文心一言负责人回应称,“先别说小作文这事真假(目前看来只怕是策划痕迹太重),如果AI作文有这本事,百度员工自己先炒一下自己股价不香吗?”


(资料图片)

不过,在双方企业的交手过程中,其实有很多谜团待解,这其中包括AI生成的有关科大讯飞风险的内容是否属实?判断属实与否的标准是什么,如果是虚假内容,这与科大讯飞被造成的损失是否有直接关系?如果有直接关系,谁要为不实言论造成的后果负责?

公开资料显示,百度和科大讯飞均已发布AI大模型,前者于今年3月16日发布,产品名称为“文心一言”,后者于5月6日发布“讯飞星火认知大模型”。

生成式AI散布不实消息使股价“跳水”?

5月24日午后,科大讯飞股价跳水,最低下跌9.46%至53.5元/股。截至收盘,科大讯飞报收每股56.57元,跌4.26%。

之后,公司对媒体回应称,股价下跌系某生成式AI写作虚假小作文导致,谣传风险为不实消息。

据媒体报道,科大讯飞所说的某生成式AI写作虚假小作文源于市场上热传的有关科大讯飞的文章。该文为《一篇科大讯飞出现重大风险的警示文》。文中指出,近期,科大讯飞被曝涉嫌大量采集用户隐私数据,并将其用于人工智能研究。这一行为严重侵犯了用户的隐私权,引发了公众的强烈不满和抵制。这一事件可能对科大讯飞造成巨大的损失,公司可能面临市场份额的下降、销售额的减少以及未来发展的不确定性等问题,科大讯飞遭遇的这场重大风险给整个行业敲响了警钟。

消息流出后引发广泛关注,收盘后,科大讯飞在互动平台回应称:“使用大模型编造虚假信息属于违法行为,将受到法律制裁。对于恶意抹黑、捏造虚假信息,损害我司名誉权的机构或个人,公司会借助法律武器保护公司和投资者利益。”

针对科大讯飞将股价下跌归因于某生成式AI写作虚假小作文的言论,百度文心一言市场部负责人张全文当晚发朋友圈回应道,“听闻有友商把自己股价大跌,归咎于有人利用文心一言写了篇命题小作文,也是醉了。先别说小作文这事真假(目前看来只怕是策划痕迹太重),如果AI作文有这本事,百度员工自己先炒一下自己股价不香吗?”

张全文还直言,中国发展自己的大模型技术挺不容易的,把精力放到正事上,请友商解决好自己的问题,别动不动就碰瓷别人。他还表示对于无端的恶意抹黑污蔑,将采取法律措施。

旗下产品曾因侵害用户权益行为被通报

值得留意的是,对于网传“科大讯飞被曝涉嫌大量采集用户隐私数据,并将其用于人工智能研究”的AI生成文章,虽然科大讯飞对内容进行了明确的虚假认定,但是在2109-2022年,科大讯飞旗下的产品,以及入股其他公司的产品都曾因侵害用户权益而被工信部通报。

2019年7月,工信部发布的《2019年一季度用户个人信息保护检查发现问题的互联网企业名单》显示,科大讯飞存在“未告知用户个人信息收集、使用规则”和“未告知查询、更正信息渠道”的问题。

2020年7月,在当年的第三批通报中,工信部网站通报了58款侵害用户权益行为的手机APP,科大讯飞股份有限公司旗下APP“讯飞有声”,一款文字秒转语音的应用,版本为2.3.30.35,版本来源为应用宝,涉及问题为信息私自共享给第三方。

2022年8月,工信部组织第三方检测机构对群众关注的酒店餐饮类、未成年人应用类等移动互联网应用程序(APP)及第三方软件开发工具包(SDK)进行检查,对发现存在侵害用户权益行为的共227款APP(SDK)提出整改要求,彼时尚有47款APP(SDK)未按要求完成整改,其中有一款名称为“和苗儿童手表”APP,应用开发者为安徽淘云科技股份有限公司,所涉问题APP强制、频繁、过度索取权限。

《中国网财经》当时报道称,据天眼查显示,“和苗儿童手表”APP开发者安徽淘云科技股份有限公司是一家专注“AI+儿童”的国家级高新技术企业。该公司大股东为科大讯飞股份有限公司,持股比例25.29875%;最大的个人股东刘庆升持股比例18.22875%,刘庆升同时担任安徽淘云科技股份有限公司董事长。公开信息显示,刘庆升是科大讯飞董事长刘庆峰的弟弟;个人股东谢信珍持股比例3.16238%,个人股东胡国平持股比例3.16238%,两人均在科大讯飞旗下公司任职。

谁应为AI生成的虚假内容负责?

科大讯飞在投资者互动平台上提到,公司高度重视企业信息安全及个人隐私信息保护,将信息安全管理作为公司发展的重要支撑战略之一,并建立了完善严格的信息安全和隐私保护体系。竭力保障公司信息及用户的安全权益。公司于2017 年通过ISO27001 信息安全管理体系认证,2020 年,又在此基础上通过了ISO27701 隐私安全体系认证。

科大讯飞还表示,使用大模型编造虚假信息属于违法行为,将受到法律制裁。当前已有刑事案例。

据悉,《互联网信息服务深度合成管理规定》中明确表示,深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。转载基于深度合成服务制作发布的新闻信息的,应当依法转载互联网新闻信息稿源单位发布的新闻信息。

值得留意的是,在这件事情背后,仍有许多困惑待解,例如科大讯飞产品过度收集用户隐私的消息是否属实?文心一言生成的有关科大讯飞风险的内容是否属实?判断前面两项属实与否的标准是什么,如果是虚假内容,对科大讯飞造成的损失是否有直接关系?如果有直接关系,谁要为虚假消息带来的负面影响负责?

针对这些问题,网经社电子商务研究中心特约研究员、上海汉盛律师事务所高级合伙人律师李旻律师从三方面向财经网科技进行了分析:

第一,科大讯飞产品是否过度收集用户隐私需要进行更详细的调查和核实,目前同样未存在任何官方报道或确实证据。科大讯飞作为提供人工智能技术和语音识别等相关产品的公司,确实是需要大量的数据进行计算及分析,但是这不能想当然地认为是科大讯飞通过过度收集用户隐私实现的。

第二,关于文心一言生成的有关科大讯飞风险的内容是否属实,需要对具体内容进行评估。判断其真实性通常需要参考多个信息源、权威机构的认可以及事实核实。虚假或不准确的内容均有可能对公司的声誉和股价产生负面影响,当然我们认为这个影响是多方面因素造成的。

第三,如果有虚假内容导致科大讯飞遭受损失,责任需要根据具体情况来确定。虚假内容虽然是由文心一言的算法生成的,但是不代表百度就需要对谣言负责,首要的追责人员应当是发布和散播谣言的人,至于百度是否追责,则在于整个事件中,百度公司是否存在过错或过失。

第三,科大讯飞股价“闪崩”与百度文心一言之间的直接因果关系尚未得到确认。尽管有传闻称百度文心一言发布了一些关于科大讯飞的负面信息,但目前尚未有官方报道或切实证据证明该负面信息的来源,也无法确认是否是这些信息直接导致了科大讯飞股价的下跌。金融市场的股价受多种因素的影响,包括市场风向、公司财务状况、行业竞争等。

上海大邦律师事务所合伙人游云庭律师在接受媒体采访时表示,虽然内容是人工智能生成的,但生成这些内容并且传播的人才是真正的责任者,他们应该就对上市公司造成的名誉侵权承担主要责任。

游云庭律师还强调,根据《互联网信息服务深度合成管理规定》第17条,深度合成服务提供者提供的服务可能导致公众混淆或误认的,应当在生成或编辑信息的内容的合理位置区域进行显著标识,向公众提示深度合成的情况。如果服务提供者没有向使用者提供这一提示,可能服务商也要承担一定的责任。

关键词: