文/蒋菁

(资料图片)

编辑/靖程

无论是爆火的ChatGPT，还是AI绘画、AI聊天等，都让人看到了未来更多的可能性。但在蒸蒸日上的表象之下，也存在很多阳光无法照射到的阴暗之处。

眼见未必为真AI以假乱真

近期以来，微软、谷歌、英伟达、Adobe等全球多家科技巨头，都不约而同地发布或开放其生成式AI新技术，但AI在帮助人类处理事件的同时，也会被利用来戏弄大众。

近日，互联网上流传多张美国前总统特朗普被捕的照片，在其中一张图片里，特朗普在前面跑得气喘吁吁，执法人员在后面紧追不舍。但其实，这些图片都是由AI生成，并不是真实发生的事情。

能够“以假乱真”引起大众关注的不止特朗普，还有特效师洪某。近日，洪某在某短视频平台将女明星迪丽热巴电视剧中激吻镜头中的男主角，替换为自己。该视频引发争议，随后洪某在抖音中晒出自己被女明星粉丝抓伤了脸。

多位专家都曾对澎湃新闻指出，洪某的这种行为“已经超出了正常的容忍范围”，是典型的侵权行为。具体涉及侵犯肖像权、名誉权、人格权。

如果上述两起事件仅仅是引起热议，那么近日一女子在地铁上的照片被AI“一键脱衣”并在公共空间大肆散播，则对社会公序良俗造成了巨大影响。针对此事，后相关方出面澄清，受害女士是一位博主，照片是去年分享在某社交平台的，没想到被不法分子用AI软件合成了淫秽图片四处传播，目前正搜集证据准备维权。

北京社科院研究员王鹏对财经网科技指出，一键脱衣、换脸亲吻都是技术带来的相关问题。一方面技术的确给我们生活带来了很多便利，但也带来非常多问题，这集中表现在：第一，相关的开源软件、工具在应用的过程中没有做好第三方监管；第二，相关个人素质低劣，恶意传播，同时也侵犯了他人的名誉以及隐私等合法权益；第三，相关自媒体不明真相开始传播，造成了恶劣的社会影响，出现了相关的负面信息。

AI让作恶成本更低

3月17日，一名女生发帖称，苏州大学2019级学生赵某某多次盗用多名女性图片，P图后将照片发在色情网站，并对涉事女性进行侮辱、造谣。该帖发出后，受到广泛关注。

3月19日，苏州大学发布“学生恶意P图侮辱女性”事件的通报，称经调查核实，该校学生赵某某违法行为属实，公安机关已作出行政处罚决定，依照学校相关规定给予该生开除学籍处分，后续将按程序办理。

上起事件与AI造谣相比，更直观展示了AI作恶的可怕所在。一方面，以前或许还需要动手P图，而现在一键生成便能为谣言打开方便之门，造谣成本迅速拉低。另一方面，在网络的匿名和AI的加持之下，造谣源头更加难以追溯。

财经网科技留意到，目前在短视频和社交平台上，有不少网友都会利用换脸小程序等进行自娱自乐，有的还会男女身份互换。不过，也有博主并非出于自愿，在某短视频平台上，一位博主声称自己的脸被换到别人身上，且后者还跟很多品牌进行合作，她感觉自己受到了很大影响，希望对方删除视频并向她道歉。

对方对此事回应称，自己没有接过推广，且认为错在AI换脸软件。自己是因为AI换脸好玩所以买了某APP的会员，而软件里明确说明了里面一切视频和原博主签了协议有版权，让用户放心使用不存在版权问题。

在某社区种草APP上面，财经网科技发现，有博主在用AI换脸接订单，其中视频换脸按秒计算，每秒为120元。从该博主发来的短视频案例来看，一名主角的脸被换成了近日大火的演员张颂文的脸，看上去并无违和感。

当被问及能否接不可描述的小视频时，对方回复表示：“触法的没法干”，并要求看是什么类型的短片。而被问及“将电视剧里有亲密镜头的换成自己的”“尺度稍微大点”是否可行时，对方回复称那可以，并表示不会泄露客户隐私。

王鹏告诉财经网科技，AI换脸、一键脱衣相关工具对于开发者来说难度并不大，相比ChatGPT等深度人工智而言，差距还是很明显。这类小工具开发成本低，技术门槛也不高，总体已经发展到非常成熟的阶段，的确让作恶的成本更低。

天使投资人、资深人工智能专家郭涛对财经网科技表示，随着AI深度合成和深度伪造技术的日渐成熟，深度伪造视频、音频、图像、生成文本等技术门槛大幅降低，出现大量“一键换脸”、“一键脱衣”等灰色软件程序，让AI作恶门槛几乎为零。

如何遏制AI乱象

利用AI制造乱象，并在公共空间大肆散播，乃至添油加醋“造黄谣”，如此行为已然突破道德底线、也践踏了法律红线。

郭涛认为，AI深度合成和深度伪造技术一旦被滥用，将会造成巨大的安全风险与实质性危害，给个人、企业造成肖像、名誉等人格和财产权益损害。国家有关部门要进一步建立健全法律法规，加大监管和处罚力度，提高违法成本；平台加强技术和审核手段，从源头上切断侵权内容传播渠道。

王鹏也指出，利用AI作恶各方面都有责任，首先作恶者是承担责任的主体，对其要实施相关法律法规，要有惩处力度，同时在道德上也要进行谴责；其次，相关技术平台应该有监管和审核；另外，营销号为了博人眼球不辨真假传播，违法违规造成伤害的要追究其刑事和民事责任，同时处罚要列入诚信记录。

萨摩耶云科技集团首席经济学家郑磊指出，对于人工智能产生的一些副作用，应该是社会各界人士关注的重点，这涉及到人工智能研究和应用所涉及的伦理问题。AI本质上只是技术和工具，而如何运用AI是一个社会性问题。

“伦理规范是特定社会制订的所有人必须遵守的基本行为规则，任何人不得以任何技术和工具去做违反了这些行为准则的事情，否则即应受到社会谴责，触犯法律则交由司法机关进行惩处。对于人工智能的应用必须依据制订科技伦理，使其开发和应用被限制在伦理和法律边界之内。对于暂时无法确定但现实风险较高的人工智能应用可以暂时叫停，直到各界达成共识并做出最终判定。”他对财经网科技表示。

不仅是AI换脸和一键脱衣，更多AI技术也在引起人们深层的关注。近日，马克思就和1000多名人工智能专家签署联名信，呼吁暂停训练比GPT—4更强大的人工智能系统至少六个月，理由是这种系统对社会和人类构成潜在风险。

自娱自乐、恶作剧之外，AI技术越发成熟，未来或许会让造谣、作恶的成本变得更加低。

正如有人所言，毁掉一个人其实很简单，只需一张照片、一句话、一件从没做过的事，甚至不需由头和证据，而被伤害的人需要拼命去证明，这会影响到他交朋友、找工作等一系列事情。“不管后来再怎么解释，谣言就像离弦的箭，再也收不回。”

关键词：