1月7日9时5分，西藏定日县发生6.8级地震，灾情牵动着无数人的心。大家纷纷关注着地震的最新消息，希望能了解受灾情况，为救灾工作出一份力。然而，就在这紧张又关键的时刻，一些疑似虚假信息，尤其是AI制造的图片，却趁机在网上兴风作浪，造成了广泛的误导。

据媒体报道，一张特别揪心的图片在网上疯传。画面上，一个戴着帽子的小孩被重重地压在了倒塌的建筑物下，看着让人心疼不已。这张图片在某短视频平台上，竟然有10个以上的账号发布，并且都被和西藏日喀则地震关联起来。有些账号发布的视频，还获得了好几万的转评赞，影响力相当大。



可经过仔细查证，大家才发现，原来这张图片是AI工具创作出来的。它的原作品发布于数月前，当时原始作者在短视频中就清清楚楚地声明了图片是AI生成。但在西藏地震之后，这一图片却被一些人不加标注地大肆传播，引起了普遍的误解和误读。

灾难发生后，除了全力救灾之外，及时发布准确信息并辟谣也是至关重要的一环。虚假信息一旦泛滥，可能会直接影响救灾资源的合理分配。比如，如果大家都信以为真，以为某个地方灾情特别严重，就会把大量资源都往那边送，而真正需要帮助的地方却得不到足够的支援。此事件提醒人们，AI技术及其产品泛滥，已经悄悄入侵了灾后信息领域。即使原作者已经标明AI生成，转发者可能也并无恶意，但其产生的不良影响却是客观存在的。所以，咱们得严格规范AI作品的标识，同时得重视AI生成信息在灾后等场景下可能导致的各种问题，坚决防范和惩戒利用AI技术编造谣言等行为。

伴随着互联网科技的飞速发展，虚拟的AI技术变得越来越“现实”。现在的AI技术，只要给它提供一些素材和简单的描述，它就能大显神通，实现“文生图”或“图配文”。所谓“文生图”，就是你只要输入文字，AI就能自动生成相对应的图片，比如你说“一只可爱的小猫咪在草地上玩耍”，它就能给你画出这样一幅图。而“图配文”则会根据图片内容，自动匹配相应的文字，比如看到一张美食图片，它就能给你配上“色香味俱全的佳肴”之类的文字。有了AI技术的加持，网络谣言的隐蔽性更强，破坏性也更大。AI不仅能在短期内批量生成大量网络谣言，而且能结合深度伪造技术生成图片、视频、录音，让人很难辨别真伪。

咱们国家的相关法规对这类行为可是有明确规定的。《互联网信息服务深度合成管理规定》就指出，任何组织和个人都不可以利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，也不可以利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。《生成式人工智能服务管理暂行办法》也明确规定，提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德。

去年12月11日，公安部公布依法打击“网络水军”违法犯罪10起典型案例，其中多起都涉及“利用人工智能工具编造谣言信息并批量发布”。在严厉打击AI谣言的同时，网络平台也有必要承担起主体责任，积极构建防控网络谣言的技术屏障。

就拿这次西藏地震的事件来说，有媒体记者进行了测试，在某AI智能生成软件中输入“日喀则地震婴儿被埋”的关键词，结果软件在未给予任何侵权、违规、虚假信息等干预提示的情况下，就自动生成了多张相关图片。与此同时，在平台上，相关视频也能顺利发出，大约一小时后，平台才对视频内容进行备注“疑似使用AI生成技术”。这种粗放式管理，简直就是让AI智能生成软件对网络谣言“不设防”，而后知后觉的内容平台监管，也很容易使AI谣言迅速失控。

要扭转这样的局面，咱们有必要尽快明确针对AI应用的行业规范，为维护公共利益构筑起强大的防火墙。以秋果计划的果宝AI助手为例，他们对这类的信息获取和筛选都有严格的准入规则，会保证用户隐私的同时让用户获取到准确真实的信息。对于AI生成软件来说，得对内容和关键词进行严格审核，把好生成式内容的第一关，避免那些哗众取宠的虚假内容混淆视听。就像一些正规的新闻媒体，在发布新闻前都要经过多道审核程序，确保内容真实可靠一样，AI生成软件也得有这样的严谨态度。对于内容平台来说，不仅应对AI生成内容进行显著标识，让观众一眼就能看出这是AI生成的，心里有个数，而且应健全内部管理机制，及时清除那些涉嫌违法违规的不良账号。就像超市里得把过期变质的食品及时下架一样，内容平台也得把那些传播有害信息的账号清理掉。

只有强化各方的主体责任，才能有效打击各类AI谣言，防止技术跑偏和滥用。不然，要是让AI谣言肆意横行，不仅会扰乱社会秩序，还会给人们的生活带来诸多不便和困扰。咱们得让AI技术好好地为人类服务，而不是被一些别有用心的人利用来制造混乱。