一段AI小猫视频的启示丨新民随笔
一不当心，就被AI骗了。
前不久，刷到一段小猫在跑步机上跑步的视频，一眼看去十分自然，没发现什么“破绽”。然而，往下翻到评论区，有“火眼金睛”者提醒，这是AI“作品”。线索之一是跑步机明明在快速运转，速度显示屏上却赫然为“0”。还有一条线索更明显——视频上其实一直漂浮着生成软件的水印，只是发布者不知有心还是无意，把视频以左右翻转的镜像方式发布，加上画质模糊，令不少人未能注意到水印。
这件事可以带来几个启示。其一，AI生成内容进步很快，与“真实”的距离恐怕已经越来越近。像上述这段视频，如果去掉“水印”这个明显提示，能被肉眼发现的破绽所剩无几。假使制作得再精细一点，或者技术再完善一些，可能就会骗过更多人的眼睛。实际上，就算停留在目前的技术水平上，也足够让很多人信以为真。毕竟，不是所有人都会追究视频的细节，即使是那些会追究的人，也很难保证对刷到的每张图片、每个视频都仔细观察。
其二，AI内容的标识很重要。比起让“观众”承担起判断真假的责任，从源头“亮明身份”显然更合理，也更有效率。还是以上述视频为例，虽然水印的显著度有所降低，但那些注意到水印的人，就能迅速判断这是AI生成。当下，《人工智能生成合成内容标识办法》已于9月1日开始实施，有媒体调查发现，在短视频平台上，仍有一部分AI内容既没有发布者主动声明，平台也没有识别并标识出来。
其三，被AI内容“骗”，后果可大可小。看不出一段小猫视频的真假，还无伤大雅，但如果与人们切身利益有关，就不同了。比如，前段时间台风“桦加沙”影响我国南部，有人通过AI技术制作出汽车被“五花大绑”的图片，看似“恶搞”，实则可能引发恐慌情绪；还有人通过AI技术制作虚假商品图，消费者收到才发现“货不对版”。
对AI内容的治理仍须紧紧跟上，让技术更多“造福”，而非“添乱”。