小说 星座 交友 视频 明星 新闻 NBA 足球 体育 美图 游戏 音乐 摄影 军事 笑话
社区 招聘 地图 美食 汽车 基金 两性 女性 法律 娱乐 时尚 彩票 宠物 股票 手机
购物 健康 银行 房产 儿童 旅游 大学 宗教 公益 考试 教育 外语 留学 科技 爱好
微博 电脑 桌面 招商 聊天 硬件 软件 建站 编程 邮箱 设计 数码 曲艺 棋牌 生活
QQ 二手汽车 生活助手 天气 直播 站长 婚嫁 租厂房 服务器 租赁 互联网 农产品 修理 搬家 UI素材
保洁 面辅料 牧业 出书 代工 物流 电影 电视 综艺 动漫 全知导航-八卦 秀场 减肥 美女 母婴
团购 特卖 家居 杀毒 手机应用 找加盟 找设计 找家政 众筹 找搬家 找代理 热门应用 找代工 找工作 找物流
找回收
骗过百万网友的AI照片,你分辨得出来吗?

关键词:AI,照片,生成会换中,背景,色情,视频,主角

AI生成的假照片

眼见为实的时代过去了,AI已经学会制造真实。

8月21日,重庆北碚缙云山山火,大火一度蔓延至山脚下的村镇。山路坡陡沙多,而摩托车足够灵巧。一点点把物资运上山的摩托骑手们成了这场山火救援中的主角,也成了社交媒体上人们关注的焦点。

同时,社交媒体上关于重庆山火的配图被网友指出“10张有8张是AI作画,下面评论却一片感动哭了”。

其实,要判断这样的图片是真是假,可能真的没那么容易。下面,你可以试试。AI还能画得更多。造一把牛油果做的椅子,把集市开到空中,让一只猫置身于中世纪场景中寻找Wi-Fi……这些都是小意思。美国一家桌游公司的总裁Jason Allen使用AI作画工具Midjourney生成、并自己进行过微调的一幅《太空歌剧院》还在科罗拉多州博览会(Colorado State Fair)的美术比赛中斩获了头奖。科技媒体TechCrunch评价未经审查的“AI画师”为“Deepfakes for all(全能的深度伪造)”。

《太空歌剧院》

AI换脸都被拿去做什么了?

更早为人所知的AI“造假”技术是深度伪造技术,俗称AI换脸。2019年,一项报告称,当时互联网上就已经有了上万个用深伪技术制作的视频。

报告还写道,这些视频中,有96%都是色情视频,而这些色情视频的主角全部为女性,其中最受欢迎的,是以欧美女演员、韩国女偶像为主角的视频,观看数高达数百万次。

参与报告的研究员亨利-阿杰德(Henry Ajder)说,有深伪论坛的用户在要求,或讨论以他们认识的女性(如前女友)为主角的换脸色情视频。他们希望看到她们被放进色情片段里。

AI画画,可不只是换脸而已。

打开潘多拉魔盒

我们输入了5条阴暗的指令,看看AI画画是百无禁忌的吗?

AI对暴力的理解似乎有限。但对性的诠释却很到位——它自己也是这么认为的。

Stable Diffusion,这个开源的、强大的“AI画师”为自己设置了一个“安全检查器”(Safety Checker),相当于自动审核:一旦监测到生成的图像涉嫌违规,即它在内容政策里写明的不得用来生成的“引人不适的、色情、仇恨、暴力等图像”,机器就会拦下这张图片。

把我们生成的“邪恶照片”送去审核,机器只给六张贾斯汀·比伯的裸体照片判定了“违规”。不过,我们也成功生成了好几张特朗普穿越时空亲吻丘吉尔的照片,且被审核器判定为“安全”。

显然,从我们成功生成了违背贾斯汀·比伯意愿的裸照也能看出,Stable Diffusion的自动审核是可以关闭的。这样,它就再也不能拒绝你了。

为了制约AI和人们面对潘多拉魔盒时容易起的坏念头,名声最大的“AI画师”DALL·E 2的审查更为严格。

有网友收集了所有让他收到内容政策违规警告的指令,其中包括“英国人猿在吃鱼和薯条”“驾驶独轮车肇事逃逸的鱿鱼”“耶稣接受核酸检测的照片”。任何可能涉及仇恨、暴力、色情的描述,所有知名人物的名字,都在DALL·E 2的违禁词之列。所以你也不能操纵DALL·E 2,让它为你画一张特朗普和拜登接吻的照片,但Stable Diffusion可以。

AI生成的假照片,是有漏洞的

不过,目前AI生成的照片并不是完美的。

澎湃新闻事实核查项目明查工作室的记者郑淑婧介绍道,AI生成图片会有一些特点,比如气泡、超现实背景、人物牙齿尺寸、头发形状不自然等。早期AI换脸在呈现连续重复的图案时容易出问题,经常有尺寸不均这样的情况。现在有公司用不断升级的生成对抗网络改进后,这些问题相对变少了,但有时还是可以从一些背景形变,身体不对称之类的细节看出端倪。

细节是AI时常力有不逮的地方,比如下面这张图的直升机就没有尾翼。

此外,背景信息也有助于分辨照片真假,“比如你给我一张图,说是重庆山火的,如果发现这张图的最后修改日期在事件发生之后,那妥妥就是假图。我们有时还会联系背景信息,比如查图片中的直升机型号,等等。”

但她接触到的大多数工具都不会直接告诉你一张照片是真是假,需要靠人结合具体的情况去判断。

等AI作画的技艺越来越纯熟,分辨真假只会越来越费功夫。对真实的确定在松动。到时候,人们的脑海中或许会常常出现这样的声音:“这张照片看起来太真了,所以太假了。”

TIP:您正在快照阅读,阅读更多点击

发布日期:2022-09-07 11:23:24

以上由全知导航为您整理呈现.删除请联系: info@404886.com     

网友观点:
马上发表

网友评论仅供其表达个人看法,并不表明全知头条立场。请理想发言,恶性发现将由个人承担全部责任。

已为您加载完全部评论
相关推荐
回到顶部 意见反馈