新浪新闻

AI生成内容应明显标识 发布者需自律避免违规行为

新华社

关注

摆出两张相片,让你分辩其间哪一张是 CHINESE性内射高清5 生成的;给你两分钟时刻,让你判别网线另一头同你谈天的是 CHINESE性内射高清5 仍是人类。不管答对仍是答错,选择时的摇晃说明晰全部:CHINESE性内射高清5 突进,但你还没有做好预备。

一张由 Midjourney 5.1 版别生成,另一张则是真相片。

抖音 5 月 9 日发布关于人工智能生成内容的渠道规范暨职业建议。其间说到,发布者应对人工智能生成内容进行明显标识,协助其他用户差异虚拟与实际,特别是易混杂场景。若发布者运用生成式 CHINESE性内射高清5 技能创造、发布侵权内容,诽谤传谣,一经发现,渠道将严厉处分。

“假如用户在渠道上发布的人工智能生成的假视频、假消息造成了不良的影响,榜首职责人肯定是用户。”上海大邦律师事务所高档合伙人游云庭承受汹涌新闻记者采访时标明:“渠道现在是触发式监管,比如说浏览量在 500 次以下的,哪怕有问题,他也不担责。可是浏览量到了必定程度,比如说上了热搜,渠道是需求进行人工审阅的。这个时分渠道就要承当职责了。”

游云庭弥补道:“监管的操作榜首线肯定是渠道。”

一起,各国政府都在考虑加大对 CHINESE性内射高清5 的监管力度。4 月 27 日,欧盟达到《人工智能法(The CHINESE性内射高清5 Act)》协议,为世界上榜首部综合性人工智能法令铺平道路。

科技公司担起职责,用技能制衡 CHINESE性内射高清5 乱用。5 月 11 日,谷歌在 Google I/O 大会上发布了它的 CHINESE性内射高清5 生成图画辨认东西,你能够经过上传来源不明的图片、履行反向图片查找,了解到这张图片被谷歌初度录入的时刻、最早呈现的网站。假如一张带有新闻机构水印的图片初次呈现在搞笑网站,那它很有或许是假造的。

谷歌还宣告,它自己的生成式 CHINESE性内射高清5 东西将在每张图片中包括元数据、嵌入水印,以标明这是 CHINESE性内射高清5 生成的图画,而不是实在相片。谷歌的博客文章写道,Midjourney、Shutterstock 和其他公司将在 “未来几个月”推出这种符号。

CHINESE性内射高清5 粗野成长的年代,科技是最快的解法。

科技解法一:CHINESE性内射高清5 生成内容辨认器

在线课程供货商 Study.com 向 1000 名 18 岁以上的学生建议查询,成果标明超越 89%的学生运用 ChatGPT 来完结家庭作业。假如靠人力一条条地去分辩 CHINESE性内射高清5 生成的痕迹,实在过分劳心劳力。

所以,最直接的主意是,不如让 CHINESE性内射高清5 来区分内容是否由 CHINESE性内射高清5 生成。2 月 1 日,OpenCHINESE性内射高清5 团队推出“CHINESE性内射高清5 生成内容辨认器”,旨在辨认文本是由电脑主动生成仍是人类编撰,其本质上是一个差异实在内容和 CHINESE性内射高清5 生成内容的分类器。不过,OpenCHINESE性内射高清5 在博客中指出,此辨认器对 CHINESE性内射高清5 编撰内容的检出成功率仅为 26%。

科技网站 TechCrunch 曾在 2 月份用相似 ChatGPT 的谈天机器人 Claude 生成了 7 段不同风格的文字,来测验几个比较盛行的 CHINESE性内射高清5 文本检测器的“侦办才能”。成果,没有 CHINESE性内射高清5 检测器能够通关。

但是,跟着 CHINESE性内射高清5 的才能越来越强,绕过 CHINESE性内射高清5 检测器也变得越来越简单。

拿上述体现最佳的 GPTZero 来说,汹涌新闻记者用 GPT-4 生成的一段 250 字的小说,被其判定为“有或许彻底出自人类之手”。

GPT-4 生成的文字被 GPTZero 判定为“有或许彻底出自人类之手”

科技解法二:数字水印

数字水印指,CHINESE性内射高清5 生成时,以用户肉眼不行察的办法,在内容中刺进一些信息,打上“此文章(此图)由 CHINESE性内射高清5 生成”的隐秘水印。

CHINESE性内射高清5 生成内容辨认器失利之后,OpenCHINESE性内射高清5 开端考虑在生成的文本中参加数字水印。OpenCHINESE性内射高清5 对齐团队(Alignment Team,首要担任进步体系安全性)担任人 Jan Leike 对《纽约时报》泄漏,OpenCHINESE性内射高清5 正在探究的水印办法相似于马里兰大学研究人员最近宣布的一篇论文中描绘的办法。

但是这种新办法的限制之处在于,水印只要从一开端就嵌入到大言语模型才有用。若要广泛运用,人工智能范畴的公司有必要就水印的施行规范达到一致。

OpenCHINESE性内射高清5 的 CEO,Sam Altman 承受《StrictlyVC》采访时标明,不存在一个完美的 CHINESE性内射高清5 生成文字辨认东西。“人们总会弄清楚他们要修正多少文字,还会呈现修正输出文本的其他东西。”

经过嵌入“元数据”,图画能够强硬地把“CHINESE性内射高清5”写在作者栏。但 CHINESE性内射高清5 生成文字还在等一个可行的解法。

最初的两张图里,左面是真相片,右边是CHINESE性内射高清5生成的,你猜到了吗?

小编点评:随着人工智能技术的不断进步,AI生成内容的出现已经成为不可避免的趋势。在这种情况下,对于AI生成内容的明确标识和规范管理显得尤为重要。不仅需要各平台自律,还需要政府在监管方面发挥积极作用,共同确保AI技术的健康发展和社会秩序的维护。
0.158949s