1 张 AI 图画借鉴 21 幅人类作品,最新反向搜索引擎要把 AI 老底揭穿了

1,023次阅读
没有评论

喂一张 AI 画的图,立马揪出它借鉴了哪些人类作品。

一次性溯源 20 多张图画的那种。

1 张 AI 图画借鉴 21 幅人类作品,最新反向搜索引擎要把 AI 老底揭穿了

这个反向搜索引擎,要把 AI 画画的老底给扒干净了。

它的目的很简单,为人类艺术家讨公道。

看网站名就懂得都懂了,Stable Attribution(稳定归因),与 Stable Diffusion(稳定扩散)相对应。

1 张 AI 图画借鉴 21 幅人类作品,最新反向搜索引擎要把 AI 老底揭穿了

点击任何一张溯源到的图片,就会出现一个可以提交来源及作者的对话框。

1 张 AI 图画借鉴 21 幅人类作品,最新反向搜索引擎要把 AI 老底揭穿了

网站表示,通过大家提交的原作信息,能够正视人类艺术家对于 AI 画画的贡献,并可能进一步按比例分配报酬,让人类艺术家和 AI 画画化干戈为玉帛。

在 Haker News 上,它一发布热度已经超过 700 points。

1 张 AI 图画借鉴 21 幅人类作品,最新反向搜索引擎要把 AI 老底揭穿了

网友们也表示认同:

这总比“一刀切”禁止 AI 生成内容好啊。

1 张 AI 图画借鉴 21 幅人类作品,最新反向搜索引擎要把 AI 老底揭穿了

一键给 AI 画图溯源

网站本身已经给出了一些示例,可以直接点击尝试反向搜索。

1 张 AI 图画借鉴 21 幅人类作品,最新反向搜索引擎要把 AI 老底揭穿了

比如一张看似真实的女人画像,可能是 AI 参考了多张人脸后合成来的。

1 张 AI 图画借鉴 21 幅人类作品,最新反向搜索引擎要把 AI 老底揭穿了

还能自己找一张 Stable Diffusion 生成的图片试试。

1 张 AI 图画借鉴 21 幅人类作品,最新反向搜索引擎要把 AI 老底揭穿了

我们用 Stable Diffusion 生成了一组雪景图,并拿第一张图测试了一下。

1 张 AI 图画借鉴 21 幅人类作品,最新反向搜索引擎要把 AI 老底揭穿了

Stable Attribution 给出的结果是酱婶儿的,即左边那列是它参考过的图片。

1 张 AI 图画借鉴 21 幅人类作品,最新反向搜索引擎要把 AI 老底揭穿了

但是也会有失败的案例,同样是一幅雪景,网站这一次却说搜不到结果。

1 张 AI 图画借鉴 21 幅人类作品,最新反向搜索引擎要把 AI 老底揭穿了

1 张 AI 图画借鉴 21 幅人类作品,最新反向搜索引擎要把 AI 老底揭穿了

原理上,官方表示目前 Stable Attribution 的算法是对 AI 生成的图像进行解码,从 Stable Diffusion 模型训练数据集中找到相似的案例。

而 Stable Diffusion 使用的是公开数据集 LAION-5B,所以寻找起来也不是很麻烦。

同时网站还声明,对于溯源到的图片,他们没有版权,而且也不会拿来训练模型。

背后公司名叫 Chroma,创立于 2022 年。主要业务是做嵌入式数据库、嵌入式搜索和嵌入式分析的开源工作,能为算法模型的训练、微调和使用提供支持。

现在已经得到了一些机器学习领域人士的投资,他们投过的公司有 Hugging Face、Replit 等。

主创团队有两个人,之前都有过科技大厂的工作经历。

Anton Troynikov 创业前是 Facebook Reality Labs(研究 AR / VR)的研究工程师,更早之前还做过 CV、软件等方面工作。

1 张 AI 图画借鉴 21 幅人类作品,最新反向搜索引擎要把 AI 老底揭穿了

Jeff Huber 之前是 Standard Cyborg 的联合创始人,这家公司的明星产品是 3D 打印义肢。

1 张 AI 图画借鉴 21 幅人类作品,最新反向搜索引擎要把 AI 老底揭穿了

目前公司还在大力招聘中。

网友:会不会有些夸大其词?

虽然想法很美好,但是也有不少网友指出,这个网站背后的原理真的可靠吗?

结果很令人满意,但似乎把问题太过简单化了,也曲解了 Attribution 的意思。

1 张 AI 图画借鉴 21 幅人类作品,最新反向搜索引擎要把 AI 老底揭穿了

这个网站认为,AI 生成的图片,一定不会存在于原本的训练数据集中。因此在数据集范围内找到一些和它非常相似的图,就可以被认为是“参考图”。

有人就指出,如果拿一张 1850 年的手绘图,它不是 AI 生成的,也不会存在于数据集中,网站是不是也会给出一些所谓的相似参考结果?

雀实,我们扔进去了一张表情包试了下,结果 emmm…… 它在瞎搞。

1 张 AI 图画借鉴 21 幅人类作品,最新反向搜索引擎要把 AI 老底揭穿了

也有人说,感觉网站提供的图像里,并没有包含 AI 生成图片的一些细节元素。

1 张 AI 图画借鉴 21 幅人类作品,最新反向搜索引擎要把 AI 老底揭穿了

官方也表示,目前算法中还存在很多需要优化的问题,比如训练过程中的噪声太多、训练数据中有很多错误和冗余。

但这些问题都能解决,他们也在想办法改进。

有网友也打算用长远的目光看这个事:

即便只是找相似结果,算不上 attribution,我认为这也是更好的。

1 张 AI 图画借鉴 21 幅人类作品,最新反向搜索引擎要把 AI 老底揭穿了

毕竟另一边,各路图片网站和 Stable Diffusion 的维权大战还在持续发酵。

最近,美版视觉中国 Getty 升级了法律诉讼,表示 Stable Diffusion 在未经过授权的情况下,使用了他们 1200 万张图片。

法律人士表示,相比于艺术家们提出的维权,Getty 这边的诉讼可能更有希望。

因为艺术家们提出的是 AI 画画对于职业的威胁,而 Getty 被侵权差不多是板上钉钉,之前甚至生成了打着 Getty 水印的图片。

但鉴于这种官司属于前所未有,所以结果很难预测。

1 张 AI 图画借鉴 21 幅人类作品,最新反向搜索引擎要把 AI 老底揭穿了

也有图片网站选择“打不过就加入”,和 OpenAI 一块搞了个 AI 图片生成器,并且对数据集做贡献的人提供补偿。

Stable Attribution 的态度是:AI 应该和所有其他技术一样服务于人类,我们不应该疏远它。

你怎么看呢?

One More Thing

u1s1,这个网站开屏动画做的还不戳,感兴趣的可以去玩玩~

1 张 AI 图画借鉴 21 幅人类作品,最新反向搜索引擎要把 AI 老底揭穿了

参考链接:

  • [1] https://www.stableattribution.com/?image=bd55373a-5d48-43cc-b077-673438780799

  • [2] https://news.ycombinator.com/item?id=34670136

  • [3] https://www.reddit.com/r/technology/comments/10vc9wo/getty_images_sues_ai_art_generator_stable/

本文来自微信公众号:量子位 (ID:QbitAI),作者:明敏

Read More 

正文完
可以使用微信扫码关注公众号(ID:xzluomor)
post-qrcode
 
评论(没有评论)
Generated by Feedzy