喂一张 AI 画的图,立马揪出它借鉴了哪些人类作品。
一次性溯源 20 多张图画的那种。
这个反向搜索引擎,要把 AI 画画的老底给扒干净了。
它的目的很简单,为人类艺术家讨公道。
看网站名就懂得都懂了,Stable Attribution(稳定归因),与 Stable Diffusion(稳定扩散)相对应。
点击任何一张溯源到的图片,就会出现一个可以提交来源及作者的对话框。
网站表示,通过大家提交的原作信息,能够正视人类艺术家对于 AI 画画的贡献,并可能进一步按比例分配报酬,让人类艺术家和 AI 画画化干戈为玉帛。
在 Haker News 上,它一发布热度已经超过 700 points。
网友们也表示认同:
这总比“一刀切”禁止 AI 生成内容好啊。
一键给 AI 画图溯源
网站本身已经给出了一些示例,可以直接点击尝试反向搜索。
比如一张看似真实的女人画像,可能是 AI 参考了多张人脸后合成来的。
还能自己找一张 Stable Diffusion 生成的图片试试。
我们用 Stable Diffusion 生成了一组雪景图,并拿第一张图测试了一下。
Stable Attribution 给出的结果是酱婶儿的,即左边那列是它参考过的图片。
但是也会有失败的案例,同样是一幅雪景,网站这一次却说搜不到结果。
原理上,官方表示目前 Stable Attribution 的算法是对 AI 生成的图像进行解码,从 Stable Diffusion 模型训练数据集中找到相似的案例。
而 Stable Diffusion 使用的是公开数据集 LAION-5B,所以寻找起来也不是很麻烦。
同时网站还声明,对于溯源到的图片,他们没有版权,而且也不会拿来训练模型。
背后公司名叫 Chroma,创立于 2022 年。主要业务是做嵌入式数据库、嵌入式搜索和嵌入式分析的开源工作,能为算法模型的训练、微调和使用提供支持。
现在已经得到了一些机器学习领域人士的投资,他们投过的公司有 Hugging Face、Replit 等。
主创团队有两个人,之前都有过科技大厂的工作经历。
Anton Troynikov 创业前是 Facebook Reality Labs(研究 AR / VR)的研究工程师,更早之前还做过 CV、软件等方面工作。
Jeff Huber 之前是 Standard Cyborg 的联合创始人,这家公司的明星产品是 3D 打印义肢。
目前公司还在大力招聘中。
网友:会不会有些夸大其词?
虽然想法很美好,但是也有不少网友指出,这个网站背后的原理真的可靠吗?
结果很令人满意,但似乎把问题太过简单化了,也曲解了 Attribution 的意思。
这个网站认为,AI 生成的图片,一定不会存在于原本的训练数据集中。因此在数据集范围内找到一些和它非常相似的图,就可以被认为是“参考图”。
有人就指出,如果拿一张 1850 年的手绘图,它不是 AI 生成的,也不会存在于数据集中,网站是不是也会给出一些所谓的相似参考结果?
雀实,我们扔进去了一张表情包试了下,结果 emmm…… 它在瞎搞。
也有人说,感觉网站提供的图像里,并没有包含 AI 生成图片的一些细节元素。
官方也表示,目前算法中还存在很多需要优化的问题,比如训练过程中的噪声太多、训练数据中有很多错误和冗余。
但这些问题都能解决,他们也在想办法改进。
有网友也打算用长远的目光看这个事:
即便只是找相似结果,算不上 attribution,我认为这也是更好的。
毕竟另一边,各路图片网站和 Stable Diffusion 的维权大战还在持续发酵。
最近,美版视觉中国 Getty 升级了法律诉讼,表示 Stable Diffusion 在未经过授权的情况下,使用了他们 1200 万张图片。
法律人士表示,相比于艺术家们提出的维权,Getty 这边的诉讼可能更有希望。
因为艺术家们提出的是 AI 画画对于职业的威胁,而 Getty 被侵权差不多是板上钉钉,之前甚至生成了打着 Getty 水印的图片。
但鉴于这种官司属于前所未有,所以结果很难预测。
也有图片网站选择“打不过就加入”,和 OpenAI 一块搞了个 AI 图片生成器,并且对数据集做贡献的人提供补偿。
Stable Attribution 的态度是:AI 应该和所有其他技术一样服务于人类,我们不应该疏远它。
你怎么看呢?
One More Thing
u1s1,这个网站开屏动画做的还不戳,感兴趣的可以去玩玩~
参考链接:
-
[1] https://www.stableattribution.com/?image=bd55373a-5d48-43cc-b077-673438780799
-
[2] https://news.ycombinator.com/item?id=34670136
-
[3] https://www.reddit.com/r/technology/comments/10vc9wo/getty_images_sues_ai_art_generator_stable/
本文来自微信公众号:量子位 (ID:QbitAI),作者:明敏