Show newer

#论文导读

大家是否会好奇,最近很火的AI画画是怎么学会画图的呢?

这就要涉及到两个方面了!一个是能生成出像“图”一样的数据(生成模型),一个是要听得懂我们想要它生成什么,并给出对应的结果(条件生成模型)。

首先来说说看如何生成出像图一样的东西!如果之前看过我写的GAN相关的文章:

blog.konata.co/?p=248

那么你应该能大致上猜到,一个生成模型先吞进大量的数据(巨量的人类真实图片),然后再学习这些数据的分布,去模仿着生成一样的结果。机器学习呢讲到核心无非就是这么回事,难点终究是在如何设计模型让模型能更好学到这样的分布上。

如果是VAE,那就是和原图计算差距,所以生成的结果总是比较模糊。而GAN因为引进了判别器,生成器的图片需要骗过判别器,被当作真实的图片,于是它生成的结果肉眼上看会更加逼真。但是GAN由于要训练对抗网络,实在是太不稳定了,面对吞噬了网络剧量数据的超大规模网络来说非常难以控制。这就是为什么现在的AI画画普遍使用另一个新潮的生成模型——diffusion model。

Diffusion model生成图片的过程看似很简单,其实背后有一套非常复杂的统计原理。复杂到我至今没看懂,所以我就先不写了。让我来解释一下简单的部分!

图一是diffusion model生成图片的过程。右边是一个正常的图片,从右到左做的事情是在逐次叠加符合正态分布的噪声,最后得到一个看起来完全是噪声的图片。由于每次加噪声只和上一次的状态有关,所以是一个马尔科夫链模型,其中的转换矩阵可以用神经网络预测。

从左到右做的事情是一步步去除噪声,试图还原图片,这就是diffusion model的生成数据过程(inference)。

那么为了达到去噪的目的,diffusion model的训练过程实际上就是要从带有高斯噪声的图片中还原图片,学习马尔科夫链的概率分布,逆转图片噪音,使得最后还原出来的照片符合训练集的分布。模型的loss使用极大似然估计来计算模型参数,将其问题转换为求解Variational Upper Bound,这部分和VAE类似,且我也没看懂,故略过不谈。

这个去噪的网络是如何设计的呢?我们可以从叠加噪声的过程中发现,原图和加噪声后的图片尺寸是完全一样的!(废话)于是很自然能想到用一个U-net结构(如图二)来学习。U-net是一个类似auto-encoder的漏斗状网络,但在相同尺寸的decoder和encoder层增加了直接的连接。以便于图片相同位置的信息可以更好通过网络传递。在去噪任务中,U-net的输入是一张带噪声的图片,需要输出的是网络预测的噪声,Groundtruth是实际叠加上的噪声。有了这样一个网络,我们就可以预测噪声,从而去除掉它还原图片。(带噪声的图片=噪声+图片)

这就是diffusion model生成图片的原理啦!是不是很简单呢!但是背后的数学推导我无论如何都看不懂呢,希望有人来教教我。

@mature

我以为的今天:羽生選手誕生日おめでとう
我实际的今天:感冒浑身无力裹成球瘫倒

秦老师谈自由时说争取自由的过程需要圣徒。而彭载舟、李康梦、李老师让我看到,“圣徒”更成为了一种精神,并且这种圣徒精神正在去中心化。

我们今天这个时代的“圣徒”不必须是甘地曼德拉那样的大人物,更有可能它的职能将由一个越来越壮大的群体来承载。未来的抗争就是这股平凡普通的力量。

李老师之“becoming李老师”的历程更让我比较明晰地看到:

➊即使在铁锅高压之下,一个普通人的良知也可能维护得如此完好,可能成长得如此迅速;

➋如多位年青象友的共鸣,正是铁拳的残酷压迫使岁月静好无处容身,温和的声音终将成长为抗争的力量。

注:“李康梦”这个名字并未确认是第一位举起白纸的南传女生,但容我以此代表白纸运动里的所有学生、所有人。

承认错误是绝对不可能的,不管怎么走都是伟大胜利。未成年学生教材上的傻逼文字只是共党的过家家游戏,但我们自己不能忘记。11.30还是后遗症一堆,12.1就是没后遗症,11月6号是广州面临抗疫三年来最严峻疫情,12月5日抗疫最困难时刻已经走过,你跟我说法治我都觉得好笑。

我to所有人:病了
所有人:covid?测了吗?
我:没有 测不测无所谓了真的

东欧人的长相真的蛮不一样……至于荷兰人……来前不知道为什么很多人一听荷兰就说帅哥多……而我从一开始就没有相信……荷兰人是一款……和口音一样很地气的长相……

Show thread

法语多邻国:我有小猫咪 我的亲爱小猫咪 你有小猫咪吗 小猫咪我爱你
韩语多邻国: 我要考公务员 公务员比公司职员好 他是公务员 前辈考上公务员了

但有些人并不以此为满足。
他们更进一步听到了雨水的溅洒声,
感觉冷冷的雨滴落在他们的颈上和背上,
他们注视着桥以及桥上的人们,
仿佛看到自己也在那儿,
参与同样无终点的赛跑,
穿越同样无止尽,跑不完的距离,
并且有勇气相信
这的确如此。

#维斯拉瓦·辛波斯卡《桥上的人们》

#CHATONLIVRE @reading

睡前啰嗦:
>室友断断续续感冒一周多了(没测)我还侥幸没事直到今天嗓子开始不爽利
(讨人厌的冬天!冬天)
>睡前看一个准备用到作业里的文章,讲upenn的一个研究,需要持续吹气的管乐器是否更容易传播covid病毒
分享时需要另起标题,我冷笑话基因冒出来准备写:blowin into the winds

b站现在不能直接在已上传的投稿下继续添加视频了吗,恼火,又要转移阵地了

獨立媒體 inmediahk.net正式登陸Mastodon。歡迎follow及boost。敬請捐款支持。

后面又抽了两场世界杯练手(日本和葡萄牙)
现在心情:我简直准得离谱

Show thread

开始冬日冲动:想买明年多特对切尔西的票了

然后最近是,由于有门课加上TA有三个波兰人了,开始对这个地方产生兴趣
(马上开始朗诵Auden 1939(毫无关系x

有段时间很浅地思考过为什么港台文学里的语句令我感觉更亲切,初步结论是本身成长过程里就和大陆那一整套语言系统有距离,反而更能体会处于飘摇与异乡状态中生长出的语境。

『「廢除道德警察」只是煙霧彈,伊朗當局仍在試圖鎮壓抗爭』
至今為止,伊朗政權除了在口頭上曾經釋放一些似有似無的溫和信號外,並無給出任何實質性的妥協。

:sys_link: theinitium.com/article/2022120

#theinitium #端傳媒

不过我看了一下伊朗目前tiktok上,不少女孩已经不戴头巾不穿黑袍。
想穿啥就穿啥在大街上走,我不会下载tiktok视频上传嘟嘟。
大家好奇可以去tiktok上看一下or推特也有人拍。

具体情形有待继续观察。

据伊朗当地民间女性反抗组织表示:
现在伊朗女性不少人就是想穿啥穿啥,有没有道德警察,有没有完全取缔都阻止不了她们。
现阶段伊朗关于女性佩戴黑袍头巾的法规依然没有取缔,但阻止不了女孩的穿衣选择。
就像美国联邦大法院实行堕胎禁令,但不少地方州我行我素保障女性堕胎,比如纽约和加州。其他联邦女孩也有自主权确定自己的身体选择。

结尾那个直播的伊朗女孩表示:等到光明重新照耀在波斯湾上,她们欢迎全世界女孩都来伊朗玩!她们会热情招待咱们👍!

祝福这些勇敢不屈的战士们🙏。

借用推特网友@hongqn 的话,“方舟子公开李老师私人信息这件事,超出做人应有的道德底线太多了。对方舟子路转黑。这件事应当成为方舟子在互联网世界落幕的标志,他已经不配拥有这么大的影响力了。” twitter.com/hongqn/status/1599

来自白纸革命东京站运营团队
现征集一些信息:
1.自四通桥事件以来,被捕/失踪的示威者(例:上海、广州被捕/失踪的白纸革命参加者)
2.因防疫次生灾害而丧生的市民的信息(例:乌鲁木齐高层公寓火灾)
投稿方式可以是私信,也可以发邮件给just.for.speical@gmail.com
投稿时请注意隐私安全,做好身份隔离(就是不要用带私人信息的邮箱来联络的意思)

我们将会把信息整合之后做入网站,一方面是起纪念意义,另一方面是给当局施压要求放人。
网站今明能上线,上线后将更新于此嘟评论区

Show older
CleverLibre Social

CleverLibre Social is an inclusive social instance for open discussion, learning, and community.
All cultures welcome.
Hate speech and harassment strictly forbidden.