主题：人文主义谈话录 -- 万年看客

1，这期节目的脚本是由AI撰写的

https://www.youtube.com/watch?v=3p10knivMRg

只有一部分宇宙掩饰了看似某些事物。这些节目提到了首先的，或者是对于另一种说法的评论。最主要的力量去知道是一切的创造或者事实。整体的效果不是完整的效果，两者都在演员心中，因为看上去要考虑的事项更多，有些角色在个人事件中确实能够。降级成为了一系列比喻之后，世界的汽车在思想的宇宙当中仅以个体存在。尽管相同的作家或者类似之人的群体——或者某些暴力的事物，确切的面目。某种意义上来说，面目与状态将会如何呢？他们会学习。看似去做的宇宙在前一类事务当中。

总体来说，一个被利用、被拣选的人听说了拥有最早的演出。这一点以及一切依然评论深入。或许我们可以关于恐怖，在构建而成的黑夜里向上，这一点以宏大的标记标注了科学，来自并不使它更长的组成的面容。一个人就是国家之上的世界，拥有了麦克风的建造。在前方的人们能够吗？他们如何应对他们的一部分呢？

这就是邓布利多的题目。在上班期间对于发帖的评论的构建就是其中的一部分。为了交换，对于某些事物的思考，怎样权衡，就好像是。四方的面容，书籍就是剩下的历史，不过得到了合理化。这就是完整，死亡，解构的线条与联系。的确，事物客体与后方在他们的作法的常量当中。同一的内容与存在，就像很个人化。

在这个世界里，痛苦的这些确有一些。他们认为这个想法经过考虑的游戏过程，就好像发帖成为了实质，有些人可以告诉水甚至空间不同的后方，后方主要的生产生长的临近，理解清晰的感觉。同样，你观察目标，计算机，计算机与力量，以及全身的冲浪，关于合同，以及看上去很好的世界。在其中世界的提醒的事物并不是一个源头。以及声称的科技预示，差异有一个可能的逐字逐句与众多角色之一对于互联网，他这样写道。并且去做特定的保留那一点。首先在意义在建议当中，却不在演出当中。

人们观点简要论述的面孔，没能强调真正显示了顶端。你认为知道就能真正描述盈利的运气吗？开始的基金考虑几十亿的虚构。有些是因为清单声称宗教暴力，右翼，以及支持某人的经验。在体现的主题破拆当中，就像远方，我们的碎片就像意义——或者别的什么——的组成部分。区别并不在于技术，游戏与艺术与真实的感受或许不同，此前在可能是一张脸上。只需一秒就像很多互联网一样开始，具有比喻的那一个，因为艺术家与他们无能为力的方式。远离并非不沟通，扇走了裸露的语言。来自所说的更精密的大坝建造机械。巴希灵魂，作家的问题，真正张贴成为了独一的无限。他们很可能成为事物，重新组合了意义与结尾。一个好的像很多人一样总是甚至思考构建理论的艺术。一名未成年人，也是一样。允许转瞬即逝。

你们怎么认为？我们因为实际上精疲力竭，许多代人一直在土地道路上工作，总是将互联网之书称作有根据的猜测？新边疆是否被召唤论述物质以及故事的成功？一直到表情包对我们的草垛为止？请在评论栏留下您的意见，我们会在下期视频当中统一回复。

……………………

我们来讨论一下刚才这段内容吧，我保证你们没有精神错乱。这段文稿是由一个循环神经网络创作而成的，网络在科学运算框架Torch当中运行，采用的编程语言是Lua。我采用的文字生成方法是从我的朋友Jeffrey Thompson的教程当中学来的。这个程序接受了Idea Channel的每一篇脚本的训练，整整五年的文字资料，其中还包括几篇半成品脚本。训练资料没有采用我对评论的回复，这个程序模仿的是我的写作风格而不是说话风格。

那么效果究竟怎样呢？循环神经网络通过“阅读”Idea Channel的语料库“学会”了如何写作。神经网络将语料库反复阅读了很多遍，学会了某个单词的前后最经常搭配哪些其他单词，各种标点符号最经常出现在哪里，每一个单词的出现频率有多大，等等。训练过程耗时好几个小时，我的电脑也变得非常烫手。

训练完成之后，我就让神经网络生成一段仿造受分析语料库风格——也就是我的风格——的文本。神经网络先生成一个单词，然后在这个单词后面生成最有可能出现的单词，然后检视这两个单词的搭配并且声称该搭配之后最可能出现的第三个单词，然后再检视这三个单词的搭配并且生成第四个单词，以此类推。这个过程称作语言建模，Torch允许你提供一段热身文本，他们称之为元文本。我采用的元文本就是每期节目的导语。

Torch还有一项称为温度的设定，用来决定产出内容的新颖程度。假如温度设定为1，那么产出就全都是胡言乱语，每一个单词都是胡编出来的，充满了根本无法拼读的昏话。如果将温度设定为0，那么文章内容就全都是介词与be动词。我这篇文本的温度是0.4，总体而言比较保守，但也有创新之处。我试过了各种不同的设定，选好了最喜欢的设定之后就生成了十篇文本。我从中挑选了第一篇能让我笑出来的文本。为了保障我与你们的神智健全，我去掉了几个拼读不出来的怪词并且添加了几个句号。

明天我们要发布另一段视频，完全由我本人撰写，题目是机器与人工智能究竟能不能具有创造力，能不能创造艺术。我的答案是肯定的。但我认为更有趣的问题在于我们人类对于创造的定义，以及为什么人类有可能不允许机器创造艺术，至少不允许它们独立创造艺术。在此之前，欢迎大家重温一下本段视频的第一部分，看看听听机器产生的内容，想一想世界的面目与标记如何暴力，以至于某些来自智能的也属于相同的一堆，将有可能重要的更多。

2，换脸软件，Deep Dream与克苏鲁

https://www.youtube.com/watch?v=S5AeqYfcb7w

就像任何一位小有名气的专业网红一样，我不止一次与朋友们玩过换脸游戏。但是最近的一次换脸让我认真考虑了换脸技术的性质。这项技术非常怪异，往往可笑之极，而且弥漫着恐怖气息。

如果你还未能有幸亲身体验一下，换脸需要特定的软件与应用程序。换脸并非新鲜事物，早在photoshop的时代就有许多模因高手们这样玩过。不过如果我们看一看2013年的档案，就会发现一类非常不同的换脸。当年的换脸对象并不是人，而是人的形象。人的面孔成了具有新用途的信息。印在纸上的事物都会具有纸张的物质特性。同理，数字化的事物也会具有数字客体的物质特性。只不过数字化的物质特性很复杂，人脸同样很复杂。

人脸是身份的大本营，是一个人的价值观、名声与个性的代称。汉语将脸面与人品联系在一起，这一用法流传到了日语当中，如今包括英语在内的多种语言都采用了这种用法。在二十世纪九十年代初，词典编纂者Michael Carr发现，在汉语当中与面容以及表情气色相关的词汇从语义层面上构成了98种表达地位、荣誉或者名声的常用表达方式，在日语中有89种。汉语中的“面子”可以是争夺的对象，可以出借给他人，可以被撕破，也可以丢失掉。相比之下，英语当中类似的表述方式只有五种：lose face，save face，save-face，face saving以及face saver。尽管英语当中例子较少，但我们依然有充分例证表明人们将脸当成社会与文化层面的标志，用来代表实体的自我、形而上的自我以及本人与旁观者都能体验到的两者结合。Mark Johnson与George Lakoff在他们合著的《我们经历的比喻》（Metaphors We Live By）将这一现象称作“一人一面”。“不仅语言如此，在我们的文化当中我们首先关注别人的脸而不是举止姿态，借此获取关于此人的基本信息。”

这种做法绝不肤浅，而且很有效。因为从广义来说，面孔就像指纹一样是唯一的，但是却很容易分辨，并且是固定不变的。如果不用高科技手段大动干戈，你是不可能与别人换脸的。不过如今只要有一部手机就行了。我想知道的是，这一点是否有助于解释人们对于换脸的常见反应。我认为换脸具有一定的恐怖意味，尤其是身体恐怖。作为恐怖艺术的门类之一，许多从业者都利用各种媒介创作过不少优秀作品。不过对于很多人来说，身体恐怖的代表人物是大卫.柯南伯格，代表作品则是他执导的《变蝇人》、《夺命凶灵》、《感官游戏》与《录影带谋杀案》。身体恐怖可以很残忍，也可以不太残忍，但是一定会令人感到不适。

在论文《变异与变形》当中，Ronald Allan Lopez Cruz认为身体恐怖“就是对于正常身体外形与功能的操纵与扭曲。”人们对于身体恐怖的畏惧“并非等同于对死亡的恐惧，而是对于自身遭到毁灭的潜在可能性的恐惧。”身体恐怖作品当中身体遭受的破坏未必致命，但却肯定违反了身体的正常功能。破坏未必是整体性的，但往往是结构性的。同理，换脸并不残忍，但是却很令人心里发毛。换脸也就是字面意义上的“借面子”，看上去很有几分可怖。更有甚者，换脸的工具是我们的社交科技，我们用自己的面容装饰各自的虚拟空间，从而构建我们的名声。Snapchat的研究员Nathan Jurgensen在接受City Paper采访时说，《录影带谋杀案》是关于社交媒体的最优秀电影。“这部影片描述了躯体以及人性如何与科技以及传媒信号融合、混杂并且坍塌在一起，并非相互隔离，而是彼此交织，相互增强。”平时的寻常换脸在某种程度上彰显了这一点。但是还存在另一种换脸，不仅做到了上述事项，而且还引入了一种完全不同且远远更加广大的恐怖。

换脸软件有时候会遭受某种技术性空想错视——所谓空想错视就是在不存在模式的地方察觉到模式。严格来说这是一种心理现象。我们能将云朵视为飞鸟，能将星尘团看做马头，能在烤面包片上看到耶稣头像，至于面目更是无处不在。神经视觉处理、记忆与想象力的结合将任意排列的物体与形状组合成了有意义的格式塔。从编程角度来说，计算机化的人脸识别程序的工作原理也差不多。粗略来说，我们可以教会程序——有时程序也会自行学会——怎样的形状组合意味着人脸。但是面部识别程序归根结底缺乏人类的判断力，比方说你也会觉得墙上的插座看着很像人脸，但是并不会担心墙里的小人出不来怎么办。因此算法有时候会遭到愚弄，将死物当成生物性最强的社会身份表达——也就是人脸。

Brian Feldman在《纽约》杂志上撰文认为，像这样的换脸体现了对于人类以及身份的意义的根本误解，这一点或许能在一定程度上缓解我们对于机器智能不断增长的焦虑。“就算编程是一步紧扣一步的指令，但是依然会出错，知道这一点多少让人感到些许宽慰。程序尚且不能完全效仿人类技能与外观”我却认为反面的论点才是正确的。得知机器也会出错并不能让人感到宽慰。正相反，确切得知算法眼中的我们是什么样子，我们的身体是什么样子，我们的身份的视觉构造是什么样子，不仅令人坐立不安，而且还隐约有些恐怖。我们认为身体与身份之间存在着深厚的基本联系，它们却根本没有这种想法。在算法看来，人脸与轮胎印并没有区别。

这种看法并不是身体恐怖，而是宇宙级别的恐怖，足以与洛夫克拉夫特的作品相提并论。哲学家Graham Harman在《怪异的现实主义》（Weird Realism）一书中认为洛夫克拉夫特理解鸿沟的恐怖，尤其是事物外观与本质之间的鸿沟。洛夫克拉夫特笔下的角色总是难以理解并形容自己看到的事物。这些角色的经历所包含的事实与主体远离了一切人类理解力的领域，往往会导致疯狂或者等同于疯狂。 Harman的同事Ian Bogost也在《异类现象学》（Alien Phenomenology）一书中指出，想要想象身为一件物体——咖啡杯、政府、手机应用——的感觉，就算不是不可能，至少也是极为困难的。我们想不想要这样的知识确实值得商榷，但是假如我们当真获得了身为物体的体验，就不得不面对洛夫克拉夫特的鸿沟。我们见证了与我们完全不同的认知模式，这种模式与“体验”一词在任何意义上都不相同，而且基本上无法形容。换句话说，我们面前呈现了一片的空白，一边是我们所认知的真实，另一边则可能是真实的确切形态。

因此换脸故障的可怖之处一定程度上在于让我们瞥见了程序与算法眼中的世界，尽管只是微不足道且充满比喻的一瞥，但是我们依然暂时了解了机器的感受。机器就是机器，与人类臆造出来的各种胡说八道毫无关系，而且也不感兴趣。机器不认可、不理解或者干脆不关心组成人类的身体部分。人类通常被视为唯一具有能动性的存在，或者极少数有能力具有值得考虑的体验的存在当中最重要的一类。面对物体的体验往往就像洛夫克拉夫特恐怖一样模糊不可解，与其说会伤及人身，倒不如说会令人坐立不安。

从这一点出发，可以得出很自然的推论：不同的机器与算法也会具有不同的体验并且用不同的方式看待我们。所以我们可以通过编码眼中的人性获得对人性的另类见解，并且问一下这些见解是否同样会导致宇宙级别的恐怖。这方面最恰当的例子就是谷歌的Deep Dream。Deep Dream的设计目的是对面容照片进行分类识别。接受辨识的图片上的某些模式会得到增强，然后再附加到原来的图片上。将一张图片如法加工过几轮之后，图片原有的意义并没有被算法提取出来，反而是外来的意义被算法强加了进去。Deep Dream对面容的关注塑造了这一意义。原本平淡无奇的照片具有了令人晕眩的效果，层叠铺陈着若隐若现的人脸、动物脸与鱼脸，背景则好像Alex Grey的画作一样铺满了密纹与眼睛。Deep Dream在我看来是身体恐怖，宇宙恐怖以及赛博朋克敌托邦的结合体。借用Philip Brophy 对于约翰.卡朋特的《怪形》的评论，Deep Dream的图像处理结果体现了“对于人体的彻底误解与无知”，这一点又是它自身视角的效果：一个人造算法痴迷于人脸，与此同时又对人脸一无所知——或者反过来说，Deep Dream拥有几乎无限的关于人脸的知识，但是任何天生长着人脸的个体都无法理解这些知识。Deep Dream的算法利用了身体与身体的形象，却不必受到身体的拖累。

换脸软件的幻视令我忍俊不禁，而Deep Dream的迭代过程生成的图像却让我笑不出来，而是有些凛然。不仅因为图像本身令人不安，还因为我勉强能想象计算机眼中的我就是这样一幅怪形。这的确是细思恐极的事情。

3，AI能否创造艺术

https://www.youtube.com/watch?v=Sbd4NX95Ysc

从绘画机器到早期数字艺术再到AI，我们一直在考虑看似人性基础的艺术创作能不能由机器来完成。我的答案是绝对可以，但是——今天我们要讨论的就是这个“但是”。

谷歌大脑团队是一只致力于深度学习的团队。该团队研发了Magenta，对现有作品进行无指导或者半指导的计算性特质提取之后，这项技术能利用循环神经网络生成类似的艺术与音乐作品。换句话说就是让一台强大的电脑对现有艺术品进行分析然后根据分析结果生成新的艺术品。换句话说这货还以为自己是人呢，简直要萌死了。在今年的电子音乐节Moogfest上，谷歌大脑团队还播放了一段Magenta生成的音乐。

Magenta远远不是唯一一台创作艺术、作曲写文的机器——但是它的出现时间很近，任务很明确，机器创造者的目的也得到了明确记录。在最近的一片博文里，Magenta研究员Douglas Eck写道，他们的短期目标是向艺术家普及这项技术，看看他们能捣鼓出什么名堂。他们的长期目标则要宏大得多。比方说Douglas Eck想知道我们如何才能让此类模型具有真正的生成性，也就是真正的从无到有。他还写道了艺术家如何会因为自身艺术探索的成果而感到意外，并且在不同时期具有不同创作兴趣。他想知道，机器学习模式如何体现专注重点与异想天开之类的特质。在他看来，真正的挑战在于要让机器生成大段的有趣事物。“目前机器生成音乐与艺术的时候要想好听好看，就只能生成一些小段碎片。”总而言之，首先是要让机器产生原创创意，其次要让创意保持新鲜，最后要将众多创意有序组合成有意义且令人愉悦的成品。不管主体是不是机器，这三条就是创作艺术的过程。如果只看新闻大标题，你还会以为我们已经做到这一步了。缪斯女神已经被机器捕获，成为了分析、深度学习与神经网络处理的对象。尔等肉体凡胎准备好在真正具备创造力的AI巨作面前叹服跪拜吧。但是——这就是我之前提到过的但是——我认为在第一位AI安迪.沃霍尔出现之前我们还要克服两大挑战。

第一大挑战就是所有人最喜欢的问题：“可是这个算艺术吗？”我认为，假如你不敢肯定这东西是不是艺术，那么它大概就是艺术。第一个问题在于受众们能否将机器生成的事物当成艺术来欣赏。根据刚才的谈话，我接下来的观点可能有些倒退，但是自从有艺术以来，无论是艺术家、机器还是艺术家与机器的结合都从未创造过艺术——他们仅仅创造了作品，例如物件、媒体、表演与软件。只有受众才能将作品变成艺术品。艺术家创作作品，受众通过欣赏将作品变成艺术。对于某些媒体、风格、受众与艺术家来说，这一契约基本就是铁打的。油画、芭蕾、交响乐、戈达尔的电影就是艺术，并非因为它们具有相通的基本特质，而是因为所有人都理解欣赏它们的方式与理由。它们传统且美丽，它们的创作过程非常辛苦，它们讲述了很有意义的故事，等等。但是一动不动地坐很久算艺术吗？对于有些人来说算是。在溪流浅滩用弯曲的树枝摆个圆圈算艺术吗？我觉得心有戚戚，有些人则觉得傻气洋溢。鸦雀无声的《4分33秒》算艺术吗？这首乐曲的影响力可谓无远弗届，但是在有些人眼中却集中体现了艺术界的懒惰、诈唬与自吹自擂。很多受众拒绝将这些作品转化成艺术，通常原因在于不知道为什么这些作品值得欣赏。

在受众面前，机器生成的作品恐怕要比静坐不动、树枝圆圈与无声音乐更加难熬。对于机器作品的欣赏具有全新且棘手的侧面。迄今为止艺术欣赏依然遵从着诗歌模式：艺术呈现了一个富有意义的世界，有时艺术的意义隐而不显但却依然存在，甚至或者说尤其是在受众意见不统一的时候。艺术是创造者的组织能力、技艺与技巧的体现。就算看似“我也画得出来”的现代艺术同样也是常年刻苦练习的结果。无论怎样，人类对于人类艺术作品的欣赏基于一套价值框架，这套框架看重劳动——无论是体力还是脑力，看重意义与意图——哪怕含混模糊或者未能实现，看重主观性——艺术家的视角与背景。这套框架要么根本不适用于机器生成的作品，要么必须彻底改头换面之后才能适用，因为机器生成的作品是另一类截然不同的劳作的结果，这一类劳作完全不具备意图，这一点则是由完全没有主体性导致的，或者按照换脸那一集节目的说法，是由于完全不同于人类的体验方式决定的。

我并不想说人类不能或者不会欣赏AI艺术或者机器不可能具备创造力，只不过这种创造力很难被人类内化。Margaret Boden写到了作曲家与机器创造力先驱David Cope如何在创作了音乐编写程序EMI二十五年之后又亲手毁掉了程序的数据库，因为“就算那些确实欣赏EMI的乐曲的人也依然不认为这是音乐，仅仅是电脑输出而已，因此可以无限制地大量生产，其价值也遭到了相应的贬低。”

同样值得注意的是，许多机器生成的成功作品——例如EMI的音乐或者Cope随后进行的机器创造计划Emily Howell，又或者完全由AI编写剧本的《Sunspring》——都非常依赖人类的诠释。作品来源的机器特质成为了新奇的特质，为人们提供了放弃寻求意义的理由而不是鼓励人们寻求意义。很难说撰写了《Sunspring》脚本的程序Benjamin究竟想说些什么，因为Benjamin是个人工智能。我们一般认为Benjamin什么都不想说。这种神经反射性的反应令人厌烦且难以回避。或许随着时间的推移这种反应也会淡化，或者我们最终会学会欣赏机器的意义，或者机器会创造更符合人类观念的意义。但是目前，从批评与实际的角度来说人们都必须与机器生成的作品保持近距离，唯此才能让这些作品说人话，符合我们经常主张的“为艺术而艺术”的传统结构。

这一来又牵扯到了机器沃霍尔的第二大问题。除了要问我们能否欣赏机器按照自己的标准创作的作品之外，我们还要问机器是否当真创作了这些作品。刚才提到了Douglas Eck想让机器实现真正的生成过程，这个挑战分两部分。首先是搞清楚如何才能让Magenta的创造算法就像人类艺术家的头脑一样混沌。这一点可能会让我们想到一切创造过程究竟怎样或者是否全部具有生成性。所谓的原创性难道仅仅是未知但确定的复杂体系的密码吗？真正的原创性新理念莫非神的不存在吗？挑战的第二部分，也是Eck没有深入阐述的部分，在于独立性与意图。机器出产艺术的历史已经很久了，但是始终没有脱离人类指导。画笔作画，打字机写文，摄像机与照相机捕捉影像，计算机制作电影、游戏与音乐。但是这些机器都不是独立的，需要直接且往往不间断的人类参与，而人类而不是机器也被名至实归地视为艺术品的创作者。Magenta与类似科技使得局面更复杂了。目前来说Magenta就是一台打字机，是作家的工具。但是人们希望它最终能自行创作艺术，如果说现在它还没有创作过艺术的话。Brain Team创造了一台强大复杂的打字机，或许有朝一日用不着直接且不间断的人类参与也能写下某些原创新鲜有意义的文字。但是它究竟能不能彻底摆脱人类参与呢？

Twitterbots可以组合出很多看上去像极了出自人类头脑的语句。随机音乐与视觉艺术中和了艺术家的有意识意图。人工智能很可能会以人类无法想象的方式组合源材料。但是这些算法与程序员的意图或者目标之间的距离真的有这么远吗？我认为真正的创造性不等同于真正的原创性，因为真正的原创性兴许只能说说而已。事实上真正的创造性应当等同于真正的独立性。佐治亚大学科技教授Mark Reidl在接受MIT Tech Review采访时说，“目前的神经网络依然处于模仿模式。你灌输进一批经典作品，它们就会学习其中的模式。但是它们必须从其他来源学习创造意图。”

考虑到目前关于算法决策的涟漪效应的对话，这段说法尤其有趣。算法决策不是算法做出的决策，而是设计算法的人们做出的决策。理想状态下算法会自行决策，它们会分类测量，省下我们的工夫。它们的决策速度更快，效果更好，偏见更少。事实上人类会将自己的人性与偏见带入它们制造的每一件技术，哪怕是自行运转的技术。尽管谷歌的搜索结果排序完全基于算法，但是在搜索年轻男性非裔美国人的姓名时还是更容易出现与拘捕相关的广告内容。在线SAT辅导班针对不同报名者的收费标准也是由算法决定的，但是住在亚裔聚集区的人们总会被多收钱。当然我们希望机器创造的艺术并没有种族主义倾向，但是认为创造性技术可以回避人类意图还是很天真的想法。或许存在着一套稀释过程，人类设计了一套算法，这套算法又设计了第二套算法，第二套算法又设计了第三套算法，直到人性被洗涤殆尽，奇点降临，机器人太君这边走，等等。但是在目前以及可预见的未来，Magenta都不会独自运作。诚然Magenta的自主性令人称奇，但是要到什么时候人们才会忽视它与谷歌的关系呢？什么时候它的主要身份才不会是Brain Team的科研成果呢？目前Brain Team会频繁地发布与其相关的博文，提供运行维护与技术管理，他们有没有彻底放手的那一天呢？

涉及AI的问题并不是它们能否创造艺术——它们已经创造了不少艺术了。问题在于我们能否允许机器自行创造艺术。当我们检视AI艺术产出的时候，要在什么情况下才不会将其视为受命于人类或者拓展人类能力的施事结果，而是独立产生的结果呢？我们要在什么情况下才会认为机器创造了属于自己的艺术呢？另一个问题是哪一个“我们”才会欣赏此类艺术，以及此类艺术会得到怎样的欣赏。机器的产出确实很新鲜，但是人类真的永远都是衡量艺术意义的黄金标准吗？AI的作品是否会受到传统艺术品的对待，成为广泛交易、展览、收藏与批评的对象呢？这些作品是否会被视为出自艺术家之手，但是却摆脱了一般人看来与艺术创作实践密不可分的混乱因素呢——例如创意、感受、兴头、劳动与人性？