W5tmass · Handsome can’t be taught, it has to be caught.
文明到哪里便是厕所到哪里。
——布卢姆
The limits of my language mean the limits of my world!
——维特根斯坦，《逻辑哲学论》
The common reader, as Dr Johnson implies, differs from the critic and the scholar. He is worse educated, and nature has not gifted him so generously. He reads for his own pleasure rather than to impart knowledge or correct the opinions of others. Above all, he is guided by an instinct to create for himself, out of whatever odds and ends he can come by, some kind of whole – a portrait of a man, a sketch of an age, a theory of the art of writing. He never ceases, as he reads, to run up some rickety and ramshackle fabric which shall give him the temporary satisfaction of looking sufficiently like the real object to allow of affection, laughter, and argument. Hasty, inaccurate, and superficial, snatching now this poem, now that scrap of old furniture, without caring where he finds it or of what nature it may be so long as it serves his purpose and rounds his structure, his deficiencies as a critic are too obvious to be pointed out; but if he has, as Dr Johnson maintained, some say in the final distribution of poetical honours, then perhaps, it may be worth while to write down a few of the ideas and opinions which, insignificant in themselves, yet contribute to so mighty a result.
约翰逊博士含蓄地指出，普通读者，不同于批评家或学者。他受的教育有限，自然也没有慷慨地赋予他禀赋。他更是为了消遣而阅读，而非为了传授知识或指正他人。最重要的是，他的本能指引着他从一切他能获得的不起眼的、各式各样的原料中，为他自己创造出某种完整的事物——一幅人物肖像、一件时代速写、一个书写技艺的理论。他在阅读中一刻不停地搭建一些随时可能坍塌易碎的架构，这些架构给了他短暂的安全感，它们足够真实、足以容纳爱惜、欢笑与争论。他匆忙、粗略、流于表面，一会抓住这句诗、一会抓住那旧文献，而且只要它们能满足他的需求、塑造他的架构，他其实并不关心自己从哪里找到这些物什、也不关心它们的本性，他作为批评家的缺陷过于明显。但是，正如约翰逊博士所说，如果他在诗坛上有些发言权，那么或许仍旧值得写下一些自己的想法或观点，尽管这些想法或观点或许本身微不足道，但对诗坛仍会有重要贡献。
—— Woolf: The Common Reader
——伍尔夫 《普通读者》（本段由 天仙子 译）
我们滚滚向前，谁看到我们在行进时质疑过轮子？
Nous roulons, roulons. Qui nous a vus rouler a-t-il jamais douté de la roue ?
这句我没看明白，我问了 Bing：“人类对自己的文化和历史的认同和批判，以及对不可知和不可言说的事物的探索和尊重。”这一解释，恰与当下对照。
声音一旦开始言说，我们就再也不能打断话语的奔涌。
——李公明︱一周书记：“问题之书”中的“呼号”与……写书的人
很多人喜欢说“装备不重要，自己把技术练好就行”，我并不赞同这说法。要是一个乐器发不出好的声音，我为什么要学它呢？为了折磨自己吗？光是用它来练技术，这种想法其实是很功利的，所以乐器肯定不能买太差的。好的乐器，就算你不能用它演奏复杂的乐曲，能发出一两个好听的声音，就已经很满足了。在决定学大提琴之前，我考虑的乐器其实是颂钵。
——职业选手和业余选手
机器学习模型一直为人诟病之处便是其仅习得关联，而非因果。
……
人脑是一个真正的智能系统最好的例子，然而它只消耗很少的能量（基本上与点亮一盏灯泡的能量相同）。
——人工智能环保吗
这个说法挺有意思。不过我要问一个不识抬举的问题了：培养一个人又需要耗费多少能量呢？
AI也有偏见，我们该如何信任它们？
为何要解释AI？
AI如日中天，我们为什么要停下来思考怎么解释它？
2016年5月，ProPublica发布了一篇名为《机器偏见》的调查报告，聚焦一个名为COMPAS的AI系统。COMPAS被广泛应用于美国司法量刑。它基于已有的犯罪记录，尝试预测被告被再次逮捕的概率，得出一个1到10分之间的分数——分数越高，它建议的量刑越重，以期更有效地惩治潜在的再犯。
ProPublica分析了18000多人的COMPAS分数和犯罪记录，发现黑人与白人的分数分布明显不同——在犯罪历史、再逮捕记录、年龄、性别都相同的条件下，黑人被告得到更高COMPAS分数的概率高于白人被告45%。另外，有48%在两年内被再次逮捕的白人被告的COMPAS分数被低估，几乎是黑人被告的两倍。因为数据来自具有结构性不公的环境（既有司法系统倾向于区别对待不同人种），COMPAS的（草率）决定也受此影响。然而，由于COMPAS是一个黑箱系统，法官只能看到分数，对内部的决策机制一无所知，导致他们无法有效评估系统的建议。另一篇调查报告更是指出，COMPAS的准确率相当于几乎没有刑事司法专业知识的人。
“数据不会说谎。”但这绝不意味着我们不需要仔细审视它们，或是给予基于数据之上的AI系统无条件的信任。
肖特利夫的MYCIN系统本质上是一个决策树，属于“透明”的模型——我们可以画出从数据输入开始完整的决策过程，从而评估MYCIN的决定。深度神经网络的性能远远优于决策树，但它是一个“黑箱”——我们几乎不可能确切地知道它在算什么。性能与可解释性似乎此消彼长。
XAI并不是终点；它最多算一个起点，而我们还有许多亟待解决的问题。首先，对黑箱AI的解释可以被悄无声息地篡改，可以完全牛头不对马嘴，而且很难察觉。哈佛大学的希玛宾度·拉卡拉朱（Himabindu Lakkaraju）和她的学生们发现，只需在模型上动一些简单的手脚，就能让它滥用COMPAS数据集里的种族信息决定量刑，但一旦LIME来“视察”，它立刻摆出无辜的嘴脸，完全不露馅。这就意味着，即使有XAI为工具，我们对AI的信任也不应当盲目地依赖系统的可靠性和（表面上）信息的透明性，理智与批判性思考将格外重要。
我们中的大多数人也许极少有机会成为工程师、法官、医生，但这不妨碍黑箱AI对我们的生活造成影响。与我们的一厢情愿相反，不够透明的AI系统非但没有比人类更客观、公正、精确，反而加深了既存的偏见和不公正，对数字民主和基本人权构成威胁，而对这些系统的控制、介入和审计也更为困难。当我们无法解读AI作出的决策，对它未来的预期不过是纸上谈兵，信任也无从谈起。
可解释AI（Explainable AI，即XAI）想要解决的正是这类问题。XAI认为，通过解释AI系统的决策过程，人类能够更好地理解它的机制、优缺点、潜在影响等特性，从而更有效地预测系统的行为，达到逐步建立信任关系的效果。
再者，偏见和不公不会因为解释本身而消失；恰恰相反，解释会暴露更多一直以来潜行在我们周围的伦理问题。ProPublica对COMPAS的调查使人不禁发出疑问：系统性的种族偏见究竟在何种程度上渗透了美国过去十年间的量刑？
然而，耶鲁大学的列昂尼德·罗森布里特（Leonid Rozenblit）和弗兰克·凯尔（Frank Keil）提出的“解释深度的错觉”（Illusion of Explanatory Depth）仿佛当头一棒。罗森布里特和凯尔让受试者首先评价自己对某一工具（比如拉链）的理解，然后详细地解释这个工具的工作机制，并再次评价自己的对它的理解。他们发现，相比一开始，试图解释后的受试者对自己理解的评价明显下滑，仿佛突然意识到自己其实一知半解。这就是“解释深度的错觉”。这种错觉影响着所有人（包括小孩子），并且只作用于解释性的知识。完全相反的情况也不少见：人们会自称不理解一个动力系统，却能熟练地使用它。
各界对于XAI的关注促成了许多“拆穿”黑箱AI的尝试，从DeepMind提出的机器心智理论（Machine Theory of Mind），到将黑箱神经网络转化为“透明”的布尔电路（Boolean circuit），再到LIME（Local Interpretable Model-Agnostic Explanation）等通过近似黑箱模型提取重要特征的方法。
屎的历史
拉波特多次提到性变态者萨德侯爵，此人的名字是“虐待狂”(Sadisme)的词根，他的小说中表现出恋粪、恋尿、恋屁的倾向。同样是吃屎，真福圣女玛丽·阿拉科克尝病人的粪便，她却受到尊崇。拉波特将这两人并列，是足够辛辣的做法。他就是要绕开所谓伟大的文明，去搅一搅文明的下水道。
拉波特戏谑地说辉煌的罗马文明的精髓就是下水道，引用《尤利西斯》中布卢姆的见解，即文明到哪里便是厕所到哪里。
被打入私领域的粪便进一步被个体化，归属其主人，这一进程对应的正是现代社会的个体意识。与之类似，殡葬的方式，也从乱葬过渡到个人坟墓。对于拉波特而言，粪便与尸体同是死亡的肉体，两者的个体化其实同属一个过程。而像萨德那样的变态者，迷恋粪便的另一面正是迷恋死亡，他可以将排泄物当宝物馈赠于人，也可以将喜欢的人视作粪便、死人，加以蹂躏。拉波特书中提到的太阳王路易十四，坐在马桶上接见臣属是他的恩宠，如同太阳的光辉，他的大便味道也铺盖四方。
拉波特的幽默往往是通过暗示，有时过多借助言语的双关。比如他批评国家借助“按需分配”的许诺来剥夺个体，利用法文“besoin”的“需要”与“解手、方便”的双重含义轻易地转入粪便。其实，本书的题目中的“merde”，翻译成英文是“shit”，除了是“屎”的意思，还是骂人话，相当于“他妈的”、“狗屎”之类。照拉波特对罗马文明的说法，文明就是臭狗屎。这么说起来，这本书谈论着文明和权力话语的历史，其题目暗含的意思便是“狗屁文明的历史”吧。《屎的历史》一书中，涉及大量文化背景，实在是幽默得有些让人吃力。
世人皆醉我独醒——现实天真主义
“天真现实主义”（naïve realism），即人们倾向于认为自己客观地看待世界，不存在个人偏见。
第一，天真的现实主义者相信他们的感知是符合现实且“客观的”，因此，其他人（至少是通情达理的他人）应该分享他们的信念、偏好和根深蒂固的想法。
第二，如果各方之间存在分歧，天真的现实主义者预期，陈述“真实的事实”后，任何一个通情达理、思想开明的人都会被说服，并同意他们的观点，双方重归和谐。
第三，在陈述真实的事实后，仍然与天真的现实主义者持不同观点的任何人都是不通情达理的、有偏见的或非理性的。
罗斯发现，人们认为自己的观点更多是由理性考虑而非由偏见想法所塑造的。他们还发现，参与者对他人的评价完全取决于他们对彼此观点相似性的感知。当参与者们拿到的问卷中的观点和他相似时，他们会认为他人是由理性而非偏见驱动的。相反地，当他们读到他人的观点与自己不同的问卷时，他们会把他人的观点归因于一些错误的来源而不是理性考虑。
提高对于认知偏差的觉察，便能帮助人们识别出自己判断中的偏见情况，并相应地修正自己的想法。
人们确实会误解他人，尤其是那些与自己最不同的人。对天真现实主义、认知谦卑（epistemic humility）、思想开明以及耐心的威胁保持警惕，这可能是被罗斯等人称为不对称观点错觉（the illusion of asymmetric insight）的唯一补救方法，该错觉指出人们会误认为自己对他人的了解要优于他人对自己的了解。根据罗斯等人所说，这一错觉“让我们在应该倾听的时候开口说话”。
AI 革命？
最近和群友讨论 AI 与科技革命的问题，讨论中有各种声音，基本都是老生常谈的内容，而且大家基本并不互相理解……混乱中，我倒是灵光一闪，判断一个事物能否带来革命性变化，可以看他能否带来大规模的下岗潮。
积累
Culture can’t be taught, it has to be caught.
——A Learn a Day
I liked the themes of justice and injustice, of compassion, and God, redemption and self-sacrifice for a greater good.
——Bing Chat
There lived with him many other animals, all with their own unique ways of living.
这个句子的结构很妙。按照普通的语序，应该是 There lived many other animals with him……但是，原文为什么要把 animals 后移了呢？因为后面一长串的定语。这些定语是修饰 many other animals的。如果按照普通语序，定语就和他修饰的对象分隔开了，这样便容易造成误解。
nature has not gifted him so generously
impart knowledge
guided by an instinct