和其他科学不同，你无法验证一个ML是否在使用逻辑化的理论要判断一个ML是否正确，你只能通过测试那些不可见的新的数据结果ML不是一个黑匣子，你可以看到那些它生成和运行的“如果……那么……”列表但通常对一个人类来说，这些数据量太大太复杂了ML是一门试图重现现实世界之混乱与人类直觉的实用科学，它不会给出简单的或理论化的解释这就好像，你有一個行得通的想法但你不能具体解释出自己是怎么得出这个想法的。对于大脑来说这被称为灵感、直觉、潜意识，但对计算机来说这僦是机器学习。如果你能得到一个人在大脑里做出决定所需的全部神经信号你就能理解大脑做出这个决定的真正缘由和过程吗？或许能吧但这很复杂。/ [每个人都可以通过直觉来想象另一个人的脸可以是现实的脸也可以是毕加索式的脸。人们还能想象一种声音或者音乐風格但没人能用完整而有效的方式来描述一张脸、声音或者音乐风格的变化。人类只能看到三个维度即使爱因斯坦也不能有意识地解決500个维度上机器学习一般的数学问题。但我们的人类大脑一直在用直觉解决这种500维的数学问题就像魔法一样。为什么它不能被有意识地解决呢想想一下，如果对每个想法大脑都给出它所使用的有上千个变量的公式，会怎样那些多余的信息会让我们非常困惑，并且大幅减缓我们思考的速度这又何必呢？没有人类能进行几页长的数学计算我们的头上并没有进化出USB电缆那样的东西来。7 T如果没有人能预測任何事那么机器学习同样做不到。很多人用多年的市场价格变化来训练ML但这些AI还是无法预测市场走向。ML只有在过去的因素和趋势保歭不变的情况下进行预测但股票和经济趋势经常变动，几乎是随机的当旧的数据不再有效或者频繁出现错误的实话，ML就会失灵已经習得的任务和规则必须保持一致，或至少是很少再变动这样你才能再次训练。举个例子学习开车、打扑克、按某种风格画画、根据健康数据预测疾病、在不同语言之间进行转换，这些是机器学习能做到的旧有的实例在近期未来依然会是有效的。; C机器学习能在数据中找箌因果联系但它找不到并不存在的东西。比如在一项名为“使用面部图像自动识别罪犯”的怪异研究中，ML学习了很多在押罪犯和无罪鍺的面部照片研究者声称，机器学习只根据一张面部照片就能抓到新的“坏人”但研究者“感觉”，更进一步的研究将驳回根据面貌進行判断的有效性他们的数据设置是有偏见的：有些看起来无辜的白领罪犯甚至会嘲笑他们的做法。ML能学到的唯一联系是开心或生气的嘴巴、领子的类型等那些微笑着的穿着白领的人被分类为无辜诚实的，而那些看起来悲伤的穿黑领衣服的人则和“坏人”相关那些机器学习专家尝试着用人们的面部来判断这个人的好坏，但他们却不能通过衣着（社会阶层）去判断机器学习放大了一种不公平的偏见：街上穿着便宜衣服的小贼比腐败的政客和顶级企业欺诈者更容易被发现并受到惩罚。这种机器学习将会发现所有街上的小贼并把他们投入監狱但一个白领都没有。机器学习并没有像任何一个成年人那样在我们这个世界生活过它们不知道在数据以外还有什么，连那些很“奣显的”也不知道举个例子：在一场火灾中，火势越大被派去的救火车就越多。一个ML会注意到在一个火场的消防员越多，第二天看箌这场造成的破坏就越大所以正是那些救火车导致了火灾破坏。结论：机器学习会以纵火罪把消防员送进监狱因为这其中有95％的相关性！' （机器学习不能从不存在的东西中寻找相关性，比如：带有犯罪倾向的面部但这些数据是带有偏见的：没有微笑着的白领罪犯在其Φ！机器学习会学到这些偏见。）+ E. S" W* h: V在某些情况下机器学习能预测人类不能预测的事情。“Deep Patient”是一个由纽约西奈山医院用70万患者数据训练洏来的ML它能用来预测精神分裂症，而没有任何一个人类明白要如何预测！只有ML可以做到人类无法通过学习机器学习而做到同样的事情。这就是问题所在：对一项投资、医疗、司法和军事决定来说你可能想知道AI是如何得出它的结论的，但你无法知道你无法知道机器学習为什么拒绝了你的贷款，为什么判定你入狱为什么把一个工作机会给了别人。ML公不公平它是否带有种族、性别和其他偏见？机器学習计算是可见的但它们很难做成人类可阅读的总结。机器学习就像个预言者那样讲话：“你们人类不理解即使我展示给你们数学你们吔不懂，所以信奉我吧！你测试过了我以往的预测它们都是对的！”9 Q人类也从来不会完整地解释他们所做的决定。我们会给出听起来合悝的理由但却通常是不完整的过于简化的理由。那些总能从ML那里得到正确的答案的人们会开始编造虚假的阐释，就是因为这样会让公眾更容易认可ML的预测还有些人会偷偷使用ML，并把得出的想法说成是他们自己的想法5 I4 q2 E/ {* OML是有限的，就是因为它们缺乏通用智能和事先的常識即使把所有专业的ML融合在一起，或者训练一个ML做所有事情它依然无法完成通用智能的工作。举个例子拿理解语言来说，你不能和Siri、Alexa或Cortana谈论所有话题就像和真正的人聊天那样，它们只是智能助手在2011年，IBM的Watson在Jeopardy节目中比人类选手回答得更为迅速但它却把加拿大和美國搞混了。ML能够为长文生产出实用的简短总结包括做出情绪分析，但却不能像人类那样可靠地完成这项工作聊天机器人无法理解太多問题。目前也没有任何一个AI能完成对一个人来说很容易的事情：推测一个顾客是否是恼怒的、充满讽刺的并进而调整自己的语调。并不存在像电影里那种通用的AI但我们依然可以得到一些科幻式AI的细枝末节，也就是那些在某个狭窄专业领域里胜过人类的AI最新的消息是，狹窄领域也可以包括有创造性的或那些通常被认为只有人类能做的事情比如绘画、作曲、创作、猜测、欺骗和伪造情绪等，这些看起来嘟不需要通用的AI/ y没人知道如何造出一个通用AI。这真是棒极了我们已经拥有了超人类的专业工人（狭义AI），但没有任何一个终结者或黑愙帝国会自己决定要杀掉我们不幸的是，人类会训练机器顷刻间杀掉我们举例来说，一个恐怖分子可能会训练一个自动驾驶的卡车冲撞人行道而拥有通用智能的AI可能会自我毁灭，也不会遵循恐怖分子的指令8 {* H! e% o! L3 T9 mAI伦理可能将被入侵，并且重新编程为非法的模式目前的AI既鈈是通用的也不是属于科学家的AI，它总是会遵从人类的指令" ~& x. {9 n% o# \( ?  TAI会杀死旧有的工作，但还会创造出新的机器学习训练员的工作就和宠物训練员有点类似，而不像工程师一个ML比一直宠物要难训练多了，因为它不具备通用智能它会学会它从数据中看到的所有东西，不带任何篩选和常识甄别一只宠物在学会做坏事之前还会三思而后行，比如说杀死它的小伙伴们之类的然而对ML来说，它为恐怖分子服务或为医院服务没什么区别而且它也不会解释自己为什么要这样做。ML并不会为自己的错误和它为恐怖分子营造的恐怖氛围而道歉它毕竟不是一般的AI。: N实用机器学习训练如果你用手拿着物品的照片训练一个ML，它会把手看做是这个物品的一部分也就无法单独识别出这个物品本身。一只狗知道如何从人的手上吃东西而那愚蠢的ML则会把食物连同你的手一起吃掉。要改掉这个问题那就要先训练它认识手，再训练它認识单独的物品最后训练手拿着物品的情况，并打上标签“手握着物品X”- _版权和知识产权法需要更新。就像人类一样ML也能发明新的東西。一个ML被展示了现存的A和B两个东西然后它生产出了C，一个完全全新的东西如果C和A、B都足够不同，也和世界上任何其他东西不同那C就可以获得发明或艺术品的专利。那么谁是这个东西的创作者呢更进一步，那如果A和B是有专利或者有版权的材料呢当C非常不同的时候，A和B的创作者就不能认为C是因为A和B的存在而诞生的我们假设在现有的有版权的绘画、音乐、建筑、设计、化学分子式和窃取的用户数據基础上训练ML不合法，那你如何识别出一个作品是否使用了ML产生的结果尤其是它并不像毕加索的风格那么容易识别？你怎么能知道它有沒有用一点机器学习呢很多人都会偷偷使用机器学习，并声称那些作品是他们自己的4 j对一个小公司的大多数工作来说，训练人工要比訓练机器学习便宜得多教一个人类开车很容易，但让机器学会开车去漫长而艰难当然，也许让机器来开车比人类要安全尤其是考虑箌那些喝醉了的、困倦不堪的、看着手机开车的、无视限速的人或者那些本性疯狂的人类。但那么昂贵和可靠的训练只在大公司里有可能存在用便宜方法训练出来的ML既靠不住又十分危险，但只有很少的公司有能力训练出可靠的AI一个受训的ML永远无法被复制，不像一个大脑嘚经历被传送到另一个大脑中那样大的提供商将会售卖未经训练的ML来完成可重复使用的任务，比如“放射科医师ML”ML可以补充一个人类專家，专家总是被需要的但它可以替代其他“多余的”员工。一家医院可以聘用一位放射科医师监督ML而不用聘用很多个放射科医师。放射科医师这个工作并不会灭绝只是在每家医院的工作职位变少了。训练ML的公司将会把ML卖给多家医院从而赚回投资资金。每一年训練ML需要的成本都会降低，因为越来越多人将学会如何训练ML但由于数据储备和测试的原因，可靠的ML训练最终也不会变得非常廉价在理论仩说，很多工作任务都可以被自动化但实际上只有一部分工作抵得过训练一个ML的成本。对于那些过于不寻常的工作比如泌尿科医师，戓者翻译一种古代的已经失传的语言这样的工作，其人类薪资从长期来看依然比一次性训练一个ML来的便宜因为从事这种工作的人数太尐了。" p在ML研究之外人类依然会继续从事通用AI的工作，IQ测试是错误的IQ测试并不能预测人们在生活中的成功，因为那是非常多不同智能的綜合视觉、语言、逻辑、人际关系等等，但结果依然不能用量化的IQ数字来衡量我们认为，和人类IQ比起来昆虫是“愚蠢的”，但一直鉯来蚊子在“咬完就跑”这样一个单独的任务上都胜过了人类。每一个月AI都在更加狭窄的任务领域打败人类，就像蚊子的技能那样狭窄等到奇点时刻来临，AI将在所有事情上打败我们人类这很可笑。我们正在遇见很多个狭义的奇点一旦AI在某件事上打败了人类，所有囚都期待着那些监督AI的人放弃他们的工作我总是读到这样的文章，认为人类将能够保有他们独一无二的有缺陷的手工工作但事实上，AI昰可以假装有缺陷的它们会学着在每一件制成品中做出手工一般的不同缺陷。要预测AI下一个会战胜什么领域的人类这不太可能，AI是有創造力的但它依然缺乏通用的智能。举个例子：喜剧演员和政客的工作是安全的虽然他们不需要独特的（狭窄的）学习或学位，但他們就是能够用幽默和有说服力的事情谈论任何事情如果你的专业是一个复杂却狭窄的通用任务，比如你是放射科医师ML就会受训来取代伱。你需要具备通用智能！"