《如何创造可信的AI》一文指出，要让人工智能更具可信度，需要在设计阶段就考虑透明度和可解释性，并加强对数据隐私的保护。同时，要建立合适的监管机制和法规，确保AI系统符合道德和法律标准。只有这样，人们才能更加信任和接受AI技术的应用。
《如何创造可信的AI》读后感(一)
《如何创造可信的AI》 2022-21 当下我们所谓的AI与其叫做人工智能不如称之为人工技能可能更为贴切。所谓智能，应当具备举一反三理解开放式问题的能力，而不是封闭在一个狭小的领域内处理具体问题的能力。要实现真正的人工智能，我们至少还需要一次范式革命。 我们能想象的终极智能是什么样的呢？四维时空下就是那能够上知天文下知地理，能回溯过去也能预测未来，可以完全模拟宇宙整个生命周期的存在。如果宇宙是一部电影，那么终极智能就是能看清任意帧中任意像素点的播放器。它的构建需要的也许仅仅是简单的物理规则和算力而已。如果真的是这样的话，那么我们现在的宇宙会不会是更高层次文明的一个模拟器而已呢？
《如何创造可信的AI》读后感(二)
1、抛开我们之前纠结的AI与人类的控制与被控制的关系，盖瑞·马库斯从另一个角度重新解读了AI。
2、与大多数人对AI理解相同的是，AI主导下的阿尔法狗是没有输赢的概念的，只是会算。
3、AI可以理解信息，但还不能理解知识。
4、帮助AI建立因果逻辑的推理能力，将是未来AI的发展方向。
4、马斯克、陆奇都推荐了这本书。
——闲书馆 书评人
《如何创造可信的AI》读后感(三)
本书分两部分，第一部分（1-5章）是马库斯对人工智能的核心技术-深度学习的一系列质疑。强调要在深度学习基础上探索新的技术突破。transformer技术算是实现了一点突破，基于transformer的chatGPT距离AGI越来越近。马库斯把AI鸿沟归纳为三种大坑：轻信坑，虚幻进步坑，鲁棒坑。他提醒我们必须关注避免踩坑。
第二部分（6-8章）马库斯提出他认为的能通向未来可信AI的核心路径，路径的起点是研究人类如何获得认知能力时所获得的核心启发，并以此建立下一代人工智能技术中必要的内在结构。我个人的观点有些不同：宇宙中的智能形式是多样的，人类的智能不是唯一存在，人工智能不一定要完全仿照人类智能来建造（可以借鉴但不必复制）。假设智能是一个平面，人类智能是平面上的一个圆，平面上还存在其他的智能圆或者正方形等，人工智能可能是一个与人类智能相交的圆但不必与人类智能是同心圆。
第二部分中，马库斯强调了常识在实现AGI中的重要性。这个我是非常认同的，智能体要有一个世界模型，模型中就是关于世界的常识。马库斯谈到了常识的获取，尝识的表征和怎么把尝试喂给智能系统这些问题。在chatGPT已经存在的当下回头来看，解决这个问题的钥匙就是语言language。人类是先有语言然后才有文字，然后积累知识的，语言也是人类思考的工具。常识是以语言的形式沉淀下来的，因此也可以被语言模型学得，有了语言就可以思考，抽象，推理。
书中提到的当前尚未的到解决的一个重要问题是：如何对齐AI，即让赋予AI正当的道德伦理观念，与人类的观念保持一致。我正是因为想要了解这个问题的研究进展才找到此书，读完之后发现这是个全新的问题，过去的书中给不出答案
《如何创造可信的AI》读后感(四)
2016年当AlphaGo战胜李世石的时候，我的内心情绪并不怎么开心，毕竟科幻电影和小说中奴役人类的邪恶机器人多少给了人们一丝对强人工智能的恐惧。加上各路媒体的煽风点火，人们对AI的关注和期待一时无两。然而转眼七年过去了，我经常感到当年是人们想多了，AI领域再也没有掀起如AlphaGo这般“出圈”的成就。看了这本书后，我明白了其中的原因。人工智能原来不如我们想象一般前途无量或者无所不能，正相反，本书犀利的指出了现有的人工智能的发展所走的方向或许是错误的。人类要实现真正的人工智能还有很长的路要走。
近年来，AI的确在以日新月异的速度变得更加令人震撼，这得益于硬件的进步和大数据的发展，使得用于数据处理的算法“深度学习”得益实现，ai近几年所取得的几乎每一项进展，其核心都是深度学习。深度学习取得的瞩目成就使AI近年来炙手可热，成为一个巨大的产业，并且引起了各国政府在国家层面上的重视。但即使如此，作者仍然指出在当下ai繁荣局面的背后，缺少了某些本质上的东西，使得机器智能在许多方面依然无法和人类相提并论。
作者提出：如今在我们的生活中应用到的AI都是狭义AI，即只能应用于其设计初衷所针对的特定任务，前提是系统所遇到的问题与其之前所经历过的场景没有太大的不同。Alphago就是在这方面做到了极致，它能够在围棋领域打败人类顶尖的棋手，是因为围棋的规则是固定不变的。而面对没有棋盘限制、没有固定规则的真实生活，狭义AI就完全力不从心了。
目前我们的生活中最被我们熟悉的ai应用场景是智能语音和自动驾驶，书中也以此为例，指出了现在的狭义人工智能在这两个领域的表现是多么的不靠谱：智能语音遇到稍微刁钻的问题就无法回答，而即使在无人驾驶领域表现最好的特斯拉也不能被司机百分之百信赖，甚至也确实发生了交通事故造成了驾驶者的丧生。
而作者提出广义的AI能做到的事情应当包罗万象：可以治愈癌症，可以搞清楚大脑的工作方式，发明出新材料，还可以找到全新的思路去应对气候变化。总之, 广义的AI如果能想人类一样阅读和推理并应用现代计算机系统的精准度和庞大的计算资源，将会帮助人们在科学和技术领域取得巨大的进步。作者认为“这才是AI该做的事情”
但现在，我们还无法充分信任人类现有的AI，如果我们想要将ai带到下一个高度，就需要行业采取全新的思路：AI不仅需要有能力处理特定情况，还要有能力处理全新的问题和从未见过的变化。构建有能力对世界进行推理的系统，有能力对周边世界形成深刻理解的系统，才是朝向值得我们信任的AI系统前进的正确方向。
而现在基于深度学习的主流AI之路是走不通的。深度学习的发展虽然欣欣向荣，但是它本质与人类思想有着天壤之别，它缺乏表示因果关系的方法，无法很好的进行逻辑推理，也不容易理解抽象知识，它虽然可以成为拥有神奇感知能力的白痴天才，但不具备真正的智能需要具备的推理能力、语言能力和类比能力。作者不否认深度学习是AI的一个非常有价值的工具，但它不应该是独立的解决方案。在真正的人工智能的领域中，它可能只是一系列工具的其中之一。
那么如何才能达到“真正可信的AI”呢？我们还需要从我们人类的认知能力上去寻找答案。通过对计算机阅读和机器人管家所面临的的问题的分析，作者再一次提出了丰富认知模型和深度理解的重要性。没有丰富的认知模型，就没有真正的阅读，没有安全可靠的机器人管家，机器需要具备我们所谓的“常识”和对世界的丰富理解，这一切还要从人类的心智中寻找答案。
恰好上个月读了《什么是心理学》，我惊奇的发现这两本书中的内容出现了有趣的对应。若不是从《什么是心理学》中了解了一些心理学发展史上的概念，这本书有关认知心理学带给ai的启示部分可能还没有那么好懂。作者提出了认知科学带给ai领域的许多启示，包括人类认知系统的抽象和概括、对表征的理解、学习知识时逻辑的结构和推理、常识构建的重要性等等，并提出了一个最终实现通用人工智能的方案框架：首先开发出能够表征人类知识和新框架的系统——时间、空间、因果关系等等基本知识，将这些内容嵌入到可以自由扩展到各种知识的架构之中，始终牢记抽象、组合性和个体跟踪的核心原则。接着开发出强大的推理技术可以处理复杂、不确定和不完整的知识。将这些内容与感知、操作和语言联系起来，利用这些去构建关于世界的丰富认知模型。最后的重点是：受人类心智的启发，构建一种学习系统，利用人工智能拥有的全部知识和认知能力，能将其学到的知识融入到先验知识之中。而不是像现在的人工智能路径一样，要么一切都由人工编写代码，要么通过贴标签的方式让机器自己学习一切。AI能够像孩子一样，从每一个可能存在的信息来源中如饥似渴地学习并与世界互动。
这当然是非常艰巨困难的任务，并且书中也没有提出特别具体的操作建议，如若只看结论，最终作者提出的AI发展方案听起来仿佛轻飘飘的不切实际，然而看了作者的细致推论之后，我感受到作者的确是站在一个更加宏观的角度上来思考AI的整体发展方向并且言之有理。
本书的作者之一盖瑞马库斯本就是心理学和神经科学教授，因此他的提倡是从人类的认知科学原理出发的。值得注意的是，人工智能发展史上素有符号主义和联结主义之争。符号主义认为AI系统需要演绎归纳、逻辑推理，以及在特定模型下求解的搜索算法。而联结主义AI中知名度最高的是人工神经网络技术，深度学习与人工神经网络技术有着异曲同工之妙。这本书的作者的观点偏向于符号主义，但是他们并非完全否认了深度学习之路，更多的指出人类通往可信的AI的道路不仅仅是深度学习，并提供了一个对普罗大众来说并不是如深度学习这般主流的思路。对从事人机交互、互联网乃至一切科技行业的内行和外行来说都是一种很有效的启发和思考。
