1.762教父
当大家热议AI算力与应用之时，「AI教父」Hinton猛地扯回「何为人」的原点几十年来，Hinton像一位耐心的炼金术士，致力于将模仿大脑运作的理论，锻造成驱动现代AI的强大引擎然而，这位创造者如今却站在了自己创造物的阴影之下，发出了沉重的警告。
2.al pacino 教父
因其在神经网络领域的开创性工作，Geoffrey Hinton荣获诺贝尔物理学奖——尽管他谦虚地承认自己「不搞物理」在与著名主持人Jon Stewart的深度对话中，Hinton不仅仅科普了AI的基石，更在不经意间，一步步引领我们走向令人毛骨悚然的结论：。
3.andy williams 教父
我们所创造的这些数字心智，可能已经拥有了我们一直以为人类独有的东西——主观体验。
4.教父老艾是谁
访谈中，Hinton解释了大语言模型（LLM）的本质——它们通过同样的方式，学习海量文本，从而预测下一个最有可能出现的词他尖锐地指出，人类思考和说话的方式，与LLM在底层逻辑上惊人地相似，都是基于已有信息对未来进行预测。
5.教父网红
他认为，我们对「心智」的理解——一个存在「内在剧场」和「主观体验」的特殊领域——是「彻头彻尾的错误」，就像地平论一样原始他用一个给机器人镜头前放棱镜的巧妙思想实验论证，AI完全有能力像我们一样，区分客观现实与「主观感受到的现实」。
6.教父老艾
AI：从识鸟到自主意识Hinton将大脑神经元的工作比作此起彼伏的「叮」声一个概念，比如「勺子」，不过是一群神经元形成的「联盟」：它们互相鼓动，齐声作响学习，就是改变这些连接的强度，让某些「叮」声的投票权重更高。
7.老教父发家史
而他毕生的工作，就是教会计算机用同样的方式去学习，摆脱死板的「如果-那么」规则他描述了一个迷人的过程：如何让一个神经网络从零开始，仅仅通过观看海量图片，自己学会识别一只鸟它会自发地在第一层创造出「边缘检测器」；。
8.教父叫啥
在第二层将边缘组合成「尖尖的东西」（潜在的鸟喙）和「圆圆的东西」（潜在的眼睛；最终在顶层，当一个「鸟头」和「鸡爪」在正确的位置同时出现时，一个神经元会兴奋地「叮」一声，宣布：「这是一只鸟！」
1986年，Hinton和同僚们提出了名为「反向传播」的学习算法。
这个算法的魔力在于：当给神经网络一张鸟的图片，并告诉它「正确答案是鸟」时，它能瞬间计算出网络中上万亿个连接强度，每一个应该朝哪个方向微调，才能让「这是鸟」的概率哪怕增加0.01%然后，它同时调整所有上万亿个连接。
就在那一刻，神经网络从理论走向了实践这是他们的「尤里卡时刻」尽管当时因为算力和数据的匮乏而「没有用途」，但在几十年后，随着摩尔定律和互联网的爆发，它成为了点燃当今AI革命的火种同样的逻辑，被应用到了语言上。
大语言模型的核心任务极其简单：预测句子中的下一个词。
它将你输入的每个词，都转换成一个独特的神经元「叮」的模式然后，通过观察人类留下的海量文本，它利用「反向传播」算法，不断调整内部上万亿的连接权重，只为在一次又一次的预测中，更接近人类会写出的那个词许多人，包括语言学泰斗乔姆斯基，都认为这不过是「一个统计技巧」，并非真正的理解。
Hinton解释说，模型通过预测下一个词来学习，这听起来像是冰冷的统计学但随后，他将矛头直指人类自己：「那么，你如何决定下一个要说什么词？」主持人Jon Stewart一时语塞我们的大脑，Hinton解释道，运作方式并无本质不同。
我们过去的言语形成了语境，激活了大脑中代表意义的神经元联盟这些联盟相互作用，最终「叮」出了下一个词的意义
我们归因于情商、道德准则的一切，本质上，都只是那些神经元联盟复杂的「叮叮作响」而神经网络，完全可以做到同样的事情Hinton平静地说，在这一点上，AI和人类很像也正是在这一点上，这场看似轻松的科普访谈，悄然滑向了一个深邃、甚至令人恐惧的哲学深渊。
Jon Stewart以为AI最大的威胁是它被坏人武器化，用于操纵选举或制造生物武器但Hinton的担忧，显然已经超越了这个层面他真正恐惧的，不是AI成为工具，而是AI本身而这一切的根源，在于一个我们从未真正审视过的问题：。
到底什么是「意识」和「主观体验」？心智幻觉：我们都是内在剧场的囚徒Jon Stewart谈到「有感知能力」（sentient）的AI，可能会因为自负而反抗人类。
这时，Hinton打断了他，并抛出了一个颠覆性的论断：我的信念是，几乎每个人都对心智是什么有完全的误解误解的程度，就像相信地球是6000年前创造一样大家普遍相信的「心智剧场」模型——即我们的头脑中有一个内在舞台，上演着我们的思想和感受。
当我们说「我体验到一种感觉」时，我们想象自己的头脑里有一个舞台，上面正在上演着各种体验——比如，吃完蘑菇「见手青」后，看到的「粉色小飞象」。
但Hinton认为，这是完全错误的「体验这种东西不存在」为了解释这个颠覆性的观点，他设计了一个精妙的思想实验：你有一个能看、能说、还能用机械臂指东西的AI机器人把一个物体放在机器人面前，机器人能准确地指向物体。
然后，偷偷在机器人的摄像头前放一个棱镜现在，当你让它指向物体时，由于光线被折射，它会指向旁边你告诉它：「不，物体在这里我只是在你的镜头前放了个棱镜」此时，这个AI机器人会说什么？Hinton推测，它会说：。
哦，我明白了，相机弯曲了光线，所以物体实际上在那里但我有一个主观体验，它在那边Hinton总结道：如果它那么说，它就会像我们一样使用「主观体验」这个词
评论(0)