因在神经网络方面的开创性工作而获得“诺贝尔计算奖”的杰弗里·辛顿现在可以自由地谈论人工智能的风险。
杰弗里·辛顿 (Geoffrey Hinton) 与另外两位所谓的“人工智能教父”一起获得了 2018 年图灵奖，因为他们的基础工作导致了当前人工智能的繁荣，现在他说他的一部分对他一生的工作感到遗憾。根据《纽约时报》对这位 75 岁老人的采访， 欣顿最近辞去了在谷歌的工作，以便畅所欲言地谈论人工智能的风险 。
“我用通常的借口安慰自己：如果我没有这样做，其他人也会这样做，”已在谷歌工作了十多年的 Hinton 说。“很难看出如何防止坏人利用它做坏事。”
据 纽约时报报道，Hinton 上个月通知了谷歌他的辞职，并于周四直接与谷歌 CEO Sundar Pichai 进行了交谈。该讨论的细节没有透露。
正是这项工作最终促成了 ChatGPT 和 Google Bard 的诞生。
这位终身学者在谷歌收购了一家由 Hinton 和他的两名学生创办的公司后加入了谷歌，其中一名学生后来成为 OpenAI 的首席科学家。Hinton 和他的学生开发了一个神经网络，在分析了数千张照片后，它可以自学识别狗、猫和花等常见物体。正是这项工作最终促成了 ChatGPT 和 Google Bard 的诞生。
根据 NYT 的 采访，Hinton 对谷歌对该技术的管理感到满意，直到微软推出新的 OpenAI 注入的 Bing，挑战谷歌的核心业务并在搜索巨头内部引发“红色代码”反应。Hinton 说，如此激烈的竞争可能无法停止，导致世界上充斥着如此多的虚假图像和文字，以至于没有人能够分辨“什么是真实的”。
谷歌首席科学家杰夫·迪恩 (Jeff Dean) 努力通过以下声明来缓和这一打击：“我们仍然致力于以负责任的方式对待人工智能。我们不断学习以了解新出现的风险，同时也大胆创新。”
Hinton 还在 Twitter 上澄清了他对谷歌管理权的立场：
错误信息的传播只是 Hinton 的当务之急。在更长的时间内，他担心人工智能会消除死记硬背的工作，并可能随着人工智能开始编写和运行自己的代码而消除人类本身。
“这种东西实际上可以变得比人类更聪明的想法——一些人相信了，”欣顿对纽约时报说。“但大多数人认为这还很遥远。我认为这还很遥远。我认为它是 30 到 50 年甚至更长的时间。显然，我不再这么想了。”
作者：托马斯·里克
来源：THE VERGE
日期：2023 年 5 月 1 日