OpenAI CEO萨姆·奥特曼世界巡回演讲 | 16个精彩时刻回顾
作者：FancyPig | 发布时间： | 更新时间：
相关阅读
视频讲解
在萨姆·奥特曼的世界循环演讲之旅中，媒体大部分都未能关注到的是，他们揭示了至少16个令人惊讶的事情。从AI设计AI到“不可阻挡的开源”，再到“定制”泄漏，以及AI和宗教，还有可能对“按下按钮”感到后悔。我将带来所有这些以及另外十一个见解，连同一份本周刚刚发布的高度相关的“双重用途”论文。无论你是否对“通过告诉AI解决气候变化”、“面对灭绝”或者只是想看看深度伪造的萨姆·奥特曼有兴趣，这个视频都会触及到这些话题，并以布罗克曼在首尔的评论作为结尾。我观看了超过十个小时的采访，为您带来来自约旦、印度、阿布扎比、英国、韩国、德国、波兰、以色列等地的视频素材。
图文讲解
在萨姆-奥特曼的世界巡回演讲中，有16个令人惊讶和或迷人的时刻。我本来可以为他们每个人做一个视频，但在看了10多个小时的采访后，我决定，你知道吗，让我们在一个视频中向你展示所有的东西。
从AI设计新的AI，到新的ChatGPT泄漏，像火车炮一样推动行业，到开放源码，这里是我学到的所有16件事情，没有特定的顺序。让我们从萨姆-奥特曼关于AI设计自己的架构的警告开始。
我们可以决定它们的工作方式，但如果我们只是说“好的，人类不用管了，交给AI去做吧，你们可以改变自己的架构，做任何想做的事情”，那会是一个错误。我认为非常重要的是，人类的未来应该由人类决定，这是一个我们可以主动做出的选择。似乎是个好主意，但Sutskever可以看到他们的一个模型设计下一个模型。
我们绝对非常关注超级智能。将有可能建立一台计算机，一个计算机集群，一个GPU农场，这只是比任何人都聪明的，它可以做科学和工程，甚至比一个真正有经验的科学家和工程师的大型团队快得多，快得多。这很疯狂。这将会产生令人难以置信的、极其重要的影响。它可以设计出下一个版本的系统。像人工智能构建人工智能。这实在是太疯狂了。让我们回到阿布扎比，萨姆-奥特曼说他很享受作为OpenAI首席执行官带来的权力，但也提到他可能要做出的奇怪决定。
我的意思是，我有很多自私的原因在做这件事情，就像你说的一样，但我想不到更有意义的工作了。我不认为这是特别利他主义的，因为如果我没有一大堆钱，那就是利他主义的了。是的，钱会比我花得更快地堆积起来。我喜欢在OpenAI上没有矛盾，因为我认为我们有可能在某一天做出非常奇怪的决定，这种机会是非常重要的。说到重大决定，萨姆-奥特曼两次暗示，一次在约旦，一次在印度，他可能对在AI比赛中打响发令枪感到遗憾。
20年后，我们肯定会有一些巨大的遗憾。我希望我们能说的是我们所做的好事远远多于坏事，我认为我们会这样做的，这是真的。但这里的负面影响也是相当大的，我认为我们每天都感受到了这种重量。说实话，我认为如果我们要后悔什么，可能是我们已经按下了按钮。就像我们已经启动了这场革命。
它在某种程度上脱离了我们的掌控。我认为这将是伟大的，但就像，这将是现在发生的，对吗？像这样，我们，我们已经走出了，世界就像走出了大门。我想，我最失眠的事情是，我们已经做了非常糟糕的事情。
我不认为我们已经做了，但假设是，我们通过将ChatGPT引入世界，让这个行业像从高压枪射出的一样加速发展，我们现在已经没有什么影响了。将会有一个加速的过程，以制造这些系统，同样，我认为这将被用于巨大的利益。我认为我们将解决所有的问题，但也许有一些东西在那里是非常困难的和复杂的方式，我们不明白。而且你知道，我们现在已经启动了这个。但回到特拉维夫，萨姆-奥特曼和OpenAI的首席科学家Ilya Sutskova都同意，超级智能带来的风险不是科幻小说。
对于最后一个问题，即失去控制的超级智能人工智能。是的，这将是非常糟糕的。是的。所以，这就像，这将是，建立一个我们不知道如何控制的超级智能人工智能，将是一个大错误。我认为世界应该把这当作，你知道的，哈哈，永远不会出现科幻的风险，而是我们在未来十年可能不得不面对的东西，这不是很久。
说得轻松一点，萨姆-奥特曼似乎没有那么不安，不仅是对自己的深层假象，而且对社会习惯于错误信息。我想播放一个片段。也许你们可以放一个什么片段。我最近在某个地方听到萨姆的讲话，我们可以谈一谈。请你播放这个片段好吗？
你好，我叫萨姆，我很高兴今天能在这里。谢谢大家的加入。我还想说，和我一起在台上的那位先生长得非常漂亮。我还想说，你应该非常小心地对待用人工智能技术生成的视频。
好的，所以你最近没有说，但尽管如此，我认为这提出了一个真正的问题，对吗？当，你知道，这个视频，如果你仔细看，你可以看到嘴唇不是完美的同步，但就像你说的，这个东西只会变得更好，而且是成倍的好。是的。所以这就像深深地陷入了不可思议的山谷。看上去很奇怪，但我们离看起来很完美的东西已经不远了。
现在有很多人担心，这将对选举和我们的社会产生影响，以及我们如何信任我们所看到的媒体，我有一些担心，但我认为，当它涉及到像这样的视频时，我认为作为一个社会，我们将迎难而上。我们将很快学会，我们不相信视频，除非我们相信那种出处。如果人们在说一些非常重要的事情，他们会用密码签名。
事实上，在整个世界巡回演讲中，萨姆-奥特曼多次表示，他认为不应该对目前的模式进行任何监管。
每个人都希望有好的教育，生产力的提高，新科学的发现，所有这些即将发生的事情。而且没有人想毁掉这个世界。没有人想做事情，甚至没有那么糟糕，但还是很糟糕。我完全相信，不扼杀创新和解决大的风险是可能的。我认为，如果去规范当今的模式，那是一个错误。而在波兰，他的联合创始人Wojciech Zaremba也同意说，超级智能的风险还有10年。
另外，我想说的是，恐惧是对未来的人工智能的恐惧，不是今天的人工智能。如果我们所处的轨迹将继续下去，那么在十年左右的时间里，将有建成的系统与今天的企业一样强大。但如果我可以和萨姆-奥特曼谈谈，我会让他注意本周发表的这篇论文。
这是哈佛大学和麻省理工学院的一项研究，它涉及一些非科学家的学生工作了1个小时。在这一小时内，他们能够让聊天机器人提出四种潜在的大流行病病原体，解释它们如何利用反向遗传学从合成DNA中生成，提供了不太可能筛选订单的DNA合成公司的名字，并确定了详细的协议和如何排除故障。他们说，总的来说，这些结果表明，LLM将使大流行病类药剂广泛地被使用，即使是他们说的很少或没有受过实验室培训的人。然后还有这个，这些结果强烈地表明，现有的大型语言模型的评估和训练过程不足以防止它们为恶意的行为者提供与造成大规模死亡有关的可获得的专业知识。而这更直接，如果无节制的LLM聊天机器人使大流行类制剂更容易获得，即使是没有接受过生命科学培训的人，能够杀死数千万人的个体数量将急剧增加。他们建议，至少，大于GPT-3的新LLMs应该由擅长评估灾难性生物风险的第三方进行评估，然后再向公众提供受控访问。
请注意，他们说的是比GPT-3大，所以这与萨姆·奥特曼的断言，即目前像GPT-4这样的模型不应该有任何的监管，有着强烈的矛盾。他们说，即使是开源社区也应该欢迎保障措施，因为一次滥用和大规模死亡事件会引发强烈反弹，包括实施极其严厉的管制。
一个具体的建议是，如果生物技术和信息安全专家能够确定与造成大规模死亡最相关的一组出版物，并且像OpenAI和谷歌这样的公司策划他们的训练数据集以删除这些出版物，那么未来在策划的数据上训练的模型将更不可能为任何意图伤害的人提供创造或增强病原体的食谱。对我来说，这似乎是一个绝对明显的举措，我想Ilya Sutskova会同意。
我们正在谈论随着时间的推移和能力的不断提高，你知道，最终会一直到这里，对吗？
现在我们就在这里。今天，这就是我们的位置。
这就是我们要到达的地方。当你到了这一点，那么是的，这是非常强大的技术。它可以被用于惊人的应用。你可以说治愈所有的疾病。反过来说，你可以说创造一种疾病。比以前存在的任何东西都要糟糕得多。那就太糟糕了。
在ChatGPT泄露事件中，我们似乎将得到一个新的工作空间，在那里我们可以定制我们与ChatGPT的互动，给它提供文件和一个带有你希望ChatGPT记住你和你的偏好的任何信息的档案。
这一点在世界巡回演讲上得到了暗示，当时Sam Altman的嘉宾之一，来自OpenAI Research的Johannes Heidecker，谈到了定制模型。
我们正试图使我们的模型既能更好地遵循某些护栏，这些护栏永远不应该被改写，不能用越狱的方式，如果你很好地要求，也不能威胁它。我们也在努力使我们的模型在可定制方面做得更好，使它们更听从用户或开发者想要的行为的额外指示。
在一个比较轻松的话题上，OpenAI的领导人在韩国首都首尔被问及关于人工智能和宗教的混合问题。
你是否期望人工智能取代教堂等宗教组织的作用？我认为这是一个很好的问题，所有人类社会将如何整合人工智能。而且我们已经看到人们在建造人工智能牧师，例如。因此，信徒可以向这个牧师提出问题，他们可以引用圣经经文，它可以给出建议。
但现在回到波兰，萨姆·奥特曼称开源是不可阻挡的。认识到开源是不可阻挡的，不应该被阻止。
因此，这些东西会在那里出现。而作为一个社会，我们必须适应。但说到阻止人工智能，萨姆-奥特曼被问及他自己的亲人。而作为回应，他给出了一个乌托邦式的未来愿景，并称目前的世界是野蛮的。
如果你真的认为人工智能给人类带来了危险，为什么还要继续发展它？你不为你自己亲爱的人和家人担心吗？我想这是一个超级公平的好问题。而我们工作中最麻烦的部分是，我们必须平衡这个令人难以置信的承诺和这个技术，我认为人类真的需要。我们可以在一秒钟内谈一谈为什么。
面对这些非常严重的风险，为什么要建造它？第一，我确实认为，当我们回过头来看今天的生活水平和我们所容忍的东西时，它看起来甚至比我们回过头来看500或1000年前人们的生活更糟糕。我们会说，伙计，你能想象人们生活在贫困中吗？你能想象人们遭受疾病的折磨吗？你能想象每个人都没有受过良好的教育，并且能够在他们想去的地方过自己的生活吗？这将会显得很野蛮。我认为未来的每个人都会有比今天最好的人更好的生活。我认为有一种道德上的责任，那就是找出如何做到这一点。我还认为这就像不可阻挡的。就像这是技术的进步。
它不会，阻止它是行不通的。因此，我们必须弄清楚如何管理风险。但他似乎在这方面并没有百分之百的把握。这是他在伦敦进行世界巡回演讲时接受《卫报》的采访。谈到超级智能，他说，这并不是说无法阻止。如果世界各国政府决定采取一致的行动来限制人工智能的发展，就像他们在其他领域一样，比如克隆人或生物武器研究，他们也许能够做到。但他又重复说，但那将是放弃所有的可能。我认为，这将是我们有史以来在人的生活质量方面最巨大的飞跃。我确实试图得到他的巡回演讲伦敦站的门票，但他们在半小时内就被卖光了。哦，好吧。
然而，萨姆-奥特曼确实认为，当这些AGI实验室面对生存风险时，行为会发生变化。
我们谈到的一件事是，什么结构能让我们热烈地拥抱那些对我们伤害最大的管制。现在时间已经到了，我们在这里向全世界倡导将对我们影响最大的监管。因此，我们当然会遵守它。我认为，当人们面临存在风险时，更容易从他们身上得到良好的行为。所以我认为所有在这里处于领先地位的人，这些不同的公司现在都感受到了这一点，你会看到一个不同于你从社交媒体公司看到的集体反应。
而在机会方面，萨姆-奥特曼和伊利亚-苏茨克沃都谈到了解决气候变化的问题。我不想这么说，因为气候变化是如此严重，如此困难的问题，但我认为一旦我们有一个真正强大的超级智能，解决气候变化对这样的系统来说不会特别困难。
我们甚至可以解释如何。这里是我们如何解决气候变化的问题。你需要非常大量的高效碳捕获。你需要用于碳捕获的能源，你需要技术来建造它，而且你需要建造大量的它。如果你能加速科学进步，这是一个强大的人工智能可以做到的，我们可以更快地达到非常先进的碳捕获。我们可以更快地达到非常便宜的电力。我们可以更快地实现更便宜的制造。现在把这三者结合起来，廉价的电力，廉价的制造业，先进的碳捕获，我们建造了很多。现在你把所有这个所有多余的二氧化碳从大气中吸走了。你知道，如果你考虑一个系统，你可以说，告诉我如何廉价地制造大量的清洁能源，告诉我如何有效地捕获碳，然后告诉我如何建立一个工厂，在行星范围内做这个。如果你能做到这一点，你也可以做很多其他事情。另外，不仅你要求它告诉你，你还要求它去做。
这的确会很神奇，但想想我们将赋予人工智能的力量，如果它能够做到这一点，只是创造那些碳捕获工厂。如果我们真的做出那个决定，有一件事会有帮助，那就是减少幻觉。
我认为我们会把幻觉问题弄到一个好得多、好得多的地方。这将需要我们，我的同事们的权衡，我想我们需要一年半，两年，类似这样的时间。但是到那个时候，我们就不会再谈这些了。萨姆-奥特曼在新德里谈到，18个月到两年的时间框架是雄心勃勃的，令人惊讶。但现在要谈的是工作，萨姆-奥特曼在巡回演出的每一站都被问及这个问题。
不过在这方面，我认为是伊利亚-苏茨科娃给出了更诚实的答案。经济失调确实如此，就像我们已经知道，有一些工作受到影响，或者说他们正在受到影响。换句话说，有些大块的工作是可以做的。如果你是一个程序员，你不再写函数了，Copilot为你写了个函数。不过，如果你是一个艺术家，那就有点不同了，因为艺术家的一大块经济活动已经被一些图像生成器所占据。
虽然会有新的工作岗位被创造出来，但这将是一个漫长的经济不确定性时期。有一种说法是，即使我们拥有全人类水平的人工智能，全AGI，人们仍然会有经济活动要做。我不知道情况是否如此，但无论如何，我们都需要有一些东西，允许软化，软化打击，以便更顺利地过渡到将存在的完全新的职业，或者即使没有，我们也希望政府、社会系统将需要启动。
我确实认为就业市场的变化将是巨大的，我们将密切关注这个故事。
不过，有一点我绝对同意萨姆-奥特曼的观点，那就是这种解决智能的方法给人类带来的深刻的、几乎是哲学上的变化。
我从小就隐隐约约地认为，智力是一种非常特别的人类事物，有点神奇。而我现在认为，它是一种物质的基本属性。这无疑是对我世界观的一个改变。科学发现的历史是，人类在中心的地位越来越低。我们曾经认为，像太阳围绕我们旋转，然后也许至少我们是，如果不是这样，我们就像要成为银河系的中心，没有这个大宇宙。然后多元宇宙就像真的有点奇怪和压抑。而如果智力是一种特殊的，像再次，我们只是像越来越远离像主角的能量，但这也没什么。实际上，这有点像一个不错的认识。
这有点像哥白尼和达尔文的革命，合二为一。
我把最后的话交给首尔的格雷格-布罗克曼，他谈到了将模型放大10倍的不可预知性，
是的，这是人工智能历史上最大的主题，是它充满了惊喜。每当你认为你知道的东西，你把它放大10倍，结果发现你一无所知。我认为我们作为人类，作为一个物种，真的在一起探索这个领域。一起承担一切，一无所知，这听起来很正确。但是，感谢你观看到最后。我知道萨姆·奥特曼还有几站。我想这是世界巡回演出中的第1站雅加达和墨尔本。
当然，我也会关注这些。
但是现在，感谢你们，祝你们有一个美好的一天。