AI中国网 https://www.cnaiplus.com
它的困难想到一个单一的技术，将在未来50年形成我们的世界比人工智能。 随着机器学习使我们的计算机教会自己，丰富的突破出现，从医疗诊断到汽车驾驶自己。 一大堆的忧虑也出现了。 谁控制这项技术？ 它会接管我们的工作吗？ 危险吗？ 奥巴马总统渴望解决这些关切。 他最想谈谈他们的人吗？ 企业家和麻省理工学院媒体实验室主任Joi Ito。 所以我在白宫里和他们坐下来，通过希望，炒作和对AI的恐惧。 这也许只是一个快速的问题关于星际迷航。 -SCOTT DADICH
SCOTT DADICH：谢谢你们来到这里。 主席先生，你的一天是怎么回事？
BARACK OBAMA：忙。 生产。 你知道，这里和那里的几个国际危机。
DADICH：我想把我们的谈话集中在人工智能，这已经从科幻小说转变为改变我们生活的现实。 什么时候你知道，真正的AI的年龄在我们身上？
奥巴马：我的一般观察是，它已经以各种方式渗入我们的生活，我们只是没有注意到;部分原因是因为我们认为AI是由流行文化着色。有一个区别，这可能是很多你的读者熟悉，在广义的AI和专门的AI之间。在科幻小说中，你听到的是泛化的AI，对吧？电脑开始变得比我们聪明，最终得出结论，我们不是所有有用的，然后他们正在给我们保持我们的胖和快乐，或者我们在矩阵。我的印象，基于与我的顶尖科学顾问的谈话，是我们还有一个相当长的距离。这是值得考虑的，因为它伸展我们的想象力，让我们思考的选择和自由意志的问题，实际上有专门的AI，一些重要的应用程序，这是关于使用算法和计算机来解决越来越复杂的任务。我们在我们生活的各个方面都看到了专业的人工智能，从医学和运输到电力的分配，它承诺创造一个更加高效和高效的经济。如果得到适当利用，它可以产生巨大的繁荣和机会。但它也有一些缺点，我们必须找出在不消除工作的方面。它可能会增加不平等。它可以压低工资。
JOI ITO：这可能会扰乱我在麻省理工学院的一些学生，但我的一个关注是，它是一个主要是男孩帮派的孩子，大多是白人，他们正在构建围绕AI的核心计算机科学，他们更舒适对话电脑比人类。很多人认为，如果他们能够做出科幻小说，广义的人工智能，我们就不必担心所有的凌乱的东西，如政治和社会。他们认为机器只会为我们找到一切。
OBAMA：对。
ITO：但他们低估了困难，我觉得这是人工智能不仅仅是计算机科学问题的一年。每个人都需要理解，AI的行为是重要的。在媒体实验室，我们使用术语扩展智能1。因为问题是，我们如何在AI中建立社会价值观？
OBAMA：当我们一起吃午饭时，Joi用自驾车的例子。技术本质上在这里。我们有机器可以做出一堆快速的决定，可以大大减少交通死亡，大幅提高我们的交通网格的效率，并帮助解决导致地球变暖的碳排放。但Joi提出了一个非常优雅的观点，那就是，我们将要嵌入汽车的价值是什么？有一些选择，你必须做，经典的问题是：如果车开车，你可以转过来避免打一个行人，但然后你可能打墙，杀了自己。这是一个道德的决定，谁在设置这些规则？
ITO：当我们做汽车手推车问题2时，我们发现大多数人喜欢的想法，司机和乘客可以牺牲节省许多人。他们还说他们永远不会买自驾车。 [笑]
DADICH：当我们开始涉及这些伦理问题时，政府的作用是什么？
OBAMA：我一直在思考AI的监管结构的方式是，在技术的早期，一千朵花应该绽放。政府应该增加一个相对轻的触摸，大量投资研究，确保基础研究和应用研究之间的对话。随着技术的出现和成熟，然后弄清楚如何将它们纳入现有的监管结构成为一个更棘手的问题，政府需要更多地参与。不总是强迫新技术进入存在的方程，而是确保规则反映一个广泛的基本价值观。否则，我们可能会发现它对某些人或某些群体处于不利地位。
ITO：我不知道你是否听说过神经多样性运动，但是Temple Grandin3谈论了很多。她说，莫扎特和爱因斯坦和特斯拉都会被认为是自闭症，如果他们今天活着。
OBAMA：他们可能在频谱上。
ITO：对，光谱。如果我们能够消除自闭症，并使大家的神经正常，我敢打赌一个麻烦的孩子不会是他们的方式。问题之一，无论我们谈论自闭症还是广泛的多样性，是我们允许市场决定。即使你可能不想爱因斯坦作为你的孩子，说“好吧，我只想要一个正常的孩子”不会导致最大的社会效益。
OBAMA：这是更大的问题，我们一直在AI周围斗争。一部分是什么使我们人类的扭结。他们是突变，异常值，创造艺术或新发明的缺陷，对吧？我们必须假设，如果一个系统是完美的，那么它是静态的。而使我们成为我们的一部分，是我们活着的一部分，就是我们是动态的，我们感到惊讶。我们必须考虑的挑战之一是，在哪里和什么时候适合我们使事情按照他们想要的方式工作，没有惊喜？
DADICH：当我们谈论扩展智能，因为它适用于政府，私营企业和学术界，那里的研究中心应该在哪里，如果甚至有一个中心？
ITO：我认为麻省理工学院会认为它应该在麻省理工学院。 [笑]历史上，这可能是一群来自政府帮助的学者。 但是现在，大多数十亿美元的实验室都在经营。
OBAMA：我们知道那些资助他们的人，如果你和Larry Page或其他人谈话，他们的一般态度是可以理解的，“我们想要的最后一件事是一群官僚在我们追逐独角兽时放慢我们的速度“。
我们所看到的一部分问题是，我们作为社会对基础研究的一般承诺已经减少。我们对集体行动的信心被削弱了，部分是因为意识形态和修辞。
我们仍然使用的类比，当谈到一个伟大的技术成就，甚至50年后，是一个月亮镜头。有人提醒我，空间计划是GDP的一半。这听起来不是很多，但在今天的美元，将是800亿美元，我们将每年花在AI上。现在我们花费的可能不到十亿。这无疑将加速，但我们必须要理解的一部分是，如果我们想要这些突破性技术所代表的多元化社区的价值观，那么政府资助必须是其中的一部分。如果政府不是融资的一部分，那么Joi提出的关于这些技术中的价值观的所有这些问题最终都可能丢失或至少没有得到适当的辩论。
DADICH：你带来了一个真正有趣的紧张，Joi写的：在边缘发生的创新和在空间计划之类的发生的创新之间的差异。我们如何确保所有这些想法的传播可以发生？
奥巴马：我试图强调，只是因为政府正在资助它，并帮助收集数据并不意味着我们囤积或只有军队有它。给出一个非常具体的例子：我们精确医学项目的一部分是从足够多样化的美国人那里收集一个足够大的人类基因组数据库。但是，不是把钱给斯坦福或哈佛，他们在那里囤积他们的样品，我们现在有这个整个遗传数据库，每个人都可以访问。有一组共同的价值观，一个共同的结构，以确保研究是共享的，而不是一个群体的货币化。
DADICH：但是肯定有一些风险。我们听到了像Elon Musk和Nick Bostrom4这样的人，他们担心AI的潜力超过我们理解它的能力。当我们向前迈进时，我们如何考虑这些问题，因为我们不仅保护自己，而且保护大规模的人性？
OBAMA：让我从我认为是更直接的关注开始 - 这是一个可解决的问题在这类专门的AI，我们必须注意它。如果你有一台可以玩Go的计算机，一个非常复杂的游戏，有很多变化，那么开发一个算法，让你在纽约证券交易所最大限度地利润可能在眼前。如果一个人或组织首先到达那里，他们可能很快下跌股票市场，或者至少他们可以提出有关金融市场的完整性的问题。
然后可能有一个算法，说“穿透核码，并找出如何发射一些导弹”如果这是它的唯一的工作，如果它是自我教学，它只是一个真正有效的算法，那么你有问题。我认为我对我的国家安全团队的指令是，不要担心机器接管世界。担心非国家行为者或敌对行动者渗透系统的能力，在这个意义上，它在概念上不同于我们正在做的许多网络安全工作。它只是意味着我们必须做得更好，因为那些可能部署这些系统的人现在会好多了。
ITO：我一般同意。唯一的警告是，有几个人相信，有一个相当高的百分比的机会，一个广义的AI将在未来10年发生。但我的看法是，为了实现这一点，我们需要一两个不同的突破。所以，你可以监测什么时候你认为这些突破将会发生。
OBAMA：你只需要有一个靠近电源线的人。 [笑]当你看到它发生时，你必须从墙上甩出电，人。
ITO：重要的是找到谁想要使用AI为好社区和领导人，并找出如何帮助他们使用它。
OBAMA：传统上，当我们考虑安全和保护自己时，我们会考虑装甲或墙壁。越来越多地，我发现自己正在寻找医学和思考病毒，抗体。部分原因是为什么网络安全仍然如此艰难是因为威胁不是一堆坦克滚动在你身上，而是一大堆的系统，可能容易受到蠕虫进来。这意味着我们必须以不同的方式思考我们的安全，做出不同的投资，可能不是那么性感，但实际上可能最终与任何事情一样重要。
我花了很多时间担心是像大流行病这样的事情。你不能建造墙壁，以防止下一次空降致命的流感登陆我们的海岸。相反，我们需要做的是设置系统，在世界各地创建公共卫生系统，点击触发器告诉我们什么时候看到新的东西，并确保我们有快速的协议和系统允许我们使疫苗更聪明。所以，如果你采取公共卫生模式，你想想我们如何处理，你知道，网络安全的问题，很多可能最终真的有助于思考的AI威胁。
ITO：我认为有趣的一件事是我们开始看微生物组。有很多证据表明，引入好的细菌来对抗坏细菌 - 不灭菌 - 是一种策略。
奥巴马：当然。我仍然不让Sunny和Bo5舔我，因为当我在侧面的草坪上走他们时，我看到他们拿起和咀嚼的一些东西，我不想要的，人。 [笑]
ITO：我们必须重新思考什么是干净的手段，无论你在谈论网络安全还是国家安全，它都是类似的。我认为，你可以做出严格的命令或者你可以消除一切可能的病原体的概念是困难的。
DADICH：还有一个风险，这会创造一种新的军备竞赛？
分页代码
OBAMA：我认为毫无疑问，围绕网络安全，尤其是AI制定国际规范，协议和验证机制还处于起步阶段。部分原因是这个有趣的问题是进攻和防守之间的界线很模糊。而在一个有很多不信任的政府建立的时候，这使得困难。当你有世界各地的国家看到美国是卓越的网络力量，现在是我们的时间，“我们愿意约束自己，如果你愿意约束自己。”挑战是最复杂的国家行动者 - 俄罗斯，中国，伊朗 - 不要总是体现与我们一样的价值观和规范。但是，我们必须将这个问题作为一个国际问题，以使我们有效。
ITO：我想我们处在一个黄金时期，人们想互相交谈。如果我们能够确保资金和能源支持开放共享，则有很多上升空间。你不能真正地在真空中获得好处，它现在仍然是一个国际社会。
OBAMA：我认为Joi是完全正确的，这就是为什么我们与所有对此感兴趣的人一起召开一系列会议。有一件事，我们没有谈及太多，我只想回去，是否真的要考虑经济的影响。因为大多数人现在没有花很多时间担心奇点，他们担心“嗯，我的工作将被机器替换？”
我倾向于乐观地 - - 历史上我们吸收了新技术，人们发现新的工作创造，他们迁移，我们的生活水平普遍上升。我认为我们可能在一个稍微不同的时期，现在，只是因为AI和其他技术的普遍适用性。高技能的人在这些系统中表现很好。他们可以利用他们的才能，他们可以与机器接口，以扩大他们的覆盖面，他们的销售，他们的产品和服务。
低工资，低技能的个人变得越来越多，他们的工作可能不会被取代，但工资被压制。如果我们要成功地管理这种转变，我们将必须就如何管理这个问题进行社会对话。我们如何培训和确保经济是包容性的，如果事实上，我们生产比以往任何时候都更多，但越来越多的是一个小团体在顶部？我们如何确保人们有生活收入？这对我们支持艺术或文化，或确保我们的退伍军人得到照顾的意义是什么意思？社会契约必须适应这些新技术，我们的经济模式必须适应这些新技术。
ITO：这实际上是不直接的工作被取代，因为我敢打赌，如果你有一台理解医疗系统的计算机，是非常好的诊断，这样，护士或药剂师不太可能比医生更换 - 他们是不会那么贵。实际上有很高级的工作，例如律师或审计员，可能会消失。而很多服务企业，艺术和计算机不太适合的职业将不会被替换。我不知道你对普遍基本收入的看法6，但是当我们开始看到人们流离失所时，我们还可以看到其他模型，如学术界或艺术，人们的目的不是束缚直接给钱。我认为其中一个问题是，有一个概念，如果你没有钱，你怎么聪明？在学术界，我看到很多聪明的人没有钱。
普遍基本收入是一个概念，其中所有公民至少得到政府提供的一种生活工资作为社会保障的一种形式。
OBAMA：你是完全正确的，这就是我的意思是通过重新设计社会契约。现在，普遍收入是否是正确的模式 - 是否会被广大人群接受？这是我们将在未来10或20年里进行的辩论。你也是正确的，将被AI取代的工作不仅仅是低技能的服务工作;他们可能是高技能的工作，但是可重复的，计算机可以做的。然而，不可否认的是，随着AI的进一步融入，社会可能变得更富有，生产和分配之间的联系，你的工作量和你做了多少，进一步和进一步衰减 - 电脑做了很多的工作。因此，我们必须作出一些更严厉的决定。我们少付教师，尽管事实上，这是一个非常艰苦的工作，一个真正困难的事情，电脑做得好。因此，为了让我们重新审视我们的价值，我们共同愿意支付的 - 无论是教师，护士，照顾者，妈妈还是爸爸留在家里，艺术家，所有的东西，对我们现在非常宝贵的，在薪水图腾柱上排名第一 - 这是我们需要开始的谈话。
OBAMA：你是完全正确的，这就是我的意思是通过重新设计社会契约。现在，普遍收入是否是正确的模式 - 是否会被广大人群接受？这是我们将在未来10或20年里进行的辩论。你也是正确的，将被AI取代的工作不仅仅是低技能的服务工作;他们可能是高技能的工作，但是可重复的，计算机可以做的。然而，不可否认的是，随着AI的进一步融入，社会可能变得更富有，生产和分配之间的联系，你的工作量和你做了多少，进一步和进一步衰减 - 电脑做了很多的工作。因此，我们必须作出一些更严厉的决定。我们少付教师，尽管事实上，这是一个非常艰苦的工作，一个真正困难的事情，电脑做得好。因此，为了让我们重新审视我们的价值，我们共同愿意支付的 - 无论是教师，护士，照顾者，妈妈还是爸爸留在家里，艺术家，所有的东西，对我们现在非常宝贵的，在薪水图腾柱上排名第一 - 这是我们需要开始的谈话。
DADICH：主席先生，你在寻找什么技术来解决你在政府看到的最大挑战？
OBAMA：我们必须做一大堆工作，使政府更加客户友好，并使其至少像提交比萨或购买机票一样容易提交税收。无论是鼓励人们投票还是取消大数据，以便人们更容易地使用它，或者更简单地在线处理他们的表格，那么将联邦政府，州政府和地方政府推入21世纪是一项巨大的工作。联邦政府和私营部门之间的差距实际上并不宽。然而，技术差距是巨大的。当我第一次来到这里时，我总是想象情境室会是这个超级酷的东西，比如汤姆·克鲁斯在少数报告中，他会在那里移动的东西。它不是这样的，在所有。 [笑]特别是当谈到在地球另一边狩猎恐怖分子时，电影显示了我们以某种方式拥有的全能科学，而且它只是还没有，它已被大大地资金不足和没有正确设计。
在关于技术的更广泛的问题方面，我坚信如果我们能够正确地应对气候变化，如果我们能够挖掘制动，并找出我们如何避免海洋上升6英尺，人类将会图东西。我很乐观。我们做了很多很好的工作，但我们还有很长的路要走。
了解我们如何以一种负责任，透明和安全的方式调节互联网上的连接性，使我们能够了解坏人，但确保政府在我们所有的生活中不拥有这么多的权力，成为一个压迫工具 - 我们仍然在努力。其中一些是一个技术问题，加密是一个很好的例子。我一次又一次地遇到了民间自由主义者和国家安全人士。这实际上是一个艰难的问题，因为没有人能给我一个真正好的答案，在我们如何协调这些问题。
因为这是一个前沿问题，我最后要提到的是，我仍然是一个大空间的家伙，想知道如何进入下一代的太空旅行是我们的资金显着不足。私营部门正在做一些很好的工作，因为越来越多的政府资助了一些“什么是什么，为什么不？”的企业，疯狂的想法。当我们考虑太空飞行时，我们仍然在考虑基本上我们在阿波罗航班使用的相同的化学反应。五十年后，似乎我们应该 - 我不知道锂晶体7是否在那里 - 但是，你知道，我们应该有一些突破。
DADICH：我知道你是星际迷航的粉丝。这是一个灵感来自乌托邦的技术观点 - 它是什么塑造了你的未来的愿景？
奥巴马：当我还是个孩子的时候，我是星际迷航的吸血鬼。他们总是很有趣的观看。什么使这个节目持续不是关于技术。这是关于价值观和关系。这就是为什么不重要的特殊效果是那种俗气和坏，对吧？他们会登陆一个星球，有所有这些papier-mâché巨石。 [笑]但它没有关系，因为它真的在谈论一个共同人性的概念和对我们解决问题能力的信心。
最近的电影拍摄了同样的精神 - 火星人。不是因为它有一个非常复杂的情节，而是因为它显示了一堆不同的人试图解决一个问题。使用创造力和砂砾和努力工作，并有信心，如果它在那里，我们可以弄清楚。这就是我最喜欢的美国，为什么它继续吸引来自世界各地的人们面对我们面临的所有挑战，“哦，我们可以想出这个精神”的精神。我最重视的科学是什么这个概念，我们可以想出这一点。好吧，我们要试试这 - 如果它不工作，我们会弄清楚为什么它没有工作，然后我们要尝试别的东西。而且我们会对我们的错误，因为这将是教我们如何最终破解我们试图解决的事情的代码。如果我们失去了那种精神，那么我们就会失去对美国至关重要的东西，我认为对人类至关重要。
ITO：我完全同意 - 我喜欢星际迷航的乐观主义。但我也认为联合会是惊人的多样化，船员是多样的，坏人通常不是邪恶 - 他们只是误导。
奥巴马：星际迷航，和任何好故事一样，说我们都很复杂，我们都有一点Spock和一点Kirk（笑）和一点Scotty，也许一些克林贡在我们， 对？但这是我的意思是解决它。部分原因是能够跨越障碍和差异。对理性有一定的信心，有些谦卑。这是最好的艺术和真实的最好的科学是真实的。我们拥有这些难以置信的头脑的感觉，我们应该使用，我们仍然只是刮伤表面，但我们不应该太too。。我们应该提醒自己，有很多我们不知道的东西。
AI中国网 https://www.cnaiplus.com
本文网址：
