浅谈人工智能伦理

上周,我在一个名为“的会议上进行了一次演讲(并进行了小组讨论)。人工智能伦理“举行在纽约大学哲学系心灵中心,大脑和意识.这里是视频以及一份抄本:

谢谢你今天邀请我来这里。

你知道的,在这里很有趣。我的母亲是一个哲学教授在牛津。当我还是个孩子的时候,我总是说我永远不会做的一件事就是做或谈论哲学。但是,好,我在这里。

在我真正进入人工智能之前,我想我应该谈谈我的世界观。我的一生基本上都在做基础科学建筑技术.据我所知,我对人工智能一直很感兴趣。但我小时候就开始做物理与宇宙学还有东西。这让我陷入了建筑技术自动化数学之类的东西。而且效果很好,我开始考虑,像,如何真正了解和计算一切。那是在大约1980年,起初我认为我必须建立一个类似大脑的东西,我在研究神经网络等等。但我没有走得太远。

与此同时,我对一个更大的科学问题产生了兴趣:如何使最一般的可能的事物理论成为可能。300年来的主导思想是使用数学和方程式。但我想超越他们。我意识到最重要的是,要做到这一点,我得考虑一下程序,以及可能程序的整个计算领域。金宝博188投注

元胞自动机网格

这导致了我个人伽利略式时刻.我只是指了指我的“计算望远镜”金宝博188投注在这些最简单的程序中,我看到了我给他打电话的那个规则30这似乎是从根本上没有什么复杂的东西。

规则30

好,在我看到这个之后,我意识到这实际上是发生在整个计算宇宙和整个自然中的事情。金宝博188投注让大自然制造我们所看到的一切复杂事物的秘密真的存在。但这也是另外一回事:这是一扇了解什么是生的窗户,不受约束的计算是这样的。至少在传统上,当我们做工程的时候,我们总是建造一些足够简单的东西,我们可以预见到它们会做什么。

但是如果我们只是进入计算宇宙,金宝博188投注事情可能会变得更加疯狂。我们公司在那里做了很多开采工作,找到对不同目的有用的程序,就像规则30是为了随机性。和现代机器学习是从传统工程到自由采矿的一种局部方式。

但是,好啊,对于计算宇宙,一般人能说些什么呢?金宝博188投注好,所有这些程序都可以被认为是在做计算。几年前我想到了我称之为计算等效原理金宝博188投注-也就是说,如果行为不明显简单,它通常对应于最复杂的计算。这有很多预测和暗示。像这样,通用计算应该无处不在。应该是不可判定的。我该怎么称呼呢金宝博188投注违背了计算不可化归性.

细胞自动机的一个例子

你能预测它会做什么吗?好,它可能是计算不可约的,金宝博188投注这意味着,如果不有效地跟踪每一个步骤并进行相同的计算工作,就无法知道它将要做什么。金宝博188投注这是完全确定性的。但对我们来说,它似乎有自由意志,因为我们永远不知道它将要做什么。

还有一件事:什么是智力??好,我们的大统一原则是,从一个小程序,对我们的大脑来说,在计算金宝博188投注上等价。智力和计算之间没有明显的界限。天气确实有它自己的想法:它的计算和我们的大脑一样复杂。对我们来说,虽然,这是相当奇怪的计算。因为它与我们人类的目标和经历无关。这只是碰巧发生的原始计算。

那么,我们如何驯服计算呢?我们必须把它塑造成我们的目标。第一步是描述我们的目标。在过去的30年里,我基本上一直在做的就是创造一种方法来做到这一点。

我一直在构建一种现在被称为钨语言-这使我们能够表达我们想要做的事情。它是一种计算机语言。但它并不像其他计算机语言。因为不是告诉计算机用它的术语做什么,它建立在尽可能多的关于计算和世界的知识中,这样我们人类就可以用我们的术语来描述我们想要什么,然后由语言来尽可能地自动完成。

这个基本的想法非常有效,以……的形式数学软件这些年来,它被用来制造无尽的发明和发现。里面也是什么沃尔夫拉姆阿尔法.这里的想法是采取纯自然语言的问题,理解他们,并运用我们文明的知识和算法来回答这些问题。而且,对,这是一个非常经典的爱的东西。当然,它是对人类数十亿个问题的计算答案,例如在Siri内部。

最近我有一个有趣的经历,弄清楚如何利用我们所建立的东西来教孩子计算思维。金宝博188投注我是写书练习.开始时,很简单:“制作一个程序来做X”。但后来,就像“我知道用Wolfram语言说什么,但是用英语表达真的很难。当然,这就是为什么我只花了30年的时间来构建Wolfram语言。

英语也许有25000个常用词;WordfLanguage大约有5000个精心设计的语言。内置结构-包括所有最新的机器学习,以及基于策划数据的数百万件事情。我们的想法是,一旦人们可以用计算的方法来思考世界上的某些事情,金宝博188投注用Wolfram语言表达应该尽可能容易。最酷的是它真的很管用。人类,包括孩子,能读写该语言。电脑也是如此。它是人类思维之间的一种高级桥梁,在文化背景下,和计算。

好啊,那么人工智能呢?技术一直是为了找到存在的东西,然后驯服它们,使实现特定人类目标的自动化。在人工智能中,我们正在驯服的东西存在于计算宇宙中。金宝博188投注现在,外面有很多未经处理的计算,就像自然界有很多事情发生一样。但是我们感兴趣的是计算,它以某种方式与人类目标有关。

那么道德呢?好,也许我们想限制计算,人工智能,只做我们认为合乎道德的事。但不知何故,我们必须找到一种方法来描述我们所说的。

好,在人类世界里,我们这样做的一种方式是通过法律。但是我们如何把定律和计算联系起来呢?我们可以称之为“法律代码”,但今天的法律和合同基本上是用自然语言编写的。在金融衍生品等领域有简单的可计算合同。现在我们谈论的是围绕加密货币的智能合约。

但是,那庞大的法律呢?好,莱布尼兹-下个月就去世了,300年前,他一直在谈论要把一种通用语言正如我们现在所说,用可计算的方式表达这一切。他早了几个世纪,但我认为现在我们终于可以这样做了。

我刚刚发布了一个长博客关于上周的这一切,但让我试着总结一下。使用Wolfram语言,我们已经成功地表达了世界上很多东西,比如人们问Siri的东西。我认为我们现在已经看到了莱布尼兹想要的:拥有一种象征性的通用话语语言,它代表了人类事务中的一切。

我基本上把它看作一个语言设计问题。对,我们可以用自然语言来获取线索,但最终我们必须建立自己的符号语言。事实上,这和我用Wolfram语言做了几十年的事情是一样的。即使是“加”这样的词。好,在Wolfram语言中有一个函数加上,但它的意思和这个词不一样。这是一个非常具体的版本,这与数学上的加法有关。当我们设计一种象征性的话语语言时,是一样的。“吃”一词英语中有很多意思。但我们需要一个概念,我们可能会称之为“吃”—这是一个特定的版本,我们可以用它来计算。

假设我们有一份用自然语言写的合同。获得符号化版本的一种方法是使用自然语言理解,就像我们为数十亿沃尔夫阿尔法输入一样。询问人类关于模棱两可的问题。另一种方法可能是让机器学习描述图片。但最好的方法是首先用符号形式书写,实际上,我猜律师们不久就会这么做。

当然,一旦你有了一个象征性的合同,你可以开始计算它,自动查看是否满意,模拟不同的结果,自动将其聚合成束,等等。最终,合同必须得到现实世界的投入。也许输入是“天生的数字”,就像访问计算机系统的数据一样,或者转移比特币。它通常来自传感器和测量,需要机器学习才能将其转化为象征性的东西。

好,如果我们可以用可计算的形式表达法律,也许我们可以开始告诉AIS我们希望他们怎么做。当然,如果我们能把一切归结为简单的原则,那就更好了。喜欢阿西莫夫机器人定律,或者功利主义之类的。

但我认为这样的事情不会奏效。我们最终要做的是找到完美的计算约束,但是计算在某种意义上是无限疯狂的。这个问题已经出现在G_del定理中了。比如说,我们在研究整数,我们试图建立公理来约束他们,让他们按照我们的想法去工作。好,G_del所展示的是,没有一组有限的公理能够实现这一点。对于你选择的任何一组公理,不会只有普通整数;还有其他的野生动物。

计算不可约性的现象暗示了一个更普遍的版本。金宝博188投注基本上,考虑到任何一套法律或约束条件,总会有“意想不到的后果”。如果我们看一下人类法律的演变,这并不奇怪。但关键是理论上没有办法绕过它。它在计算宇宙中无处不在。金宝博188投注

现在,我认为很明显,人工智能将在世界上变得越来越重要,并最终将控制人类事务的大部分基础设施,有点像现在的政府。就像政府一样,也许我们要做的是建立一个人工智能的宪法,来定义人工智能应该做什么。

宪法应该是什么样的?好,它必须建立在一个世界模型的基础上,不可避免地是不完美的,然后必须说在很多不同的情况下该怎么做。最终,它要做的是提供一种方法来约束恰好与我们目标一致的计算。但是这些目标应该是什么呢?我认为没有任何最终的正确答案。事实上,一个人可以枚举目标,就像一个人可以枚举计算世界中的程序一样。金宝博188投注他们之间没有抽象的选择方式。

但对我们来说,有一种选择的方式。因为我们有特殊的生物学,我们的文化和文明有着特殊的历史。我们花了很多不可简化的计算才到达这里。但现在我们只是在计算宇宙中的某个点上,金宝博188投注这与我们的目标相对应。

人类的目标在历史进程中已经清晰地发展起来。我怀疑他们会进化得更多。我认为我们的意识将越来越多地与技术融合是不可避免的。最终,也许我们的整个文明最终会像一万亿人的灵魂.

但接下来的大问题是:“他们会选择做什么?”.好,也许我们甚至还没有语言来描述答案。如果我们回顾莱布尼兹的时代,我们可以看到各种尚未形成的现代概念。当我们看到现代机器学习或定理证明系统时,看到它有效地形成了多少尚未被我们的文化所吸收的概念,真是令人谦卑。

也许从我们目前的观点来看,这看起来就像那些无实体的虚拟灵魂在永恒的余生里玩电子游戏。起初,也许他们会在模拟我们实际的宇宙中运行。也许他们会开始探索所有可能宇宙的计算宇宙。金宝博188投注

但在某种程度上,他们所要做的就是计算,而计算等效原理认为,计算从根本上等同于所有其他计算。金宝博188投注这有点让人失望。我们引以为豪的未来最终在计算上等同于普通物理,金宝博188投注或小规则30。

当然,这只是科学长篇故事的延伸,告诉我们,我们从根本上来说并不是特别的。在我们到达的地方,我们找不到最终的意义。我们无法确定最终目的。或终极伦理。在某种意义上,我们必须接受我们存在和历史的细节。

不会有一个简单的原则将我们想要的东西封装在我们的人工智能宪法中。会有很多细节反映我们的存在和历史的细节。第一步就是理解如何表示这些东西。这是我认为我们可以用象征性的话语语言来做的。

而且,对,很方便,我刚好花了30年的时间来构建框架来创建这样一个东西。我很想知道我们如何真正地利用它来创建人工智能宪法。

所以我最好别再谈哲学了,并尝试回答一些问题。

会谈结束后,进行了一次生动的问答(随后是小组讨论)。包括在视频中。有些问题是:

  • 人工智能何时才能达到人类水平的智能?
  • 你在发展一种象征性的话语语言时预见到了什么困难?
  • 我们生活在一个确定性的宇宙中吗?
  • 我们现在的现实是一个模拟吗?
  • 自由会存在吗?意识是如何从计算中产生的?
  • 我们能以人工智能可计算的方式将规则和原则分开吗?
  • 人工智能如何应对人类伦理体系中的矛盾?

张贴在:人工智能未来展望其他

金宝博188.显示全部

  1. 我认为象征性话语语言应该建立在沃尔夫拉姆语的模式语言之上。因此,我们可以构建通用语句,以非常精确的形式捕捉我们想要表达的内容。

  2. “当然,这只是科学长篇故事的延伸,告诉我们,我们从根本上来说并不是特别的。在我们到达的地方,我们找不到最终的意义。我们无法确定最终目的。或终极伦理。从某种意义上说,我们必须拥抱我们的存在和历史的细节。”

    我完全不同意这一点。如果我们宇宙的膨胀没有减慢,停止,最终逆转了,那么,我们的宇宙将以热死结束——多么不光彩。然而,如小册子第8章所述,“结构性真空:什么都不想”Johann Rafelski和Berndt Muller:

    http://www.物理.亚利桑那.爱德华/拉菲尔斯克/书籍/ StructVacuumE.pdf

    如果我们能找到改变惯性质量和引力质量关系的方向的方法,然后我们可以改变一个体积的时空引力质量密度的方向;换了足够大的音量,我们可以慢下来,停止,最终扭转了我们宇宙的膨胀,从而逃离了热死,并使婆罗门的呼吸得以实现。我们唯一能证明这种现象的证据,悬浮,来自精神社区,在这种情况下被称为西地国:

    http://tomkenyon.com/siddhis

    很明显,不管怎样,对我来说,我们的最终目的是,这真的应该告诉我们终极道德,某种宇宙论。

    我也不完全同意这一点:

    “不会有一个简单的原则将我们想要的东西封装在我们的人工智能宪法中。”

    我有一个简单的建议:互利共生最大化。

  3. 亲爱的沃尔夫拉姆博士

    我的想法“量子统计自动机”从同一个系统生成质量管理和重力,这与您的想法类似。事实上,我认为你和NKS有直接的联系

    网址:http://fqxi.org/community/forum/topic/2451

    网址:http://www.reality-theory.net/a.htm

    网址:http://www.reality-theory.net/gravity.html

  4. 我仍然认为有可能在摘要中有一个“正确的答案”,关于我们应该重视什么的问题。

    如果你仔细想想,重要的是要记住,所有思考的人都是在逻辑(科学)原则下运作的完全自然的实体。这包括产生价值的认知过程。思想不存在于客观的科学规律之外!这意味着必须有精确的数学原理来控制从一种精神状态到下一种精神状态的转变。这为“普遍价值”的可能性打开了大门。

    现在看来,“价值”似乎是抽象,最终植根于主观意识。简单的意识形式(快乐和痛苦)产生非常简单的目标(向快乐的方向发展,避免疼痛。但是,如果我们延长主观意识运行的时间范围(随着记忆和想象能力的增强,对过去和未来进行更深入的预测),然后出现的“价值观”变得更加抽象。

    很显然,我们应该重视的具体的具体处方是基于人类文化和历史的,以及人类生物学。但我认为如果你跳到足够高的抽象层次,然后可能会出现一些独立于这些事物的“普遍”原则。

    还有一个完整的“价值哲学”(“价值论”)领域,已经发展到在星体中考虑伦理和美学问题。我在“价值论”领域的核心思想的A-Z列表如下:想知道我在说什么:

    http://www.zarzuelazen.com/axiology.html

    如果我们进入元-而不是问我们应该重视什么,我们问这些价值观应该如何整合,这就是我认为这些普遍原则可以出现的地方(元伦理学而不是伦理学)。“宪法”的整个概念肯定是基于这样一个假设,即存在一些为共同协议提供基础的普遍原则,在一个统一的框架内解决争端和整合不同观点的方式。

    关键的一步是认识到这些元原则可以成为价值观(我们为他们自己而重视的东西)。因此,假设这些元原则是我们应该重视什么的问题的基本抽象答案。

  5. “但在某种程度上,他们所要做的只是计算,而计算等价性的原理认为,计算基本上等同于所有其他计算。金宝博188投注这有点让人失望。我们引以为豪的未来最终在计算上等同于普通物理。金宝博188投注.."

    为自己说话。我会活着的,爱和教导我的生活和爱的方式,就像我从学习到的那样。所有的东西都相当于普通物理。但很少有东西能与生命相提并论,或是光照。

    “当然,这只是科学长篇故事的延伸,告诉我们,我们从根本上来说并不是特别的。在我们到达的地方,我们找不到最终的意义。我们无法确定最终目的。或终极伦理。从某种意义上说,我们必须拥抱我们的存在和历史的细节。”

    再一次,我不同意你的看法。科学的短暂历史表明我们很特别,即使有些人认为自己不值得荣誉。寻找终极意义是终极目的,终极伦理是理解,与真理不同,终极意义是运动的。在任何意义上,我们都可以自由地接受关于我们历史的尽可能多或很少的细节,但是关于存在的一切都包含着我们,不管我们是否理解它从哪里开始和结束。

    保罗亚力山大布拉沃
  6. 优秀的文章。我确实认为,然而,“宪法”有一些基本原则。其中之一就是竞争的智慧。我们人类,甚至是我们中最优秀的人,天生就有妄想症,我看不出为什么人工智能是不可能的,即使面对相互矛盾的证据,也要紧握他们的现实模型。这就是为什么六千年来封建王国统治如此恶劣的原因。

    有一种方法可以穿透错觉,那就是同龄人的批评。其他人不会有相同的错觉,因此会在你身上钻个洞。(你很高兴能报答你的好意。)

    利用这种方法,我们的五个竞争“竞技场”繁荣了-科学,民主,市场,球场和运动……他们每个人都很痛苦,当强大的个人设法逃避相互的责任(批评)

    我最近在《公理》杂志上的一篇文章讨论了我们对人工智能的恐惧,几乎所有的恐惧都在想象它们是如何重现旧的,像封建主义和制造暴政这样的不公平制度。但是,如果人工智能的多样性有竞争性的动机让彼此承担责任呢?那么,他们可能会突然发现错误和“意想不到的后果”即使是最好的计划或规则也会产生。

    我会把这篇文章单独发给史蒂芬。对所有人最好。

    谨致问候,

    大卫·布林博士学位
    http://www.davidbrin.com

    邮差的作者,地球存在和透明的社会:技术会让我们在隐私和自由之间做出选择吗?

隐藏注释金宝博188

史蒂金宝博188正网芬·沃尔弗拉姆有限责任公司 条款γ RSS