计算定律,象征话语与人工智能构成

莱布尼茨的梦

计算定律,话语语言与人工智能构成 Gottfried Leibniz-他于今年11月去世300年,从事许多工作。但在他一生中反复出现的一个主题是将人类法则变成计算中的一个练习。当然,正如我们所知,他没有成功。但三个世纪后,我想我们终于准备好再次认真尝试了。我认为这是一件非常重要的事情,不仅仅是因为它会带来各种新的社会机遇和结构,徳赢中国但因为我认为它可能对我们文明的未来至关重要interaction with artificial intelligence.

Human law,几乎按定义,dates from the very beginning of civilization—and undoubtedly it's the第一规则体系人类有系统的定义。据推测,这是一个数学公理化结构的模型,如欧几里德.当科学出现时,“自然法则”(顾名思义)最初被认为在概念上与人类法则相似,除了他们应该为宇宙(或上帝)而不是人类定义约束。

在过去的几个世纪里,我们在数学和精确科学的形式化方面取得了惊人的成功。由此产生了一个更普遍的想法:计算的想法。在计算中,我们处理的是任意的规则系统,不一定是与我们所知道的数学概念相对应的,或是我们所发现的世界的特征。现在的问题是:我们能用计算的思想吗?就像莱布尼兹想象的那样,使人类法律正式化?

本文还包括:
Data-Driven Law: Data Analytics and the 徳赢中国New Legal Services·· WIRED··

最基本的问题是,人类法律谈论人类活动,徳赢彩票游戏而且(不像对粒子力学所说的那样),我们没有描述人类活动的一般形式主义。说到钱,徳赢彩票游戏例如,我们经常可以做到精确。结果,写一份支付订阅费的非常正式的合同是很容易的,或者决定公开交易股票的期权应该如何运作。

但是,典型的法律合徳赢彩票游戏同所涉及的所有事情呢?好,很明显,我们有一种写法律合同的方法:只使用自然语言(如英语)。它通常是非常程式化的自然语言,因为它试图尽可能精确。但最终它不会是精确的。因为在最底层,它总是取决于单词的意思,这对于自然语言来说,仅仅是通过语言使用者的实践和经验来有效地定义的。

一种徳赢中国新的语言

对于计算机语言,虽然,这是另一回事。因为现在语言中的结构是绝对精确的:而不是模糊的,社会定义的对人类大脑的影响,它们被定义为对计算机有非常具体的影响。当然,traditional computer languages don't directly talk 徳赢彩票游戏about things relevant to human activities: they only directly talk about things like setting values for variables,或者调用抽象定义的函数。

但我很兴奋的是,我们开始在传统计算机语言的徳赢彩票游戏精确性和讨论现实世界结构的能力之间架起一座桥梁。事实上,这是我个人三十多年来一直在研究的东西:基于知识的沃尔夫拉姆语.

Wolfram语言是精确的:它中的所有内容都被定义为计算机可以毫不含糊地使用它。但它在计算机语言中的独特之处在于它是基于知识的。它不仅仅是一种描述计算机低级操作的语言;相反,直接嵌入到语言中是尽可能多的关于真实世界的知识。徳赢彩票游戏这意味着语言不仅包括数字二点七和字符串如“abc”,但也像美国,或消费物价指数,或大象.这正是我们开始谈论法律合同或人类法律中出现的事情所需要的。徳赢彩票游戏

I should make it clear that the Wolfram Language as it exists today doesn't include everything that's needed.我们有一个大型实体框架,我们的出发点很好。但是,为了能够捕捉人类活动的全部范徳赢彩票游戏围和人类法律规范,我们必须对世界进行更多的编码。

The Wolfram Language has,例如,什么的定义香蕉是,按各种细节细分。所以如果有人说“你应该吃香蕉”,这种语言有一种表示“香蕉”的方式。但到目前为止,它没有一个有意义的方式来代表“你”,“应该”或“吃”。

是否可以用精确的计算机语言来表示这样的事情?绝对!但是需要语言设计来设置如何进行。语言设计是一种困难的生意-事实上,这可能是我所知道的最需要智力的事情,需要一种高度抽象的奇怪的混合,加上深刻的知识和脚踏实地的实际判断。但我已经做了很久了近四十年,我想我终于准备好迎接为日常演讲做语言设计的挑战了。

So what's involved?好,我们先用一个简单的例子来讨论它:数徳赢彩票游戏学的例子。考虑函数加上,把数字加在一起。当我们使用英语单词“加号”时,它可以有各种各样的含义。其中一个意思是把数字加在一起。但还有其他含义,有关系的,说,通过各种类比(“产品x+”,"the plus wire",“这是一个真正的优势”,……)

当我们开始定义加上在Wolfram语言中,我们希望建立在“plus”的日常概念之上,但我们要让它精确。我们可以通过选择“加”的具体含义来做到这一点,即把数字之类的东西加在一起。徳赢彩票游戏一旦我们知道这就是加上means,我们很快就知道了各种性质,并且可以用它做显式的计算。

Now consider a concept like "magnesium".It's not as perfect and abstract a concept as加上.但是物理和化学给了我们一个元素的清晰定义-然后我们可以用Wolfram语言来拥有一个定义良好的“镁”实体。

Wolfram语言是一种象征性的语言,这一点非常重要,因为它意味着其中的事物不必立即具有“价值”;它们可以只是代表自己的象征性结构。所以,例如,the entity "magnesium" is represented as a symbolic construct,这本身不“做”任何事,但仍然可以出现在计算中,就像,例如,可以出现一个数字(如9.45)。

Wolfram语言支持多种构造。像“徳赢中国纽约市" or "last Christmas" or "地理上包含在".重点是,语言的设计为他们定义了一个精确的意义。徳赢中国New York City,例如,是指被认为是纽约市的准确法律实体,徳赢中国with geographical borders defined by law.在Wolfram语言内部,像纽约市这样的地方总是有一个精确的典型代表徳赢中国Entity["City",{“徳赢中国纽约”)“徳赢中国纽约”“美国”])当涉及到计算的时候,这个内部表示是所有重要的。Yes,把纽约称为徳赢中国纽约市“但在Wolfram语言中,自然语言形式立即转换为精确的内部形式。

那么“你应该吃香徳赢彩票游戏蕉”呢?好,对于“吃”之类的东西,我们必须经历与之相同的语言设计过程。加上(或者“香蕉”)。基本的想法是我们必须找出“吃”的标准含义。例如,可能是“人(或动物)摄入食物”。现在,英语单词“eat”还有很多其他可能的意思,例如,ones that use analogies,就像“这个函数接受它的参数”。但这个想法是为了加上-就是无视这些,仅仅是为了定义一个“吃”的标准概念,这是精确的,适用于计算。

通过思考英语中的词类,我们就可以合理地理解自己必须处理的结构类型。徳赢彩票游戏有名词。有时(如“香蕉”或“大象”)对它们的对应关系有一个相当精确的定义,通常Wolfram语言已经知道它们了。徳赢彩票游戏有时它有点模糊,但仍然具体(如在“椅子”或“窗户”),有时它是抽象的(像“幸福”或“正义”)。但在每种情况下,人们都可以想象一个或几个实体that capture a definite meaning for the noun—just like the Wolfram Language already has entities for thousands of kinds of things.

超越名词,there are verbs.There's typically a certain superstructure that exists around verbs.在语法上,动词可能有主语,一个物体,等等。动词类似于Wolfram语言中的函数:每个都处理某些参数,that for example correspond to its subject,对象,等。当然,在英语(或任何其他自然语言)中,有各种复杂的特殊情况和与动词相关的额外特征。但基本上我们不在乎这些。徳赢彩票游戏因为我们只是在试图定义代表某些概念的符号构造。我们不必捕获特定动词如何工作的每一个细节;我们只是用英语动词来给我们一种概念的“认知钩”。

我们可以复习演讲的其他部分。修饰动词的副词;修饰名词的形容词。这些有时可以在Wolfram语言中用如下结构表示实体实例,and sometimes by options to functions.但在所有情况下,重要的一点是,我们不试图忠实地再现自然语言的工作方式;我们只是用自然语言来指导概念的建立。

代词很有趣。它们的工作方式有点像纯匿名函数中的变量。In "you should eat a banana",“你”就像一个自由变量,将由一个特定的人填充。

语言和语法结构的某些部分暗示了在话语的象征性表现中要捕捉的某些一般特征。还有很多其他的,不过。例如,一个人需要多少“计算”来表示时间概念(“在时间间隔内”),“以后开始”,等)或空间(“顶部”,“包含在”,等等)。我们已经用沃尔夫拉姆的语言计算了很多这样的数字;最直接的是数字(“大于”,徳赢彩票游戏等)或套(“成员”),等。有些计算器历史悠久。时态逻辑““集合论“等);还有一些需要建造。

有没有一个关于该做什么的全球理论?好,不比有一个关于世界如何运作的全球理论更重要。有一些概念和结构是我们世界工作的一部分,我们需要捕捉这些。No doubt there'll be 徳赢中国new things that come along in the future,我们也要捕捉到它们。我在构建Wolfram Alpha方面的经验是,最好的做法就是构建每个人需要的东西,而不是从任何一种全球理论开始。过了一会儿,你可能会注意到你已经建造了好几次类似的东西,你可以进去把它们统一起来。

关于这一点,人们可以深入了解科学和哲学的基础。徳赢彩票游戏Yes,有一个计算宇宙所有可能的系统运行规则(以及,对,我一生中的大部分时间都在学习这门基础科学)。还有我们的物理宇宙这大概是根据计算宇宙中的某些规则进行的。但是从这些规则中可以产生各种各样的复杂行为,事实上,违背了计算不可化归性implies that in a sense there's no limit to what can be built up.

但是没有一个全面的方式来谈论这些事情。徳赢彩票游戏如果我们要处理任何有限的话语,它只会捕捉到某些特征。我们选择捕捉哪些特征将取决于我们社会历史上发展的概念。通常,这些概念会反映在我们使用的语言中存在的单词中。

在基础层面上,计算不可约性意味着总会有新的概念被引入。徳赢中国回到古代,亚里士多德引入逻辑作为一种捕捉人类话语某些方面的方法。哲学史上还引入了其他框架,最近,自然语言处理和人工智能研究。但是计算不可约性实际上意味着它们中没有一个最终是完整的。我们必须期待,随着我们所考虑的相关概念的发展,我们对话语的象征性表达也必须如此。

话语工作流

好啊,假设我们有一个象征性的话语表达。它的实际用途是什么?好,从自然语言的工作方式中有一些很好的线索。

在自然语言的标准讨论中,通常会说“疑问句”来提问,徳赢彩票游戏“声明性陈述”,断言某物,“命令性陈述”,说做某物。(让我们忽略“感叹句”,like expletives,for now.)

疑问句是我们一直在处理的问题,在Wolfram alpha:金的密度是多少?““什么是3+7?““what was the latest reading from that sensor?“等。它们在用于与Wolfram语言交互的笔记本中也很常见:有一个输入(在〔1〕=2+2中)然后有一个相应的输出(输出〔1〕=4

声明性语句都是关于填充变量的特定值。徳赢彩票游戏以非常粗糙的方式,一能设置值x=7)在典型的程序语言中。但通常情况下,最好考虑有一个断言事物的环境。徳赢彩票游戏也许这些环境应该代表现实世界,或者它的某个角落。或者他们应该代表一个虚构的世界,例如恐龙没有灭绝的地方,或者什么的。

命令式陈述是为了让世界上的事情发生。”徳赢彩票游戏打开舱门““付钱给鲍伯0.23 bitcoin“等。

从某种意义上说,疑问句决定世界的状况,声明性陈述表明世界状况,徳赢彩票游戏命令式的声明改变了世界的状态。

在不同的情况下,我们可以用“世界”来表示不同的事物。我们可以讨论抽象结构,徳赢彩票游戏像整数或逻辑运算一样,就是这样。We could be talking 徳赢彩票游戏about natural laws or other features of our physical universe that we can't change.或者我们可以谈论我们当地的环境,徳赢彩票游戏我们可以在桌椅周围移动,选择吃香蕉,等等。或者我们可以谈论我们的精神状态,徳赢彩票游戏或类似计算机的内部状态。

如果一个人对话语有一个普遍的象征性的表达,那么他可以做很多事情。但其中一个问题是,这篇文章的主题是表达像法律合同之类的东西。合同的开始,有各种各样的鉴于条款,吟诵,定义等往往是密集的声明性语句(“这是这样的”)。那么,合同的实际条款往往以命令式陈述结尾(“应该发生这种情况”),perhaps depending on certain things determined by interrogative statements ("did this happen?").

不难看出合同的结构与程序非常相似。在简单情况下,它们只包含逻辑条件:“如果x,那么y”。In other cases they're more modeled on math: "if this amount of X happens,Y的数量应该会发生”。有时会有迭代:“一直做X直到Y发生”。偶尔会有一些递归:“继续对每一个y应用x”。等等。

在有些地方,法律合同通常由项目金额来表示。The most obvious are金融合同为诸如此类的事情债券选项-这相当于一个小程序,它根据各种公式和条件定义支出。

整个行业都在使用”规则引擎“将某些规则编码为”if-then“规则,通常与配方混合。事实上,这些东西几乎普遍用于计算税收和保险。(它们在定价引擎等方面也很常见。)

当然,一个人谈论“法律法规”并不是巧合。徳赢彩票游戏来自拉丁语的单词代码法典-最初指的是法律规则的系统集合。当编程在几千年后出现时,它使用“代码”这个词,因为它基本上把自己看作是为事情应该如何工作建立规则的类似物,except now the things had to do with the operation of computers rather than the conduct of worldly affairs.

但是现在,和我们一起知识型的计算机语言和象征性话语语言的概念,what we're trying to do is to make it so we can talk 徳赢彩票游戏about a broad range of worldly affairs in the same kind of way that we talk about computational processes—so we put all those legal codes and contracts into computational form.

代码与语言

与普通自然语言相比,我们应该如何看待象征徳赢彩票游戏性话语语言?从某种意义上说,象征性话语语言是一种表现形式,其中所有的细微差别和“诗”都被“粉碎”出自然语言。象征性话语语言是精确的,但它几乎不可避免地会失去原始自然语言的细微差别和诗意。

如果有人对沃尔夫拉姆阿尔法,它会尽职地回答“4”。但是如果他们说,“嘿,你能帮我算出2+2吗?好,这就形成了一种不同的情绪。但是wolfram alpha将接受该输入并将其转换为与“2+2”完全相同的符号形式,同样,只需回答“4”。

这正是象征性话语语言将一直发生的事情。如果目标是回答精确的问题,就这点而言,为了建立一个精确的法律合同,这正是人们想要的。一个人只需要那些对自己所做的事情有实际影响的硬内容,在这种情况下,人们不需要“额外”或“取悦”。

当然,一个人选择捕捉什么取决于他想做什么。如果你想得到心理信息,那么,一种自然语言的“情绪”可能非常重要。那些“感叹句”(如咒语)意味着人们关心。徳赢彩票游戏但是你仍然可以很好地想象以一种象征性的方式捕捉到这样的东西,例如在你的象征性话语语言中有一个“情感轨迹”。(非常粗糙,这可以用情绪或者在情感空间中的位置,或者,就这点而言,由一个完整的符号语言衍生而来,说,来自艾美。

在人类通过自然语言进行的实际交流中,"meaning" is a slippery concept,这必然取决于交流的背景,任何人交流的历史,等等。我对象征性话语语言的概念并不是试图神奇地捕捉到一种自然语言的“真正意义”。相反,my goal is just to capture some meaning that one can then compute with.

为了方便,你可以选择从自然语言开始,and then try to translate it into the symbolic discourse language.但关键是要让象征性话语语言成为真正的表象:自然语言只是一种试图生成它的向导。And in the end,其概念是,如果一个人真的想确定自己所说的是准确的,one should say it directly in the symbolic discourse language,不用自然语言。

回到1600年代,莱布尼茨最关心的问题之一是要有一个独立于人们使用的自然语言(法语,德语,拉丁语,等等)。And one feature of a symbolic discourse language is that it has to operate "below" the level of specific natural languages.

人类语言中有一种粗略的普遍性,在这一点上,似乎有可能代表任何人类的概念,至少在任何语言中都是近似的。但是在不同的语言之间有很多细微的差别是很难翻译的,或者围绕着他们的不同文化(甚至是历史上不同时期的同一种语言)。但在象征性话语语言中,一个人有效地“消除”了这些差异,得到了一些精确的东西,即使它通常不会完全符合任何特定的人类自然语言。

一种象征性的话语语言是关于代表世界上的事物。徳赢彩票游戏自然语言只是描述这些事物的一种方式。但是还有其他的。例如,一可能给一幅画.人们可以尝试用自然语言描述图片的某些特征(“头戴帽子的猫”)——或者可以直接从图片到象征性的话语语言。

在图片的例子中,很明显,象征性话语语言并不能抓住一切。Maybe it could capture something like "he is taking the diamond".但它不会指定每个像素的颜色,它不会在每一个细节层次上描述一个场景的所有可以想象的特征。

In some sense,象征性话语语言所做的就是为它所描述的系统指定一个模型。和像任何模型一样,它捕获了一些特性,把别人理想化。但它的重要性在于它为计算提供了坚实的基础。可以得出结论,可以采取行动。

Why Now?

近40年来,我一直在思考创造一种象征性徳赢彩票游戏的话语语言。但直到最近,随着Wolfram语言的现状,我才有了真正做到这一点的框架。而且直到最近我才明白如何用一种足够实际的方式来思考这个问题。徳赢彩票游戏

Yes,原则上有一个象征性的方式来代表世界上的事物是很好的。在特定情况下,比如回答Wolfram Alpha中的问题,很清楚为什么值得这样做。但处理更广泛的讨论有什么意义呢?像,例如,我们什么时候真正想和机器进行“一般性的对话”?

The图灵试验说能够做到这一点是实现人工智能的标志。But "general conversations" with machines—without any particular purpose in mind—so far usually seem in practice to devolve quickly into party tricks and Easter eggs.至少这是我们观察人们与Wolfram Alpha互动的经验,and it also seems to be the experience with decades of chatbots and the like.

但如果谈话有目的,情况很快就会改变:如果你真的想让机器做点什么,或者从机器上学习。仍然,在大多数情况下,没有真正的理由对世界上的事物有一个普遍的代表性;仅仅代表特定的机器动作就足够了,特定的客户服务目标,或者什么。但如果要解决法律和合同的一般问题,这是另一回事。因为不可避免的,一个人必须代表所有的人类事务和问题。因此,现在有一个明确的目标,就是要有一个世界的象征性代表:一个人需要它能够说出应该发生什么,让机器理解它。

有时这样做是有用的,因为人们希望机器能够检查到底发生了什么;有时,人们希望机器能够自动执行或执行任务。但不管怎样,one needs the machine to be able to represent general things in the world—and so one needs a symbolic discourse language to be able to do this.

Some History

从某种意义上说,这是一个非常明显的想法,有一些像象征性的话语语言。事实上,这是一个经过几个世纪反复出现的想法。但事实证明这是一个很难实现的想法,它的历史上有很多(有时相当古怪的)失败。

从某种意义上说,事情开始得很好。回到古代,亚里士多德所讨论的逻辑为象征性话语语言提供了一个非常有限的例子。当数学的形式主义开始出现时,它又提供了一个受限的象征性话语语言的例子。

但世界上更普遍的概徳赢彩票游戏念呢?他们之间有很多努力四进制毕达哥拉斯和易经给一些重要的概念指定符号或数字。但在1300左右卢尔更进一步,提出了一个完整的表示概念的组合方案,然后尝试用可以机械地确定论点有效性的纸圈来实现这个方案,尤其是宗教的。

四个世纪后,戈特弗里德·莱布尼兹是卢尔作品的狂热爱好者,首先,想象所有的概念都可以转换成数字和真理,然后通过做一些类似于分解成素数的事情来确定。后来,莱布尼兹开始谈论徳赢彩票游戏共性特征(或)作为笛卡尔叫它,“人类思想的字母表”)——基本上是一种通用的符号语言。但他从未真正尝试过建造这样的东西,相反,他会追寻一些可能被认为是“特殊情况”的东西——包括导致他学微积分的那个。

随着16世纪拉丁语作为通用自然语言的衰落,特别是在科学和外交领域,已经有了发明的努力”哲学语言(正如他们所说)以抽象的方式表示概念,与任何特定的自然语言无关。其中最先进的是约翰·威尔金斯-谁在1668年生产了对超过10000个概念进行编目,并用奇怪的图形表示它们,以上帝的祈祷为例。

在某些方面,这些努力演变成了百科全书和后来的同义词库的发展,但作为语言类系统,they basically went nowhere.两个世纪后,虽然,随着国际化理念的传播,there was a burst of interest in constructing 徳赢中国new,独立于国家的语言由此而产生沃拉普然后世界语.这些语言实际上只是人工自然语言;它们并不是试图产生象象征性话语语言那样的东西。我过去常常喜欢在欧洲机场看到世界语的标志,在20世纪80年代,当它们最终消失的时候,我很失望。但是,碰巧,就在那时,又是一波语言建设.有一些语言逻辑语,intended to be as unambiguous as possible,有意思的是道本语为了维持简单的生活,以及真正奇异的伊斯库尔,旨在涵盖最广泛的语言和假定的认知结构。

沿途,也有人试图通过用1000或2000个基本单词(而不是通常的20000-30000个)来表达所有的东西来简化语言,如“简单英语”。维基百科的版本XKCD事物解释器.

有一些,更正式,努力。One example was登塔尔1960宇宙语言“宇宙交流语言”(即与外星人交流)试图用数学逻辑的符号来捕捉日常概念。在人工智能领域的早期,关于“知识表示”的讨论很多,以自然语言语法为基础的各种方法,谓词逻辑的结构或数据库的形式主义。很少有大型项目被尝试(莱纳特CYC作为一个著名的反例,当我开始开发Wolfram Alpha时,我对与我们的需求几乎没有关联感到失望。

In a way I find it remarkable that something as fundamental as the construction of a symbolic discourse language should have had so little serious attention paid to it in the past.但在某种程度上,这并不奇怪。这很困难,大型项目,它不知何故就位于既定领域之间。这不是一个语言学项目。Yes,它可能最终解释语言是如何工作的,but that's not its main point.这不是一个计算机科学项目,因为它实际上是关于内容的,徳赢彩票游戏不是算法。这不是一个哲学项目,因为它主要是关于具体细节的,而不是关于一般原则的。徳赢彩票游戏

在过去的半个世纪左右,学术界已经做出了一些努力,discussing ideas like "semantic primes“和”自然语义元语言".通常,这些努力都试图把自己放在语言学领域,但他们强调抽象意义而不是纯粹的语言结构,使他们与主流趋势不一致。也没有一个变成大规模的项目。

学术界之外,有一个稳定的建议流,有时由奇妙的古怪的个人推动,系统组织和命名的概念在世界上。自从Ramon Elull之后,我们还不清楚这种追求到底有多远,通常它只处理纯本体论,从来没有用自然语言表达的那种意义。

我想有人可能希望,随着机器学习的所有最新进展,会有一些神奇的方法来自动学习抽象的意义表示。而且,对,你可以拿维基百科,例如,or a text corpus,使用尺寸减小得出一些有效的“概念空间”。但是,不足为奇,简单的欧几里得空间似乎不是概念联系方式的一个很好的模型(人们甚至不能忠实地表示图的距离)即使把单词的可能含义作为字典来考虑,也可能把它们列出来,并在概念空间中将它们分组,这似乎并不容易有效地做到。

仍然,as I'll discuss later,我认为象征性话语语言和机器学习之间存在着非常有趣的相互作用。但目前我的结论是,除了运用人类的判断力来构建任何人类想要使用的象征性话语语言的核心之外,没有其他选择。

合同转换成代码

但我们还是回到合同上来吧。今天,全世界每年都有上千亿个这样的协议被签署(而且更多的是含蓄地签署),尽管不仅仅是简单修改的“原始”协议的数量可能只有数百万个(而且可能与正在编写的原始计算机程序或应用程序的数量相当)。

So can these contracts be represented in precise symbolic form,就像莱布尼兹300年前所希望的那样?好,if we can develop a decently complete symbolic discourse language,这应该是可能的。(是的,每一份合同都必须根据一些基本的“适用法律”规则进行定义,等。,这在某种程度上类似于象征性话语语言的内置功能。)

但这意味着什么呢?除此之外,这意味着合同本身将成为可计算的东西。合同将被转换成符号话语语言的程序。我们可以在这个程序上做抽象操作。这意味着我们可以想象,通过一种逻辑的概括,正式地决定是否,说,a given contract has some particular implication,可能会导致一些特别的结果,or is equivalent to some other contract.

最终,虽然,这有一个理论上的问题。因为像这样的问题会碰到正式的问题不可判定性,这意味着没有任何保证,任何系统的有限计算将回答他们。同样的问题也出现在人们编写的典型软件程序的推理中,徳赢彩票游戏实际上它是一个混合的袋子,有些事情是可以决定的,而其他人则不然。

当然,即使是今天的沃尔夫拉姆语,有很多东西(例如非常基本的“这些表达式相等吗?”)这在原则上是不可决定的。当然,我们也可以问一些直接涉及到这些问题的问题。但是,人们自然会问的很多问题,最终都可以用少量的计算来回答。如果合同问题也是如此,我也不会感到惊讶。徳赢彩票游戏(值得注意的是,人类提出的问题往往比选择的问题更容易产生不确定性,say at random,从整个可能性的计算宇宙中。)

如果有计算形式的契约,我们也可以期待做其他事情。喜欢能够自动计算出合同对大量可能的输入意味着什么。20世纪80年代,定量金融的革命开始于人们可以自动计算简单期权合约的收益分配。如果一个人有很多(也许数十亿)计算形式的契约,沿着这些路线可以做更多的工作,毫无疑问,不管好坏,可以开发的金徳赢中国融工程的全新领域。

输入从哪里来?

好啊,我们假设有一个计算契约。你能直接用它做什么?好,这在一定程度上取决于输入的形式。One important possibility is that they're in a sense "born computational": that they're immediately statements 徳赢彩票游戏about a computational system ("how many accesses has this ID made today?",“此连接的ping时间是什么时候?”,“转让了多少比特币?”,等等)。And in that case,it should be possible to immediately and unambiguously "evaluate" the contract—and find out if it's being satisfied.

这对于人类与机器互动的许多目的都非常有用,以及与机器交互的机器。事实上,在很多情况下,它的版本已经在使用。可以将计算机安全规定(如防火墙规则)视为一个例子。还有一些正在逐渐出现,例如自动化服务水平协议(ServiceLevelAgreements)和自动化服务条款。(我当然希望我们公司,例如,很快就能将其作为我们业务实践的一部分。)

但是,好啊,当然,并非每一份合同的每一项输入都是“天生的计算性的”:大量的输入必须来自于“外部”世界中发生的事情(“这个人真的去了X的地方吗?”,“包裹是否保存在特定环境中?”,“信息被泄露到社交媒体了吗?”,“鹦鹉死了吗?”,等等)。首先要说的是,在现代,自动决定世界的事物变得非常容易,徳赢彩票游戏不仅因为人们可以用传感器进行测量。检查GPS跟踪。看看汽车计数传感器。等等。整体物联网为计算契约提供有关真实世界的输入。徳赢彩票游戏

说了这些,虽然,还有一个问题。Yes,对于GPS追踪,有一个明确的答案(假设GPS工作正常)来判断某人或某物是否去了某个特定的地方。但假设我们试图确定一些不太明显的数值。让我们说,例如,那个人想确定是否应该考虑一块水果。”花式品位“或不是。好,给一些水果的图片,专家可以非常明确地告诉。但是我们如何才能让这个计算呢?

好,这是一个我们可以利用现代机器学习的地方。We can set up some neural net,用Wolfram语言说,然后给它看很多例子水果的等级很高,而不是。根据我的经验(以及我们客户的经验!)大多数情况下,我们会得到一个系统,它真的很擅长像水果分级这样的任务。它肯定比人类快得多,而且它也可能更加可靠和一致。

And this gives a whole 徳赢中国new way to set up contra徳赢彩票游戏cts about things in the world.双方可以同意合同应该说“如果机器学习系统说x,那么做y”。从某种意义上说,这就像其他任何一种计算契约:机器学习系统只是一段代码。但有点不同。因为通常情况下,人们期望自己能够很容易地检查合同中所说的一切:实际上,人们可以阅读和理解代码。但是在机器学习的中间,对此再也没有任何期待了。

没有人专门在神经网络中设置所有这些数以百万计的数值权重;他们只是根据给出的训练数据,通过某种近似的、有点随机的过程来确定。Yes,原则上,我们可以测量神经网络内发生的一切。徳赢彩票游戏But there's no reason to expect that we'll ever be able to get an understandable explanation—or prediction—of what the net will do in any particular case.很可能这就是我所说的现象的一个例子违背了计算不可化归性–这意味着没有任何方法可以比运行它更有效地看到将要发生的事情。

问人类专家有什么不同,然后,whose thought processes one can't understand?好,在实践中,机器学习要快得多,所以人们可以更多地利用“专家判断”。一个人可以把事情安排好让它们可以重复,例如,我们可以系统地测试人们认为可能存在的偏见,等等。

当然,人们总是可以想象欺骗机器学习。如果它是可重复的,人们可以利用机器学习本身来尝试学习它会失败的案例。最后,它变得更像计算机安全,在发现漏洞的地方,正在应用修补程序,等等。从某种意义上说,这与典型的合同情况也没有什么不同:一个人试图涵盖所有情况,很明显有些问题没有得到正确的解决,一个人试图写一份新合同来解决这个问题,徳赢中国等等。

但重要的底线是,通过机器学习,人们可以期望在合同中得到“面向判断”的输入。我希望典型的模式是这样的:在合同中,会有一些用象征性话语语言表达的东西(比如“x会亲自做y”)。在象征性话语语言的层面上,这将有一个明确的意义,从中,例如,各种各样的含义都可以画出来。但是还有一个问题,那就是合同上说的是不是现实世界中发生的事情。而且,当然,可能有很多传感器数据提供有关这方面的信息。但最终会有一个“判断的召唤”必须作出。那个人真的是亲自做的吗?就像一个远程检查程序系统,你可以有一个摄像头监视这个人,one can record their pattern of keystrokes,甚至可以测量他们的脑电图。But something's got to synthesize this data,对发生的事情做出判断,徳赢彩票游戏把它变成一个象征性的陈述。在实践中,我期望它最终会成为一个机器学习系统。

聪明合同

好啊,假设我们有办法建立计算契约。How can we enforce them?好,那些基本上只涉及计算过程的程序可以在某种程度上强制自己。一个特定的软件只能以这样的方式构建来颁发许可证。只有当一个云系统接收到一定数量的比特币时,它才能构建一个云系统来让下载变得可用。等等。

但我们对发生的事情有多信任?也许有人破解了软件,或者是云。我们怎么能确定没有什么不好的事情发生?基本的答案是利用这个世界是一个大地方的事实。作为一个物理学家,它让我想到了量子力学中的测量。如果我们只是处理一点量子效应,总会有干扰发生。But when we do a real measurement,我们将量子效应放大到如此多的东西(原子,等)是指,这是明确的发生了什么在很大程度上相同的方式热力学第二定律让人难以置信的是,一个房间里的所有空气分子都会自发地排列在一边。

所以它与比特币以太,等。这个想法是,发生的某些特定的事情(“X支付Y某某”或其他什么)被分享和记录在如此多的地方,以至于没有任何疑问。徳赢彩票游戏Yes,原则上,所有几千个真正参与比特币(bitcoin)交易的地方,都有可能串通一气,给出一个虚假的结果。但其想法是,这就像在房间里的气体分子一样:概率是不可思议的小。(碰巧,我的Principle of Computational Equivalencesuggests that there's more than an analogy with the gas molecules,实际上,工作中的基本原则基本上是相同的。而且,对,关于分布式区块链账本的操作有很多有趣的技术细节,徳赢彩票游戏分布式共识协议,等。,但我不想在这里接触他们。)

现在谈论“智能合约”很流行。徳赢彩票游戏当我谈到“计算契约”时,我的意思是可以通过计算徳赢彩票游戏来表达的契约。但是,“智能合约”通常指的是既可以计算表达又可以自动执行的合约。最常见的想法是在像以太坊这样的分布式计算环境中建立智能合约,and then to have the code in the contract evaluate based on inputs from the computation environment.

有时输入是内在的,就像时间的流逝(谁可能会篡改整个互联网的时钟?),或物理生成的随机数。在这种情况下,一个拥有相当纯粹的智能合约,say for paying subscriptions,或用于运行分布式彩票。

但更经常的情况是,世界上发生的事情需要外界的一些投入。有时人们只需要公共信息股票价格,这个气象站的温度,或A核爆炸等地震事件.但不知何故,智能合约需要访问一个“Oracle”,它可以为智能合约提供这些信息。很方便,世界上有一个很好的预言家:沃尔夫拉姆阿尔法。事实上,Wolfram Alpha正被广泛用作智能合约的甲骨文。(是的,我们的一般公共服务条款说,您目前不应该依赖Wolfram Alpha来处理任何您认为重要的事情,尽管希望这些服务条款很快会变得更加复杂,和计算。)

但是来自外部世界的徳赢彩票游戏非公开信息呢?目前对智能合约的看法往往是,人们必须在循环中验证信息:事实上,人们必须有一个陪审团(或民主)来决定某件事是否属实。但这真的是最好的方法吗?我倾向于怀疑还有另一条路,这就像用机器学习把人一样的判断注入到事物中。Yes,一个人可以利用人,他们所有的难以理解和难以系统地影响行为。But what if one replaces those people in effect by AIs—or even a collection of today's machine-learning systems?

人们可以认为机器学习系统有点像密码体制.要攻击它并欺骗它的输入,必须做一些事情,比如反转它的工作方式。好,对于一个单一的机器学习系统,需要一定的努力来实现这一点。但如果一个人有一整套足够独立的系统,努力增加了。仅仅改变系统中的一些参数是不够好的。But if one just goes out into the computational universe and picks systems at random then I think one can expect to have the same kind of independence as by having different people.(To be fair,I don't yet quite know how to apply the计算宇宙的挖掘我为细胞自动机这样的程序和神经网络这样的系统所做的。

还有一点:如果世界上有足够密集的传感器网络,then it becomes increasingly easy to be sure 徳赢彩票游戏about what's happened.如果房间里只有一个运动传感器,它可能很容易被掩盖。And maybe even if there are several sensors,还是有可能避开它们,不可能的任务风格。但是如果有足够的传感器,然后,通过综合他们的信息,人们就可以不可避免地建立起对实际发生的事情的理解。实际上,一个是世界运作模式,有了足够的传感器,我们就可以验证模型的正确性。

这并不奇怪,但有冗余总是有帮助的。更多的节点以确保计算不会被篡改。更多的机器学习算法以确保它们不会被欺骗。更多的传感器确保他们不会被愚弄。但最终,必须有一个东西来说明应该发生什么,合同是什么。合同必须用一些有明确概念的语言来表达。所以不知何故,从世界上各种冗余系统中,one has to make a definite conclusion—one has to turn the world into something symbolic,合同的执行。

编写计算契约

Let's say we have a good symbolic discourse language.Then how should contracts actually get written in it?

一种方法是采用英语或任何其他自然语言编写的现有合同,试着把它们翻译(或解析)成象征性的话语语言。好,将会发生的事情有点像沃尔夫拉姆阿尔法今天发生的事情。翻译不会确切知道自然语言是什么意思,因此,它将给出几种可能的选择。也许自然语言契约的原作者已经想到了某种意义。但这一意义上的“诗”或许不能用象征性话语语言来表达:它需要更明确的东西。人类将不得不决定选择哪一种选择。

从自然语言合同翻译可能是一个很好的开始,但我怀疑它会很快让位给直接用象征性话语语言写契约。今天,律师们必须学会写法律文书。未来,他们必须学会写下相当于代码的东西:精确地用象征性话语语言表达的契约。

有人可能会认为把所有的东西都写成代码,不是自然语言的法律术语,会是个负担。但我的猜测是,这实际上是一个巨大的好处。And it's not just because it will let contracts operate more easily.它还将帮助律师更好地思考合同问题。徳赢彩票游戏这是一个古老的主张萨皮尔-沃尔夫假设)一个人使用的语言会影响他思考的方式。And this is no doubt somewhat true for natural languages.But in my experience it's非常真实对于计算机语言。事实上,这些年来,当我们在Wolfram语言中添加了更多内容时,我的思想发生了怎样的变化,这让我很惊讶。当我没有表达的方法时,它没有进入我的思维。但一旦我有了表达的方法,我可以这样想。

And so it will be,我相信,法律思考。当有一种精确的象征性话语语言时,对各种事情都能更清楚地思考。徳赢彩票游戏

当然,在实践中,毫无疑问会有各种各样的自动注释:“如果你添加这个子句,这意味着X,Y和Z“,等。这也有助于它通常可以接受一些合同,并模拟一系列输入的结果。有时人们会想要统计结果(“这有偏见吗?”).有时,人们会想寻找特定的“bug”,只有通过尝试大量输入才能找到。

Yes,一个人可以用自然语言读合同,就像读数学论文一样。But if one really wants to know its implications one needs it in computational form,所以你可以运行它,看看它意味着什么,也可以把它交给计算机来实现。

计算契约的世界

Back in ancient Babylon it was a pretty big deal when there started to be written laws like the汉谟拉比法典.当然,很少有人能读,起初有各种各样的沉闷,就像让人们按照记忆顺序背诵法律。几个世纪以来,事情变得越来越简单,大约500年前,徳赢彩票游戏随着普及扫盲的到来,法律和合同开始变得更加复杂(除其他外,这使得它们变得更加细微,以及更多的情况)。

近几十年来,这种趋势加速了,尤其是现在,复制和编辑任何长度的文档都非常容易。但事实上,人类在循环中,这一事实仍然限制着事情的发展,编写和解释文档。50年前,几乎定义任何事情的过程的唯一方法就是写下来,and have humans implement it.但后来电脑出现了,和编程。很快,就有可能定义更为复杂的程序,而不是由人类来执行,but instead by computers.

所以,我想,这将与法律有关。一旦计算定律成立,可以做的事情的复杂性将迅速增加。通常,合同定义了世界的一些模式,并指定在不同情况下应该发生什么。如今,由契约定义的模型的逻辑和算法结构仍然相当简单。但是有了计算契约,它们就可以变得更加复杂,例如,更加忠实地捕捉世界的运行方式。

当然,这就使得定义应该发生的事情变得更加复杂,很快就会感觉有点像为计算机构建操作系统,that tries to cover all the different situations the computer might find itself in.

最后,虽然,一个人必须说出自己想要的。通过给出具体的例子,人们也许可以得到一定的距离。但最终我认为人们必须使用一种象征性的话语语言来表达更高层次的抽象。

有时人们可以用象征性的话语语言写下一切。但通常,我怀疑,我们将使用象征性的话语语言来定义目标的数量,然后,我们将不得不使用机器学习的各种方法来填写如何定义一个实际实现它们的合同。

一旦涉及到计算不可约性,it'll typically be impossible to know for sure that there are no bugs,或“意外的后果”。Yes,一个人可以做各种自动测试。但最终,理论上不可能有任何有限的程序来保证检查所有的可能性。

如今,有许多法律情况,如果没有专业律师,就难以处理。在一个计算法则很普遍的世界里,让电脑参与进来不仅方便,这是必要的。

In a sense it's similar to what's already happened in many areas of engineering.回到人类必须自己设计一切的时候,人类通常能够理解正在建造的结构。但一旦计算机参与到设计中,就不可避免地需要它们来弄清楚事情是如何工作的。

今天,一份相当复杂的合同可能涉及一百页的法律文书。但是一旦有了计算法则,特别是根据目标自动构造的契约,长度可能会迅速增加。At some level it won't matter,不过,一个人使用的程序代码有多长并不重要。Because the contract will in effect just be run automatically by computer.

莱布尼兹把计算看作是法律实践中的一个简化元素。而且,对,有些事情会变得更简单和更明确。但是,一个巨大的复杂海洋也将打开。

What Does It Mean for AIs?

如何告诉人工智能该怎么做?好,你必须有某种人类和人工智能都能理解的交流方式,并且这种交流方式足够丰富,足以描述你想要什么。正如我在别处所描述的,我认为这基本上意味着一个人必须拥有一种基于知识的计算机语言,这正是沃尔夫拉姆语言的意义所在,最终一个人需要一种完整的象征性话语语言。

但是,好啊,所以有人告诉人工智能做点什么,比如“去商店买些饼干”。但一个人说的话不可避免地不会完整。人工智能必须在世界某个模型中运行,还有一些行为准则。也许它能找到如何偷饼干,但不应该这样做;大概有人想让它遵守法律,or a certain code of conduct.

这就是计算法则变得非常重要的地方:因为它给了我们一种提供行为准则的方法,让我们可以很容易地利用。

原则上,we could have AIs ingest the complete corpus of laws and historical cases and so on,试着从这些例子中学习。但是随着人工智能在我们的社会中越来越重要,有必要定义各种新法律,徳赢中国and many of these are likely to be "born computational",不仅如此,我怀疑,因为它们在算法上过于复杂,无法用传统自然语言有效地描述。

还有另一个问题:我们真的不想让人工智能遵守法律的规定(不管它们发生在什么地方)。我们希望他们也有道德行为,不管这意味着什么。即使是在法律范围内,我们可能不想让我们的人工智能撒谎和欺骗;我们希望他们以某种方式按照我们所遵循的任何道德原则来加强我们的社会。

好,有人可能会想,为什么不像教法律那样教人工智能伦理呢?在实践中,不是那么简单。因为法律已经被适当地编纂了,道德也是如此。Yes,有哲学和宗教文本谈论道德。徳赢彩票游戏但它比法律更模糊,更不广泛。

仍然,如果我们的象征性话语语言足够完整,它当然也应该能够描述道德。事实上,我们应该能够建立一个计算法则系统,为人工智能定义一个完整的行为准则。

但它应该说什么呢?一个人可能有一些直接的想法。也许可以把世界上所有的伦理制度结合起来。显然没有希望。或许可以让人工智能观察人类的行为,从中学习他们的道德体系。同样没有希望。也许你可以尝试一些本地的东西,当人工智能根据地理位置改变其行为时,文化背景,等。(想想“协议机器人”)。也许在实践中有用,但几乎没有一个完整的解决方案。

So what can one do?好,perhaps there are a few principles one might agree on.例如,至少我们今天的想法,徳赢彩票游戏我们大多数人不希望人类灭绝(当然,也许在未来,有了凡人会被认为太具有破坏性,或者别的什么。事实上,虽然大多数人认为我们当前的社会和文明存在各种各样的问题,人们通常不想改变太多,他们绝对不想强迫他们改变。

那么,我们应该怎么告诉AIS呢?It would be wonderful if we could just give the AIs some simple set of almost axiomatic principles that would make them always do what we want.也许他们可以基于阿西莫夫机器人三定律.也许它们可能是基于某种全局优化而看起来更现代的东西。但我觉得不会那么容易。

世界是一个复杂的地方;如果没有别的事,这基本上是由计算不可约现象来保证的。而且,几乎不可避免的是,不会有任何有限的程序来强迫所有的事情“按照自己的意愿走出来”(不管是什么)。

让我说一句深奥的话,but well defined,数学的例子。我们认为我们知道什么是整数。But to really be able to answer all questions 徳赢彩票游戏about integers (including about infinite collections of them,等)我们需要建立定义整数如何工作的公理。那就是什么皮亚诺在19世纪后期尝试过。有一段时间看起来不错,但在1931年库尔特·G·德尔用他的不完全性定理,这意味着,事实上,尽可能地尝试,从来不会有一组有限的公理来定义我们所期望的整数,没有别的了。

In some sense,Peano最初的公理实际上非常接近于定义我们想要的整数。但是g_del表明它们也允许奇异的非标准整数,例如,加法运算不可有限计算。

好,好啊,那是抽象数学。现实世界呢徳赢彩票游戏?好,从G_del的时代开始,我们学到的一点是,现实世界可以用计算的方式来思考,很像G_del所考虑的数学系统。尤其是,人们可以期待同样的计算不可约现象(它本身与g_del定理密切相关)。And the result of this is that whatever simple intuitive goal we may define,这是不可避免的,我们必须建立一个任意复杂的规则集合来尝试实现它,无论我们做什么,there'll always be at least some "unintended consequences".

所有这些都不应该真的让人大吃一惊。毕竟,如果我们观察一下过去几千年来实际的法律制度,总会有很多法律。它不像是有一个单一的原则,其他的一切都可以从中得到;最终不可避免地会出现许多不同的情况,这些情况必须被涵盖。

世界原则?

但是,所有这些复杂性仅仅是世界如何运作的“力学”的结果吗?Imagine—as one expects—that AIs get more and more powerful.世界上越来越多的系统,从货币供应到边境管制,实际上是交给了美国情报局。从某种意义上说,然后,AIS的作用有点像政府,为人类活动提供基础设施。

所以,好啊,也许我们需要一部关于人工智能的“宪法”,就像我们为政府制定宪法一样。But again the question comes: what should the constitution have in it?

假设人工智能能以任何方式塑造人类社会。我们要怎么做?好,这是政治哲学中的一个老问题,自古以来就有争论。一开始是这样的想法功利主义听起来不错:不知何故,尽可能多地让人们的幸福感最大化。但想象一下,实际上是想用控制世界的人工智能来做到这一点。一个问题立即被推到哲学家和其他人几个世纪以来争论的具体版本中。让我们假设一个人可以塑造世界上人们幸福的概率分布。好,now we've got to get precise 徳赢彩票游戏about whether it's the mean or the median or the mode or a quantile or,就这点而言,我们试图最大化的分布的峰度。

毫无疑问,人们可以想出一些为某个特定的选择辩护的修辞。But there just isn't an abstract "right answer".Yes,我们可以有一种象征性的话语语言来表达任何选择。但是没有数学推导的答案,也没有自然法则强制一个特定的答案。我想“考虑到我们的生物学特性,可能会有一个最佳答案”。但随着事态的发展,这也不会是坚实的基础,as we increasingly manage to use technology to transcend the biology that evolution has delivered to us.

仍然,我们可能会争辩说:至少有一个限制:我们不希望有一个计划,在这个计划中我们会灭绝,最终什么都不存在。即使这将是一件复杂的事情要讨论,因为我们需要说明这里的“我们”应该是什么:事情相对于当前的人类条件是如何“进化”的,不认为“我们”已经灭绝了吗?

But even independent of this,还有一个问题:考虑到任何特定的设置,计算不可约性在某种意义上使其难以找出其后果。尤其是,给定任何特定的优化标准(或结构),可能没有有限的程序来决定它是否允许无限的生存,or whether in effect it implies civilization will "halt" and go extinct.

好啊,所以事情很复杂。What can one actually do?有一段时间,可能会有这样的想法:人工智能必须最终拥有人类的主人,必须按照某些原则行事,遵循人类社会通常的运作方式。但实际上,这不会持续太久。

谁将负责在互联网上传播的公共领域人工智能系统?当它所产生的机器人在社交媒体上开始行为不端时会发生什么(是的,认为社交媒体账户只是为人类服务的想法很快就会被视为“21世纪初”)?

当然,there's an important question of why AIs should "follow the rules" at all.毕竟,人类当然不会总是这样做。值得记住的是,虽然,我们人类可能是一个特别困难的例子:毕竟,we're the product a multibillion-year process of natural selection,在那里,人们为生存而不断地进行着竞争。人工智能大概是在非常不同的情况下进入世界的,也不需要“野蛮的本能”。(嗯,我禁不住想到,来自不同公司或国家的人工智能被他们的创造者灌输了某种野蛮的本能,但这肯定不是人工智能存在的必要特征。)

最后,虽然,让人工智能“遵循规则”的最好希望,可能或多或少地是维持人类社会的相同机制:遵循规则是某种动态平衡的实现方式。但是如果我们能让人工智能“遵守规则”,我们仍然需要定义人工智能宪法应该是什么样的规则。

而且,of course,这是个难题,没有“正确答案”。但也许一种方法是看看人类历史上发生了什么。一件重要而显而易见的事情是,有不同的国家,有着不同的法律和习俗。所以,至少我们必须期望有多个人工智能宪法,不只是一个。

Even looking at countries today,一个显而易见的问题是应该有多少。Is there some easy way to say that—with technology as it exists,例如,预计将有70亿人组织到大约200个国家?徳赢彩票游戏

这听起来有点像在问太阳系到底应该有多少行星。很长一段时间以来,这被视为“自然的随机事实”(哲学家们广泛使用这一事实作为一个例子,与2+2=4不同,不是“必须这样”)。但特别是在看到如此多的外行星系统之后,很明显,我们的太阳系实际上几乎必须拥有它所拥有的行星的数量。徳赢彩票游戏

也许在我们看到足够多的电子游戏虚拟世界的社会学之后,we'll know something 徳赢彩票游戏about how to "derive" the number of countries.当然,人工智能宪法应该像国家一样被划分,这一点也不清楚。

人类的身体状况有一个方便的结果,即至少在某种程度上一个人可以将世界按地理位置划分。但也不需要有这样的空间位置。我们可以想象其他的计划,of course.比如说,我们看看人格和动机的空间,并在其中找到集群。Perhaps one could start to say "here's an AI Constitution for that cluster" and so on.也许宪法可以分清,可能是武断的吉特-就像社会模式一样)。我不知道这样的事情最终会如何运作,但它们似乎比一个更合理,共识,适用于所有地方和所有人的人工智能宪法。

There are so many issues,不过。就像这一个。假设人工智能是我们这个世界的主导力量。但是让我们假设他们成功地遵循了一些我们为他们定义的宪法。好,这很好,但这是否意味着世界上没有什么可以改变的?我是说,试想一下,如果我们仍然按照200年前的法律运作的话:大部分社会从那时起就开始了,并希望不同的法律(或至少不同的解释)反映其原则。

但是,如果在2020年左右精确的法律被烧毁,为了永恒?好,有人会说,真正的宪法总是有明确的条款,允许他们自己修改(在美国宪法中第五条)但看看实际情况世界各国宪法不太令人鼓舞。有些人只是简单地说,如果最高领导人(一个人)这么说,宪法可以改变。许多人说,宪法可以通过一些民主的过程来改变,实际上是通过某种顺序的多数票或类似的投票。一些人基本上定义了一个复杂的官僚化的变革过程,以至于人们怀疑它是否在形式上无法决定是否会得出结论。

起初,民主党的计划显然是一个胜利者。但它从根本上基于这样一个概念,即人们在某种程度上容易被计算(当然,人们可以争论哪些人,徳赢彩票游戏等等)。但当人格变得更复杂时会发生什么呢?什么时候?例如,实际上,上传的人类意识,与人工智能紧密相连?好,有人会说,总有一些“不可分割的人”参与进来。And yes,I can imagine little clumps of pineal gland cells that are maintained to define "a person",just like in the past they were thought to be the seat of the soul.但从我所做的基础科学来看,我认为我可以肯定地说,这些都不会最终奏效,因为最终定义事物的计算过程并没有这种不可分割性。

那么,当不再有“人可数”的时候,“民主”会发生什么呢?我们可以想象各种各样的计划,包括确定“人的空间”中某些特征的密度。我想人们也可以想象,某种奇怪的投票涉及实体的超限数量,或许集合论的公理化对历史的未来有着关键的影响。

这是一个有趣的问题,如何建立一个变革被“烧死”的宪法。比特币就是一个很简单的例子,协议刚刚规定,开采的比特币价值每年都会下降。当然,这种设置在某种意义上是建立在世界模型的基础上的,特别是建立在摩尔定律and the apparent short-term predictability of technological development.但遵循同样的总体思路,人们可能会开始考虑一部宪法,上面说“每年改变1%的符号代徳赢彩票游戏码”。但后来又不得不决定“哪1%?”.Maybe it'd be based on usage,或者观察世界,或者一些机器学习程序。但是无论涉及到什么算法或者元算法,there's still at some point something that has to be defined once and for all.

一个人能做一个关于变化的一般理论吗?起初,这似乎没有希望。但在某种意义上,探索程序的计算领域就像看到所有可能变化的光谱。And there's definitely some general science that can be done on such things.也许除了“任何可能发生变化的时候都要用叉子”之外,还有其他的设置——那就是让一个人拥有一个适当允许变化的宪法,以及改变人们允许改变的方式,等等。

让它发生

好啊,我们讨论了一些影响深远的基徳赢彩票游戏本问题。但现在这里呢?徳赢彩票游戏好,我认为令人兴奋的是,戈特弗里德·莱布尼兹去世300年后,我们终于可以实现他的梦想:创造一种通用的象征性话语语言,and to apply it to build a framework for computational law.

有了Wolfram语言,我们就有了基本的符号系统,也有了许多关于世界的知识。还有很多事情要做,但我认为现在有一条明确的前进道路。除了创造一种象征性的话语语言这一抽象的智力挑战之外,它确实有助于现在也有了一个明确的目标:能够为计算定律建立实用的系统。

这不容易。但我认为世界已经准备好了,需要它。比特币和以太坊已经有了简单的智能合约,但是还有很多事情可以做,而且有了一个完整的象征性的话语语言,法律所涵盖的所有活动都有可能被结构化计算所利用。这将导致各种实际和概念上的进步。它将使新的法律徳赢中国商业和社会结构,除此之外,计算机对人类事务的处理还有更深入的了解。

我认为,这对于未来确定人工智能的总体框架也至关重要。什么样的道德,什么原则?他们应该跟着吗?我们如何与他们沟通?对于我们自己和AIS,我们需要一种方法来制定我们想要的。And for that we need a symbolic discourse language.莱布尼兹的想法是对的,但早了300年。现在,在我们这个时代,我希望我们最终能够实现他所想象的。在这样做的过程中,我们将在利用计算范式的力量方面又向前迈出一大步。

评论.显示全部

  1. 最近在这一领域有大量的前期工作,例如http://calculationallegalstudies.com/2014/05/04/harry-surden-computable-contracts-via-reinventlawchannel-com/我相信是哈里·苏登创造了“计算契约”这个词。

    马丁克劳森
  2. 我喜欢你的视野。

    正如你注意到的,这里的一个大瓶颈是我们不知道如何正确地将道德规范化。它看起来像是一个偶然的集合,有时内部不一致的传统和偏好,以拼凑的方式变化。这就是说,伦理似乎不是完全武断的,要么。

    Have you spoken with Max Tegmark 徳赢彩票游戏about this?他在他的论文“友好的人工智能:物理挑战”中提出了一个与你非常相似的问题来量化伦理学。徳赢彩票游戏网址:https://arxiv.org/abs/1409.0813简而言之,有些粒子的排列比其他的更好,这是我们应该能够传达给人工智能的东西。如果我们不能做到,这不是人工智能安全的好迹象。

    我注意到你们两个这个周末都要出席纽约大学的会议…

    从*非常*长期来看:如果我们能在意识研究中植根于伦理学,把意识研究和物理结合起来,用智能合约编纂物理系统的伦理相关属性,将智能合约迭代为成熟的人工智能宪政,也许我们可以设计出“可证明是仁慈的”社会。(说起来容易做起来难…)

  3. 这是一个项目,它使用Wolfram语言在一个单独的计算中表示法律规则,巨大的代码库:https://github.com/mpoulshock/HammurabiProject

    匿名的
  4. 读别人说同样的话真是太棒了!徳赢彩票游戏我在这里开始研究语言的原型:

    网址:https://github.com/neyer/dewdrop

    这里有一个简化版本运行一个名为“尊重矩阵”的协议:

    github.com/neyer/respect/尊重
    http://s3.neyer.me/respect-matrix-slides.pdf
    https://twitter.com/respectmatrix网站

  5. 太棒了!

    I myself have always been fascinated by knowledge representation,十年来,我一直在考虑如何构建一种“象征性话语语言”。

    我完全同意这样一个事实:有些概念是徳赢彩票游戏开放的,在某种程度上类似于数学真理——你永远不会深入到它们的底部——总会有更多的发现,因为,我想,these types of concepts are in some sense of ‘inifinite complexity'.

    但我认为我发现了一种处理这些开放式概念的方法。我认为有一个递归过程,实际上可以让你以这样一种方式“拆分”开放式概念,你可以分解或“分解”那些*可以被完美定义的部分,“推开”或“转移”所有剩余的复杂性到新的子概念上。徳赢中国

    我的想法是,这些开放式概念可以分为三个层次:

    (i)对象级别-定义具有固定结构的稳定“事物”
    (i i)功能级别-定义(i)中的对象之间的关系*定义事件的时间序列
    (i i i)符号级——这是自参考——讨论(i)和(i i)的抽象规则集。徳赢彩票游戏

    我发现,当您将开放式超级概念分解为这3个子级别时,然后你可以用精确的方式处理(i)和(i i)级,所有剩余的复杂性实际上都可以“推”到第(iii)级。

    这是递归的。新定义的徳赢中国级别(iii)可以再次细分为上面列出的3个相同类型的子级别:您最终得到2个新定义的级别(i)和(ii),这些级别始终是可处理的,所有剩余的复杂性再次被“推”到一个新定义的水平(iii)。徳赢中国等等,无穷大。

    其思想是,您可以以这种方式分解开放式概念,这样你就可以把那些可以精确定义的部分分开,继续“推动”剩下的棘手的部分进入新的象征层面,徳赢中国但你永远无法到达复杂无边塔的底部。

  6. 我的个人经验是,部分地,为大学生在线教授商法。把法律概念翻译到计算机上并远程教给非律师的人(通常对法律兴趣有限)的过程也让我怀疑是否可以设计出一个高效和精确的法律计算系统。

    商法是一切实际目的的合同法。什么东西是否在“法律世界”中取决于它是否具有与“义务”的相互属性实际相关的“权利”的法律属性。据我所知,法律的这种对称性是绝对的。法律上的人既有权利又有义务,虽然,有趣的是,只有在法律上对另一个人的权利或义务的子集中,才构成了法律世界的对象。换句话说,你不能和自己订立一个有约束力的合同。但这似乎也暗示了一种“场论”,或类似于或可简化为至少两个物体宇宙中一组对应的麦克斯韦方程。

    权利控制义务,义务是关联权利所规定的义务行为。合同在这一框架内运作,with a few additional conditions that involve the concept of exchange between the contract parties to both measure and complete the contract purpose.契约本身就是企业的时间粒子,有点像商业领域的原子。所以我们可以在这里看到图灵机器的概念,也可以用静态和动态的术语描述经济学的量子粒子理论。

    但合同本身并不保守——事实上,合同的存在很重要,执行,然后到期以进行动态业务活动。代理是指当事人依法订立和履行合同的法律行为能力,这是对任何特定人员在任何特定时间在法律上的权利和义务的列举和量化。没有已完成或失败的合同消失,可以想象,一个人完全被合同义务所支配,并且耗尽了他做其他事情的权利。这也被称为奴隶制。有趣的是,当合同到期时,合同双方同时补充合同能力。这意味着一个有趣的Genesis引擎,尤其是在履行合同赋予法律上的共同体一个持久的剩余结构的范围内。

    现代经济理论的大部分起源于作为一切经济活动的创始者的代理。这本身就是一种场论,which could transpose coordinate objects of the legal,business and natural universes.因此,数学提供了一个纯数学语言的设计结构,用于管理,进行和启发有知觉的活动。

    法律还提供了一种划分功能,可以定义法律和经济体系内外的对象。创新可以被看作是一个过程,通过法律进口,scientific and technical discovery into society as actionable objects.然后,知识本身就成为人类存在经验的可替代连续体。对知识的自我意识提高了承认人工智能赋予的对象必须是“法律上的人”的逻辑连续体的可能性或直接必要性。在接下来的几十年里,社会契约——宪法——将经历一场最有趣的辩论,讨论什么可以构成一种财产,与为自己思考的装置的固有权利相比,该财产将受制于他人的权利和义务。

    道格埃利奥特
  7. 先生。Wolfram,这是我第一次见到你的思想和沃尔夫拉姆语。建立一种自我参照的认知性人工语言的任务是巨大的,你的进步令人鼓舞。其应用领域远远超出了计算规律,使得这种精确的通信和标准化的知识存储和应用工具成为现实的必要。对我来说特别重要的是你对引入和与人工智能共存的基本原则的讨论。这一系列问题需要哲学复兴。哲学家们(不管他们代表的是什么特定的科学分支)都面临着一种尖锐的要求,即修补由无数科学学科和流派所描绘的无限零散的世界模型。这一要求还要求对几个世纪以来一直是哲学推理核心的实体进行精确的编纂——价值观,信仰,伦理学,智力,等。人工智能的出现和它的力量的加速增长增加了以一种适当的、希望很快的方式应对这一挑战的难度。

    某些假设对我来说不是不言而喻的。不仅有各种各样的本体论和道德规范。有无数的例子表明,许多强大的人类从事不道德行为,追求务实目标的非理性犯罪活动。我可以预料他们的人工智能会被设计出来,作为其价值体系和操作方式的复制品进行教学和应用。我们已经生活在一个无所不在和有效的网络威胁的世界中。作弊是一种常见的行为策略。很难相信,爱思的建筑师会努力遵循乐边酒店的理想模式。利他主义的价值观需要精确的定义和共同的认同——至少要有足够的接受度——以产生足够的政治影响力,在哲学家(即经验丰富的通才、前卫的全球思维专家)。

    一些技术观察。你的Wolfram语言是基于知识的,就像其他自然语言一样。关键的区别在于,它包含了自己的标准化和正式定义的内容库,作为认识参考。自然语言没有这样的奢侈:它们的知识基础在人类中广泛而不均衡地分布着,这是一种传统的、开放的解释方式。您的语言永久地提供了这一经常需要的特殊性,并打开了与机器通信的网关。然而,在一段时间内,自然语言将在普遍适用性方面保持其至高无上的地位,以充分发挥人类的相互作用,适应性和经济价值(没有一个是支付任何重要的钱学习和使用自己的母语)。

    疑问句是祈使句的一个特殊的子类:它们使另一个句子提供一些缺失的知识。他们不会“决定世界的状态”,他们要求满足对世界状况的调查。徳赢彩票游戏

    我知道改变一切为时已晚,但是,“象征性话语语言”这个词对我来说是误导性的:每一种自然语言都是象征性的(基于符号和代表性的)和面向话语的(用于交流的)。

    再一次,谢谢你的出色工作。

    安德烈希连科
  8. This is not a research paper,而是一篇有着不同观点的哲学论文,但同样大的幅度。准备这首歌不像看蒙娜丽莎,but rather like looking at a dodecahedron for which each face has some interesting painting.
    I would like to offer six comments.
    1。改善人类生活的方法一般有五种:
    (a) to have more people doing something what is in demand
    (b)训练人们做得更好
    (c) to replace people with autonomous devices which will do better
    (d)增加自主设备,以满足需求。
    (e) to provide people with devices which help them to do better
    任何新的徳赢中国人类实践都会被接受并传播,如果它属于列出的类别之一。这包括使用Wolfram语言——可以看作是设备或设备的一部分。
    2。人类的法律是在两党有分歧时由人类制定的。根据双方的协议接受最终决定(最终)。我怀疑是否有人会同意接受机器做出的决定(至少很快)。The best we can expect is a machine which can make certain recommendations to people communicating 徳赢彩票游戏about making decisions,对于做出决定的人(机器的工作是基于对先例的搜索,which is based on a certain description of precedents,这是基于对先例描述中使用的某种语言编码)。
    三。在任何两种语言之间进行100%一对一的通信在技术上是不可能的(问问任何口译员)——这里“任何”是指“用于描述现实所有可能方面的所有可能的符号集”。每种语言从来没有完全形式化(g_del定理或其解释)。例如,用词来定义其他词,需要使用词来定义用于定义前一定义中使用的词的词;但这种逻辑并不局限于文字,它适用于任何人所使用的现实的任何代表。因此,Wolfram语言永远无法代表任何其他语言的所有方面。因此,使用Wolfram语言(与任何其他语言一样,和其他任何工具一样),将以人类实践的特定领域内正在解决的特定问题为基础。
    4.与其发展一种新的通用形式表征,不如发展人类语言中徳赢中国历史结构部分的表征更为可行,喜欢物理。Then build on it.
    5。语言学对大多数语言的大部分规则和结构都有一致的描述。逻辑对大多数逻辑论述的大多数规则和结构都有一致的描述。总会有一些事情需要进一步澄清,rectification,但这种类型的工作不会代表大量的现实生活目标导向实践(主要是纯理论研究),也不会代表许多从业者的一个有吸引力的领域。如果我们想要更多的人能讲得更合乎逻辑,我们需要提高教育水平,包括改进教学写作,数学,物理学(最重要的科学学科——数学与现实之间的桥梁)增加逻辑等课程,下棋。大多数人通过学习如何说话来学习一门语言——一台好的教学机器最终可能取代一位坏老师,但首先必须有人开发出一个好的教学机器来证明它的可能性。人工智能——如果它和人类有同样的智力——会像人类一样学习语言——也就是说。通过说话(但可能更快)。
    6。而不是问“为什么现在?”我会问“为什么?”.这里我们回到评论的开头。如果这种语言能更好地用于开发Siri这样的机器助手,或者Alexa,有人必须开发出一个能显示这一点的原型。如果这种语言可以用来开发iRobot教学物理,有人必须开发出一个能显示这一点的原型。

  9. 法律所特有的一个困难是,法律条款往往故意含糊不清,因为谈判它们的细节是漫长而艰巨的。合同要求在努力过程中进行“合理”的尽职调查是很常见的,不明确“合理”是什么。这是故意的,很大程度上是因为定义“合理”一词是如此困难。计算机合同将仅限于法律的几个方面,除非它们能够适当地处理这种变化。

  10. 很高兴听到你继续思考这个话题,斯蒂芬-我会好奇地看着,看看会发生什么。徳赢彩票游戏

    -我只是在查看EntityInstance页面,我喜欢看到的内容。

    -我喜欢你首先关注语义表示的方式,不会因为语言/语法而分心。

    -对不同类型的语句进行良好的分析。(疑问句,等)

    -关于这个主题,前几天我意识到你可以使用语义引用,比如entityinstance[throw,{从->约翰,> >艾米,抛出对象->球],我们称之为E,把它总结成三件事之一:

    0。请看:E:约翰把球扔给艾米了。
    1。“约翰把球扔给了艾米”,发生了这样一件事。
    2。问是否发生了:特鲁克:“约翰把球扔给艾米了吗?”
    三。一个要求它发生的请求:做(e):“约翰,把球扔给艾米”

    然后我们可以取2,问题,并将问号移动到引用的任何参数中:

    EntityInstance[引发,{->?,> >艾米,thrownobject->ball]:谁把球扔给艾米?
    EntityInstance[引发,{从->约翰,到->?,ThrownObject -> Ball}]: Who did John throw the ball to?
    EntityInstance[引发,{从->约翰,> >艾米,喉对象->?}]约翰把什么扔给艾米了?
    实体实例[?,{从->约翰,> >艾米,thrownobject->ball]:约翰用球对艾米做了什么?

    所有这些都说,在某种程度上,你所说的做实际上是非常简单和直接的。徳赢彩票游戏但它需要大量的肘部润滑脂,设计感好,等。好消息是你有所有这徳赢中国些工具可供你使用。

Hide comments »

?斯vwin中国蒂芬·沃尔夫拉姆,有限责任公司 Termsγ RSS