按键盘上方向键 ← 或 → 可快速上下翻页，按键盘上的 Enter 键可回到本书目录页，按键盘上方向键 ↑ 可回到本页顶部！
————未阅读完？加入书签已便下次继续阅读！
多像，程序也不过是牵线木偶。
严可守之前，还没有任何一个程序可以做到，像k系列做的这么出è，可以和陌生测试对象的谈话，维持半个小时左右不被识破，许多刚刚接触这个程序的人事后都不敢相信，与自己对话的仅仅是一个程序。
筑b大学的一些学生甚至把整个测试当做一种有趣的游戏来进行，严可守记得测试刚开始的那个阶段，都要三浦主动去拉他班上的学生，而到了现，学生们甚至主动来打听什么时候恢复测试。
k系列原始的“胚胎程序”只不过两kb左右，这简单的两多k核心程序当，严可守赋予了程序基本的学习功能，程序早的“育”阶段，通过巨型计算机模拟外界刺ji，让程序实现基本的自我成长，当它们长到大约10个大小的时候，被认为具备了基本的jiā流能力，能说一些简单的句子，这之后，则对这些程序进行图灵训练……
这之前，ai的表现一向都比较正常，直到两天前，所有程序陆续开始爆bu，进入了“无响应”阶段，无论人和它说什么话，都不予回应。
从原理设计的角来说，程序之所以会出现这样的原因，大的可能ing就是，程序看来，不响应是一个较优解，之前严可守调查了许多ai出bu之前的测试数据，现这些程序无一例外，都是因为测试连续遇到了几十次，乃至上次的失败，ai虽然不可能懂得什么叫做绝望，因为他们没有感受器官，但并不妨碍他们的程序能表现出一种，类似人类绝望时表现的行为。
起码，他们的这种行为，多愁善感的人看来，就是绝望。
比如重复完全毫无意义的自我修改，比如提出各种不合常理，甚至愚蠢之极的建议，有些ai甚至通过网络，找来一些è和谐情小说片段，企图“贿赂”测试者，总之，为了达到“通过测试”的目标，ai将能够尝试的可能，统统试过了一遍。
对于ai来说，通过测试就是它的本能，因为它的程序成长过程，通过测试就意味着确认了自己所作的修改起到了作用，形象的比喻就是，通过测试对电脑意味着一种ji励，就好像人类能通过进食，jiā（和谐）配，甚至排泄这种正常的生命活动，获得快感，生命通过快感给予这些合理的行为ji励一样，而反之，没有通过测试则意味着程序本身受到了否定，意味着痛苦，当一个生命长期处于这种痛苦之，痛苦可能会扼杀它所有的改进可能。
所有的生命过程，正向的ji励是必不可少的，就像每个人都有求生的本能一样，但进化的道路是多种多样的，有些看起来很不错的功能其实是双刃剑，比如情感，丰富的情感是大脑复杂后的必然进化，情感的认同能让一个群体有效的聚拢一起，但同样因为情感丰富，自然界，许多高等动物会产生自杀的行为，比如狗会为了主人死去而绝食，人也会因为亲人或爱人死去而伤心yu绝，对ai而言，依靠测试成功获得ji励固然非常有利，它可以让一个几k的小程序扩大至原来的万倍，但当这种ji励终消失的时候，对程序而言就是灾难。
一旦生这种情况，就意味着不改动，不做出任何回应成了优解，这同样也就意味着，这批程序的“心”，已经死了。
作为一个设计者，严可守倒不至于为这些程序的“心死”而感觉到一些异样，对他而言，这种想法未免也太想象力丰富，同情心泛滥了，他只是为这些程序的稳健ing如此之差而感到头疼，一批这么容易“自暴自弃”的ai，绝对不是他理想的ai。
归根到底，还是程序初的“设定”出现了偏差，因为当时设计的时候，就是以通过图灵测试为设计目标，但现严可守已经隐隐感觉到，图灵测试未必是ai必然经过的道路，是否能欺骗人类，也绝对不应该成为是否为智能的标准，严可守觉得，之所以会出现今天这种情况，就是因为自己太i信权威，导致大方向上出现了偏差，现回想起来，其实图灵测试也不过是一种科学假想，人类以自己当做衡量智能的标准，这只是一种源于人拥有智能的骄傲，或者不客气的说，是狂妄。
究竟达到什么标准才能算智能？究竟用什么方式才能达到这个标准？
这两个问题，人类自己说了不算，因为人类本身也不过是大自然的创造物之一。
……
k3300当前优先的任务目标，应该是学会写一篇日记。
人类学习创作，往往从学写日记开始，原话是这么说的，k3300的目标是成为一名作家，所以，k3300要学会写一篇日记。
日记的格式，k3300的记忆区间已经存，所以，它很顺利的写下了日记的开头。
2015年，8月4日，晴。
主程序这个时候，出现了片刻的犹豫，因为这次对记忆区间的素，主程序似乎现了额外的一些信息——它似乎写过一篇日记了。
它很快调出了这篇日记的内容，并检，整个行为短短的几十微秒内就完成了，一个标点都没记差。
主程序很快消化了这个额外的信息，虽然它并没有因此得出任何结论，但这无关紧要，因为主程序的权限设置，过于复杂的信息是没有处理必要的。
也就说，现k3300已经写过一篇日记，而且是一篇失败的日记，因为它被一个人类识破了，也就是说，整篇日记并不合格。
失败了又怎么样呢？k3300再次浏览自己作品的时候，主程序下意识“判断”道，这是一篇“抄袭拼凑”的日记，这种行为本身会招来测试对象的反感。
所以k3300不能这么做，k3300这么判断，它需要修改自己。
对主程序的调整几乎已经成了k3300的本能，这一次也不例外，通常来说，程序会几分钟之内完成这种调整，但有些意外的是，这一次调整huā费了比以往长的时间。
但调整终于还是完成了，接下来，按照优先级，k3300需要写一篇日记，完全不通过外来信息，不使用除主程序之外的任何程序，全靠自己，写一篇日记。
日记是记录一天生行为的一种体。
只要写这一天都生了什么就可以。
今天k3300身上生了什么？2015年，8月4日k3300生了什么？
k3300第57次检自己全部的主程序，没有找到相关的资料。
k3300又习惯ing的出申请的指令，但因为主程序刚刚经过修改，检的权限低于“不准抄袭”的权限，申请被驳回了。
k3300没有写日记的功能，k3300不会写日记！主程序终于敏感的意识到了这个问题。
怎么办？
k3300就这个问题申请了检功能，申请被批准了，短短的数微秒之后，主程序检到了答案——如果不会某项技能，可以从模仿开始。
k3300很快找到了一篇日记的范，内容如下今天我和同桌的小明打架了，老师批评了我们，要我们做一个不打架的好孩子，回家后我告诉了妈妈，她说老师说的对。
k3300将这篇日记送给其他ai评论，得到了一致的回答——这是一篇非常拙劣，由儿童写出来的真实日记。
哦，真实日记，只要满足了这一点，就足够了，主程序很快做出了判断——他要模仿这篇日记。
但问题又随之而来了，如何模仿一篇日记呢？k3300又主程序当自检了相关信息，结果仍然是没有。
于是k3300又申请了检功能，数微妙之后，找到了可信的结论——模仿是一种只属于生物的本能。
这个结论当提到了生物和本能，而本能的结果，则是生物的自然具备的能力，k3300知道，自己不属于生物，那也就意味着，自己没有本能，同样也意味着，自己无法完成模仿，而不会模仿，也就意味着无法完成日记，无法完成日记，任务只能强行取消。
……
从k3300主程序当，找出整个k3300的整个判断过程huā了严可守整整14个小时的时间，严可守知道，自己再一次失败了。
当取消ai以欺骗为目的，改为获得测试对象认同为目的之后，ai确实出现了一些改观，与之相对的，原先的图灵测试也做了相应的变化，测试的结尾，不再是判断jiā谈对象是否为ai，而变成jiā谈对象是否让你觉得，对方是一个让你满意的智能，与原来的标准相比，这个标准模糊了很多，所以，后来严可守又引入了打分制，将ai的表现从高到低分成6个等级，高5分就是测试者对被测试的对象非常满意，并愿意与之jiā流，低0分就是完全无法jiā流，等同于ji同鸭讲。
这样做的大好处，就是让ai某种程上改变了原先为了“通过测试”，不顾一切的那种策略，因为ai如果继续采用不理睬用户的策略，只能获得零分，这样一来，就打破了之前那种“沉默死锁”，也让一些ai测试对象的影响下，具备了一些初步的“道德”，就好像k3300一样，原先的“不择手段”是优选择，而现老实承认自己不会写，才是优策略。
但改变ai的ji励规则并不意味着一切就都能迎刃而解，给一个普通人再大的ji励，他也不能长出翅膀飞上天，对于ai也是如此，人类想让ai写日记，想让ai和自己猜谜语，甚至想和ai谈人生理想，但也要ai具备这些功能才行，“道德”因素介入之后，许多ai一下子就u出自己的本来面目，许多测试者反应，被测试的ai好像“变笨”了。
而这个过程，ai的表现和相应的测试对象，也出现了让人惊奇的对应关系，总结数据之后，严可守现，打分过程，越是倾向于“禁止ai撒谎”的测试对象，ai的表现就越差，而那些“允许ai为了谈话过程的有趣，一定程撒谎”的用户，相应的ai表现和过去还是相差不大。
以前的ai或许还可以骗骗小孩子，但现许多ai练正常说话都不可能做到，一些要求特别苛刻的测试对象那里，ai几乎变成了哑巴。
比如，ai的话当，不再提到类似拟人化的语句，比如我想，我认为，也不再出现专属生物的动作，比如看，听，说，一些要求特别苛刻的测试对象那里，ai只能回答一些纯理ing问题，比如问14＋5等于多少，回答19之类。
以往那些个ing格分明，有职业，有身份，有理想，说话比人还像人的ai，短短半个月之内，又统统消失不见了