谷歌AI打败了人类围棋大师，微软AI学会了爆粗口

晨枫

http://www.bbc.com/news/technology-35890188





很多大公司都在研究AI，微软的网上对话AI（也称chatbot，“她”有个名字叫Tay，在Twitter上叫@TayandYou）的用意是学习人类（尤其是年轻人，18-24岁）的自然对话。放上网才一天，就学会了很多胡说八道，包括很多政治高度不正确的胡说八道，比如支持纳粹、种族主义和种族清洗。不知道是网上年轻人有意“教坏”这“纯真”的小妞，还是网上对话本来就是这个样子的，反正微软现在还是编辑Tay的一些出格言论，而本意是从一张白纸开始，学习自然与杨。

看来，学好三年，学坏三天，这真是普世真理。现在已经有呼声，要求微软把Tay重新放上网上，让“她”自己学习鉴别好坏。但这也指出了谷歌AI和微软AI非常不同的一点：谷歌AI（AlphaGo）从大量的人类正面经验开始，微软AI（Tay）则从白纸开始。两者的结果截然相反。或许可以说，至少在近期，无指导的AI自动学习不能保证正确轨道？这些只是下棋和侃大山的AI，没有实质性影响。现在人们在思考的是工业和军用AI，如果“学坏”，那影响可就大了。

MacArthur

好几年前，清华图书馆上线了一个chatbot，就叫“清华小图”。。。 本意是用来回答一些常见问题兼顾自动查询等。。。 据说就是清华计算机系的人编的。。。 有一定自主学习功能。。。

上线后就被大量网友围观、调戏。。。 问题是可怜的小图哪里懂得“调戏”和“调教”的区别。。。 它无条件地从一切对话中学习。。。

然后自然而然就被带坏了。。。 刚开始还只是卖卖萌。。。 慢慢就开始往外冒脏字儿了。。。

后来脏话坏话越学越多，最后不得不被迫下线。。。

所以说在无边界领域AI想跟人斗，还嫩得很啊。。。

玩牌也

看來這東西有用。蒐集民意是好手一把。

老兵帅客

很正常，围棋没有脏话，而网上对话脏话太多，这样都以与人类交流来学习的话，后者肯定是满嘴脏话了。

其实假使微软是以社交语言来训练它的机器人的话，结果就会是个彬彬有礼的机器人了。

不过这也很正常，在不同社区长大的孩子，彬彬有礼还是满嘴脏话是一目了然的。

人类尚且如此，又何必要求机器人如何呢。

老兵帅客

MacArthur 发表于 2016-3-24 09:19
好几年前，清华图书馆上线了一个chatbot，就叫“清华小图”。。。 本意是用来回答一些常见问题兼顾自动查询 ...

其实这样也不错，先服务学生，然后服务社会，与时俱进嘛。

穿着裤衩裸奔

人学新语言时，好像脏话也是很早期就会了吧？
学会脏话才是好的人工智能啊

河蚌

在街道上长大的流浪儿，有哪个不是脏话连篇的吗。
人类学习语言，是在父母的保护和监督下的，脏话说出来，马上就有父母指正，这个不能说。

晨枫

河蚌 发表于 2016-3-24 18:27
在街道上长大的流浪儿，有哪个不是脏话连篇的吗。
人类学习语言，是在父母的保护和监督下的，脏话说出来， ...

对呀，重要教训：AI不能放任自学，否则学了什么都不知道。

煮酒正熟

老兵帅客 发表于 2016-3-24 09:37
很正常，围棋没有脏话，而网上对话脏话太多，这样都以与人类交流来学习的话，后者肯定是满嘴脏话了。

其实 ...

jerf71

煮酒正熟 发表于 2016-3-25 12:49

无论机器，动物还是人类，都要有老师/道德教导/约束。

寒地散人

中国顶尖的学府都教机器人说脏话，别的地方更是可想而知了