曾将马斯克「踢」出局的人工智能公司 Opan AI 都做啥了?

2019-02-21
宇奇 评论
喜欢

就在前天,特斯拉 CEO 埃隆·马斯克连发数条推特,主要是想告诉网友,「我和这个叫 Open AI 的公司早就没关系了」。

面对这些消息,网友们的反应大致可以分为两类。一种是「嗯?不是说好了要一起保护人类吗?你为啥要离开?」,另一种则是根本连 OpenAI 都没听说过,一脸懵逼的在问「OpenAI

是啥?你们之前还有关系?这是干啥的?现在为啥又没关系了?」。

要想知道究竟发生了什么,还要再往前看几年。

2015 年的时候,我们的「硅谷钢铁侠」马斯克为了预防人工智能可能会带来的灾难性影响,拉着硅谷知名创业孵化器 Y Combinator 的总裁萨姆·奥尔特曼和其他硅谷巨头建立了这个名为 Open AI 的非营利性人工智能研究组织。不过在去年的二月份,OpenAI 就发布公告称,为了「避免潜在的利益冲突」,创始人之一的马斯克已经退出董事会。

▲左为萨姆·奥尔特曼,右为埃隆·马斯克

本以为大家可以平静的相忘于江湖,结果上周晚些时候,OpenAI 发布了一个叫 GPT-2 的通用自然语言处理模型。直白点说,就是个「AI 写手」,操作者只需要输入开头或者文章主题,它就能自行理解意图,并编写后续内容,什么小说新闻甚至于论文都不在话下。

▲GPT-2 正在生成一篇关于暴风雪的文章,图自:OpenAI

它甚至可以立足于一个看起来违反常识的观点——《为什么回收对世界有害?》做出一篇论文来支撑这个论点,并得到了较高的评价「是在 SAT(美国高考)上都可以拿到高分的水准」。

不过并不是所有的领域都需要这种创造力,譬如说新闻行业。研究人员为测试它的相关能力,在输入了一个开头后,它撰写了如下的新闻消息:

在唐纳德·特朗普意外地发射导弹后,俄罗斯向美国宣战。俄罗斯方面表示,已经确定了导弹的轨迹,并将采取必要措施,以确保俄罗斯人民和本国战略核武器的安全。白宫则表示,此举是为了回应俄罗斯违反《中程导弹条约》……

▲人在白宫坐,锅从 AI 来的特朗普

大家应该都看出来了,它编写的明显是一条假新闻,但并不全是假的,俄罗斯确实在本月初暂停了履行《中程导弹条约》。但这也正是它可怕的地方,真假参半,虚实结合,又符合了现在的政治氛围,配上「震惊」的标题发到朋友圈里,估计会有一大票中老年用户疯狂转发。

一个致力于「预防人工智能可能会带来的灾难性影响」的 AI,却编了一篇假新闻出来。OpenAI 政策主管 Jack Clark 也表示自己很头大,「无法预测这个模型所有的能力,你必须不断测试」,也就是说目前大家看到的 GPT-2 还没有发挥出全部能力,而且以后要是再发展下去,它编出来的假新闻能「真」到什么成度还不好说。

出于对 GPT-2 可以轻易生产虚假消息并被滥用的担忧,OpenAI 选择不公开模型的具体结构和代码,仅发布了一个小小的样本供开发者尝鲜。这个举动招致了众多网友的布满,有网友讽刺道,「OpenAI 干脆改名 CloseAI 算了!」

更有甚者跑到了创始人马斯克的推特下面对其出言不逊,马斯克不得已只能发推澄清自己已经离开了 OpenAI,这也就有了本文开头的一幕。

不过如果 GPT-2 模型的能力真如 OpenAI 所描述的这样强大,那基本可以称得上是目前最强的自然语言 AI。

那么这个「最强 AI」之前在做什么呢?

……在玩游戏。

▲一家人的名字就是要整整齐齐嘛

OpenAI 曾经组建了一只 DotA2 战队 OpenAI Five,从击败自家研究室的普通玩家开始,一路从 1v1 战败冠军级职业选手,走到 DotA2 顶级职业赛事。虽然最后折戟于 Ti8 联赛的中国队,不过这期间 AI 进步神速,能抓会偷,有团战意识,展现了强大的学习能力,甚至还学会了公屏嘲讽对手「你没机会的」……

▲蓝队就是 AI,这波包抄的意识很「人类」

而除了打 DotA2 之外,OpenAI 还学了相扑……

▲也…很…厉害…吧…

图中的两个相扑选手并非提前编程设计好动作,在实验开始,游戏中的小人甚至不会走路,经过大约十亿次的训练,机器人学会了一些策略,例如蹲下让自己保持稳定,或者让对手一不小心摔落竞技场。

据 OpenAI 相关人员说,这是为了让 AI 尝试新的学习的机制,以往常用的通过处理数据标签来获取新技能的方法并不适用于学习复杂的操作,而他们目前正将这一技术应用于更复杂的问题,比如让机器人捡东西……

▲官方 Blog 上关于让 AI 互相教的报道

而根据相关资料显示,OpenAI 最近正在研究如何让 AI 之间互相教学,极客君现在有些好奇它们之间是怎么交流的,会不会教些什么奇奇怪怪的东西……

▲难道是像电影《复仇者联盟 2》中的贾维斯和奥创这么教的?

总之,这家宗旨为「预防人工智能可能会带来的灾难性影响」的 AI 研究机构的画风越来越奇怪。虽然目前来看,拥有高度智能并会独立思考的 AI 短时间内并不会出现,但还是有些担心,一旦将来出现的是要毁灭人类的奥创而不是温驯谦和的贾维斯该怎么办……