首页 >  元宇宙社交 >  正文
对话傅盛:大模型的世界不只有爱因斯坦,还有普通人
发布日期:2023-04-21

对话傅盛:大模型的世界不只有爱因斯坦,还有普通人划重点:

  • 傅盛认为大语言模型核心要理解的是:它并非“聊天工具”、“知识库”,而是通过对知识学习建立一整套逻辑能力。
  • 傅盛称做“大模型”会分有两个方向:一个是科技巨头们搞的“爱因斯坦”很高端、很专业;另一个则是“平民化大模型”,数据量不会那么高,能一些特定领域能达成某种效果。
  • 在如何理解“大模型”给我们带来哪些革命性改变的问题上,傅盛认为它的出现是人类第一次把电能变成了脑力和通用智力。

对话傅盛:大模型的世界不只有爱因斯坦,还有普通人

腾讯新闻《潜望》张小珺 发自北京

最近无论走到哪儿,傅盛都在包里装一台Mac电脑,空闲时让ChatGPT教他写程序。

ChatGPT替代了书籍。“我最近都没怎么读书了,天天直接就问GPT。”傅盛说,有问题找它,有论文要读丢进去让它总结,还问它各种鸡兔同笼、苍蝇和兔同笼、蜈蚣和兔子同笼的逻辑问题。

甚至,他问ChatGPT:当年Google效果不错,你们却很差,是什么让你们坚持自己的道路?

我们正处于人类技术史上的一个伟大时刻。傅盛是猎豹移动董事长兼CEO 、猎户星空董事长,在他看来,这是人类第一次将电能转换成通用智力,哪怕互联网的变革意义都不能与之比肩。大模型应与蒸汽机一较高低。

同时,傅盛提出了一个新命题。就像过往每一次技术革命是从实验室里的高精尖向普及化过渡,技术的神秘面纱随之被揭开。这次的大模型会不会也这样,一部分人创造“爱因斯坦式”的超级大模型,另一部分人生产“平民化大模型”?

“世界永远是这样,一段特别牛的,一段一些草根想办法去颠覆,从低端去搞你。低端这条路永远没输过,高端那条路也永远存在,所有的商业基本是这个逻辑。”他说。

傅盛是移动互联网时代崛起的创业者、一个颇为性情的CEO。过去,他会为恩怨哭、为市值不服气,也会带着2000多位员工坐游轮出海、去迪士尼。随着2020年Google下架猎豹旗下多款产品,这场剧烈的风波令其公司市值遭受断崖式下跌。另一边,早在2016年傅盛开始寻找新增长点并创立了猎户星空,将精力逐渐转到机器人和AI赛道,这是这次访谈的起因。

这次,我们和傅盛从这个伟大的AI变革开始聊起,也聊到了他所擅长的交互界面变革、他的最后一次创业,以及人生的起伏和心性转变。如今,他放下了很多个人恩怨,反而是看到一些感动小事容易动情,理解了他人的艰辛与不易。看《新喜剧之王》他就哭得厉害。

“那就是小人物的奋斗史啊。”傅盛说。

以下是对傅盛的访谈。为了方便阅读,我们做了一些字句修改。

01 做大模型有两条路:造一个爱因斯坦 vs 平民化大模型

腾讯新闻潜望:ChatGPT爆火后,整个社会对人工智能达成共识有点太快了,这几个月你的生活有变化吗?

傅盛:我现在出门就要背一个Mac电脑。让ChatGPT教我写程序。

大语言模型大家核心要理解的是:它不是聊天工具,不是知识库,而是通过对知识学习建立一整套逻辑能力。逻辑能力是人类独有的。

达成共识这么快,是因为大家认为这是人工智能第二个里程碑。第一个里程碑是AlphaGo突破了机器人识别,但识别不是人和动物的核心区别,狗、猩猩也会识别;逻辑能力才是人的核心,也就是所谓“智能”。第二个里程碑难度比第一个大,到今天也没有完善理论能证明,现在有个词叫“涌现”——这是为什么只有OpenAI当时选这条路——如果有理论证明只要加到1000亿参数就能产生智能,大家早就上了。

腾讯新闻潜望:今天能证明这件事吗?只要加到1000亿,其他人能复制。

傅盛:这条已经趟通了。现在这么多做大模型,都能做个大概。

腾讯新闻潜望:你们会做吗?

傅盛:我们现在不会。这是“大平台的核战争”,你走跟它一样的路,肯定被它碾碎。

我认为大模型会分两条路。一条叫越来越牛的大模型,是“造一个爱因斯坦”。谁都怕“爱因斯坦”出来,大公司都得上,不断进行“核战争”——从GPT-3.5到GPT-4再到多模态。

但很多工作岗位不需要“爱因斯坦”,大学毕业生就能做。这是另一条路。业界最著名的是“羊驼”,几十亿参数、一块GPU卡训练出的效果,在一些专业领域也不错,实现快速平民化落地。我们可能走第二条路。我们从去年底开始推进与机器人的结合,近期会出产品,具体做法不能说太多。我相信一定有大量的人做“平民化大模型”。

腾讯新闻潜望:如果“爱因斯坦”出来,会不会对其他是一种碾压?

傅盛:这个问题今天我没有确切答案,但从逻辑上不那么可能。因为它的成本。“爱因斯坦”永远需要更大的参数、更好的算力、更贵的服务。你看GPT-4比3.5,服务首先慢,其次收费,还限制条数,现在在封账号。当然你说如果到了终级状态是不是有又便宜又好用的,可能有,但这种状态会持续很长时间。

3-5年肯定会。你就这么想,GPT-5年底发布,从GPT-4到5一年过去了,明年再来个6。到现在GPT-4发布两个月,非但速度没有快,反而在裁减用户。

腾讯新闻潜望:能不能试着精确定义一下“平民化大模型”?它和大模型所需要的条件差异是什么?

傅盛:参数量会少,数据量不会那么高,在一些特定领域能达成某种效果。一定要把模型叫做一种逻辑能力,在某种领域的这种判断力,门槛没那么高。最后竞争力来自场景、应用,在某个行业深入了解需求。

你都把文档传给一个大模型,数据安全是不是有问题?以后会不会有私有化部署的大模型?如果有,GPT-4那么消耗算力,谁部署得起?一定会有便宜、但能力不错的出现。

世界永远是这样,一段特别牛的,一段一些草根想办法去颠覆,从低端去搞你。低端这条路永远没输过,高端那条路也永远存在,所有的商业基本是这个逻辑。

腾讯新闻潜望:可以简单理解,这个世界不只有爱因斯坦,还有很多一本、二本毕业的人。

傅盛:现在的GPT-3.5说是9岁智商,GPT-4到10多岁,以后像爱因斯坦。这个技术一旦被趟通,有很多人研究它。以前没人研究,所以第一波上了一定不是最优方案,有很多可优化的。慢慢优化发现,比较便宜的模型也能实现中学生或本科生的智力水平。

当然,这里有一个东西得看——没有足够的参数是不是能涌现这种智能?是不是1000亿是个槛?

腾讯新闻潜望:是不是呢?

傅盛:不知道。我觉得可能不是,可能只是1000亿试出来了,后来发现500亿也不错,以后200亿也还可以,就训练一个垂直任务——好比回答我们公司的客服问题,地球怎么样你不用管。

腾讯新闻潜望:大模型看起来非常难,为什么还是有这么多人涌入?

傅盛:它没有非常之难。语义理解有两条路:“教育”神经网络和神经网络“自学”。凭直觉第一条路是对的,教它语法结构、知识图谱,教足够多,就把语言搞定了。比如教它“中国”、“北京”、“首都”这几个词的关系,不断有人帮它整理——就跟我们学外语一样,你过了四级、六级、八级,是不是就掌握外语了?实际这条路最后走不通。

第二条路是扔给它,让它自己学,小孩扔在一个环境里就学会了。这条路大家没见过,它没有严格理论支撑。第二条路它文本越多,要烧的钱越多,OpenAI都把非盈利变成盈利了,20亿美金已经砸进去。你说全球几家公司能在看不到前景的情况下投20亿美金?

腾讯新闻潜望:有人说,大模型只有博士、豪华学历的人组团队才能做。

傅盛:2016年,我们组建人工智能团队,那时人挺贵的,做的语音效果不错。到2017年,一个普通做人工智能工程师的工资可以一年涨2-3倍,外面挖人是double或triple挖,不涨工资留不住人。我们人才大量流失。

这个事完了以后,我们冷静看了看,那段流失反而对我们是好事。流失完我们留下一些较普通的人,也做出了不错效果。我意识到,所有技术都是从大家不知道向普及化的过程。我当时招那个头儿跟我说,这东西只有博士能干。我在猎户星空招过的博士比我之前见过的博士都多。后来博士走得差不多,我们就搞了一些好的本科生,也能干——慢慢神秘的面纱被揭去了。

对学历,开创性要求很高,但它一定会降下来,这是我为什么坚定“平民化大模型”会出现。

腾讯新闻潜望:对创业公司来说,造“中国OpenAI”的船票是什么?

傅盛:那天跟他们(通用大模型创业团队之一)聊,觉得这个事创业公司要做,估值要很快拿到20亿美金。如果融不到那么多钱,就不要谈了。当然这只是他们的看法。

02 大模型的意义:可与蒸汽机比肩 人类历史上第一次把电能转换成了通用智力

腾讯新闻潜望:在互联网时代,一些平民化公司长成了巨头,大模型时代的创业环境跟那时一样吗?如果不一样,不一样在哪?

傅盛:不一样,巨头已经长成了。移动互联网时代也没有出现几个大巨头,还是互联网时代起来的。互联网把信息链接起来,那帮巨头千年不老的感觉。

腾讯新闻潜望:我看到你说,如果今天没有大模型,就不能说自己是平台公司,这句话能展开讲讲吗?大模型未来会出现中国OpenAI这种公司,还是只是各个公司像云一样的板块,是巨头的叠加?

傅盛:大模型会变成平台公司的底层操作系统,也会成为用户的操作系统——本质是操作系统。举个例子,如果有一天我们买机票或叫外卖,不是从某个App上叫,而是我晚上6点回家,要一份香辣鸡翅,手机帮你准备好了,现在那些巨头价值会降低很多。大模型调度给谁就是谁,谁靠近用户谁就有调度力。为什么微软对OpenAI这么重视?是它操作系统重构的核心点。

我们一直在争论,到底以后是一个语音助手够了,还是多个?现在没有结论。用户习惯很难摸清。当然,有些提供服务的公司,比如一些专业公司,跟大模型合作就好了。但会不会一部分用户选某一家,另一部分用户选某一家?只能说有可能。局势怎么演变还看不清楚。

腾讯新闻潜望:今天相当于互联网或移动互联网的哪个时候?是iPhone时刻还是有人说的黑莓时刻?

傅盛:肯定是iPhone时刻,跟黑莓没啥关系。现在除了它一本正经胡说八道,其他技术条件都具备了。但这次有巨头微软加持,会比iPhone还快。你要知道,微软去年9月就看到GPT-4的效果,比尔·盖茨不都震惊了嘛。

腾讯新闻潜望:之前是大家不认为这事能成,OpenAI成了;现在大家都认为这事能成,会发生什么?

傅盛:就是“核战争”。阿里发大模型,没有知识图谱的包袱(即“教育”神经网络的第一条路),反而可能重新构建。你在原来做了大量知识图谱,这套体系舍不得扔,扔了要从头开始。但以前的知识图谱、切词技术都用不着了,现在唯一要管的是:数据怎么更干净,它吃哪类数据效果好,中间哪些Transformer是开源模型,做哪些所谓参数调优能让它更好,训练速度怎么更快——把原来的积累都打掉了。这是Google这么紧张的一个原因。

腾讯新闻潜望:知识图谱没有用。

傅盛:真的没有用。

腾讯新闻潜望:你是移动互联网时代优秀的产品经理,大模型依次和哪些业务场景匹配度高?未来会怎么演变?

傅盛:第一波是搜索场景。

腾讯新闻潜望:如果Chat和搜索在一个入口,Chat会分食很多搜索的流量。

傅盛:对,以后可能不是分流,有可能你首先看到是综合的——就像你打开一本书,看到里面各种12345,底下列参考资料,你自己要看就去看,不看拉倒。以前我们是看完参考资料自己总结前面这段内容,现在等于总结了前面这段内容再给你参考资料。

第二个场景是办公,大量的白领在办公,微软就是这样做的。

腾讯新闻潜望:社交呢?

傅盛:短期不会有太大影响,以后可能是我的助理和你的助理沟通。这对于它今天不是刚需,但微信会获得在网上找不到的数据,那些回答都是人类的回答。这要做很长时间。

此外,现在已经有虚拟女朋友/男朋友。还有一些失恋了,亲人去世了,模拟这个人跟你交流。这不算社交,算是情感陪伴。社交影响比较少,腾讯反而不是最急的。

腾讯新闻潜望:大模型创业者的机会在哪?

傅盛:就看这些做大模型的创业者能不能杀出来。他们拼的是创业公司效率高。不泼冷水了。李彦宏有次访谈说了一段话,还挺中肯的。他说OpenAI有机会是大公司都不觉得这事能成;现在它做出来了,大公司都觉得能做成,(大模型)给创业者的机会就不多了。

腾讯新闻潜望:说回来,这次是微软投资的OpenAI做出了这个事,而不是Google,你觉得为什么?

傅盛:可能Google对自己AI能力太自信了,我的确不知道原因。Google对AI的重视度很高,Transformer模型也是他们发明的。微软采取了投资策略,非常典型的后来者投了颠覆式创新的例子。

腾讯新闻潜望:你们肯定对OpenAI做了很多研究,为什么是这家公司?

傅盛:黄仁勋采访的OpenAI联合创始人兼首席科学家Ilya Sutskever,有圣教徒般的信仰。你能感觉到,黄仁勋跟他讲话的时候,他没有任何表情、一句都不笑,一个词、一个词往外蹦,就跟GPT一样。每个词蹦得非常坚决。

关于这件事,我问了半天GPT呢。我说你们在以前效果不好,为什么能坚持?尤其是Transformer出来, Google用了Bart (Bidirectional and Auto-Regressive Transformers,是Google推出的一种基于Transformer的神经网络模型),你们这个效果很差。它回答说,虽然效果不好,但团队看到中间有亮点,找到一些火花了,根据火花持续投入。同时,Bart是很好,他们在GPT-3借鉴了Bart的一些做法。

腾讯新闻潜望:怎么理解大模型这次带来的范式转化和革命意义?

傅盛:这次革命的意义,不能拿移动互联网比,它更像蒸汽机出现,是范式转换。互联网的出现把信息变得高效,移动互联网让高效再高效,从办公桌上的设备变成手机,本质是链接信息。它是生产关系重塑。

但大模型是生产力重塑。蒸汽机是人类第一次把热能变成动能,以前你烧水就只能烧熟了,你要动能去搞骡子搞马,动能一直上不去,所以你对物理世界的改造非常有限。结果蒸汽机一出现把热能变成动能了,动能就源源不断地来,工业化就开始了。而大模型是人类第一次把电能变成了脑力和通用智力,因为今天的生产力实际上脑力劳动占了绝大部分,它实际上是在增加脑力劳动的不断输出。

Sam Altman(OpenAI 首席执行官)发过一条Twitter说,未来每18个月宇宙间智能爆发1倍——人不可能每年多生1倍。那天我说是生产力革命,底下人有人说你让它挖挖土地试试,我说它是不会挖土,但有一天它跟挖掘机联系起来,就可以让挖掘机更高效。再深入想,如果让它去生产挖掘机呢?是不是组建工厂更高效了?人还得睡觉、休息,还得各个图纸之间来回弄,它可以全部给你搞完。

腾讯新闻潜望:今天我们正经历的,是一个比互联网更大的浪潮,面对巨浪我们应该保持怎样的心态?

傅盛:保持积极的心态。不要做任务型的工作。任务型工作基本会被取代掉。同时要有学习心态,驾驭它——以后只有驾驭AI的年轻人和没有用的年轻人了。

不过,现在说的有很多是不实的,比如说它有情感、有自我意识,都不太可能。它还是一个算法生成器。只是说算法生成器恰好符合了人类的逻辑和推理能力,你就把它用好。就像,有一天你变成超人,你的超能力来自于你雇佣了几千个助理帮你干活,一个人就能解决好大一摊事。

03 交互界面的变革正在发生,家庭机器人最终能降至一台手机的成本

腾讯新闻潜望:来说说机器人创业的进展吧。上次采访你是2017年,你刚开始做机器人,今天发展怎么样?

傅盛:我2016年投身机器人,但人工智能过去2-3年有些低谷。大家认为图片识别完了,语音识别就能完成,语音识别完了自动驾驶和语义理解都能完成。但图像和语音完了以后,就过不去这个槛了,所以一直讲“弱人工智能”——有多少人工就有多少智能,人一点点去教它,它才会这么点,没教就不会。这次OpenAI把范式变了,不用教,自己学,学完真的可以,这叫“自学习”。

服务机器人总体是两个能力,一是从A点到B点的递送能力,这个已经被市场证明,只不过去年行业融了太多钱使劲烧,搞得有点乌烟瘴气;二是语音交互能力,GPT的出现让机器人真正像人一样回答问题。你上次见我还不具备这个技术条件,只具备语音转文字的能力,但文字的理解力和回答不行——这个比我们预想得慢,现在到了。

腾讯新闻潜望:机器人产业要经历三步走,从工业机器人到服务机器人再进入家庭,ChatGPT能多大程度缩短进入家庭的时间?

傅盛:我们现在到服务业,接下来进家庭,至少压缩了3-5年。

腾讯新闻潜望:从2016年开始 all in机器人,到现在为止,你关于AI的哪些判断事后验证了,哪些失误了?

傅盛:第一,我认为交互界面变革是人工智能带来的,当时没实现,现在实现了一点点。

我做交互出身,始终把应用性放在第一位。2016年我们是亚马逊做Alexa后,中国第二个做智能音箱的,第一个是科大讯飞。那时语音界面实现了“遥控器”的功能,就是命令它声音大一点/小一点、听哪首歌,但不具备复杂任务交互界面。

今天ChatGPT带来的交互革命是历史上第一次,人不再围着机器转,而是机器围着人转。以前所有界面人必须学习——从学键盘的盲打,到学图形界面、鼠标、左右键,到iPhone变成多指触摸。虽然乔布斯说every app is UI,但还是要学。GPT使对语义的理解就是你的意图,通过自然语言机器完全能理解,只要分散给不同任务就可以。所以,这次是巨大的交互变革,机器人会进千家万户。人类只要有最正常的表达就能获得知识性、内容性、功能性的各种服务。

腾讯新闻潜望:什么时候能实现每个家庭都有一个机器人?

傅盛:要看家庭购买力。

腾讯新闻潜望:预计价格是多少?

傅盛:最终应该降到跟一个手机差不多。

腾讯新闻潜望:这个最终是10年还是20年?

傅盛:我觉得3-5年肯定可以。我们现在餐厅的机器人已经是1000多块/月租给你。你看汽车,你以前想过2万块钱买台车吗?人家MINIEV不也做出来了?

腾讯新闻潜望:这是一个预判,有第二个吗?

傅盛:每个家庭最后要智能化,但不太可能所有东西都智能——一盏灯也有对话能力,很难做到。智能硬件今天是一些联网硬件,但最终每个家庭会有符合这个家庭成员特征和喜好的终端、一个智能hub。

为什么手机不容易?因为它是一个私属设备。家庭成员需要共享设备,这个设备既知道家庭成员喜好,又有对话能力,是一个house keeper,除了做家务不太行,其它都可以。而且,做家务随着GPT出来,也加快了进程。它有决策力,使以前很多难突破的今天有机会做到。比如,对环境的识别,帮人类处理任务型工作,和物理空间接触,以前机械臂抓杯子算法很难,现在可能加速。

包括我们也在聊对自动驾驶是突破,以前自动驾驶要标注,以后可能就跟学这个一样,给它足够多的摄像头数据,司机刹车和加速,它学足够多,不要再标这叫“车”,这叫“人”。标注是无论怎么标,有些数据都不符合。

腾讯新闻潜望:你觉得自己做机器人做早了吗?

傅盛:肯定是早了,但没觉得多么不好。OpenAI也做了这么多年。不过,我们应该更谨慎一点。中间我出现了一个误判,跟行业那个误判一样,认为语音图像解决了马上就是语义,中间这个gap让我们等了2-3年。

腾讯新闻潜望:人工智能在2016年很火,中间的低谷是怎样的?

傅盛:2018-2019年有点泡沫破灭。

腾讯新闻潜望:现在AI浪潮终于来了,接下来准备怎么做?

傅盛:在养老行业,我们去年试点很多,当时能力有限——帮老人播节目,在屋子里找老人,老人摔倒了报警,现在可以陪老人聊天。再往下,可以让语言模型告诉他最近血压怎么样,要注意哪些生活节奏。另一个是孩子,我女儿以前天天问我们家机器人,但很多问题都答不上来——我女儿说我做了个“人工智障机器人”。现在语义理解终于突破了,以后陪孩子不是十万个为什么,而是十亿个为什么。

腾讯新闻潜望:今年,你对团队说什么了吗?

傅盛:我说,我们的春天到了。不仅春天,夏天到了。

04 最后一次创业和心态转变:对觉醒的创业者来说,肯定不是最好的时代

腾讯新闻潜望:猎户星空是你最后一次创业吗?

傅盛:是。

腾讯新闻潜望:这次创业和上一次(猎豹)有什么不一样?

傅盛:最大不一样是时代变化更快了,跟互联网普及有关。我最早进入互联网,互联网还是边缘行业,人的认知差巨大,只靠认知差就能做好一件事。我最早发现美国App做得不如中国,我们就出海了。但现在,认识差维持不了多久。

第二是复杂度在增高。以前认知差就是know-how,你知道一个点,人家不知道,只要这个点做好就行。但现在,你要做好真的是你要考虑很多——行业变化、大公司怎么做、社会变化,尤其这几年疫情和世界格局。以前不用关心,只做好一款产品就可以。

第三个周期也变长了。像以前猎豹移动3年多上市,这种事几乎很难发生。所以心态上不能说佛系,但更能客观地面对,学会接纳困难,出现问题就解决问题,不会想那么多——活在当下。

腾讯新闻潜望:现在创业是一个更好的时代,还是一个更坏的时代,尤其对于年轻创业者来说?

傅盛:对觉醒想创业的创业者不会是最好的时代,因为竞争更激烈、更卷。对于还没有参与创业的人,是好一点的时代,因为创业门槛低了很多。

大公司摸索了一整套如何找到新趋势和应对的方法。所以做一个小创业,可能会好一些。

腾讯新闻潜望:小创业是指小生意吗?

傅盛:对,只要你勤奋够学,主动一点,可能就能做一个不错的生意。

腾讯新闻潜望:你今天创业是哪一种心态?搏一个大的还是做生意的心态?

傅盛:我在两者中间,我放弃了做一个所谓大的逻辑了。这个对天时、地利、人和要求太高。

腾讯新闻潜望:你以前会因为一些恩恩怨怨哭,最近三年哭过吗?

傅盛:哭过,但不会因为恩怨哭了。我现在看到一些感动的事很容易哭。

看电影什么的会哭起来。《新喜剧之王》哭得比较厉害,那就是小人物的奋斗史啊。你慢慢理解了很多人不容易。看有些励志片很容易动情。你知道就算他取得了成就,背后有很多艰辛。

腾讯新闻潜望:猎豹3年半上市,上市那一刻是没有这种感觉的。

傅盛:上市那一刻还是很清醒:为什么是我,为什么我能成功?当时还总结赶上了好时代。但你要真从人性上讲,不管你怎么说赶上了好时代、运气好,潜意识觉得非我莫属。

等后面经历了一些苦,你会发现原来不是水到渠成。我是身心特别积极的人,最难受的时候我突然理解,为什么有的企业家会轻生?不一定是欠了钱,因为情绪上面对落差感接受不了。好的时候别人簇拥着你,差的时候会出现各种问题。当然我接受了,只是在那一刻有了同理心。

腾讯新闻潜望:你有过不想面对的时候吗?

傅盛:去年我生日写了一封给自己的对话,跟十几岁、二十几岁、三十几岁的自己。那时也有很难的时候。高考失败算一次。来北京北漂,住了1个月的院,生命安全都是问题。2008又从老东家一气之下出来了,孩子刚出生,老婆也没工作,哪想过未来怎么样——但你不会有那么大情绪。

后来就总结一条,因为你过去得到比较多,就认为这些你不该失去。反过来看,就算今天这些都做得不好,你还有挺多,那不就挺好嘛?这不是一天想通的,是不断修炼的过程。

腾讯新闻潜望:我记得你过去经常做一些疯狂的事(比如,带2000多名员工坐游轮出海、去迪士尼),今年有做过任何疯狂的事吗?

傅盛:那时候有钱嘛。你这么讲有个稍微疯狂一点的事。我今年过生日,3月份几个好朋友去香港,提前两天庆祝一下。晚上都订好机票要走了,大家觉得聊得很开心,此情此景,最后所有人把机票改成第二天早上7-8点。而且在现场改了几个人,后来我们说这帮人特别可爱。

今年总体就疯狂加班。我好多个周末都没有休息。这个时代好像睡觉都在浪费时间一样。