对话写作猫：小公司，做出大模型

蔠夜

% ^' f' m, @- F
& K4 ^1 d# `1 B$ ~互联网大厂聚光灯之外，对话式AI创业的现实与未来。
3 A9 `. [8 y8 Y. T7 q! F# m
  H3 L$ @/ b$ S- S文 | 园长
编 | 石灿
“对话式AI，是这轮AIGC变革中应用落地的核心。”
( Z* ]- D5 K" ^7 n王益为（ID：王一快）是AI创业公司“秘塔科技”的COO。在百度“文心一言”推出的前几周，秘塔科技就先行一步，推出了国产AI对话产品“对话写作猫”。

5 D& S+ l/ l8 P# M  O1 g: L3 _
刺猬公社与对话写作猫对话
; E! S: E# ^+ v9 {0 ]( G过去的几个月，我们看到Open AI以令人眼花缭乱的速度，接连推出Chat GPT及其后续的GPT4等系列AI对话产品，一次次刷新人类与AI交互智能化的上限。当自然语言成为了能够直接与机器对话的工具，在人工智能的支持下发挥出前所未有的创造力，维特根斯坦的那句名言“语言的界限，就是我世界的界限”，正在被飞速更新的技术所验证。
正因如此，以Chat GPT为代表的对话式AI，成了AIGC落地应用的核心，也让这条赛道上的变化显得格外引人瞩目。不论是百度推出文心一言，还是Open AI推出的GPT4，还是Google的Brad，这些对话AI生成的每段对话，都有可能影响一个超级巨头的股价，也不断引发着人们的讨论：大洋两岸，对话式AI产品技术差距到底有多大？
7 e4 k5 |& J5 T) |- D% I; \5 o除了百度的文心一言，国内还有不少AI对话产品，共同组成了国产对话式AI的创业生态。类似对话写作猫这样的创新者，虽然在大厂的聚光灯之外，但同属这个生态的一部分，同样值得我们关注。
, I0 C+ ^1 g9 M2023年春天，刺猬公社（ID：ciweigongshe）去了一趟秘塔科技公司位于北京的办公室，和王一快聊了聊对话式AI创业的现实与未来。

创业公司，也能做对话式AI
; J2 f  w( r# Y) z4 ]
+ o# _# p5 w( e, L( D  A第一批在国内做出对话式AI产品的，并不是BAT级别的大公司，而是以秘塔科技为代表的中小创业公司。这里需要特别指出的是，他们并不是简单调用ChatGPT的API接口的“套娃”产品，而是实打实地去自主研发大语言模型，其原理和Open AI别无二致。
- a% G" @' ^2 S. w8 [在2021年左右，秘塔科技就在研究如何用AI去生成内容；再到2022年12月，先是拿出了AI生成文字和图片的能力，并且在这之前，就已经在让机器去进行多轮对话。为了早日拿出对话写作猫，过去几个月，秘塔科技的几乎所有研发人员把全部精力都投入在了这上面，近期也在不断进行完善。
在对话写作猫之前，秘塔写作猫就是一个比较成功的文档产品了，拥有近千万用户。“这不是我们能力的全部，我们还能做得刚好。”王一快说，“不是说看了人家做了，我们马上就做，我们一直有技术积累。”
谈到为什么能这么快地做出对话式AI产品，王一快还提到一点，那就是不一味追求模型的大——动辄千亿、万亿的参数量，和创业公司的能力规模也不匹配。此外，模型也不一定“大就是好”，还要看AI生成对话的质量，以及AI是否真正理解了多轮对话的上下文，理解了对话者背后的意思。
) ]" @) S+ j- r" Z
% F8 y+ L9 j4 K
生成效果
目前，对话写作猫一方面可以实现AI对话，一方面还可以根据用户的指令生成文字内容。比如当用户输入“写一个小红书笔记”，它真的可以模仿小红书的内容风格，写一段美妆产品的评测。此外，还可以实现图片等内容的生成，具有相当的多模态能力。从这个角度上看，对话写作猫的AI能力其实和国内大厂的产品相差不大。
相比国外同行，对话写作猫在中文输出方面也有一定的优势，比如在改写文章、生成文章等方面，甚至比Chat GPT做得还要好。至于多轮对话能力，还是和Chat GPT有一定差距。“可以期待半年之内达到和ChatGPT‘平替’的效果。”王一快说。
  @- h* E6 J0 X0 k5 A
8 G: Y! |2 I4 d大模型，自研的才放心

9 @# C' m' f5 Q$ A- F在国内的不少对话式AI创业项目中，相当多的团队不会“硬啃”大模型，就连小冰CEO李笛也曾断言，“大模型在今天这个时代，还不是创业公司可以玩转的”。比如，用户体验还不错的“Inspo”和“Aski”，都是基于GPT模型开发的。

但如果每个创业公司都是在Open AI模型的基础上修修补补，这种创新的含金量到底有多少？质疑的声音，同样也没有停止过。
对话写作猫就没有使用开源模型，或者调用API接口，而是走自研的路子。
& I; b( x, S  }* W1 f6 }这也是一条相当考验技术的路子。仅仅从语料的角度看，中文语料就要比英文语料复杂很多，语料的清洗和质量控制的难度都更大。
相比英文，中文的变化更多。比如，语言文字还会受到语气等多种因素的影响，同样的词汇，在不同语境中的意思就不一样。再加上流行梗和不断产生的新词汇，机器理解的难度就更大了。因此，如何处理好海量的工程细节，是打造中文对话式AI过程中最大的难点。
0 T3 N$ {' d: ~  B$ f6 t$ B; P但这也正好是愿意自研大语言模型的创业公司的机会。王一快告诉刺猬公社，首先，目前开源的大模型主要是以英文为语料库进行训练的，中文部分较少。为了适应中文而去做调优，本身就有“先天不足”，比如有的时候其输出的内容，并不符合中国人的文字习惯。
; R) Q) u' T# z% P4 B! n$ z# Z1 I. H9 R另外，已经开源的技术往往是上一时代的技术。一些团队愿意开源，是因为他们已经掌握了更先进的技术，才会把上一代技术开源出来。而其他开源技术的使用者，不论如何也没法追赶最先进的水平。
更重要的是，创业公司也要保持技术的自主性，一方面国内在自然语言处理方面的研发能力并不差，具备相当积累；另一方面也要避免被“卡脖子”，比如号称“AI竞赛心脏”的英伟达A100芯片停止对华出售，就是一个前车之鉴。
0 s3 O- ^( i8 E: }' {+ w" F4 g0 U
' R: ^; ?0 Y: N大模型的未来：“黑镜”式的商业化？

+ j* j3 e7 o7 }/ @) x科幻剧集《黑镜》描绘了这样的一幅图景：人们可以将亲人生前的社交媒体资料“投喂”给AI，训练出一个可以模拟亲人语气和思想对话的App，可以聊天、可以打电话，甚至可以借助机器人将失去的亲人带回身边......
3 W6 Q5 }9 {$ ]5 y

. }+ a! U  q" Y/ C) |7 r7 ?《黑镜：马上回来》剧照
现在借助大语言模型，这个即便在前几年仍然被认为相当科幻的场景，其“内核”部分几乎已经成为现实。王一快就向我们透露了最近接触的一个需求：
某机构给一位已经去世的老学者打造了一个数字人形象，让人们可以继续看到他的音容笑貌；在这个基础上，还想把他的论文和学术观点“装”进这个数字人的大脑，让数字人也能继续按照这位学者原本的思想模式，模拟出学者生前的样子，继续和人们进行多轮对话。
: Z3 A# ?! C9 i4 A) l“让数字人有了脑子，这件事本身就有意义。”王一快说。他还举了一个法律行业的例子，大语言模型可以与律师的数字人形象结合，作为一个真人咨询之前的程序处理客户的问题。虽然还不能取代高端的律师服务，但比较初级的律师，将在知识储备量和同时服务的能力上无法相比。
1 r( A' r$ Q, Q3 l1 h# k  o在商业化上，对话式AI的想象空间还有很大。在ChatGPT验证了对话式AI作为一种新的人机交互的方式之后，对话式AI很有可能作为一个统一的出口，把其他的AI能力都打包起来统一输出，成为整个AI产业落地的主力。
% p5 [6 S1 U2 M- A" j比如对于秘塔科技的文档产品——秘塔写作猫来说，文档的起草、修改等都可以借力AI能力做得更好。目前，秘塔写作猫已经有了教育、互联网等行业的客户，其中的主要付费用户为企业B端客户。而对话写作猫的落地，也有可能借助“先行”的秘塔写作猫，抓住同样的客户群体。
就在2023年3月下旬，秘塔写作猫进行了一次更新，用户只要输入双斜杠，就能呼出指令框，在文档内直接生成方案、周报、工作总结、提炼精华等不同形式的内容。从这里也不难看出，对话式AI的商业化，还有相当多的故事可讲。
' V* e- e" l9 `+ s+ O. ^8 ~（本文头图由计算美学产品“画宇宙”AI生成）
* m" ^- y' G: A媒介合作联系微信号|ciweimeijiejun
如需和我们交流可后台回复“进群”加社群

yi叶秋枫

有意思，期待

复活的鬼是丑鬼

主要表现猫的性格特点,从长大的猫性格古怪回忆起满月的猫淘气可爱.通过具体事例,抓住猫的动作行为来写.再加上作者拟人化的写法、亲切风趣的语言,处处流露出对猫的喜爱之情.