股票涨停、泼天流量,Kimi受宠若惊到宕机:预计25日恢复,200万无损窗口实测:好用!不失优秀、免费的国产大模型产品!

编辑 | 言征、伊凤


20日,Kimi概念股直接涨停。泼天的流量蜂拥而至,打得猝不及防,一时间难以接驾,以至于一大早9点半开始,Kimi就宕机了。即便月之暗面的技术团队已经应急进行了5次扩容,依旧对这突如其来的“宠幸”应接不暇。月之暗面发公告称:这种情况预计会延迟到25日。

 

 

经《科创板日报》记者测试,月之暗面旗下大模型应用Kimi的App和小程序均无法正常使用。此前,月之暗面发布情况说明:从 2024.3.20 9:30:00 开始,观测到 Kimi的系统流量持续异常增高,流量增加的趋势远超对资源的预期规划。

 

这导致了从 2024.3.20 10:00:00 开始,有较多的SaaS客户持续的体验到 429:engine is overloaded的异常问题,并对此表示深表抱歉。

 

 

“作为一家以技术为导向的公司,我们非常理解一个API的稳定性是能否投入实际生产的最关键因素之一,已经有多项应急措施正在实施,包括不限于:从3月20日观测到流量异常增高后,已经进行了5次扩容工作。推理资源会持续配合流量进行扩容,以尽量承载持续增长的用户量;设计了一套更有效的SaaS流量优先级策略,以保障付费用户的调用稳定,预计3月25日之前完成并上线。”

 

真正让用户用得爽的大模型对话:开启“长文本”时代
3月18日,月之暗面宣布了最新的重大技术升级:上下文窗口由20万字提升10倍到200万字。200万字,这是怎样一种概念?
对于爱阅读的朋友而言,相当于2~3套《三体》全本,对于学法律的朋友而言,则相当于117部宪法的长度,对于高中生而言,相当于一下70本语言教材。

这些只是数字,更为打动人的是,这么长的窗口才是大家使用生成式AI产品“最舒服”的窗口长度,月之暗面(现在已改名Kimi大模型)已经找到了这个临界尺寸。

200万字的无损上下文窗口是符合用户使用习惯的临界点。太短的上下文窗口限制很难迎合用户一次就想搞定解决问题的冲动和习惯。

 这样就可以批量处理涉及诸如比较、总结、概括、筛选等许多频繁的文字处理工作,这一点是找对了用户使用场景的痛点。
来源:AIGCLINK 而拥有200万字以后,体验就变得非常耳目一新了。Kimi 可以帮HR批量筛选出符合条件人才简历,可以帮研究人员快速整理多篇相关论文的创新点等等。

Kimi:总结归纳的利器


3月,Kimi  Chat改名为Kimi智能助手,同时Moonshot大模型改名为Kimi大模型。“以后只要记住Kimi就够了!” 
打开Kimi官网,你会发现非常多与其他大模型产品的不同之处,其中最为明显的就是它可以支持上传多达50个100M以内的文件,这个要比国内外大多数大模型产品都要牛逼。
 Kimi的主要功能是进行基于文本的信息检索、数据分析、语言翻译等工作。虽然支持上传图片格式的文件,但仍然围绕着文字提取和总结,并非提供多模态功能。

实测:RAG技术非常友好 Kimi采用的RAG检索增强生成(Retrieval-Augmented Generation)技术,这一技术能让Kimi根据用户提供的prompt进行网页搜索,获得更多参考资料以提升生成回答的精确度和内容质量。
 从上面的案例可以看到,拥有RAG能力的Kimi可以帮助用户降低搜索信息的成本,同时搜索使得Kimi大模型能够访问最新的外部数据,保证回答内容的时效性。 由于网页内容的多样性和理解复杂语言带来的困难,Kimi对搜索信息的总结不能排除幻觉出现的可能。但是他提供的资料让用户可以方便的追溯到具体的信息源,从而对AI生成内容进行检查和优化。 

比ChatGPT好用?

 正如AIGCLINK社区测评后对升级后的Kimi所说, 最大的亮点还是超长文本窗口,实测并没有外界所说的神乎其神,要客观看待
 
同时,实测视频中也指出,Kimi在英文翻译能力不如ChatGPT。
当然, 也有资深的AI研究人士表示,Kimi对于数学题,也并不那么擅长。
小编也实测了一道奥数题,文心一言答对了,但Kimi似乎有点把自己整懵了。

  然后,推理能力也不太擅长。

 同样的问题,放在通义千问,得到了正确的回答。
 据悉,有字节的朋友也晒出测评:1万长度的时候就开始出现幻觉了!


不一样的Kimi:年轻、技术信仰、最晚考虑商业化

2024年,是大模型公司落地、应用之年,大模型CEO们从开年之后,就一直处于理想与现实的剧烈拉扯之间,中国互联网素来充斥着商业化的声音,而这位月之暗面却非常独特:AI研究员背景的年轻创始人、头部国产大模型独角兽中人数最少的一家(只有80人),没有选择对手们认为更稳妥的to B生意,也没有在在医疗和游戏等细分场景中找机会,而是选择做且只做了一款to C的对话产品——智能助手Kimi,没错,Kimi也是杨植麟的英文名。值得感叹的是,杨植麟倾向于将他的公司看作是构建一个结合科学、工程和商业的系统 3月中旬,Kimi迎来了重大升级,上下文窗口已经支持200万汉字输入,这一下点燃了用户对于生成式AI技术的使用热情。(最新的Geimni 1.5,也只有100万tokens)

写在最后:大模型应用落地的两个条件


月之暗面是AI领域新秀,也是资本的宠儿。之所以能赢得资本热捧,锚定长文本无损压缩是其中关键因素之一。固然在数学解题和多模态能力暂缺或稍弱,但其长文本处理能力却的确让人眼前一亮。 杨植麟曾公开表示,长文本作为公司“登月”的第一步,是新的计算机内存,很本质,个性化并非通过微调实现,上下文定义了个性化过程。杨植麟还认为,大模型“马拉松刚开始,接下来会有更多差异化”。 银河证券认为,2024年AI应用元年有两个条件:1、大模型达到可使用状态:这点从Kimi用户好评如潮中可以看出;2、大模型公众可触达:目前Kimi已经面向全社会开放使用。Kimi智能助手是AGI进程中的不可忽视的地标之一,或许意味着大模型将正式进入“长文本时代”。
期待未来Kimi给我们带来的惊喜:“每一次,都集中全力!”

——好文推荐——
月之暗面技术重磅突破:Kimi200万字上下文窗口内测开启
从独角兽到弃子,微软“生吞”日活百万的大模型独角兽!3位创始人挖走2位、团队大撤离、大撤资,孵化新AI部门!ToC应用,还有活路

相关推荐

  • 分库分表设计及常见问题
  • 全网独家“Java面试+进阶学习”资源合集,手慢则无!
  • 今日代码 PK | 使用 try-with-resources 关闭资源
  • 面试被拷打,真面不动了。。。
  • 我们公司的春招来啦!
  • 从 AI 和数据要素角度聊聊“新质生产力”对企业数字化转型的影响
  • openEuler 学习赛等你来战:解锁开源之力,赢取丰厚奖品!| Q推荐
  • 打造一个成本优先的技术架构,可以分几步?| ArchSummit
  • 我用十几年时间自创了两门编程语言,它们都还挺知名
  • 新一代“汽车人”不智能,汽车怎么智能?| 极客时间
  • 扫码点单小程序怎么制作,费用多少,微信点餐还可以外卖配送
  • 8个2024年最值得关注的开源LLM
  • 博后招募 | 香港理工大学姚岱教授课题组招聘人工智能方向博士后
  • 曾经火出圈的提示工程要死了吗?危!大模型能自己优化Prompt了
  • WWW 2024 | 港理工等联合提出线性时间图神经网络,适用于大规模推荐系统
  • 不会吧!还有人不知道小红书25届实习生招聘开始了吗!
  • 百度5款大模型上新,更小更便宜!还可1分钟零代码打造Agent应用
  • 游戏NPC“活”了,英伟达AI立大功
  • 开源AI掌机爆火,首批预售2.5小时抢光!
  • Sora复刻版来了,微软参与,华人团队打造