独家 | 多模态大模型初创企业「智子引擎」,近日完成千万元天使轮融资
雷锋网
共 2770字，需浏览 6分钟
·
2023-05-22 19:25
“
大模型在四五月份迎来‘百家争鸣’，战况愈加激烈，有新玩家仍在陆续进场。
”
雷峰网获悉：近日，一家多模态大模型初创公司“智子引擎”完成了千万元天使轮融资。据了解，“智子引擎”的 CEO 是 90 后青年高一钊。高一钊是人大博士生，师从卢志武，卢志武在“智子引擎”公司中担任顾问一职。此外，卢志武担任软通动力首席 AI 科学家。
在 ChatGPT 火起来之前，北京智源人工智能研究院曾率先开拓中国大模型研究，名为“悟道”，当时聚集了四支主要力量，分别由清华唐杰、清华刘知远、清华黄民烈与人大文继荣领头（详情可以关注雷峰网后续深度报道《智源开拓中国大模型幕后详情》，欢迎感兴趣的读者添加作者微信：Fiona190913）。 其中，人大文继荣主要带领人大高瓴人工智能学院的科学家们开拓多模态大模型方向，名为“文澜”，卢志武便在团队中担任模型主力军，他的学生高一钊也参与进来，完成了核心的研究工作。“悟道”之后，唐杰、刘知远与黄民烈均基于大模型技术成立了公司，而人大的入局，为智源大模型“四大金刚”的创业阵容拉开了完满的序幕。 据雷峰网了解，卢志武团队也是国内最早研究多模态大模型、并取得杰出技术成果的团队。01
卢志武和高一钊二人
卢志武和高一钊从事多模态大模型始于2020 年。 2020 年 5 月，由 OpenAI 研发的 GPT-3 在人工智能领域掀起了一阵巨浪，引发了国内从业者对预训练大模型的关注，其中就包括了卢志武等人。 卢志武早年就读于北京大学数学科学学院信息科学系，硕士毕业后，于 2011 年在香港城市大学计算机系取得博士学位，他主要的研究方向包括机器学习、计算机视觉等。
卢志武
当时，国内大部分人的注意力都聚焦在NLP 领域，但有关从文字扩展到图像、视频的多模态大模型鲜少有人关注。
期间，中国人民大学高瓴人工智能学组建了多模态大模型研发团队，专门从事图文多模态预训练模型的研究和开发，由文继荣牵头，其他核心成员包括宋睿华、卢志武等人，这也是国内最早从事多模态大模型研究的团队。 高一钊在同年进入中国人民大学高瓴人工智能学院攻读博士、师从卢志武。
高一钊
02
“智子引擎”将推出多模态大模型
事实上，早在 ChatGPT 横空出世的三年前，北京智源人工智能研究院已率先开始中国大模型研究，名为“悟道”，其中由文继荣主要带领的人大高瓴人工智能学院科学家组成“悟道·文澜”团队，从事多模态大模型方向研究，卢志武任模型研发主力军。 2021 年 3 月，基于对 3000 万图文数据集的预训练，第一代“文澜”——图文检索模型 BriVL 正式问世，这是一个超大规模的多模态预训练模型，采用了双塔结构可分别对图像和文本进行编码，通过自监督任务来学习图像和文本之间的相似度。 以图文检索模型为基础，研究团队还开发了H5 小应用“AI心情电台”，只需要向 AI 精灵提供一张图片，模型即可为该图片匹配一段合适的音乐。 随即三个月后，卢志武所在的文澜团队又发布了“文澜 2.0”（BriVL-2）。 基于视觉-语言弱相关的假设，研究团队提出图文弱相关假设，设计了高效的跨模态对比学习策略，同时提出了基于DeepSpeed的分布式多模态训练框架，从而提高模型的表达能力和泛化能力。 基于 6.5 亿弱相关的图文数据集的预训练，文澜 2.0 拥有的模型容量达到50亿参数，是目前最大的中文通用图文预训练模型，可覆盖多个领域和场景，在多个图文检索和生成任务上都取得了优异的性能，比如图像检索、图像描述、视觉问答等。 期间，高一钊也深度参与了文澜 1.0 和 2.0 的图文预训练工作，主要负责数据处理、模型训练和评估等。 在 ChatGPT 的热浪下，卢志武和高一钊看到了多模态研究在大模型时代的新机遇，成立多模态大模型公司“智子引擎”。借鉴以往参与文澜模型研发的经验，“智子引擎”团队于今年的 3 月 8 日正式推出了自主研发的多模态对话大模型，并发布了第一款应用级多模态 ChatGPT产品“元乘象 ChatImg”。 “元乘象 ChatImg”的参数量在百亿级别，主要使用了图文对数据和 VQA 数据作为训练集，同时进行图文匹配、图文检索、图像描述生成、文本描述生成等多种任务的训练。根据用户输入的图片或文字，“元乘象 ChatImg”可以进行智能聊天、讲故事、写广告等。 自四五月份以来，陆续亮相的大模型引起一片喧嚣沸腾，大厂刀光剑影，创业公司也不遑多让。学术界下场入局大模型是个大趋势，如何能在靠近工程化的较量中找到自己的竞争力和位置，亟待从与时间的赛跑中找答案。
//近期热门文章
评论