引言
5月15日,火山引擎正式发布由字节跳动研发的豆包大模型家族,并宣布对外服务正式开启,标志着大模型计价方式的重大变革,进入以厘计价的时代。火山引擎总裁谭待表示:“不仅效果好,人人用得起的才是好模型。”
豆包大模型核心优势
豆包模型pro-32k版的模型推理输入价格极具竞争力,支持一元钱购买125万Tokens,大幅降低了模型推理的单位成本。火山引擎通过大幅降低使用门槛,鼓励大的使用量,以此来不断打磨和优化模型。
大模型的挑战与机遇
大模型面临的三个关键挑战为:模型效果、推理成本和落地难度。火山引擎总裁谭待认为,使用人数的增加和调用量的增大,是提升模型质量的关键。在2024年火山引擎春季Force原动力大会上,火山引擎推出了一站式大模型服务平台火山方舟和扣子应用,展示了最新的技术升级。
豆包模型家族亮相
豆包系列模型由字节跳动研发,覆盖了从语义、声音到图像的多模态内容家族。豆包模型不仅能够创建个性化定制的智能体,还能通过自然语言或语音交互高效完成多种任务。
豆包通用模型
- Pro版:字节跳动自研LLM模型的专业版,支持128K长文本,具备理解、生成、逻辑和记忆的综合能力。
- Lite版:轻量版模型,成本和延迟显著降低,为企业提供灵活经济的模型选择。
声音模型
豆包的声音模型提供语音合成、声音复刻和语音识别功能,尤其在科技、教育、医疗等垂直领域表现出色。
豆包·文生图模型
擅长对中国特色文化的理解和输出,支持扣子主力模型Function Call执行多样化任务。
豆包·角色扮演模型
提供个性化的角色创作能力,满足用户更加个性化的角色扮演需求。
豆包大模型的市场表现
据透露,豆包上已有超过800万个智能体被创建,日均处理能力达1200亿Tokens文本,生成3000万张图片。豆包模型已广泛应用于字节跳动旗下产品,并通过火山方舟向多个行业提供服务。
火山方舟2.0平台升级
火山方舟平台进行了全新升级,推出方舟2.0平台,发布了三个重要的大模型插件,包括联网插件、内容插件和RAG知识库插件。新平台提供模型训练、推理、评测、精调等全方位功能与服务,并重点支撑大模型生态。
火山方舟2.0升级亮点
- 联网插件:提供抖音头条同款搜索能力,连接海量互联网数据,通过意图识别提供更准确全面的回答。
- 内容插件:独家提供抖音丰富内容,丰富大模型和用户交互过程。
- RAG知识库插件:内置大规模高性能向量检索能力,支持秒级索引流式更新。
安全与算法服务
火山方舟2.0在系统承载、安全保护及算法服务方面进行全面提升,提供超过万卡公有云GPU资源池,强化安全沙箱功能,配备专属算法团队。
扣子专业版发布
扣子产品经理潘宇扬指出,AI应用开发通常被视为难且贵的概念。但扣子产品旨在连接大模型和用户场景,无论用户是否有编程基础,都可以在扣子上快速搭建基于大模型的bot,并将其部署到社交平台、通讯软件或网站。
扣子专业版集成于火山方舟平台,提供企业级SLA和高级特性,已被多家企业用于智能体搭建,包括招商银行、海底捞火锅、超级猩猩、猎聘等。此外,复旦大学、浙江大学等名校也在课程和实验中使用扣子搭建AI“助教”。
结语
火山引擎通过豆包大模型和火山方舟2.0的推出,为AI应用开发领域注入了新动力,使得AI更加亲民和易于应用,展现出大模型技术在社会发展中的深远影响。