AMD推出GAIA开源应用助力大语言模型本地化运行

AI快讯1个月前发布 niko
8 0
AiPPT - 一键生成ppt

GAIA开源应用亮相 :近日,AMD推出名为GAIA的开源应用,为运行大语言模型提供本地化新途径。

适配与优化 :此应用已在Windows平台落地,针对锐龙AI300系列处理器深度优化,充分释放其在AI任务中的潜能。

保障隐私与性能提升 :作为生成式AI应用,GAIA让用户在个人电脑私密运行LLM。内置神经处理单元,显著增强AI任务性能,满足高计算需求。

技术与模型支持 :基于ONNX TurnkeyML的LemonadeSDK开发,运用先进的检索增强生成(RAG)技术,支持LLaMA和Phi等主流模型。

丰富功能模块 :GAIA具备Chaty聊天机器人、Clip视频搜索专家、Joker笑话生成器以及SimplePrompt测试工具四大功能模块,带来多样体验。

安装便捷与优势 :提供普通版和混合版安装选择,混合版为锐龙AI300系列定制。本地化处理保障数据隐私,响应快且支持离线运行。

开源与前景 :GAIA项目遵循MIT开源协议,未来有望拓展至更多平台,为开发者和用户带来更多便利与创新。

© 版权声明
Trea - 国内首个原生AI IDE