中科雷芯测试OLLAMA大模型云端部署

近日，中科雷芯在官网服务器测试部署OLLAMA大模型，以期未来给用户和组织提供更好的云端AI智能服务。本次测试成功部署8B大模型，但也暴露了云端服务器算力的局限性，为后续部署39B量级乃至更大量级的大模型提供硬件算力需求依据。虽然依托中科部分算力基础设施，算力成本依然是中科雷芯AI技术发展的最大障碍。