Li_MAX

AIBrix是一个为大型语言模型(LLM)推理设计的云原生平台，其架构分为两个主要维度：控制平面(Control Plane)和数据平面(Data Plane)。 控制平面组...

Li_MAX

MCP （Model Context Protocol，模型上下文协议），它是一个协议，由 Anthropic 在 2024 年 11 月发布。它旨在实现大型语言模型（LLM...

Li_MAX

大模型测评手段多样，旨在全面评估模型的性能和能力。以下是一些主要的测评方法和维度： 大模型评测方法分类表 评测维度评测类型具体方法/数据集备注基础能力语言理解GLUE, Su...

Li_MAX

MLOPS 维基百科：MLOps是ModelOps的子集，是数据科学家和操作专业人员之间进行协作和交流的一种做法，可帮助管理生产机器学习生命周期。与DevOps或DataOp...

Li_MAX

使用场景 VPA 自动伸缩特性使容器服务具有非常灵活的自适应能力。应对业务负载急剧飙升的情况，VPA 能够在用 户设定范围内快速扩大容器的 Request。在业务负载变小的情...

Li_MAX

Karmada 概念介绍 Karmada 是 CNCF 的云原生项目，主要的能力是纳管多个 Kubernetes 集群，以及基于原生的 Kubernetes 的资源对象，将其...

Li_MAX

介绍 Virtual Kubelet是Kubernetes kubelet的二次实现。它会伪装成一个kubelet以便使用者可以连接到其他API，这些API的入口被成为Pro...

Li_MAX

klever 解决问题: 模型的管理和分发 模型解析和转换 在线模型服务部署和管理 组件 ormb：模型打包、解压、上传、下载工具， model-registry：模型仓库及...

Li_MAX

最近工作大部分都需要拉取镜像，但是遇到镜像无法拉取的时候还是比较头疼的，这里可以采用如下办法。从 katacoda[https://katacoda.com/]做一次中转，比...

Li_MAX

Gitlab官方提供了 Helm 的方式在 Kubernetes 集群中来快速安装，但是在使用的过程中发现 Helm 提供的 Chart 包中有很多其他额外的配置，所以我们这...

Li_MAX

部署 说明：默认存储绑定pvc，可以搭建nfs服务器设置成k8s的default StorageClass--set persistence.enabled=false 不使...

Li_MAX

Alluxio[https://github.com/Alluxio/alluxio] Alluxio 是世界上第一个面向基于云的数据分析和人工智能的开源的数据编排技术。 它...

Li_MAX

Raft是用于管理复制日志的一致性算法，raft 协议也是一个主备模型，有一个唯一的 leader 控制任务的提交。 Raft通过选出一个leader来简化日志副本的管理，例...

Li_MAX

网上解决方法： 提示 正确步骤：先umount，再执行 xfs_repair 命令dm-0 是centos-root 的软连接