vllm-project/aibrix
AIBrix 是一个开源项目,旨在提供构建可扩展的生成式人工智能推理基础设施的基本组件。
- 高密度 LoRA 管理:支持轻量级、低秩模型适配。
- LLM 网关和路由:高效管理和引导多个模型及其副本之间的流量。
- LLM 应用定制自动缩放器:根据实时需求动态调整推理资源。
- 统一 AI 运行时:多功能侧车,支持指标标准化、模型下载与管理。
- 分布式推理:可扩展架构以处理跨多个节点的大型工作负载。
- 分布式 KV 缓存:实现高容量、跨引擎键值重用。
- 成本效益显著的异构服务:通过混合 GPU 推理降低成本并保证服务水平目标(SLO)。
- GPU 硬件故障检测:主动检测 GPU 硬件问题。
vizia/vizia
Vizia 是一个用 Rust 编写的声明式桌面 GUI 框架。
- 跨平台支持(Windows、Linux、MacOS),确保应用在不同系统上的一致性。
- 声明式编程,使用纯 Rust 编写 GUI 代码,无需 DSL 宏。
- 响应式设计,视图自动根据应用状态更新。
- 灵活布局,可以创建适应大小变化的灵活布局。
- 强大的样式定制功能,支持热重载样式表以完全自定义外观。
- 动画效果,为应用增添生动元素。
- 提供超过 25 个现成视图和两种内置主题(浅色和深色)。
- 可访问性设计,使得应用可被辅助技术如屏幕阅读器使用。
- 本地化支持,可适配不同地区,包括文本翻译功能。
- 优化渲染,通过 skia 库进行高效绘制,仅绘制必要内容。
lucidrains/self-rewarding-lm-pytorch
self-rewarding-lm-pytorch 是一个实现 MetaAI 提出的自奖励语言模型训练框架的库。
- 提供了自奖励语言模型和 SPIN 的实现。
- 支持灵活配置不同的微调策略。
- 允许用户实验自己的奖励提示,增强模型评估能力。
- 兼容 PyTorch,易于集成到现有项目中。
sveltejs/svelte
Svelte 是一种构建 web 应用的新方式,它是一个编译器,将声明式组件转换为高效的 JavaScript,以精确更新 DOM。
- 通过编译器将组件转化为高效代码
- 提供简洁的声明式语法
- 优化 DOM 更新,提高性能
Dash-Industry-Forum/dash.js
dash.js 是一个用于通过 JavaScript 和兼容浏览器播放 MPEG DASH 的参考客户端实现。
- 提供稳定的 MPEG DASH 播放功能
- 支持多种常见用例的示例
- 可直接使用预构建的参考播放器,无需编写 JavaScript
- 最新版本文件可在全球 CDN 上免费使用
- 完整 API 文档,详细描述所有公共方法、接口、属性和事件
- 包含低延迟流媒体、时钟同步及数字版权管理等主题教程