返回列表
技术AI谷歌框架

谷歌推出LiteRT：TensorFlow Lite继任者，赋能边缘AI高性能部署

谷歌发布了LiteRT，作为TensorFlow Lite的下一代框架。LiteRT旨在通过高效的转换、运行时和优化，在边缘平台上部署高性能机器学习和生成式人工智能。该框架是谷歌为设备端AI应用而设计，旨在提升边缘设备的AI能力。

GitHub Trending
分享

LiteRT是谷歌推出的一个设备端框架，被定位为TensorFlow Lite的继任者。该框架的核心目标是在边缘平台上部署高性能的机器学习和生成式人工智能模型。LiteRT通过提供高效的转换工具、优化的运行时环境以及一系列优化策略，旨在帮助开发者在资源受限的边缘设备上实现卓越的AI性能。作为谷歌在AI边缘计算领域的重要布局，LiteRT的发布预示着未来设备端AI应用将拥有更强大的能力和更广泛的应用场景。

阅读原文

相关新闻

技术

Google开源A2UI：代理到用户界面，优化UI表示与渲染

Google发布了名为A2UI的开源项目，旨在优化代理生成UI的表示格式，并提供一套初始渲染器。A2UI的核心在于允许代理生成或填充丰富的用户界面，为可更新的代理生成UI提供了一个优化的框架。

技术

Fish Speech：SOTA开源文本转语音（TTS）技术亮相GitHub

GitHub Trending上出现了一项名为“Fish Speech”的SOTA（State-Of-The-Art）开源文本转语音（TTS）项目。该项目由fishaudio发布，旨在提供先进的TTS解决方案。目前，该项目已在GitHub上提供英文和简体中文文档，预示着其在语音合成领域的潜力。

技术

Promptfoo：LLM评估与红队演练工具，支持多模型性能比较与CI/CD集成

Promptfoo是一款专为大型语言模型（LLM）评估和红队演练设计的工具。它允许用户测试提示、代理和RAG系统，对AI进行渗透测试和漏洞扫描。该工具能够比较GPT、Claude、Gemini、Llama等多种模型的性能，并通过命令行和CI/CD集成提供简单的声明式配置，优化AI开发与安全流程。