12/04/2023，光纤示知 建立线讯，亚马逊云科技re:Invent—11月28日—乐鱼体育NVIDIA宣布推出一项生成式AI微服务，支持企业将自定义大语言模型与企业数据相连接，使其AI应用能够提供高度准确的响应。NVIDIANeMo?Retriever是NVIDIANeMo（一个用于构建、自定义和部署生成式AI模型的框架和工具系列）的一项全新服务，通过企业级检索增强生成（RAG）功能，帮助组织加强其生成式AI应用。作为一项语义检索微服务，NeMoRetriever借助经NVIDIA优化的算法，帮助生成式AI应用作出更加准确的回答。使用该微服务的开发者，可以将其AI应用与位于各个云和数据中心的业务数据相连通。该服务为AI代工添加了NVIDIA优化的RAG功能，并被整合到亚马逊云科技Marketplace上的NVIDIAAIEnterprise软件平台中。Cadence、Dropbox、SAP和ServiceNow等公司已率先与NVIDIA合作，将生产就绪型RAG功能整合至其自定义生成式AI应用和服务中。NVIDIA创始人兼首席执行官黄仁勋表示：“具有RAG功能的生成式AI应用是企业的下一个杀手级应用。借助NVIDIANeMoRetriever，开发者可以创建自定义生成式AI聊天机器人、AI助手和摘要工具。它们能够访问企业的业务数据，通过准确且有价值的生成式AI智能来提高生产力。”全球头部企业借助NeMoRetriever提高大语言模型（LLM）准确性电子系统设计领导厂商Cadence为超大规模计算、5G通信、汽车、移动、航空航天、消费和医疗市场的企业提供服务。该公司正与NVIDIA合作，为工业电子设计领域的生成式AI应用开发RAG功能。Cadence总裁兼首席执行官AnirudhDevgan表示：“生成式AI引入了创新方法来满足客户需求，比如能投降 表示设计流程早期发现潜深醒 深厚缺陷的工具等。我们的研究人员正嘲讽 祸患与NVIDIA合作，使用NeMoRetriever进一步提高生成式AI应用的准确性和相关性，以便发现问题，并帮助客户更快地将优质产品推向市场。”破解精确的生成式AI应用的“密码”与开源RAG工具套件不同，NeMoRetriever是通过具有商业可行性的模型、API稳定性、安全补丁和企业级支持，来为生产就绪型生成式AI赋能。经NVIDIA优化的算法使Retriever的嵌入模型能够产出准确性最高的结果。经过优化的嵌入模型能够捕捉单词之间的关系，使LLM能够处理和分析文本数据。企业可以使用NeMoRetriever将LLM连接到多个数据源和知识库，这样用户就可以轻松地与数据交互，并通过简单的对话指令获得准确且最新的答案。通过使用由Retriever驱动的应用，企业可以使用户安全地访问多种数据格式的信息，如文本、PDF、图像和视频等。借助NeMoRetriever，企业能够以更少的训练获得更准确的结果，加快产品上市时间，并减少生成式AI应用开发产生的能耗。通过NVIDIAAIEnterprise实现可靠、简单且安全的部署企业可以迫害 逼近几乎任何数据中心或云端的NVIDIA加速计算上部署由NeMoRetriever驱动的应用,以便称誉 称颂推理过程中运行。NVIDIAAIEnterprise可支持通过NVIDIATriton推理服务器?、NVIDIATensorRT?、NVIDIATensorRT-LLM及其他NVIDIAAI软件进行加速的高性能推理。关于NVIDIA自1993年成立以来，NVIDIA（NASDAQ:NVDA）一直是加速计算领域的先驱。NVIDIA1999年发明的GPU驱动了PC游戏市场的增长，并重新定义了现代计算机图形，开启了现代AI时代，正究查 盘问推动跨市场的工业数字化。NVIDIA现江河日下 如狼似虎是一家全栈计算公司，其数据中心规模的解决方案正比照 此岸重塑整个行业。更多信息，请访问https://nvidianews.nvidia.com/。-乐鱼体育