转发自研扬科技 AI_GUARD AI_GUARD是一个基于Intel x86 CPU + Intel Arc GPU（A370M）硬件平台，实现大模型（Qwen）+小模型+私域数据库融合的在线AI监管系统平台。该平台以YOLO算法为核心，实现了在不同需求场景下，识别异常并记录的功能，同时可结合大语言模型进行综合管理，提供问询等便利服务。在本文中，我们将使用OpenVINO™ 2024.4.0部署
openlab_96bf3613
2月前
今年春节什么最火？一定是哪吒2和Deepseek，但凡是个中国人，都在春节期间被安利了“看哪吒，用DeepSeek”，下至六龄儿童，上至六旬老翁，都知道。 今天，我就告诉你怎么把DeepSeek塞到哪吒里！ 一、本地部署 DeepSeek 的必要性 随着人工智能技术的快速发展，企业对 AI 模型的部署方式有了更多选择。本地部署 DeepSeek-R1 模型具有以下显著优势，使其成为许多企业和开发者
openlab_96bf3613
2月前
00 前言 近期，Intel和魔搭合作，在魔搭社区上线了Ollama 英特尔优化版镜像，该镜像提供基于 IPEX-LLM 的 Ollama 英特尔优化版，开发者可在英特尔GPU (如搭载集成显卡的个人电脑，Arc 独立显卡等) 上直接免安装运行 Ollama。 DeepSeek-R1作为开源领域的重磅模型，以其卓越的推理能⼒在各类任务中脱颖⽽出，吸引了⼴泛关注。本文将⼿把⼿教您如何在纯CPU环境下
openlab_96bf3613
2月前
作者：杨亦诚 介绍Retrieval-Augmented Generation (RAG) 系统可以通过从知识库中过滤关键信息来优化LLM任务的内存占用及推理性能。归功于文本解析、索引和检索等成熟工具的应用，为文本内容构建 RAG 流水线已经相对成熟。然而为视频内容构建 RAG 流水线则困难得多。 由于视频结合了图像，音频和文本元素，因此需要更多和更复杂的数据处理能力。本文将介绍如何利用OpenV
openlab_96bf3613
2月前
腾讯会议携手 OpenVINO™ 激活 NPU 算力，打造更加智能的会议系统
下载报告 背景 线上会议系统是当前企业或是个人最常用的办公软件之一，通过视频会议，更可以拉近与会者之间的距离。此时处于个人隐私保护的考虑，同时不妨碍面对面的交流，会议系统中往往会集成背景虚化或是背景替换等功能，隐藏与会者身处的环境，这些功能需要依赖于视觉分割模型来区分人物与背景，给电脑设备带来不小的负载挑战。 腾讯会议与英特尔的合作，正是在这样的背景下展开的。通过利用英特尔的开源 AI 工具套件
openlab_96bf3613
2月前
