DeepSeek在英特尔哪吒开发板部署大模型实战

金立彦 英特尔创新大使 01 本地部署 DeepSeek 的必要性随着人工智能技术的快速发展,企业对 AI 模型的部署方式有了更多选择。本地部署 DeepSeek-R1 模型具有以下显著优势,使其成为许多企业和开发者的首选: 1. 数据隐私与安全 在本地环境中部署 DeepSeek-R1 模型,可以确保敏感数据完全隔离于外部网络,避免数据泄露的风险。这对于处理涉及商业机密、个人隐私或受监管数据的应

openlab_96bf3613 7月前
1740 0 0

用英特尔Core Ultra及OpenVINO GenAI本地部署DeepSeek-R1

作者: 英特尔创新大使 张晶 英特尔开发者技术推广工程师 李翊玮 DeepSeek-R1在春节期间引发了全球科技界的热度,DeepSeek-R1 是由 DeepSeek 开发的开源推理模型,用于解决需要逻辑推理、数学问题解决和实时决策的任务。使用 DeepSeek-R1,您可以遵循其逻辑,使其更易于理解,并在必要时对其输出提出质疑。此功能使推理模型在需要解释结果的领域(如研究或复杂决策)中具有优势

openlab_96bf3613 7月前
5788 0 0

如何利用OpenVINO在本地运行Qwen2.5-VL系列模型

杨亦诚 Ekaterina Aidova 介绍 近期阿里通义实验室在 Hugging Face 和 ModelScope 上开源了 Qwen2.5-VL 的 Base 和 Instruct 模型,包含 3B、7B 和 72B 在内的 3 个模型尺寸。其中,Qwen2.5-VL-7B-Instruct 在多个任务中超越了 GPT-4o-mini,而 Qwen2.5-VL-3B 作为端侧 AI 的

openlab_96bf3613 7月前
8676 0 0

AI PC 新玩法:OpenVINO™ GenAI+LoRA 助你轻松实现个性化图像的高效生成

武卓 借助生成式 AI 模型(如 Stable Diffusion 和 FLUX.1),用户可以将平平无奇的文本提示词转换为令人惊艳的视觉效果。但如果你想生成更具风格化或定制化的图像,开源的基础模型可能无法满足你的所有需求。这时,LoRA(低秩适应)就派上用场了。许多风格修改和增强功能现以 LoRA 的形式发布,作为基础模型的模块化附加组件。通过添加LoRA适配器,使得大家可以随心所欲、生成风格多

openlab_96bf3613 7月前
2848 0 0

大模型+小模型,实现AI智能监管

转发自研扬科技 AI_GUARD AI_GUARD是一个基于Intel x86 CPU + Intel Arc GPU(A370M)硬件平台,实现大模型(Qwen)+小模型+私域数据库融合的在线AI监管系统平台。该平台以YOLO算法为核心,实现了在不同需求场景下,识别异常并记录的功能,同时可结合大语言模型进行综合管理,提供问询等便利服务。在本文中,我们将使用OpenVINO™ 2024.4.0部署

openlab_96bf3613 7月前
2940 0 0