五行关键代码实现的零拷贝技术

作者:辽宁科技大学 研究生 冯浩指导教师:英特尔边缘计算创新大使 深圳职业技术大学 副教授 张海刚一、引言1.1 OpenVINO简介图1.1.1 OpenVINOOpenVINO(Open Visual Inference & Neural Network Optimization)是由Intel开发的一个开源计算机视觉和深度学习工具套件。它旨在帮助开发者和研究人员优化他们的计算机视觉和深度学

openlab_96bf3613 9天前
464 0 0

用 OpenVINO™ 在 Intel 13th Gen CPU 上运行 SDXL-Turbo 文本图像生成模型

作者:英特尔创新大使 卢雨畋 本文基于 13th Gen Intel(R) Core(TM) i5-13490F 型号 CPU 验证,对于量化后模型,你只需要在 16G 的笔记本电脑上就可体验生成过程(最佳体验为32G内存)。 SDXL-Turbo是一个快速的生成式文本到图像模型,可以通过单次网络评估从文本提示中合成逼真的图像。SDXL-Turbo采用了一种称为Adversarial Diffus

openlab_96bf3613 9天前
560 0 0

在MacOS上使用OpenVINO CSharp API高效部署AI模型

作者:英特尔边缘计算创新大使:颜国进OpenVINO™ C# API 是一个 OpenVINO™ 的 .Net wrapper,应用最新的 OpenVINO™ 库开发,通过 OpenVINO™ C API 实现 .Net 对 OpenVINO™ Runtime 调用,使用习惯与 OpenVINO™ C++ API 一致。OpenVINO™ C# API 由于是基于 OpenVINO™ 开发,所支持

openlab_96bf3613 10天前
508 0 0

AI大模型时代的边云协同之混合AI

作者:英特尔网络与边缘计算智慧城市事业部首席工程师 邵文简今天,AI已成为最为热门的技术话题。AI处理的数据来自于我们生活的城市中的方方面面,例如:居住的社区,工作的园区,购物的商场,出行的车站,机场,港口等。通过无所不在的网络接入,在On-prem Edge,Network Edge到Cloud的端,边,云架构中无缝地流动。同时,云化的计算架构使得计算可以自由地在端,边缘和云端部署和调度,并且对

openlab_96bf3613 10天前
628 0 0

Intel CPU 实战部署阿里大语言模型千问Qwen-1_8B-chat

作者: 英特尔创新大使 卢雨畋1. 概述本文介绍了在 Intel 13代酷睿CPU i5 - 13490F设备上部署 Qwen 1.8B 模型的过程,你需要至少16GB内存的机器来完成这项任务,我们将使用英特尔的大模型推理库 [BigDL](https://github.com/intel-****ytics/BigDL) 来实现完整过程。BigDL-llm 是一个在英特尔设备上运行 LLM(大语

openlab_96bf3613 10天前
476 0 0
首页 上一页 1 2 3 下一页 尾页