article/2025/4/23 14:54:37

http://www.mzlw.cn/y2Q0Xxw9.shtml

相关文章

Deepseek R1 高性能大语言模型部署指南

Deepseek R1 高性能大语言模型部署指南

文章目录 简介本地部署核心配置要求1. 模型参数与硬件对应表2. 算力需求分析 国产芯片与硬件适配方案1. 国内生态合作伙伴动态2. 国产硬件推荐配置 云端部署替代方案1. 国内云服务商推荐2. 国际接入渠道（需魔法或外企上网环境） 完整 671B MoE 模型部署&a…
阅读更多...
OpenAI的真正对手？DeepSeek-R1如何用强化学习重构LLM能力边界——DeepSeek-R1论文精读

OpenAI的真正对手？DeepSeek-R1如何用强化学习重构LLM能力边界——DeepSeek-R1论文精读

2025年1月20日，DeepSeek-R1 发布，并同步开源模型权重。截至目前，DeepSeek 发布的 iOS 应用甚至超越了 ChatGPT 的官方应用，直接登顶 AppStore。 DeepSeek-R1 一经发布，各种资讯已经铺天盖地，那就让我们一起…
阅读更多...
【AI 大模型】DeepSeek 大模型简介 ( DeepSeek-R1 和 DeepSeek-V3 大模型 | Python 调用 DeepSeek API | 本地部署 DeepSeek )

【AI 大模型】DeepSeek 大模型简介 ( DeepSeek-R1 和 DeepSeek-V3 大模型 | Python 调用 DeepSeek API | 本地部署 DeepSeek )

文章目录 一、DeepSeek 大模型1、DeepSeek-R1 和 DeepSeek-V3 大模型DeepSeek-V3 大模型DeepSeek-R1 大模型大模型调用 2、DeepSeek 官网访问 DeepSeek-R1 和 DeepSeek-V3 大模型3、DeepSeek 大模型参数4、DeepSeek 蒸馏模型本地部署硬件需求 二、DeepSeek 开发者平台1、开放平…
阅读更多...
人工智能|本地部署|ollama+chatbox快速Windows10下部署（初级篇）

人工智能|本地部署|ollama+chatbox快速Windows10下部署（初级篇）

一、 前言： 其实早一个月我已经使用过deepseek，并且也在自己的机器上通过ollama部署过，但一直没有太多动力，现在感觉还是的记录一下，省的自己给忘掉了 本文只是简单记录一下ollamaopen-webuichatbox部署通过网盘分享…
阅读更多...
【笔记】LLM｜Ubuntu22服务器极简本地部署DeepSeek+联网使用方式

【笔记】LLM｜Ubuntu22服务器极简本地部署DeepSeek+联网使用方式

这篇文章写于2025/02/15，我刚这么部署好，清华那边就说自己能量化671B用内存加速让单卡4090也能跑，17号浙大公开说自己要将满血R1公开给全国高校使用……赶不上变化了属于是。 2025/04/10更新：后来发现浙大公开的是降级版本&#x…
阅读更多...
LLaMA-Factory训练DeepSeek大模型+本地部署

LLaMA-Factory训练DeepSeek大模型+本地部署

前言 前面我们介绍了基于硅基流动训练私有大模型《10分钟教你微调自己的私有大模型》，该平台有三个不好的点就是可选的模型有限，训练时间需要排队等待耗时长，另外还要 给钱。今天我们换一个平台，使用：魔搭平台 llama…
阅读更多...
【大模型】DeepSeek-R1各版本模型推理显存需求测算【理论+实践】

【大模型】DeepSeek-R1各版本模型推理显存需求测算【理论+实践】

前言 最近临危受命，调研了一下DeepSeek需要什么硬件配置才能本地部署。查询中文社区相关资料，发现不少帖存在夸大唬人嫌疑。 于是撰写本文，辅以实验验证，以正试听。 1. 数据精度 硬件配置的核心就是显卡的显存。实际部署应用中…
阅读更多...
鲲鹏+昇腾部署DeepSeek-R1-Distill-Qwen-32B+Open-webui【信创国产化】（详细存档版）

鲲鹏+昇腾部署DeepSeek-R1-Distill-Qwen-32B+Open-webui【信创国产化】（详细存档版）

参考文章：https://blog.csdn.net/taogumo/article/details/141932072 https://www.hiascend.com/software/modelzoo/models/detail/ed4a8911f1a74613a82dc50b1661208c 服务器配置：鲲鹏29201Atlas 300 I duo，内存128GB 1.前期准备 参考我之前…
阅读更多...
DeepSeek-R1：强化学习驱动的LLM推理能力提升

DeepSeek-R1：强化学习驱动的LLM推理能力提升

前言 先来推荐一本书《揭秘大模型：从原理到实战》，传送门：https://item.jd.com/14893696.html，个人觉得这本书非常的不错，是一本不可多得的好书，值得拥有去学习。感兴趣的朋友可以购买，多谢支持…
阅读更多...
【DeepSeek论文精读】1. 从 DeepSeek LLM 到 DeepSeek R1

【DeepSeek论文精读】1. 从 DeepSeek LLM 到 DeepSeek R1

欢迎关注[【AIGC论文精读】](https://blog.csdn.net/youcans/category_12321605.html）原创作品 【DeepSeek论文精读】1. 从 DeepSeek LLM 到 DeepSeek R1 【DeepSeek论文精读】2. DeepSeek LLM：以长期主义扩展开源语言模型 【DeepSeek论文精读】3. DeepS…
阅读更多...
极具参考价值的Python面试题！从创业公司到一线大厂的真实面经汇总

极具参考价值的Python面试题！从创业公司到一线大厂的真实面经汇总

文章目录 为何写这篇文章信息源的幕后面试技巧传授1. 剑指Python1.1 基础题1.2 算法题1.2 网络问题相关1.3 数据库相关（经典高频）1.4 反爬虫与逆向1.5 爬虫相关（由浅至深） 2. 项目探险（场景复现）3. Freesty…
阅读更多...
huggingface部署本地大模型DeepSeek-R1-Distill-Llama-70B使用streamlit构建交互式 Web 应用

huggingface部署本地大模型DeepSeek-R1-Distill-Llama-70B使用streamlit构建交互式 Web 应用

文章目录 一、Streamlit介绍二、模型下载三 、模型部署四、效果展示 一、Streamlit介绍 Streamlit 是一个开源的 Python 库，专门用于快速构建和部署交互式 Web 应用程序，尤其适合数据科学和机器学习领域。以下是关于 Streamlit 的详细介绍： …
阅读更多...
【大模型】WPS 接入 DeepSeek-R1详解，打造全能AI办公助手

【大模型】WPS 接入 DeepSeek-R1详解，打造全能AI办公助手

目录 一、前言 二、WPS接入AI工具优势 三、WPS接入AI工具两种方式 3.1 手动配置的方式 3.2 Office AI助手 四、WPS手动配置方式接入AI大模型 4.1 安装VBA插件 4.1.1 下载VBA插件并安装 4.2 配置WPS 4.3 WPS集成VB 4.4 AI助手效果测试 4.5 配置模板文件 五、使用Of…
阅读更多...
华为云kubernetes部署deepseek r1、ollama和open-webui（已踩过坑）

华为云kubernetes部署deepseek r1、ollama和open-webui（已踩过坑）

1 概述 ollama是一个管理大模型的一个中间层，通过它你可以下载并管理deepseek R1、llama3等大模型。 open-webui是一个web界面（界面设计受到chatgpt启发），可以集成ollama API、 OpenAI的 API。 用常见的web应用架构来类比&#x…
阅读更多...
深度学习：蒸馏Distill

深度学习：蒸馏Distill

Distilling the knowledge in a neural network Hinton 在论文中提出方法很简单，就是让学生模型的预测分布，来拟合老师模型（可以是集成模型）的预测分布，其中可通过用老师模型 logits 除以 temperature 来调节分布平滑…
阅读更多...
网页监控插件distill web monitor使用之监控亚马逊到货及价格

网页监控插件distill web monitor使用之监控亚马逊到货及价格

网页监控插件distill web monitor使用之监控亚马逊到货及价格 前言 前几次的亚马逊EVGA放货都是在凌晨1点半之后到早晨8点左右，我不太习惯熬夜等待一个不确定的事物，在错过了几次之后，决定还是自己动手丰衣足食吧，开始使用pytho…
阅读更多...
【零基础】基于vLLM 搭建DeepSeek-R1-Distill-Qwen-7B【最简】

【零基础】基于vLLM 搭建DeepSeek-R1-Distill-Qwen-7B【最简】

大模型的高效部署离不开先进推理框架的支持，而vLLM凭借其突破性的技术架构成为行业标杆。本文将系统介绍如何基于vLLM框架实现DeepSeek-R1-Distill-Qwen大语言模型的高性能部署。 一、vLLM框架核心技术解析 1. 革命性的显存管理 vLLM创新的PagedAttention机制重新定义了显存…
阅读更多...
【LLM】DeepSeek-R1-Distill-Qwen-7B部署和open webui

【LLM】DeepSeek-R1-Distill-Qwen-7B部署和open webui

note DeepSeek-R1-Distill-Qwen-7B 的测试效果很惊艳&#xff0c;CoT 过程可圈可点&#xff0c;25 年应该值得探索更多端侧的硬件机会。DeepSeek-R1系列模型在回答某些问题时&#xff0c;可能会跳过完整思考的过程&#xff08;例如直接输出“<think>\n\n</think>”…
阅读更多...
vLLM + Open-WebUI 本地私有化部署 DeepSeek-R1-Distill-Qwen-32B 方案

vLLM + Open-WebUI 本地私有化部署 DeepSeek-R1-Distill-Qwen-32B 方案

一、vLLM 部署 DeepSeek-R1-Distill-Qwen-32B DeepSeek-R1-Distill 系列模型是 DeepSeek-R1 的蒸馏模型&#xff0c;官方提供了从 1.5B - 70B 不同尺寸大小的模型。特别适合在计算资源有限的环境中部署。 DeepSeek-R1 各个版本的蒸馏模型评估结果如下&#xff1a; 其中 DeepS…
阅读更多...
vue中实现pdf文件预览的方法

vue中实现pdf文件预览的方法

第一种就是直接用window.open方法打开后台返回的pdf预览地址 第二种就是将pdf预览的地址放在<embed>标签中&#xff1a; 效果如下 代码如下 <p slot"header">预览PDF质保书</p> <div><embed:src"embedSrc"type"applicat…
阅读更多...
推荐文章

Copyright @ 2022~2023