在这个项目中,我们将运行我们自己的本地副本最新和最流行的AI模型“DeepSeek”。由于DeepSeek是开源的,所以在我们的电脑上运行它应该相对简单。
注:你也可以在自己的笔记本电脑(无论是 Windows 还是 MAC)上执行相同的步骤,而无需真正启动任何云 VM。
——
步骤如下步骤 1:设置 Azure Windows 服务器实例
步骤 2:连接到虚拟机,使用 Azure Bastion
步骤 3:下载并安装 OLLAMA
步骤 4:下载并安装 DeepSeek
步骤 5:使用 ChatBox AI 创建图形用户界面
在 Azure Windows 服务器上部署 DeepSeek AI 使用 Ollama API 对于希望利用先进人工智能的力量并完全掌控数据和成本的组织来说是一个至关重要的项目。这种方法符合现代混合云基础设施的潮流,能够促进创新、合规和扩展。
- 本地部署的人工智能: 通过在本地运行DeepSeek(如个人电脑或Azure虚拟机上),组织可以完全控制其数据和AI交互操作,从而减少数据泄露或违反法规的风险。
- 符合法规要求: 对于有严格合规要求的行业(例如金融、医疗保健),可以通过将敏感数据保存在本地服务器上,来满足GDPR、HIPAA或其他数据安全法规。
- API和GUI支持: 通过集成Ollama的API和ChatBox AI,组织可以创建用户友好的界面,并将AI能力集成到现有的工作流程或应用程序中。
- 无缝部署: 通过简单直接的设置过程,技术团队可以快速将AI模型部署到生产环境中。
1. 创建一个Azure账户:
如果您还没有Azure账户,可以在这里注册一个:Azure门户。
确保您有足够的信用或订阅,以便创建和管理资源,比如虚拟机和存储账户。
2. 创建虚拟机 (VM): > 进入Azure门户并点击“创建资源”。 > 选择虚拟机 > 将操作系统设置为Windows Server
(例如,Windows Server 2022 Datacenter)。 > 配置VM设置: > 大小:选择具有足够CPU、内存和GPU(如果需要DeepSeek)的VM大小。如果需要GPU加速,可以选择NC系列或NV系列VM。 > 身份验证:设置用户名和密码或使用SSH密钥进行安全访问,以确保安全访问。 > 网络:确保VM具有公共IP地址,以便进行远程访问。
— 完成并创建VM。
连接到虚拟机: 虚拟机配置完成后,您可以使用远程桌面协议(RDP)连接到它。
在Azure门户中下载RDP文件,并使用创建虚拟机时设置的凭据。
这次测试中,我将从本地机器通过Azure Bastion连接到虚拟机的RDP。
要做到这一点,请点击连接 > Bastion > 启动 Bastion。
这可能需要一段时间才能部署完成,完成部署后,使用在建立服务器时设置的相同凭据连接。
去这个网页下载适合你机器的正确版本文件。
https://ollama.com/download/windows
下载完成后,我们就得安装一下。
你可能需要输入一下系统的变量路径。
步骤四:下载并安装好 DeepSeek
运行以下命令以启动deepseek
。> 检查版本,输入命令ollama --version
执行 ollama deepseek-r1:1.5b
现在我们已经安装好了deepseek AI
。我们可以让AI执行一个特定的任务。例如:我们可以让AI为我们写一个输出1到10的数字的Python代码。
现在,我们有了自己的AI模型,在自己的电脑里安全地运行。
步骤五:利用 ChatBox AI 创建图形用户界面要做到这一点,请访问以下网址,然后下载 Windows 版本
https://chatboxai.app/en
选择一个 用户
,然后安装
安装完成后,打开应用,看看 GUI 吧。
我们需要将其配置为使用Ollama API
和Deepseek
。要做到这一点,请点击设置 > 在模型提供商部分,点击下拉菜单并选择ollama API
> 在API主机中,使用默认值 > 对于模型部分 > 点击下拉菜单并选择Deepseek
点击保存按钮,然后运行测试提示来检查一下模型。
写一个Python脚本,让它输出数字1到10。
总之:
通过遵循此指南,你应该能成功在Azure Windows服务器上运行本地DeepSeek AI模型。
所以:
或
最后:
选择一个更适合上下文的即可。
通过遵循本指南,你应该可以成功在Azure Windows服务器上运行本地DeepSeek AI模型。
AI #ChatGPT #ChatBox #Deepseek #deepseekAI #AzureAI #AI工程师 #Devops工程师 #Devops #Azure #AI项目 #Python #自动化 #模型