您可以使用聊天机器人,而无需考虑谁控制其背后的模型。之后,更新会更改其回答方式,或者如果您需要有关您希望保留在计算机上的私人信息的帮助。
开放加权模型允许您下载预先训练的 AI 并自行运行。您需要软件来使用它以及一台可以处理它的计算机,但您需要保留一份工作副本。虽然聊天机器人受到了大部分关注,但图像和视频生成器也可以具有开放权重选项。
然而,下载人工智能模型并不一定会给你不受限制的许可,也不一定会透露制作该模型的所有内容。当然,你可以在如何使用人工智能方面拥有更多自主权,但“开放”仍然有很多未说的。以下是开放重量模型的含义、您可以使用它们做什么以及在亲自尝试模型之前要考虑的事项。
什么是开放权重模型以及它们如何工作?
在聊天机器人中,AI 模型是生成答案的软件。在训练过程中,模型通过调整数十亿个称为神经网络权重的数值来学习模式。当您提出问题时,模型会使用您的提示和您学到的模式来预测接下来应该出现什么文本,一次构建一个答案。
封闭模型的开发人员(包括 ChatGPT 和 Cloud 背后的开发人员)将其权重保密。开放权重模型使经过训练的权重可供公众使用。这意味着您可以下载它们并使用兼容软件运行您自己的副本。
“当你打开模型权重时,所有权重都在互联网上随处可见,例如 Hugging Face 和其他服务器,” 皮埃尔·斯托克AI 公司科学副总裁 米斯特拉尔CNET 表示:“因此,切断对该模型的访问几乎是不可能的。”
通过免费的模板和应用程序,您可以在本地聊天,无需订阅或使用费。重要的是,完全本地设置还可以让您的声明和文件远离人工智能提供商的服务器。
如果您不懂技术,请不要担心,因为您无需编写代码或打开终端来执行此操作。桌面应用程序,例如 LM工作室, 他是 和 一月 它允许您通过简单的安装下载并运行开放式模板,从而在 Mac 或 PC 上为您提供类似 ChatGPT 的界面。您仍然需要一台可以处理您选择的型号的计算机。一切安装完毕后,您可以继续离线聊天。
如果您知道如何执行此操作,还可以在许可证允许的情况下通过进一步培训来修改模型。您不必从头开始训练全新的模型。
开放权重与开源
人们经常互换使用这些术语,但它们的含义并不完全相同。开源模型也可以开源,但是单独发布权重并不符合 开源计划的定义。
开发人员必须共享用于训练和运行它的代码。他们还必须为技术人员提供有关训练数据的足够信息,以构建以大致相同方式工作的模型。术语应该允许人们使用、研究、更改和共享它们。
根据 OSI 定义,开发人员不必共享用于训练模型的数据。这 自由软件基金会 她说这应该成为交易的一部分,用户可以自己自由使用和更改数据。
一些开放重量许可证限制商业用途,这意味着模板可能可以免费下载,但无法用于您想要销售的应用程序。根据 OSI 定义,此类限制可能会使其失去资格。开源许可证可能仍要求您在共享已更改的版本时保留相同的条款。
哪些型号有开放式配重?
中国模特目前主导一家独立的人工智能测试公司 人工分析中的智能分类 对于开放重量模型。您可能已经了解 DeepSeek,但还有 Moonshot AI 金米K3 还有阿里巴巴 币3.8 床,提供装载重量。
美国的一些替代方案来自熟悉的聊天程序背后的公司。 OpenAI 优惠 GPT-OSS 模型 与 ChatGPT 分开,同时 谷歌有 Gemma 模型。 Meta 添加了 Moses Glimmer 缪斯火花已开放 除了 llama 模型之外,Nvidia 也这样做了 内莫特朗。
您不必继续与聊天机器人巨头打交道, 还。美国初创公司 Reflection 已发布 光束,其权重现已可供下载。另一家美国初创公司 Thinking Machines Lab 展示了其模型 一个想法。
欧洲的竞争对手是法国的 Mistral AI。其可下载型号包括 Mistral Large 3 和较小的 Mistral 3 系列。最新的 Mistral Large 4 称为 Le Chonk,现已提供可下载的重量版本。
并非此处提到的每个型号都可以在笔记本电脑上运行。一些较大的模型需要服务器硬件,而较小的版本可以在 PC 甚至更小的设备(例如手机)上运行。
有什么限制?
在笔记本电脑上离线玩时,开放重量模型仍然会给您带来幻觉。他的训练也可能带来偏见。开发人员可能会发布权重,同时将训练数据保密,从而使外部人员无法完全验证其中发生的情况。
性能因模型和任务而异,因此开放性本身并不能告诉您它是否会击败封闭的替代方案。
改变模式的自由也意味着人们可以削弱或取消其保障措施。
“扶手对于增加模型的重量至关重要,”斯托克说。当我问如果人们可以在下载表格后删除这些保护措施,如何保持安全时,斯托克说,“通过大量的工作,你可以部分克服护栏”,将这样做的努力与自己调整表格进行比较。
一旦人们下载了副本,原始开发者对接下来发生的事情的控制就有限。公司可以防止某人滥用其在线服务,并且发布更安全的替代方案不会更新每个人的下载。
然而,这些相同的下载允许独立研究人员仔细检查模型并识别错误。研究人员可以自己测试这些更改,而不是依赖开发人员来调查投诉。
微软和其他公司已经指出了这一好处 公开信 在有报道称美国可能对中国型号进行限制后,为开放式重量辩护。他们认为,保持这些工具可用有助于安全团队防御使用人工智能的攻击者。
“当你权衡开放模型时,你实际上是在使整个生态系统共同前进,”斯托克告诉 CNET。
开放体重模型对您有好处吗?
就像云表单一样,开放式表单可以起草电子邮件、总结文档、分析本地文件并协助编程。但是,当您在本地运行程序时,其处理长文档的速度和能力取决于型号、计算机的内存和处理能力。
较大的型号通常在具有大量内存或强大 GPU 的计算机(例如具有 16GB 或 36GB RAM 的 Mac)上运行得更流畅,但较小的型号可能在具有 8GB 的 Mac 上运行。
如果您已经拥有必要的硬件,那么值得考虑安装开放重量模型。但如果您必须购买一台新计算机来运行它,请将这一成本与每月 20 美元的云模型订阅费用进行比较。
您还可以通过为您运行的开发者网站使用一些开放权重模型,例如 DeepSeek 和 Kimi。这比下载表格并自行运行要少一些工作,但您的索赔将转交给提供商。
如果您偶尔需要帮助编写电子邮件并且不介意使用在线服务,那么托管聊天机器人可能适合您。 ChatGPT、Gemini 和 Cloud 都有免费计划,因此避免订阅并不自动需要运行您自己的 AI。
开放式配重让您可以更好地控制自己,更不用说在设备上保存敏感文档了。当你无法访问互联网时,一个能继续工作的助手听起来很棒。即使开发人员停用在线模板,也能够保留您喜欢的模板。
“你不想生活在一个任何人都可以阻止访问你的表单的世界里,”斯托克说。
随着开放式重量模型安装在较小的机器上,未来看起来也很有希望。 Google 的 Gemma 型号包括适用于手机和笔记本电脑的较小版本。 Mistral 具有类似的型号范围,包括用于特定用途和设备的专用型号。
“例如,我们还有专门用于音频的模型,这些模型实际上可以安装到智能手表中,”斯托克说。









