你的电脑可能无法处理Meta的新Llama AI模型（可能）

Meta 已经发布了 Llama 3.3 70B，这是该公司最强大的 AI 模型的修改版本，可以下载到您自己的硬件上运行。不过，您的电脑可能还不足以应对它。未找到针对区域“below first paragraph”的获胜广告！未找到针对区域“mid intro”的获胜广告！像许多其他大型语言模型（LLMs）一样，Meta的Llama生成式人工智能模型有几种不同的参数大小，适用于不同的使用场景。例如，最小的Llama 3.2 1B模型可以在平均智能手机上以快速性能处理基本任务，而较大的11B和90B版本则更强大，需要高性能的PC和服务器。Llama模型主要用于文本和聊天功能，但某些版本也可以理解图像。Meta的最新Llama 3.3 70B模型旨在提供与公司最大模型405B版本相同的功能，但可以在更多的PC和服务器上运行。Meta的生成式人工智能副总裁在社交媒体帖子中表示：“通过利用最新的后训练技术，包括在线偏好优化，该模型在显著降低成本的同时提高了核心性能。”尽管这个新的70B模型比原始的405B版本大大缩小，但你仍然需要一台强大的PC或服务器来本地运行它，并且性能可接受。文件大小为37.14 GB，LLM通常需要在RAM中运行良好，所以你可能需要一台配备64 GB RAM的机器。你还需要一台强大的GPU（或几台配对使用）来运行模型。该模型的描述解释说，“Llama 3.3旨在用于多种语言的商业和研究用途。指令调优文本仅模型适用于类似助手的聊天，而预训练模型可以用于各种自然语言生成任务。Llama 3.3模型还支持利用其模型的输出来提高其他模型的能力，包括合成数据生成和蒸馏。”尽管Llama 3.3 70B无法在大多数计算硬件上运行，但你可以使用LM Studio或Nvidia的Chat With RTX等应用程序在许多台式机和笔记本电脑上运行较小的1B、3B和8B版本。我的16GB M1 Mac Mini以与基于云的AI聊天机器人相似的速度运行Llama 3.1 8B，但我使用较小的3B模型在我的8GB MacBook Air上，因为我可用的RAM较少。你可以从Meta的网站、Hugging Face、LM Studio内置搜索以及其他仓库下载Llama 3.3 70B及其他Llama模型。