Mistral发布Ministral 3B/8B，边缘模型新突破？

Mistral公司近期隆重推出了两款全新的AI模型——Ministral 3B与Ministral 8B，专为提升笔记本电脑和智能手机等设备的本地化AI体验而设计。据官方宣称，这两款模型堪称“全球顶尖的边缘模型”。

随着企业对在个人设备上运行AI模型的需求日益增长，Mistral公司此次推出的模型旨在确保数据处理的安全性，并显著提升响应速度。这两款模型均能在无互联网连接的情况下，执行翻译、本地分析及机器人等多项任务。

值得注意的是，Ministral 3B与8B均拥有128K的上下文窗口，能够一次性处理长达50页的文档内容。

价格方面，Ministral 8B的定价为每百万个tokens售价0.1美元，而3B版本则更为亲民，售价为0.04美元，非常适合小规模操作或初创开发者使用。尤为Ministral 8B采用了独特的交错滑动窗口注意力机制，这一设计使得其在推理过程中更为迅速且内存占用更少。

这两款AI模型的推出，无疑为需要在本地设备上高效运行AI应用的企业和个人提供了更为优质的选择。