从头造轮子 or 重复造轮子?苹果开源 MLX,为自家芯片专属定制机器学习框架

372次阅读
没有评论

从头造轮子 or 重复造轮子?苹果开源 MLX,为自家芯片专属定制机器学习框架

By 超神经

苹果:现在上车还来得及吗?

北京时间 12 月 6 日,苹果机器学习研究中心 (Apple machine learning research) 在 GitHub 上开源 MLX。

从头造轮子 or 重复造轮子?苹果开源 MLX,为自家芯片专属定制机器学习框架

苹果机器学习研究中心研究科学家 Awni Hannun 

在个人 Twitter 宣布这一消息

从头造轮子 or 重复造轮子?苹果开源 MLX,为自家芯片专属定制机器学习框架

苹果芯片「专属定制版」机器学习框架

MLX 是一个专为苹果芯片设计的机器学习框架,旨在保证用户友好的前提下,支持高效地在苹果芯片上训练及部署模型。

MLX 设计理念简单,参考了 NumPy、PyTorch、Jax 和 ArrayFire 等框架,其关键功能包括:

* 熟悉的 API:MLX 的 Python API 跟 NumPy 非常类似,同时 MLX 还有一个功能齐全的 C++++ API,此外 MLX 还有类似 `mlx.nn``mlx.optimizer` 这些更高阶的包,跟 PyTorch  API 很像,可以简化复杂模型的构建。

* 可组合的函数转换:MLX 具有可组合的函数转换,可用于自动微分、自动向量化和计算图优化。

* 延迟计算 (Lazy computation):MLX 中的计算是延迟执行的,Array 只在需要的时候才会创建。

* 动态图构建:MLX 中的计算图是动态构建的,更改函数参数的 shapes 不会降低编译速度,调试也更简单直观。

* 多设备支持:Operations 可以在任意支持的设备上运行(目前支持 CPU 和 GPU)。

* 统一内存:统一内存模型 (unified memory model) 是 MLX 和其他框架的显著区别。MLX 中的 Array 保存在共享内存中,无需移动数据就可以在任意支持的设备上执行操作。

根据官方 GitHub Repo 介绍,MLX 已更新多个热门教程,包含:

* Transformer 语言模型训练

* 用 LLaMA 生成大规模文本,并用 LoRA 进行 finetuning

* 用 Stable Diffusion 生成图像

* 用 OpenAI Whisper 进行语音识别

详情可访问:

https://github.com/ml-explore/mlx/tree/main/examples

从头造轮子 or 重复造轮子?苹果开源 MLX,为自家芯片专属定制机器学习框架

从头造轮子 or 重复造轮子?


针对苹果此次发布的 MLX,呈现了两种截然不同的声音。


✅ 正方代表:

从头造轮子 or 重复造轮子?苹果开源 MLX,为自家芯片专属定制机器学习框架

MLX 作为一个针对苹果芯片优化的 PyTorch-style 神经网络架构,可能是苹果在 AI 开源领域,迄今为止最重要的举措。

从头造轮子 or 重复造轮子?苹果开源 MLX,为自家芯片专属定制机器学习框架

2018 年图灵奖得主、Meta 首席 AI 科学家 Yann LeCun 也直呼干得漂亮

从头造轮子 or 重复造轮子?苹果开源 MLX,为自家芯片专属定制机器学习框架

盼着能给英伟达点儿压力,降价提效、推出更好的消费级 GPU

从头造轮子 or 重复造轮子?苹果开源 MLX,为自家芯片专属定制机器学习框架

苹果对 AI 开源的承诺值得赞扬,MLX 称得上是在苹果芯片上进行深度学习的一场变革。

从头造轮子 or 重复造轮子?苹果开源 MLX,为自家芯片专属定制机器学习框架

Cool!啥时候才能有可以在本地运行的类似 GPT-4 这样的高质量模型啊!MLX 带来了巨大的想象力。


反方代表:


从头造轮子 or 重复造轮子?苹果开源 MLX,为自家芯片专属定制机器学习框架

他们本可以跟 @PyTorchTeam 合作,发布针对苹果芯片优化的 PyTorch 后端!!

现在开发者不得不打两份工了,既要支持这个,又要构建一个 wrapper 同时支持 PyTorch 和 MLX!

从头造轮子 or 重复造轮子?苹果开源 MLX,为自家芯片专属定制机器学习框架

这东西怎么用于部署啊?除非它能跟英伟达、AMD 等支持的框架兼容,不然 MLX 对机器学习生态就是一种伤害(没有 MacBook 就不能进行机器学习)

从头造轮子 or 重复造轮子?苹果开源 MLX,为自家芯片专属定制机器学习框架

苹果,又㕛叒叕重复造轮子

从头造轮子 or 重复造轮子?苹果开源 MLX,为自家芯片专属定制机器学习框架

一图胜千言 从头造轮子 or 重复造轮子?苹果开源 MLX,为自家芯片专属定制机器学习框架

从头造轮子 or 重复造轮子?苹果开源 MLX,为自家芯片专属定制机器学习框架

GitHub Issue:晚点吵先把 Bug 修了


Talk is cheap. Show me the code.


在尝试从 MacBook 终端安装运行 MLX 的过程中,我们发现官方提供的安装代码出现报错,MLX GitHub Repo 中也有多位工程师遇到类似问题。

从头造轮子 or 重复造轮子?苹果开源 MLX,为自家芯片专属定制机器学习框架

截止发稿,已有 10 位工程师

在该 Issue 下反馈了安装报错问题


无论 MLX 能否一举成为开发者在苹果设备上进行模型训练及部署的实用框架,咱就是说能不能先把 Bug 修了啊?!

在线等,挺急的。

—— 完 ——

 往期推荐 

英伟达中文官网删除4090,芯片出口禁令范围扩大,A40、A6000赫然在列

Sam Altman 被罢免细节曝光,投资 100+ 公司或成「话柄」?

2023 Meet TVM · 年终聚会定档 ,12 月 16 日上海见!

从头造轮子 or 重复造轮子?苹果开源 MLX,为自家芯片专属定制机器学习框架

扫描二维码,加入讨论群

获得更多优质数据集

了解人工智能落地应用

关注顶会&论文

回复「读者」了解更多

从头造轮子 or 重复造轮子?苹果开源 MLX,为自家芯片专属定制机器学习框架从头造轮子 or 重复造轮子?苹果开源 MLX,为自家芯片专属定制机器学习框架

“阅读原文”,免费获取海量数据集资源!

 

Read More 

正文完
可以使用微信扫码关注公众号(ID:xzluomor)
post-qrcode
 
评论(没有评论)
Generated by Feedzy