mmtromsb456
V2EX  ›  Apple

TensorFlow 2 现已支持使用 macOS 上可用的 GPU 进行模型加速(包括 Apple Silicon M1)

  •  3
     
  •   mmtromsb456 · Nov 19, 2020 · 5432 views
    This topic created in 2033 days ago, the information mentioned may be changed or developed.
    19 replies    2020-11-19 15:16:39 +08:00
    mmtromsb456
        1
    mmtromsb456  
    OP
       Nov 19, 2020
    简单来说 apple fork 了一份 TensorFlow 并将 ML Compute 框架用作其中,M1 性能大概相当于 1080 ~ 1080Ti 之间
    ltltfuture
        2
    ltltfuture  
       Nov 19, 2020 via Android
    接下来就看 pytorch 如何了
    xfrgux
        3
    xfrgux  
       Nov 19, 2020
    @mmtromsb456 请问这个相当于 1080 ~ 1080Ti 有数据来源吗 怎么比的呢
    mmtromsb456
        4
    mmtromsb456  
    OP
       Nov 19, 2020 via iPhone   ❤️ 2
    zhusimaji
        5
    zhusimaji  
       Nov 19, 2020
    apple 不讲武德啊!
    tzm41
        6
    tzm41  
       Nov 19, 2020 via iPhone
    爽,今晚试试 resnet 。
    uxstone
        7
    uxstone  
       Nov 19, 2020   ❤️ 1
    Apple 杀疯了
    lollxxox
        8
    lollxxox  
       Nov 19, 2020
    希望 I 家 A 家和 N 家耗子尾汁,不要再挤牙膏.......
    chich14
        9
    chich14  
       Nov 19, 2020
    炼丹,风扇转了吗?
    CommandZi
        10
    CommandZi  
       Nov 19, 2020
    专用芯片,不能反映真实性能,下一个
    agagega
        11
    agagega  
       Nov 19, 2020
    能支持 NPU 吗?利用起来感觉会更猛啊
    unneeded
        12
    unneeded  
       Nov 19, 2020 via iPhone
    用自己机器都是玩票性质,现在 m1 的玩票性能起来了,对于初学者来说 n 卡笔记本似乎已经不是必须了
    nnqijiu
        13
    nnqijiu  
       Nov 19, 2020
    TensorFlow 不是已经放弃 mac 支持了吗?
    coolmenu
        14
    coolmenu  
       Nov 19, 2020
    以后能不能大量购买 M1 芯片,组一个并发网络。10w 的 cpu,比 1080ti 可是省电多啦!!
    lqf96
        15
    lqf96  
       Nov 19, 2020   ❤️ 2
    @ltltfuture 好希望早日支持 pytorch,不过 pytorch 似乎也已经在用 Metal Performance Shaders 加速训练和运行了( https://github.com/pytorch/pytorch/pull/46112 )...
    @agagega 目前 ML Compute 只支持 CPU 和 GPU,但是 ML Compute 里面有 ANE 相关的 symbol,所以不排除是目前 Neural Engine 的加速不成熟(因为 MLC 是 macOS 11 和 iOS 14 刚加进来的),以后可能就会支持...

    ```
    00007fff2a15aae2 t +[MLCDeviceANE hasANE]
    00007fff2a22b934 t +[MLCDeviceANE hasANE].cold.1
    00007fff2a15b672 t -[MLCDeviceANE .cxx_destruct]
    00007fff2a15ad57 t -[MLCDeviceANE allocateDeviceMemoryForTensor:]
    00007fff2a22bcad t -[MLCDeviceANE allocateDeviceMemoryForTensor:].cold.1
    00007fff2a15b05c t -[MLCDeviceANE broadcastTensor:]
    00007fff2a22c124 t -[MLCDeviceANE broadcastTensor:].cold.1
    00007fff2a15b0b1 t -[MLCDeviceANE broadcastTensor:batchSize:]
    00007fff2a22c1a3 t -[MLCDeviceANE broadcastTensor:batchSize:].cold.1
    00007fff2a15b309 t -[MLCDeviceANE commitAndWaitForCompletion:]
    00007fff2a22c51c t -[MLCDeviceANE commitAndWaitForCompletion:].cold.1
    00007fff2a15b35e t -[MLCDeviceANE commitAndWaitForCompletion:enableProfiling:graphExecutionTime:graphResultTensor:]
    00007fff2a22c59b t -[MLCDeviceANE commitAndWaitForCompletion:enableProfiling:graphExecutionTime:graphResultTensor:].cold.1

    ...
    ```
    sharpy
        16
    sharpy  
       Nov 19, 2020
    有问题,我安装了 mac 提供的 tf 包,运行 mnist demo 时,提示在 eager 模式下 gpu 速度慢。
    用 cpu 时耗时 2s,用 gpu 时耗时 9s 。
    wwqgtxx
        17
    wwqgtxx  
       Nov 19, 2020 via iPhone
    @sharpy 做性能测试本来就不该用 eager 模式,而且一般要多运行几个循环来去掉 gpu 初始化的时间
    tzm41
        18
    tzm41  
       Nov 19, 2020
    测了一下简单的 CNN,不知为何在我的 MBP 16 上 batch 之间会卡住。
    volvo007
        19
    volvo007  
       Nov 19, 2020 via iPhone
    Metal 的话,能外接 a 卡提速吗
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2854 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 67ms · UTC 07:43 · PVG 15:43 · LAX 00:43 · JFK 03:43
    ♥ Do have faith in what you're doing.