请问对 mac mini m4 支持吗，生成的时候 CPU100%，而 GPU 则在旁观望，没有负载。

[lovememo]

请问对 mac mini m4 支持吗，生成的时候 CPU100%，而 GPU 则在旁观望，没有负载。

[lovememo]

此外，如下步骤在 mac mini m4上执行会失败：

Optionally, you can unzip ttsfrd resouce and install ttsfrd package for better text normalization performance.

Notice that this step is not necessary. If you do not install ttsfrd package, we will use WeTextProcessing by default.

cd pretrained_models/CosyVoice-ttsfrd/
unzip resource.zip -d .
pip install ttsfrd_dependency-0.1-py3-none-any.whl
pip install ttsfrd-0.4.2-cp310-cp310-linux_x86_64.whl

[lovememo]

self.device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')

model.py line 34

是否就不支持 mac mini m4 显卡运行啊？

[eighteen-k-gold-malow]

支持要改代码

[playmsg]

pip install ttsfrd-0.4.2-cp310-cp310-linux_x86_64.whl
这个当然是不支持mac啦，不过我没改代码在m1 mini上运行的很顺利。

[eighteen-k-gold-malow]

pip install ttsfrd-0.4.2-cp310-cp310-linux_x86_64.whl 这个当然是不支持mac啦，不过我没改代码在m1 mini上运行的很顺利。

https://github.com/eighteen-k-gold-malow/CosyVoice-XPU/commit/05bab70168b92976d70ffbe647e7b22762cfea86#diff-e4137cc46810af378bf83c6e5f8342ffb23ba42c381018c16e1795b52496dd39 当然支持啊，看提交记录，怎么删除ttsfrd

[isnew1234]

可以修改代码用mps加速.

我的Mac intel只能使用cpu ,连mps加速都不行，我只能看懂最简单的python代码，在grok的指导下，复制粘贴它修改的代码，成功的进行了训练，在数据不多的情况一轮训练要20分钟，只敢设置5轮。缺省是跑200轮，想都不要想。

[rangetsushigure]

用 mps 加速，会有以下问题

NotImplementedError: The operator 'aten::unfold_backward' is not currently implemented for the MPS device. If you want this op to be added in priority during the prototype phase of this feature, please comment on pytorch/pytorch#77764. As a temporary fix, you can set the environment variable PYTORCH_ENABLE_MPS_FALLBACK=1 to use the CPU as a fallback for this op. WARNING: this will be slower than running natively on MPS

[exdysa]

PyTorch必须是最新的，这将解决错误。请使用以下命令：

pip install --upgrade --pre torch torchvision torchaudio --index-url https://download.pytorch.org/whl/nightly/cpu

它将为您提供2.7版本。任何早期版本都不起作用。

[rangetsushigure]

PyTorch必须是最新的，这将解决错误。请使用以下命令：

pip install --upgrade --pre torch torchvision torchaudio --index-url https://download.pytorch.org/whl/nightly/cpu

它将为您提供2.7版本。任何早期版本都不起作用。

你这个回答是回复那个问题呢，是 mps加速的问题吗？

[exdysa]

MPS 要求 -> MACOS 12.3+ INTEL AMD ARM M1 | M2 | M3 | M4
OPENVINO 要求 -> INTEL
CosyVoice 项目要求-> torch == 2.3.1
aten::unfold_backward 要求 -> torch==2.7

1 更新级pytorch软件

pip install --upgrade --pre torch torchvision torchaudio --index-url https://download.pytorch.org/whl/nightly/cpu

2 更换

CosyVoice/cosyvoice/utils/executor.py

Line 33 in fd45708

self.device = torch.device('cuda:{}'.format(self.rank))

self.device = torch.device('cuda:{}'.format(self.rank))

if torch.cuda.is_available():
    self.device = torch.device('cuda:{}'.format(self.rank))
elif torch.backends.mps.is_available():
    self.device = torch.device('mps')
elif torch.xpu.is_available():
    self.device = torch.device('xpu')

3 更换

CosyVoice/cosyvoice/cli/model.py

Line 34 in fd45708

self.device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')

CosyVoice/cosyvoice/cli/model.py

Line 289 in fd45708

self.device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')

CosyVoice/cosyvoice/cli/frontend.py

Line 50 in fd45708

self.device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')

CosyVoice/cosyvoice/bin/inference.py

Line 61 in fd45708

device = torch.device('cuda' if use_cuda else 'cpu')

self.device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')

self.device = torch.device('cpu')

if torch.cuda.is_available():
    self.device = torch.device('cuda')
elif torch.backends.mps.is_available():
    self.device = torch.device('mps')
elif torch.xpu.is_available():
    self.device = torch.device('xpu')

你会允许我Pull request吗？

（请忽略我的错别字，它已经更正了）

[rangetsushigure]

非常感谢你给的回答，我先试试。

[rangetsushigure]

大佬厉害，就是torch 的版本低了，可以用mps 加速了，CPU不用 100% 了，GPU 也不用 0 占用了。

[jingnorth]

亲测可用，感谢大佬

[AimoneAndex]

可以修改代码用mps加速.

我的Mac intel只能使用cpu ,连mps加速都不行，我只能看懂最简单的python代码，在grok的指导下，复制粘贴它修改的代码，成功的进行了训练，在数据不多的情况一轮训练要20分钟，只敢设置5轮。缺省是跑200轮，想都不要想。

intel版的mac是没有MPS加速的，MPS只针对Apple芯片的Mac。如果你的有A卡，可以换Linux然后用A卡加速。没有的话，intel核显有openvino加速但是这个项目不确定是否支持。