c'est vraiment cool. le gars a entraîné un modèle d'IA sur son MacBook en piratant la puce m4 d'Apple.
- il a piraté l'accélérateur d'inférence d'Apple (trouvé dans la puce m4) ce qui l'a transformé en un mini transformeur. - 80X plus efficace que les GPU Nvidia a100 - coût = électricité pour charger le MacBook vs. louer des GPU pour $10Ks - peut être utilisé pour entraîner, affiner et exécuter des modèles localement mon seul commentaire est que c'est probablement très lent mais c'est quand même super cool - vous pouvez imaginer que les futures puces (m6/7) pourront s'entraîner beaucoup plus rapidement.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
c'est vraiment cool. le gars a entraîné un modèle d'IA sur son MacBook en piratant la puce m4 d'Apple.
- il a piraté l'accélérateur d'inférence d'Apple (trouvé dans la puce m4) ce qui l'a transformé en un mini transformeur.
- 80X plus efficace que les GPU Nvidia a100
- coût = électricité pour charger le MacBook vs. louer des GPU pour $10Ks
- peut être utilisé pour entraîner, affiner et exécuter des modèles localement
mon seul commentaire est que c'est probablement très lent mais c'est quand même super cool - vous pouvez imaginer que les futures puces (m6/7) pourront s'entraîner beaucoup plus rapidement.