Purdue Üniversitesi’nden araştırmacıların “WWW: Hesap Yapmada Ne, Ne Zaman, Nerede?” başlıklı son teknik bir makalesi, Hesap Yapmanın Bellekte Yapılmasının (CiM) makine öğrenmesi (ML) tahminlerinde enerji verimliliğini ve performansını artırmak için potansiyel faydalarını araştırıyor.
CiM, von Neumann makinelerindeki veri hareketi maliyetlerini azaltmak için umut vadeden bir çözüm olarak ortaya çıkmıştır. Bellek içinde paralel matris çarpma işlemlerini mümkün kılarak ML tahmin görevleri için kritik öneme sahiptir. Ancak, CiM’nin entegrasyonu, hangi tür CiM’in kullanılacağına, CiM’in ne zaman kullanılacağına ve bellek hiyerarşisine nerede entegre edileceğine dair önemli sorular ortaya çıkarır.
Araştırmacılar, Timeloop-Accelergy’yi analog ve dijital temelleri olan çeşitli CiM prototiplerinin sistem düzeyinde erken değerlendirmeleri için kullandılar. CiM’i Nvidia A100’e benzer bir temel mimariye farklı önbellek bellek seviyelerine entegre ettiler ve farklı ML iş yükleri için veri akışını özelleştirdiler.
Bu çalışmada gerçekleştirilen deneyler, CiM mimarilerinin önemli faydalarını sergilemektedir. Önerilen CiM mimarileri, INT-8 hassasiyetinde, mevcut temeldeki enerji tüketimine göre %0,12 daha düşük enerji tüketimi sağladı. Ayrıca, ağırlık sıralaması ve çoğaltma gibi tekniklerle, %4’lük performans kazançları gözlemlediler.
Bu araştırmanın bulguları, ML tahmin hızlandırması için CiM’in optimal kullanımı hakkında değerli bilgiler sunmaktadır. CiM’in standart işlem çekirdeklerini geride bıraktığı durumlar, GEMM hızlandırması için ideal önbellek hiyerarşisi noktaları ve uygun CiM türü seçimi konularında ışık tutmaktadır.
Bu makale, ML tahmininde CiM entegrasyonunu keşfederek, yapay zeka sistemlerinin enerji verimliliğini artırmak için devam eden çalışmalara katkıda bulunmaktadır. ML iş yükleri daha da büyüdükçe ve karmaşık hale geldikçe, CiM, sabit güç bütçeleri dahilinde bu zorlukları karşılamaya yardımcı olabilecek bir potansiyel çözüm sunmaktadır.
Genel olarak, bu araştırma, CiM’in ML tahmin hızlandırmasını devrim niteliğinde değiştirebileceği potansiyeli vurgulamakta ve bu alanda gelecekteki ilerlemeler için bir temel sağlamaktadır. CiM teknolojilerindeki daha fazla keşif ve geliştirme, daha enerji verimli ve yüksek performanslı hesaplama sistemlerinin yolunu açabilir.
The source of the article is from the blog rugbynews.at