aloneinthedark
MerhabaArkadaşım aı modelleri çalıştırmak için bilgisayar almamı istedi ve masaüstü olması gerektiğini söyledi.Şimdi minimum kaç ram kaç ssd olmali?Bir de bu işler laptopla olmaz mı neden masaüstü soruyor farkı nedir?Anladığım kadarıyla bunlar normal laptop ya da masaüstü değil. Tavsiye edebileceğin
Merhaba
Arkadaşım aı modelleri çalıştırmak için bilgisayar almamı istedi ve masaüstü olması gerektiğini söyledi.
Şimdi minimum kaç ram kaç ssd olmali?
Bir de bu işler laptopla olmaz mı neden masaüstü soruyor farkı nedir?
Anladığım kadarıyla bunlar normal laptop ya da masaüstü değil. Tavsiye edebileceğiniz bilgisayar var mı?
Tesekkurler
Arkadaşım aı modelleri çalıştırmak için bilgisayar almamı istedi ve masaüstü olması gerektiğini söyledi.
Şimdi minimum kaç ram kaç ssd olmali?
Bir de bu işler laptopla olmaz mı neden masaüstü soruyor farkı nedir?
Anladığım kadarıyla bunlar normal laptop ya da masaüstü değil. Tavsiye edebileceğiniz bilgisayar var mı?
Tesekkurler
0
alabildiğin en yüksek ramli macbook'u al, geç. işlemci çok fark etmez, bütçe varsa m5 pro al.
0
Arkadaşınız yanlış yönlendirme yapıyor. Ai modellerini en verimli şekilde çalıştırabilmeniz için bir oyun bilgisayarı gibi donanım dizmeniz lazım. En başında gpu yani ekran kartı gerekli (nvidia kartlar) arkasından güçlü cpu yüksek ram ve yine güçlü bir psu.
Bu işler için macbook yetersiz kalır.
Macbookla çalışan elemanlar nasıl çalışıyor derseniz onlar uzaktan kiraladıkları yüksek gpu'lu sunucular vasitasıyla işlerini donanıma gerek kalmadan hallediyorlar. Mac cihazlarını kod yazılan kısımda yani işin tasarlanması kısmında kullanıyorlar. Test aşamasında sunucuya baglanıyorlar. Fakat bu sunucu kiralama durumlarının maliyeti yüksek rakamlardır Bilgin olsun
Bu işler için macbook yetersiz kalır.
Macbookla çalışan elemanlar nasıl çalışıyor derseniz onlar uzaktan kiraladıkları yüksek gpu'lu sunucular vasitasıyla işlerini donanıma gerek kalmadan hallediyorlar. Mac cihazlarını kod yazılan kısımda yani işin tasarlanması kısmında kullanıyorlar. Test aşamasında sunucuya baglanıyorlar. Fakat bu sunucu kiralama durumlarının maliyeti yüksek rakamlardır Bilgin olsun
0
böyle patates alınır gibi alınacak mevzu değil.
hangi modelleri kaç token/saniye çalıştırma hedefindesin ? sadece deneysel llm çalıştırayım mesela oss20b, gemma26b gibi aktif parametresi 4-6 gb içine sığan bir model mi çalıştıracaksın. o zaman en az 8gb nvdia ekran kartı olan min 32gb ramli bir oyun laptopu ya da benim tercihim dell veya lenovodan a4500 veya a5000 ekran kartlı bir mobile workstation olur.
bunun ötesine geçip aktif parametresi 30 milyar ve üzeri olan modellere gideceksen iş karışıyor. orada alabileceğin bir pc laptop yok. macbooklardaki unified memory ile 64-128gb bir makina alırsan çoğu modeli çalıştırabilirsin ancak nvidia ekran kartları kadar verimli hızlı olmayacaktır. ya da 64-128gb m4-m5 mac studio da iş görecektir.
bana kalırsa bu işi yapacaksan 128gb dgx sparc ya da 128gb asus ascend GX10 gibi bir makina alman gerekir. hem masaüstü hem de enerji tüketimi çok makul bunların.
bunları alamıyorsan da o zaman uzak sunucularda kiralık gpu servisleri üzerinde bu modelleri saatlik oldukça uygun fiyatlara koşturabilirsin.
hangi modelleri kaç token/saniye çalıştırma hedefindesin ? sadece deneysel llm çalıştırayım mesela oss20b, gemma26b gibi aktif parametresi 4-6 gb içine sığan bir model mi çalıştıracaksın. o zaman en az 8gb nvdia ekran kartı olan min 32gb ramli bir oyun laptopu ya da benim tercihim dell veya lenovodan a4500 veya a5000 ekran kartlı bir mobile workstation olur.
bunun ötesine geçip aktif parametresi 30 milyar ve üzeri olan modellere gideceksen iş karışıyor. orada alabileceğin bir pc laptop yok. macbooklardaki unified memory ile 64-128gb bir makina alırsan çoğu modeli çalıştırabilirsin ancak nvidia ekran kartları kadar verimli hızlı olmayacaktır. ya da 64-128gb m4-m5 mac studio da iş görecektir.
bana kalırsa bu işi yapacaksan 128gb dgx sparc ya da 128gb asus ascend GX10 gibi bir makina alman gerekir. hem masaüstü hem de enerji tüketimi çok makul bunların.
bunları alamıyorsan da o zaman uzak sunucularda kiralık gpu servisleri üzerinde bu modelleri saatlik oldukça uygun fiyatlara koşturabilirsin.
0
soruyu sorma şeklinden bile konuyla hiçbir alakan olmadığını anlıyorum.
o yüzden sen soruyu sormadın, biz de cevaplamadık.
bahsedilen bilgisayarlar yüz binlerce liralık ekran kartları kullanan cihazlar. konu hkakında en ufak fikrin yokken gidip böyle bir bilgisayar yapamazsın kendine.
o yüzden sen soruyu sormadın, biz de cevaplamadık.
bahsedilen bilgisayarlar yüz binlerce liralık ekran kartları kullanan cihazlar. konu hkakında en ufak fikrin yokken gidip böyle bir bilgisayar yapamazsın kendine.
0
