LAMAFILE திட்டம் ARMv8.2+, இன்டெல் CPUகள் மற்றும் AVX512 ஆகியவற்றில் விரைவான செயல்திறனுக்காக மேம்படுத்தப்பட்டுள்ளது, இது குறிப்பிட்ட மெட்ரிக்குகளில் MKL ஐ விட சிறப்பாக செயல்பட ுகிறது.
llama.cpp மேம்படுத்துவதற்கான திட்டத்தை மொஸில்லா ஆதரிக்கிறது, இதன் விளைவாக ARMv8.2-ஆதரவு Raspberry Pi மாடல்களில் குறிப்பிடத்தக்க வேக அதிகரிப்புகள் ஏற்படுகின்றன.
இது Raspberry Pi இல் ஒரு மின்னஞ்சல் சேவையகத்தின் அமைப்பு மற்றும் பல்வேறு வன்பொருள் முழுவதும் செயல்திறன் அளவீடுகளை ஆராய்கிறது, ஆல்டர்லேக் CPU நன்மைகளை முன்னிலைப்படுத்துகிறது மற்றும் Mac Studio க்கான ஸ்டால்மேனின் கம்பைலர் மற்றும் M2 அல்ட்ரா CPU க்கான Asahi Linux ஆகியவற்றை பரிந்துரைக்கிறது.
விவாதம் தனியுரிமை கவலைகளுக்கு உள்ளூர் மொழி மாதிரிகளை (எல்.எல்.எம்) பயன்படுத்துவதைச் சுற்றி வருகிறது மற்றும் குறியீட்டு உதவிக்காக அவற்றைச் சார்ந்திருக்கும் போது சந் தேகத்தின் முக்கியத்துவத்தை வலியுறுத்துகிறது.
இது உள்நாட்டில் LLMகளை இயக்குதல், CPU கணித கர்னல்களை மேம்படுத்துதல் மற்றும் மேம்பட்ட செயல்திறனுக்கான அளவுருக்களை நன்றாகச் சரிசெய்தல் ஆகியவற்றை ஆராய்கிறது.
விவாதங்கள் தரப்படுத்தல் வன்பொருள், LLMகளுக்கான மென்பொருள் மேம்பாடுகள் மற்றும் கணக்கீட்டு கடமைகளுக்கான CPUகள், GPUகள் மற்றும் ASIC களுக்கு இடையிலான செயல்திறனின் ஒப்பீடுகளை உள்ளடக்கியது.