Skip to main content

2024-05-13

NVIDIA GPUகளில் திறமையான AI கம்ப்யூட்: ThunderKittens ஐ அறிமுகப்படுத்துகிறது

  • கட்டுரை NVIDIA GPUகளில் AI கணக்கீடுகளின் செயல்திறனை ஆராய்கிறது, H100 மாதிரியில் குறிப்பிட்ட கவனம் செலுத்துகிறது.
  • இது வேகமான கர்னல்களை உருவாக்குவதற்கான உட்பொதிக்கப்பட்ட டி.எஸ்.எல் தண்டர்கிட்டன்ஸை அறிமுகப்படுத்துகிறது மற்றும் வன்பொருள் பயன்பாட்டை மேம்படுத்துவதை வலியுறுத்துகிறது.
  • ThunderKittens தற்போதைய கர்னல்களை விஞ்சுகிறது, அதிக செயல்திறன் பயன்பாடுகளை வழங்குகிறது மற்றும் AI மற்றும் வன்பொருள் முன்னேற்றங்களுடன் சீரமைக்கிறது.

எதிர்வினைகள்

  • கட்டுரை GPUகளை சிறப்பு AI சாதனங்களாக மாற்றுவது, AI செயல்பாடுகளுக்கான NPU களை உள்ளடக்கியது மற்றும் நுகர்வோருக்கான AI செயலாக்க அலகுகளின் எதிர்கால சாத்தியக்கூறு ஆகியவற்றை உள்ளடக்கியது.
  • இது AIக்கான GPU தேர்வுமுறையை ஆராய்கிறது, AI வன்பொருளில் நினைவக மேலாண்மை முக்கியத்துவத்தை வலியுறுத்துகிறது மற்றும் தரவு தரம் மற்றும் கட்டமைப்பு AI மாதிரி செயல்திறனை எவ்வாறு பாதிக்கிறது என்பதை எடுத்துக்காட்டுகிறது.
  • வன்பொருள் வடிவமைப்பு, NVIDIA இன் குறிப்பிடத்தக்க சந்தை இருப்பு, AI க்கான NVIDIA vs. AMD மென்பொருள், CUDA மற்றும் Vulkan குறியீட்டில் உள்ள சவால்கள் மற்றும் செயற்கை பொது நுண்ணறிவை நோக்கி AI தொழில்நுட்பத்தை முன்னேற்றுவதில் உளவியல் மற்றும் நரம்பியல் அறிவியலின் தாக்கம் ஆகியவை விவாதங்களில் அடங்கும்.

தொப்பி: சிரமமின்றி திரை பகிர்வுக்கு தறிக்கு இலவச திறந்த மூல மாற்று

  • கேப் புதுப்பிக்கப்பட்ட தயாரிப்பு விலை மற்றும் கிரெடிட் கார்டு தேவையில்லாமல் இலவச தொடக்கத்தைக் கொண்ட ஒரு புதிய பதிப்பை அறிமுகப்படுத்தியுள்ளது, இது தடையற்ற திரை பகிர்வு மற்றும் பதிவுக்கான லூமைப் போன்ற திறந்த மூல விருப்பமாக தன்னை நிலைநிறுத்துகிறது.
  • பயனர்கள் சமூகத்துடன் ஈடுபடலாம், அடிக்கடி கேட்கப்படும் கேள்விகளில் பதில்களைக் கண்டறியலாம் மற்றும் மின்னஞ்சல் அல்லது அரட்டை வழியாக ஆதரவைப் பெறலாம்.

எதிர்வினைகள்

  • பயனர்கள் Cap.so ஆராய்கின்றனர், இது திரை பதிவுக்கான லூமுக்கு திறந்த மூல மாற்றாகும், அதன் அம்சங்கள், செயல்பாடு மற்றும் பயனர் இடைமுகத்தை பகுப்பாய்வு செய்கிறது.
  • Cap.so OBS மற்றும் macOS உள்ளமைக்கப்பட்ட விருப்பங்கள் போன்ற பிற கருவிகளுடன் ஒப்பிடப்படுகிறது, PeerTube போன்ற ஹோஸ்டிங் தளங்களில் விவாதங்கள் மற்றும் ஒருங்கிணைப்பு சாத்தியக்கூறுகள்.
  • பின்னூட்டத்தில் கேப்பின் எளிமை மற்றும் வடிவமைப்பிற்கான பாராட்டுகள், தவறான சந்தைப்படுத்தல் மற்றும் மேம்பாடுகளுக்கான பரிந்துரைகள் பற்றிய கவலைகள் ஆகியவை அடங்கும், இது ஒரு ஆக்கபூர்வமான தொழில்நுட்ப விவாதத்திற்கு பங்களிக்கிறது.

மாற்று மென்பொருள் செயலாக்கங்களின் சவால்

  • வலைப்பதிவு இடுகை மாற்று மென்பொருள் செயலாக்கங்களால் எதிர்கொள்ளும் தடைகளை ஆராய்கிறது, சவால்களை எடுத்துக்காட்ட மாறும்-தட்டச்சு நிரலாக்க மொழிகளை மேம்படுத்துவதில் கவனம் செலுத்துகிறது.
  • நியமன செயல்படுத்தல் கட்டமைப்பைக் கடைப்பிடிப்பதன் முக்கியத்துவத்தை வலியுறுத்துகிறது, ரூபியில் YJIT இன் வெற்றியை ஒரு பிரதான உதாரணமாக எடுத்துக்காட்டுகிறது.
  • நிரலாக்க மொழிகளின் பரிணாமம், புதுமை மற்றும் ஸ்திரத்தன்மைக்கு இடையிலான நுட்பமான சமநிலையை ஆராய்கிறது, மேலும் தொழில்நுட்பத் தொழில் போக்குகளுக்கு இணையாக இருப்பதன் முக்கியத்துவத்தை அடிக்கோடிட்டுக் காட்டுகிறது. டிசம்பர் 2011 முதல் ஜனவரி 2020 வரை 729,683 மொத்த வெற்றிகளுடன் வலைப்பதிவு புள்ளிவிவரங்களை உள்ளடக்கியது.

எதிர்வினைகள்

  • மாறுபட்ட கட்டமைப்புகளுடன் மாற்று மென்பொருள் செயல்படுத்தல்களை உருவாக்குவதில் உள்ள சிரமங்களை கட்டுரை ஆராய்கிறது, இது ஒயின் வழியாக லினக்ஸில் விண்டோஸ் பயன்பாடுகளை இயக்குவதன் மூலம் விளக்கப்படுகிறது.
  • போட்டியாளர்களிடமிருந்து வேறுபடுத்துவதற்கு தனித்துவமான அம்சங்களை வலியுறுத்துவதன் முக்கியத்துவத்தை வலியுறுத்துகிறது, வாடிக்கையாளர்களுக்கான தயாரிப்புகளைத் தனிப்பயனாக்குகிறது மற்றும் பயனர் தேவைகள் மற்றும் நடைமுறைக்கு முன்னுரிமை அளிக்கிறது.
  • பொருந்தக்கூடிய தன்மை, திறந்த மூல ஈடுபாடு, தொழில்நுட்ப மேலாதிக்கம் மற்றும் மென்பொருள் உருவாக்கத்தில் பயனர் சாய்வுகள் போன்ற அம்சங்களை எடுத்துக்காட்டுகிறது.

முதுகலை பட்டங்களில் கிட்டத்தட்ட பாதி எதிர்மறை ROI ஐக் கொண்டுள்ளன

  • FREOPP இன் ஆராய்ச்சி, சுமார் 50% முதுகலை பட்டப்படிப்புகள் முதலீட்டில் எதிர்மறையான வருமானத்தை (ROI) அளிக்கின்றன, இது இளங்கலை பட்டங்களின் பொதுவாக நேர்மறையான ROI க்கு மாறாக உள்ளது.
  • ஒரு பட்டப்படிப்பு திட்டத்தைத் தேர்ந்தெடுக்கும்போது, முதுகலை மற்றும் இணை பட்டங்களுடன் தொடர்புடைய அதிக ஆபத்து காரணமாக முதுகலை சம்பாதிக்கும் திறன் மற்றும் நிறுவன நிறைவு விகிதங்கள் போன்ற காரணிகள் கவனமாக எடைபோடப்பட வேண்டும்.
  • வருங்கால மாணவர்கள் கல்லூரியில் சேருவதற்கு முன் தகவலறிந்த முடிவுகளை எடுக்க தங்கள் தேர்ந்தெடுக்கப்பட்ட முக்கிய மற்றும் கல்வி நிறுவனத்தின் வருங்கால நன்மைகளை மதிப்பிடுவது முக்கியம்.

எதிர்வினைகள்

  • விவாதம் உயர் கல்வியில் ROI, பாலின ஊதிய இடைவெளிகள், தொழில் தேர்வுகளில் சமூக தாக்கங்கள், படைப்பு தொழில்களில் உள்ள சவால்கள் மற்றும் விமர்சன சிந்தனை திறன்களில் கல்வியின் தாக்கம் ஆகியவற்றை ஆராய்கிறது.
  • இது கல்லூரியின் அதிக செலவு, மாணவர் கடன் மற்றும் பண வருமானத்திற்கு அப்பால் கல்வியின் பரந்த மதிப்பை நிவர்த்தி செய்கிறது.
  • தீவிரவாதத்தை எதிர்ப்பதிலும், மாறுபட்ட முன்னோக்குகளை வளர்ப்பதிலும் கல்வியின் பங்கை வலியுறுத்துகிறது, மேலும் கல்வி மற்றும் சமூகம் இரண்டிலும் விமர்சன சிந்தனை, பச்சாத்தாபம் மற்றும் திறந்த மனப்பான்மை ஆகியவற்றை ஆதரிக்கிறது.

மூளை குவாண்டம் விளைவுகளைப் பயன்படுத்துகிறது, ஆய்வு உறுதிப்படுத்துகிறது

  • ரோஜர் பென்ரோஸின் ஆரம்ப கருதுகோளுடன் இணைந்து, மனித மூளை நுண்ணிய குழாய்களில் குவாண்டம் விளைவுகளைப் பயன்படுத்தலாம் என்று சமீபத்திய ஆய்வு தெரிவிக்கிறது.
  • வலைப்பதிவு இடுகை இந்த கண்டுபிடிப்பை ஆராய்கிறது, குவாண்டம் அடித்தளங்கள் மற்றும் இயற்பியலில் சீரற்ற எண்ணங்களைக் குறிப்பிடுகிறது, மூடிய கருத்துகள் வாசகர்களை பேட்ரியனில் விவாதிக்க வழிநடத்துகின்றன.
  • Sabine Hossenfelder, ஆசிரியர், மேலும் ஈடுபாட்டிற்காக வலைப்பதிவில் தனது புத்தகம் மற்றும் சமூக ஊடக சுயவிவரங்களை ஊக்குவிக்கிறார்.

எதிர்வினைகள்

  • விஞ்ஞானிகள் மற்றும் தத்துவவாதிகள் மூளை மற்றும் உயிரியல் செயல்முறைகளில் குவாண்டம் விளைவுகளின் பங்கு குறித்து விவாதித்து வருகின்றனர், சுதந்திர விருப்பம், தீர்மானவாதம் மற்றும் நனவு பற்றி விவாதிக்கின்றனர்.
  • இலவச விருப்பம் என்பது இயற்பியல் விதிகளால் நிர்வகிக்கப்படும் ஒரு மாயை என்று சிலர் நம்புகிறார்கள், மற்றவர்கள் அறிவாற்றலில் குவாண்டம் விளைவுகள் குறிப்பிடத்தக்கவை என்று முன்மொழிகின்றனர்.
  • இந்த விவாதம் பெல்லின் தேற்றம், குவாண்டம் இயக்கவியலில் மறைக்கப்பட்ட மாறிகள் மற்றும் குவாண்டம் கணினியாக மூளையின் திறன் ஆகியவற்றை உள்ளடக்கியது, இது குவாண்டம் இயக்கவியல் மற்றும் நனவுக்கு இடையிலான சிக்கலான மற்றும் சர்ச்சைக்குரிய இணைப்பை எடுத்துக்காட்டுகிறது.

மென்பொருள் உருவாக்கத்தில் மூலையில் வெட்டும் கலையில் தேர்ச்சி பெறுதல்

  • வலைப்பதிவு மென்பொருள் மேம்பாட்டில் தொழில்முறை மூலையை வெட்டுவதை ஆராய்கிறது, அதை அமைச்சரவை தயாரிப்பாளர்களின் கைவினைத்திறனுடன் ஒப்பிடுகிறது.
  • தொழில்நுட்ப முடிவுகளை சொந்தமாக்குதல், வாடிக்கையாளர் தேவைகளைப் புரிந்துகொள்வது மற்றும் மென்பொருள் உருவாக்கத்தில் மூலைகளை வெட்டும்போது வேண்டுமென்றே தேர்வுகளை மேற்கொள்வது ஆகியவற்றை வலியுறுத்துகிறது.
  • இறுதி பயனர்கள், வணிக சூழல் மற்றும் மென்பொருள் மேம்பாட்டில் வாடிக்கையாளர் தேவைகளைப் பூர்த்தி செய்யும் உயர்தர வேலையை வழங்குதல் ஆகியவற்றில் கவனம் செலுத்துகிறது.

எதிர்வினைகள்

  • விவாதம் மென்பொருள் மற்றும் வன்பொருள் மேம்பாட்டில் தொழில்முறை மூலையை வெட்டுவதை மதிப்பிடுகிறது, கைவினைத்திறன், விவரங்களுக்கு கவனம் செலுத்துதல் மற்றும் தரம் ஆகியவற்றை முக்கியமான காரணிகளாக வலியுறுத்துகிறது.
  • தயாரிப்பு வெற்றியில் சந்தைப்படுத்தலின் செல்வாக்கு, முதலாளிகளைத் தேர்ந்தெடுப்பதில் நெறிமுறை பரிசீலனைகள் மற்றும் தொழில்முறை பாத்திரங்களில் வேகம் மற்றும் தரத்திற்கு இடையில் சமநிலையைக் கண்டறிதல் ஆகியவற்றை இது எடுத்துக்காட்டுகிறது.
  • உரையாடல் தொழில்நுட்ப கடன், குறியீடு மறுசீரமைப்பு மற்றும் மென்பொருள் மேம்பாட்டில் சார்புகளைக் கையாள்வதில் உள்ள சிக்கல்களையும் உரையாற்றுகிறது, நிலையான மேம்பாட்டு நடைமுறைகளுக்கு தரம் மற்றும் தகவலறிந்த முடிவெடுப்பதற்கு முன்னுரிமை அளிப்பதன் முக்கியத்துவத்தை வலியுறுத்துகிறது.

Yi-1.5: குறியீட்டு மற்றும் பகுத்தறிவுக்கான மேம்படுத்தப்பட்ட முன் பயிற்சி மாதிரி

  • Yi-1.5 என்பது Yi இன் மேம்பட்ட பதிப்பாகும், இது 500 பில்லியன் டோக்கன்களின் பரந்த கார்பஸில் பயிற்சி பெற்றது மற்றும் 3 மில்லியன் மாறுபட்ட மாதிரிகளில் நன்றாக வடிவமைக்கப்பட்டது, குறியீட்டு, கணிதம், பகுத்தறிவு மற்றும் அறிவுறுத்தல்-பின்தொடர்தல் ஆகியவற்றில் மேம்பட்ட திறன்களை வழங்குகிறது, அதே நேரத்தில் மொழி புரிதல், பொது அறிவு பகுத்தறிவு மற்றும் வாசிப்பு புரிதல்.
  • மாதிரிகள் திறந்த மூலமாகும், வெவ்வேறு அளவுகளில் வருகின்றன, மேலும் வரிசைப்படுத்தல் வழிமுறைகள், பயன்பாட்டு வழிகாட்டுதல்கள் மற்றும் வலை டெமோவுடன் வருகின்றன. ஆதரிக்கப்படும் கட்டமைப்புகளுடன் மாடல்களை நன்றாகச் சரிசெய்வதற்கான நெகிழ்வுத்தன்மை பயனர்களுக்கு உள்ளது, மேலும் Yi APIகளை Apache 2.0 உரிமத்துடன் பல்வேறு தளங்களில் அணுகலாம்.

எதிர்வினைகள்

  • Yi 1.5 இல் Dr. Kai-Fu Lee இன் குழு GPT-34 ஐப் போன்ற Yi-3.5B-Chat மொழி மாதிரிகளை அறிமுகப்படுத்தியது, LlamaForCausalLM வடிவமைப்பைப் பயன்படுத்தி, சீன மற்றும் ஆங்கிலத்தில் சிறந்து விளங்கியது.
  • HuggingFace மற்றும் ModelScope போன்ற தளங்களில் கிடைக்கும், இந்த மாதிரிகள் செயல்திறன், சார்புகள், வன்பொருள் தேவைகள் மற்றும் உரிமம் குறித்த இயந்திர கற்றல் சமூகத்தில் விவாதங்களைத் தூண்டுகின்றன, திறன்கள், குறைபாடுகள் மற்றும் வரவிருக்கும் மதிப்பீடுகள் குறித்த விவாதங்களைத் தூண்டுகின்றன.
  • இந்த வெளியீடு மொழி மாதிரிகளில் குறிப்பிடத்தக்க முன்னேற்றத்தைக் குறிக்கிறது, இது தொழில்நுட்பத் துறையில் ஆழமான ஆய்வு மற்றும் ஆய்வை அழைக்கிறது.