Skip to main content

2024-04-09

Llm.c - Suurten kielimallien kouluttaminen puhtaalla C/CUDA:lla

  • Asiakirjassa esitellään yksityiskohtaisesti yksinkertainen C/CUDA-toteutus GPT-2:n kaltaisten massiivisten kielimallien kouluttamiseen ilman PyTorchin kaltaisia laajoja kehyksiä.
  • Kirjoittaja keskittyy toteuttamisen nopeuden ja tehokkuuden parantamiseen ja tarjoaa ohjeita tietokokonaisuuksien hankintaan, painojen alustamiseen ja mallin kouluttamiseen C-kielellä sekä yksikkötestejä ja opetusohjelmia tarkkuuden varmistamiseksi.
  • Hanke on avointa lähdekoodia MIT-lisenssin alaisuudessa, mikä helpottaa teknologiayhteisön saatavuutta ja yhteistyötä.

Reaktiot

  • Github-keskustelussa syvennytään erilaisiin aiheisiin, kuten koneoppimiseen, GPU-muistin suunnitteluun, GPT-2:een ennusteiden laatimiseksi, PyTorchin rajoituksiin ja vaihtoehtoisiin näytönohjaimiin.
  • Innokkaat käyttäjät ihastelevat Karpathyn panosta ja vaihtavat samalla näkemyksiä teknisistä haasteista, parannuksista ja kielimallin harjoittelusta Googlen TPU:iden kanssa.
  • Keskustelussa käsitellään muistin kapasiteettia, käyttötapoja, ML-kirjastojen optimointia, erilaisia tietorakenteita, ohjelmointikieliä ja resurssien automaattista hallintaa koodauksessa.

Lore Harp McGovern: McGovern: Rise, Fall & Legacy in Tech: Rise, Fall & Legacy in Tech

  • Lore Harp McGovern perusti Vector Graphicin, menestyvän tietokoneyrityksen, mutta joutui myöhemmin kohtaamaan haasteita, jotka johtivat konkurssiin, ja jäi miespioneerien varjoon huolimatta teknologiateollisuudesta ja hyväntekeväisyydestä.
  • Uutiskirjeessä on Garethin kaltaisia rohkaisevia tarinoita ja päivittäisiä esseitä eri aiheista.

Reaktiot

  • Teknologia-alalla työskentelevät naiset kohtaavat haasteita ja syrjintää erityisesti miesvaltaisilla aloilla, kuten teknologia-alalla.
  • Lore Harp McGovernin mikrotietokoneimperiumin kaltaisia menestystarinoita varjostaa sukupuoleen perustuva ennakkoluuloisuus, joka näkyy vertailuissa Steve Jobsin kaltaisiin mieshahmoihin.
  • Monimuotoisuusohjelmien merkityksen korostaminen ja ennakkoluulojen torjuminen palkkauksessa ja työpaikkakulttuurissa on ratkaisevan tärkeää osallistavampien teknologiaympäristöjen edistämiseksi.

Tekoälyn voiton jälkeen Go-pelaajat parantavat päätöksentekoa ja luovuuttaan

  • Ammattimaiset Go-pelaajat olivat taitotasolla, kunnes tekoäly, erityisesti AlphaGo, esitteli ylivertaisia kykyjään, mikä johti pelaajien päätöksenteon ja luovuuden paranemiseen.
  • Go-suuntaus muuttui 18 kuukautta AlphaGon jälkeen, kun Leela Zero, avoimen lähdekoodin Go-moottori, lanseerattiin, ja se tarjosi yhdessä Lizzien kaltaisten työkalujen kanssa pääsyn tekoälyn päättelyyn, mikä edisti syöttöoppimista ja vapautti ihmisen luovuuden.
  • Ihmisten ja tekoälyjen välinen suhde kilpailluilla aloilla, kuten shakissa ja Go:ssa, osoittaa, että tekoälyllä on potentiaalia nostaa ihmisen taitoja ja edistää kehitystä yli nykyisten rajojen.

Reaktiot

  • Keskustellaan tekoälyn vaikutuksesta Go:n ja shakin kaltaisiin peleihin ja keskitytään siihen, miten tietokoneanalyysit auttavat pelaajia parantamaan pelaamistaan.
  • Suositukset koskevat ylennys- ja pudotusjärjestelmän käyttöönottoa shakissa aggressiivisemman pelaamisen edistämiseksi.
  • Keskustelussa käsitellään myös tekoälyn mahdollisuuksia viihteen, taiteen ja musiikin luomisessa ja korostetaan ihmisen luovuuden ja arvostelukyvyn merkitystä eri aloilla.

Pahansuuntaisen Notepad++-imitaattorin torjuminen

  • Verkkosivusto https://notepad.plus/ esiintyy virallisena Notepad++-sivustona ja sisältää haitallisia mainoksia, jotka uhkaavat käyttäjän turvallisuutta.
  • Sen tarkoituksena on ohjata käyttäjiä pois aidolta sivustolta notepad-plus-plus.org ja hyötyä harhaanjohtavasta taktiikasta.
  • Käyttäjien tulisi ilmoittaa sivustosta haitallisena Notepad++-yhteisön suojelemiseksi ja turvallisen verkkoalueen varmistamiseksi.

Reaktiot

  • Sivusto notepad-plus-plus.org on joutunut hyökkäyksen kohteeksi, koska se on käyttänyt petollisia taktiikoita, kuten ohjannut käyttäjiä viralliselle Notepad++-sivustolle, mikä herättää pelkoa epäilyttävistä latauslinkeistä.
  • Käyttäjät ovat huolissaan sivuston turvallisuusvaikutuksista ja mainosvetoisista voittomotiiveista, mikä on herättänyt keskustelua sen mahdollisesta vilpillisestä toiminnasta.
  • Pahantahtoisesta tarkoituksesta käydään keskustelua, jossa korostetaan, että on tärkeää hankkia ohjelmistoja vain virallisista kanavista, jotta voidaan vähentää harhaanjohtaviin verkkosivustoihin liittyviä riskejä ja korostaa verkkotunnuksen hallintaa ja tuotemerkin suojaamista.

OLMo 7B: Avoimien kielimallien käyttö tekoälytutkimuksessa

  • Allen Institute for AI on julkaissut OLMo 7B:n, avoimen suuren kielimallin kehyksen, jonka avulla tutkijat ja kehittäjät voivat edistää kielimallitiedettä kollektiivisesti.
  • OLMo sisältää esiharjoitteludataa, harjoittelukoodia ja arviointisarjoja tarkkaa ja kestävää tekoälytutkimusta varten, ja sen tavoitteena on edistää avoimuutta ja yhteistyötä.
  • OLMo on saatavilla Hugging Facessa ja GitHubissa, ja se kannustaa vastuulliseen tekoälyteknologian kehitykseen tekoälytutkimusyhteisön hyödyksi.

Reaktiot

  • Keskustelussa keskitytään allenai.orgin OLMo-kielimallin lisensointiin ja avoimuuteen, korostetaan johdannaisteosten vaikutustenarvioinnin tarvetta ja tuodaan esiin Pile-tietokanta vaihtoehtona.
  • Pile-tietokantaan liittyviä oikeudellisia ja eettisiä huolenaiheita, AMD:llä Databricksin avulla tapahtuvaa mallien harjoittelua, suljettujen tekoälyjärjestelmien mahdollisia riskejä sekä avoimempien ja läpinäkyvämpien tekoälyjärjestelmien vaatimusta tarkastellaan.
  • Keskustelussa käsitellään puolueellisuutta, avoimuutta, tekijänoikeussuojaa ja tasapainon löytämistä taiteellisen vapauden ja eettisten näkökohtien välillä mallien kehittämisessä, ja siinä viitataan Llaman kaltaisiin kilpailijoihin ja verrataan OpenAI:n ja Anthropicin kaltaisten yritysten suljettuihin malleihin.

Vala: GNOME-teknologioiden olio-ohjelmointi

  • Vala on olio-ohjelmointikieli, joka on saumattomasti yhteensopiva GNOME-työkalujen, kuten GObjectin ja GTK:n, kanssa ja tarjoaa korkean tason abstraktioita ja nopean natiivin binäärikäännöstyön.
  • Se helpottaa jo olemassa olevan C-koodin hyödyntämistä, mikä tekee siitä optimaalisen graafisen käyttöliittymän sovellusten, komentorivityökalujen ja kirjastojen luomiseen, ja sillä on avoimen lähdekoodin yhteisön vilkas tuki.
  • Käyttäjät voivat tutustua Valan projekteihin, osallistua yhteisön keskusteluihin Discordin ja Matrixin kaltaisilla alustoilla, ja nykyinen versio on 0.56.13 ja sitä kehitetään jatkuvasti.

Reaktiot

  • Keskustelussa syvennytään Vala-ohjelmointikieleen, sen rooliin GTK:n ja muiden kehyssovellusten luomisessa, erityisesti Fidan ja Dinon kaltaisissa projekteissa, keskellä keskusteluja siirtymisestä siirrettävämpiin ratkaisuihin, kuten Electroniin, ja Sciterin kaltaisten kehysten haasteisiin.
  • Keskusteluissa käsitellään myös vaihtoehtoja, kuten Qt:tä ja AvaloniaUI:ta, ja keskitytään koodin koon pienentämiseen, eri GUI-työkalupakettien integrointiin sekä muistinhallinnan ja ABI-yhteensopivuuden vertailuun Swiftin, C#:n ja Javan kaltaisten kielten kanssa.
  • Käyttäjät kaipaavat Valan yksinkertaisuutta GTK-sovelluskehityksessä ja ovat kiinnostuneita mahdollisista päivityksistä, kuten siitä, että GNOME mahdollisesti ottaa käyttöön nykyaikaisia teknologioita, kuten Flutterin, ja korostavat Valan ainutlaatuisia näkökohtia, haasteita ja parannuskohteita työpöytäsovelluskehityksessä GNOME-yhteisössä.

Blocky: DNS Proxy & Ad-Blocker paikallisverkoille.

  • Blocky Blocky on Go-kielellä kehitetty DNS-välityspalvelin ja mainosten esto, joka on suunniteltu paikallisverkkoihin ja tarjoaa ominaisuuksia, kuten DNS-kyselyjen suodattaminen ulkoisilla luetteloilla, yksilölliset mustat ja valkoiset luettelot kullekin asiakasryhmälle, kehittyneet DNS-asetusvalinnat, tuki useille protokollille, vankat turvallisuus- ja yksityisyydensuojatoimenpiteet, integraatio-ominaisuudet ja käyttäjäystävällinen käyttöliittymä.
  • Alustassa asetetaan etusijalle yksinkertaisuus, suorituskyky ja yhteisön apu ja varmistetaan, että käyttäjätietoja ei kerätä ja että koodi on avointa lähdekoodia.
  • Blocky Blocky painottaa toiminnassaan voimakkaasti käyttäjien yksityisyyttä, joten se on luotettava valinta DNS-kyselyjen hallintaan paikallisverkoissa.

Reaktiot

  • Keskustelu keskittyy DNS-estotyökaluihin, kuten Blocky, Pi-hole, AdGuard Home ja dnscrypt-proxy, jotka parantavat internetin turvallisuutta ja yksityisyyttä.
  • Käyttäjät puhuvat mainosten estotekniikoista, kuten verkkotason estoista, selainlaajennuksista ja mainosten estoa tukevista YouTube-vaihtoehdoista.
  • Joidenkin verkkosivustojen toimintahäiriöt mainosten estämisen vuoksi aiheuttavat haasteita, mutta Pi-hole Remote -ratkaisut ja selainlaajennukset tarjoavat tilapäisiä estovaihtoehtoja, ja ne esittelevät eri DNS-estotyökalujen käytön etuja ja haittoja Internet-selailun ja verkkoturvallisuuden parantamiseksi.

Androidin Find My Device: Etsi laitteet ja kohteet helposti

  • Androidin uusi Etsi laitteeni -toiminto mahdollistaa kadonneiden laitteiden ja esineiden paikantamisen hyödyntämällä yli miljardin Android-laitteen laajaa verkostoa.
  • Se tarjoaa useita seurantavaihtoehtoja, kuten offline-sijainnin seurannan, Bluetooth-tunnisteiden tuen, läheisyysseurannan, integroinnin Nest-laitteisiin ja mahdollisuuden jakaa lisävarusteita yhteystietojen kanssa.
  • Ominaisuus takaa turvallisuuden ja yksityisyyden, ja se toimii vähintään Android 9 -käyttöjärjestelmällä toimivien laitteiden kanssa. JBL:n ja Sonyn kaltaisten tuotemerkkien kuulokkeille on tulossa päivityksiä, jotta ne voidaan integroida Find My Device -verkkoon.

Reaktiot

  • Foorumilla keskustellaan erilaisista seurantalaitteista, kuten Tile ja Apple AirTags, ja vertaillaan niiden ominaisuuksia, rajoituksia ja varkaudeneston tehokkuutta.
  • Käyttäjät käsittelevät teknologiayritysten yhteentoimivuushaasteita, sijainninseurantaan liittyviä yksityisyyskysymyksiä ja vaativat alan standardointia.
  • Ehdotuksia ovat muun muassa UWB-tekniikan hyödyntäminen, laitteistokytkimien sisällyttäminen yksityisyyden hallintaan ja laitteiden seurantajärjestelmien parantaminen, mutta samalla ilmaistaan huoli siitä, että Applen ja Googlen markkinaherruus tukahduttaa pienempien yritysten innovaatiot.

Miten Digital Equipment Corp. Insinöörit pelastivat Ethernetin

  • Digital Equipment Corp:n insinöörit loivat vallankumouksellisen oppimissiltatekniikan, joka parantaa lähiverkon suorituskykyä ja säilyttää Ethernetin.
  • Alan Kirby ja Mark Kempf olivat avainasemassa tämän innovatiivisen teknologian kehittämisessä.

Reaktiot

  • Keskustelussa käsitellään erilaisia verkkoaiheita, kuten Ethernet-teknologian kehitystä, verkon nopeuden parantamista ja keskustelua IPv4:stä IPv6:een tai jopa IPv7:ään siirtymisestä.
  • Siinä käsitellään myös haasteita, kuten osoiteavaruuden laajentamista, IPv6:n site-local-osoitteita sekä uusien verkkoprotokollien käyttöönoton etuja ja haittoja.
  • Yleisesti ottaen keskustelussa korostetaan verkkoinfrastruktuurin parantamisessa ja hienosäätämisessä huomioon otettavia yksityiskohtia ja tekijöitä.

Cloudflare parantaa häiriönsietokykyä datakeskuksen sähkökatkoksen jälkeen

  • Cloudflaren Portlandin datakeskuksessa oli merkittävä sähkökatkos, toinen viiden kuukauden sisällä, mutta parannusten ansiosta se toipui nopeammin ja palveluihin tuli vain vähän häiriöitä.
  • Katkos johtui liian herkästä ylivirtasuojauksesta jakokeskuksissa, joka on nyt korjattu, kun tiimi priorisoi Analytics-alustan häiriönsieto-ohjelman viimeistelemistä manuaalisten toimenpiteiden välttämiseksi ja työskentelee yhdessä Flexentialin kanssa operatiivisten parannusten toteuttamiseksi.
  • Cloudflare on edelleen sitoutunut tarjoamaan vankkoja palveluja, luomaan uusia työpaikkoja ja pyrkimään toiminnalliseen huippuosaamiseen.

Reaktiot

  • Cloudflare koki merkittävän sähkökatkoksen datakeskuksessa, minkä vuoksi keskusteltiin räkkitason UPS-järjestelmien käyttöönotosta tulevien häiriöiden ehkäisemiseksi.
  • Pääpaino oli virran redundanssissa, laitteiden kunnossapidossa ja turvallisuudessa kolmannen osapuolen hallinnoimissa datakeskuksissa Cloudflaren käyttökatkohistorian ja häiriöiden lieventämisstrategioiden perusteella.
  • Keskusteluissa käsiteltiin turvallisuusriskejä, yksittäisiä vikapisteitä ja ratkaisuja, kuten Kubernetes-klustereita, maantieteellisiä vikoja, toleransseja ja mahdollisuutta käyttää useita klustereita yhden maailmanlaajuisen klusterin päällä luotettavuuden parantamiseksi hajautetuissa arkkitehtuureissa.

Reverst: Reverse Tunnels: Palveluiden paljastaminen turvallisesti Go:n käänteisillä tunneleilla.

  • Reverst on QUICiin ja HTTP/3:een perustuva kuormitustasapainotettu käänteistunnelipalvelin ja Go-palvelin-asiakaskirjasto, joka helpottaa palvelujen tarjoamista julkisessa internetissä rajoitetuista verkoista.
  • Se tukee useita palveluinstansseja yhden tunnelin takana, jossa tunnelin binääri on sijoitettu julkiseen internetiin, ja asiakaspalvelimet liittyvät kohdetunneliryhmiin.
  • Jos haluat käyttää Reverstiä, suorita tunnelipalvelin ja esimerkkipalvelin ja lähetä pyynnöt tunnelin kautta curl-ohjelmalla.

Reaktiot

  • Postaus esittelee Reverstin, projektin, joka käyttää Go:n käänteistunneleita HTTP/3:n ja QUIC:n yli, mikä on hyödyllistä virheenkorjauksessa, kun on kyse usein vaihtuvista IP-osoitteista ja keskeytyneistä pitkäaikaisista yhteyksistä.
  • Myös vaihtoehtoiset työkalut, kuten Zerotier, wireguard ja wstunnel, mainitaan vaihtoehtoina, joilla voidaan saavuttaa samanlaiset tavoitteet.
  • Se sisältää parannusehdotuksia, viittauksia aiheeseen liittyviin hankkeisiin ja lisäresursseja jatkotutkimuksia varten.

KDE6:n suojaaminen: D-Bus- ja Polkit-haavoittuvuuksien korjaaminen

  • Artikkelissa tarkastellaan D-Busin ja Polkitin turvallisuusvaikutuksia KDE6-versiossa keskittyen näiden komponenttien haavoittuvuuksiin ja parannuksiin.
  • Siinä korostetaan ongelmia, jotka liittyvät vanhoissa paketeissa oleviin turvattomiin D-Bus-palveluihin, turvallisen todennuksen tarpeeseen Polkit-toiminnoissa ja KDE-komponenttien tiedostojärjestelmäoperaatioihin liittyviin riskeihin.
  • Suosituksia ovat muun muassa KAuth-kehyksen käyttö, pääkäyttäjän oikeuksilla toimivien D-Bus-palveluiden aiheuttamien turvallisuusriskien poistaminen ja turvallisten käytäntöjen omaksuminen, kuten oikeuksien poistaminen ja tiedostokuvaajien käyttäminen polkujen sijasta KDE-operaatioissa.

Reaktiot

  • KDE6-julkaisu herättää keskustelua tietoturvasta keskittyen D-Bus- ja Polkit-haavoittuvuuksiin, ja käyttäjät ovat huolissaan PolKit-agenttien haavoittuvuudesta ja tiedon puutteesta etuoikeuksien laajentamisdialogeissa.
  • Vertailuja tehdään Androidin ja Windowsin tietoturvaominaisuuksiin, mikä korostaa suunnittelun merkitystä vankkojen turvatoimien kannalta.
  • Käyttäjät syventyvät myös KDE:n kehitykseen, Plasma Mobilen parannuksiin ja Plasma 5:n kevyeen luonteeseen, jakavat kokemuksia työpöytäympäristöjen vaihtamisesta ja tutkivat Linux-järjestelmien mahdollisia parannuksia, kuten vaihtoehtoisia IPC- ja kykyjen delegointiprotokollia yksinkertaisempiin ratkaisuihin.

Stow-hanke etsii kestävän kehityksen vastuuhenkilöä.

  • Stow-projektin nykyinen ylläpitäjä etsii yhteisylläpitäjää kestävyyskysymysten vuoksi, mikä edellyttää Perlin taitoa, Stow'n tuntemusta, taitoja koodin tarkistamisessa, Gitin ja avoimen lähdekoodin projektien hallintaa, vahvaa viestintää ja tehokasta koordinointia.
  • Uuden toisen ylläpitäjän on sitouduttava tehokkaasti ja vältettävä avun tarjoamista ilman jatkotoimia, ja sitoutumisen tason on oltava joustava.
  • Kiinnostuneita pyydetään osallistumaan tarkastelemalla ja lähettämällä vetoomuksia (PR).

Reaktiot

  • Käyttäjät keskustelevat GNU Stow'n hyödyllisyydestä pakettien ja pistetiedostojen käsittelyssä vaihtoehtoisten työkalujen, kuten YADM:n, Chezmoin ja Nixin rinnalla.
  • Mielipiteet Stow'n tehokkuudesta pakettien hallinnassa vaihtelevat, mikä johtaa keskusteluihin erilaisista lähestymistavoista Unix-järjestelmien ohjelmistoasennusten konfigurointiin.
  • Keskustelussa käsitellään symlinkkien hallintaa, ohjelmistoversioita, Perl-skriptien käyttöä ja ohjelmointikielten pitkäikäisyyttä.